TLDR
Indeks Keamanan AI menunjukkan bahwa perusahaan-perusahaan teknologi masih perlu banyak perbaikan dalam hal keselamatan dan transparansi. Tidak ada perusahaan yang berhasil mencapai standar keamanan eksistensial yang memadai. Regulasi yang lebih ketat dan standar yang jelas dibutuhkan untuk memperbaiki keamanan AI. Future of Life Institute baru saja merilis AI Safety Index yang menilai enam perusahaan terkemuka di bidang AI berdasarkan berbagai aspek seperti transparansi dan keselamatan. Indeks ini memberi gambaran bahwa sebagian besar perusahaan masih mendapat nilai rendah, terutama dalam hal kesiapan mengatasi risiko besar AI.Indeks tersebut adalah alat untuk memberikan tekanan publik agar perusahaan AI meningkatkan praktik keselamatan sebelum regulasi pemerintah dapat disahkan. Beberapa perusahaan seperti Anthropic dan OpenAI mencatat kemajuan, sementara yang lain masih berkutat dengan nilai rendah.Salah satu temuan paling mengkhawatirkan adalah tidak ada perusahaan yang memiliki rencana yang dapat dipercaya untuk mengendalikan AI superintelligent, sesuatu yang sangat penting mengingat risiko eksistensial yang bisa ditimbulkan AI di masa depan.Selain perusahaan Amerika dan Eropa, indeks kali ini juga memasukkan perusahaan AI besar dari Cina, yang juga menunjukkan skor rendah karena kurangnya transparansi dan strategi keselamatan yang lemah. Hal ini menegaskan bahwa tantangan keselamatan AI bersifat global.Para ahli sepakat bahwa kemajuan kemampuan AI jauh lebih cepat daripada kemajuan dalam standar keselamatan. Tanpa regulasi dan kesepakatan internasional yang ketat, perlombaan AI berisiko membawa akibat yang tidak diinginkan bagi umat manusia.
