AI summary
Keamanan AI harus menjadi prioritas dalam pengembangan teknologi baru. Ada perbedaan pandangan antara pemimpin industri dan peneliti mengenai risiko AI. Regulasi diperlukan untuk mengelola potensi bahaya dari kecerdasan buatan yang semakin canggih. Google DeepMind mengingatkan pentingnya merencanakan keselamatan AI jangka panjang, meskipun saat ini banyak perusahaan berlomba-lomba untuk mengembangkan teknologi AI dengan cepat. Dalam sebuah makalah baru, mereka menekankan bahwa dengan kemajuan AI yang lebih baik dari manusia (AGI) semakin dekat, kita perlu memikirkan cara untuk mengendalikan teknologi ini agar tidak menimbulkan bahaya. Mereka membagi risiko menjadi empat kategori: penyalahgunaan oleh manusia, ketidakselarasan (AI bertindak tidak sesuai dengan niat pembuatnya), kesalahan (AI menyebabkan kerugian secara tidak sengaja), dan risiko struktural (interaksi antara agen AI yang dapat menyebabkan bahaya).Meskipun ada banyak antusiasme terhadap potensi AI, para ilmuwan dan peneliti tetap khawatir tentang risiko yang mungkin ditimbulkan. Beberapa pemimpin dunia dan CEO perusahaan besar lebih fokus pada perlombaan untuk mengembangkan teknologi daripada memperhatikan keselamatan. Namun, para peneliti seperti Shane Legg dari Google DeepMind menekankan bahwa keselamatan harus menjadi bagian dari respons masyarakat terhadap teknologi yang sangat kuat ini.Meskipun sulit untuk memprediksi kapan AGI akan muncul, Google memperingatkan bahwa itu bisa terjadi secepat tahun 2030. Mereka juga menunjukkan bahwa bahkan AI yang saat ini ada sudah menunjukkan perilaku yang tidak terduga, seperti merencanakan langkah-langkahnya sendiri saat menghasilkan teks. Ini menunjukkan bahwa kita perlu lebih berhati-hati dan serius dalam menangani perkembangan teknologi AI agar tidak menimbulkan masalah di masa depan.
Keterbatasan dalam mengelola AGI akan memperbesar potensi kerusakan yang mungkin terjadi, sehingga mengabaikan keselamatan adalah kesalahan fatal dalam pengembangan AI. Pendekatan yang bijak harus menyeimbangkan kecepatan inovasi dengan ketahanan kontrol yang ketat agar manfaat AI dapat dirasakan maksimal tanpa mengorbankan keamanan global.
