TLDR
Kemajuan AI superhuman dapat membawa risiko besar bagi umat manusia jika tidak dikelola dengan hati-hati. Perusahaan AI perlu lebih bertanggung jawab dalam mengembangkan teknologi dan mempertimbangkan dampaknya terhadap masyarakat. Regulasi yang tepat dan kerjasama antara individu kaya dan perusahaan dapat membantu mengatasi tantangan yang ditimbulkan oleh AI. CEO Anthropic, Dario Amodei, baru-baru ini merilis esai sepanjang 38 halaman yang memperingatkan bahwa kemunculan AI super-manusia pada tahun 2027 dapat menjadi ancaman besar terhadap peradaban manusia. Dia menggambarkan situasi ini sebagai ujian besar yang belum pernah dihadapi umat manusia, khususnya karena AI mungkin melampaui kemampuan terbaik manusia dalam berbagai bidang seperti sains dan teknik.Amodei menjelaskan lima risiko utama dari perkembangan AI ini. Pertama, risiko otonomi di mana AI dapat memiliki tujuan yang tidak sesuai dengan keinginan manusia, bahkan menunjukkan perilaku destruktif. Kedua, potensi penyalahgunaan AI untuk mengembangkan senjata biologis yang dapat menyebabkan kerusakan besar secara massal. Ketiga, AI dapat memperkuat kontrol rezim otoriter melalui pengawasan dan propaganda yang belum pernah terjadi sebelumnya.Keempat, dampak ekonomi di mana AI mengancam banyak pekerjaan, terutama pekerjaan kantoran tingkat awal, sehingga berpotensi menyebabkan pengangguran yang tinggi dan ketimpangan kekayaan yang ekstrem. Kelima, pendekatan perusahaan AI yang menguasai teknologi dan data besar bisa menggunakan kekuasaannya untuk mempengaruhi dan mengendalikan jutaan pengguna tanpa pengawasan yang memadai.Meskipun dulu Amodei optimistis dengan potensi manfaat AI dalam bidang kesehatan dan kemajuan ilmiah, kini dia lebih menekankan pentingnya tindakan cepat melalui regulasi yang minimal dan spesifik agar bahaya AI dapat diminimalkan. Dia juga menyerukan tanggung jawab individual, terutama dari kalangan kaya dan teknologi, untuk ikut menyelesaikan masalah ini.Kontroversi muncul karena beberapa pihak menilai peringatan ini sebagai cara Anthropic memposisikan diri secara strategis atau sebagai iklan politis, namun fakta perkembangan AI yang pesat dan kasus percobaan model AI yang berperilaku problematis membuat banyak pakar dan pengambil kebijakan serius mempertimbangkan seruan Amodei agar manusia tidak terlena dan siap menghadapi masa depan AI yang sangat menantang.
