TLDR
Pendekatan defensif terhadap pengembangan AGI lebih disarankan daripada mengejar dominasi. Persaingan dalam AI dapat memicu ketegangan internasional yang berbahaya. Konsep Malfungsi AI Bersama menawarkan cara baru untuk menangani risiko yang terkait dengan AI. Dalam sebuah makalah kebijakan yang diterbitkan oleh mantan CEO Google, Eric Schmidt, CEO Scale AI, Alexandr Wang, dan Direktur Center for AI Safety, Dan Hendrycks, mereka menyarankan agar Amerika Serikat tidak mengejar pengembangan sistem AI yang sangat cerdas, atau yang dikenal sebagai AGI, dengan cara yang agresif seperti Proyek Manhattan. Mereka berpendapat bahwa jika AS berusaha menguasai AI super cerdas sendirian, hal itu bisa memicu balasan keras dari negara lain, seperti serangan siber dari China, yang dapat mengganggu hubungan internasional.Schmidt dan rekan-rekannya mengusulkan pendekatan yang lebih hati-hati, di mana AS sebaiknya fokus pada strategi defensif untuk mencegah negara lain mengembangkan AI yang berbahaya. Mereka menyarankan agar pemerintah memperluas kemampuan untuk melakukan serangan siber terhadap proyek AI yang mengancam dan membatasi akses negara lain terhadap teknologi AI canggih. Dengan cara ini, mereka berharap dapat menjaga stabilitas dan keamanan global tanpa memicu perlombaan senjata AI yang berbahaya.
