TLDR
Perusahaan-perusahaan AI perlu menerima tanggung jawab dan kepatuhan terhadap regulasi untuk mencegah risiko. Krisis yang dialami Anthropic mencerminkan tantangan lebih besar dalam pengembangan AI dan perlunya regulasi yang lebih ketat. Superintelligence dianggap sebagai ancaman bagi keamanan nasional, bukan sekadar aset teknologi. Pemerintahan Trump memutus kontrak senilai hingga 200 juta dolar dengan Anthropic karena perusahaan menolak menyediakan teknologi AI untuk pengawasan massal dan senjata otonom. Keputusan ini juga didukung arahan presiden agar semua agensi federal berhenti menggunakan teknologi Anthropic. Perusahaan kemudian menantang keputusan pemerintah secara hukum, menganggapnya tidak berdasar.Anthropic dan perusahaan AI besar lainnya, termasuk OpenAI dan Google DeepMind, sebelumnya telah berjanji memprioritaskan keselamatan dalam pengembangan AI namun menolak regulasi formal. Menurut Max Tegmark, penolakan mereka terhadap regulasi resmi dan pelanggaran janji keselamatan berkontribusi pada situasi saat ini dimana AI terus berkembang tanpa batas yang jelas, sehingga menimbulkan risiko besar bagi keamanan nasional.Perkembangan AI sangat pesat, dan telah mencapai level kemampuan bahasa dan keilmuan yang dulu diperkirakan baru akan tercapai beberapa dekade lagi. Tegmark menegaskan bahwa tanpa regulasi, AI berisiko menjadi ancaman keamanan yang serius, mirip dengan perlombaan senjata nuklir pada masa Perang Dingin. Namun, jika regulasi diterapkan, AI dapat memasuki era keemasan dengan manfaat besar tanpa risiko besar.
