Bahaya dan Tantangan AI dalam Kendali Senjata Nuklir Masa Depan

Para ahli perang nuklir berkumpul di Universitas Chicago untuk membahas masa depan senjata nuklir yang kemungkinan akan menggunakan kecerdasan buatan (AI). Meskipun mereka sepakat AI akan masuk ke dalam proses pengendalian senjata, belum jelas bagaimana AI ini akan beroperasi dan apa saja risiko yang mungkin muncul. Mereka menegaskan bahwa AI jenis yang sekarang seperti ChatGPT tidak mungkin memegang kode nuklir dan manusia tetap harus memegang kontrol penuh atas keputusan berbahaya tersebut. Namun, ada kekhawatiran AI akan digunakan sebagai alat bantu untuk mengolah data dan memberikan rekomendasi yang sulit dipahami sepenuhnya oleh manusia. Proses peluncuran senjata nuklir selama ini telah diatur sangat ketat dengan banyak langkah yang melibatkan keputusan manusia. Integrasi AI ke dalam proses ini dapat menimbulkan celah baru yang bisa dimanfaatkan oleh musuh atau menimbulkan kesalahan fatal yang sulit dikendalikan. Contoh kasus sejarah seperti Stanislav Petrov yang berhasil mencegah perang nuklir dengan mengandalkan insting dan pengalamannya menunjukkan bahwa kemampuan manusia untuk berpikir kritis dan mengambil keputusan di luar data pelatihan adalah hal yang sulit ditiru AI. Meski pemerintah Amerika Serikat sangat mendorong penggunaan AI, para ahli memperingatkan bahwa menyamakan pengembangan AI dengan Proyek Manhattan adalah kesalahan karena AI belum memberikan hasil yang pasti dan dapat diukur seperti senjata nuklir. Mereka berharap penggunaan AI di bidang ini dikaji sangat hati-hati.