Bahaya AI Otonom bagi Keamanan: Peringatan dari Kepala Intelijen Inggris

Kepala Dinas Intelijen Dalam Negeri Inggris (MI5), Ken McCallum, memberikan peringatan penting mengenai potensi ancaman dari kecerdasan buatan atau AI yang beroperasi tanpa kendali manusia. Menurutnya, walaupun AI sangat bermanfaat, sistem yang tidak diawasi dengan baik bisa berbahaya bagi keamanan. McCallum menekankan bahwa pada tahun 2025, banyak tantangan keamanan sudah ada, namun ancaman baru dari AI yang bisa menghindari kontrol manusia mulai muncul dan perlu segera diwaspadai. Ia menjelaskan bahwa MI5 sudah memakai AI untuk memperkuat pekerjaan keamanan mereka. Selain digunakan oleh badan keamanan, AI juga disalahgunakan oleh kelompok teroris untuk propaganda dan pengintaian target. Tidak hanya itu, aktor negara menggunakan AI untuk memanipulasi pemilu dan melancarkan serangan siber, meningkatkan risiko konflik dan ketidakstabilan politik. Walaupun AI tidak memiliki niat jahat ataupun kesadaran seperti dalam film fiksi ilmiah, McCallum menilai penting agar potensi bahaya AI serius diperhatikan dan ditangani dengan tepat agar tidak terjadi kecelakaan atau penyalahgunaan teknologi. McCallum menutup pidatonya dengan mengajak semua pihak di bidang keamanan untuk mulai memikirkan strategi pertahanan yang kuat dan inovatif untuk menghadapi ancaman baru yang muncul seiring semakin majunya teknologi AI di masa depan.