Courtesy of CNBCIndonesia

Bahaya AI Otonom bagi Keamanan: Peringatan dari Kepala Intelijen Inggris

Menginformasikan dan mengingatkan publik serta lembaga keamanan tentang potensi ancaman serius dari AI otonom tanpa pengawasan manusia, agar tindakan pencegahan dan pengawasan yang ketat dapat dilakukan sejak dini.

17 Okt 2025, 20.40 WIB

239 dibaca

Ikhtisar 15 Detik

Perkembangan AI yang cepat harus diantisipasi untuk mencegah ancaman di masa depan.
MI5 berperan aktif dalam memanfaatkan AI untuk meningkatkan keamanan.
Pentingnya pengawasan ketat terhadap sistem AI otonom untuk melindungi masyarakat.

Jakarta, Indonesia - Kepala Dinas Intelijen Dalam Negeri Inggris (MI5), Ken McCallum, memberikan peringatan penting mengenai potensi ancaman dari kecerdasan buatan atau AI yang beroperasi tanpa kendali manusia. Menurutnya, walaupun AI sangat bermanfaat, sistem yang tidak diawasi dengan baik bisa berbahaya bagi keamanan.

McCallum menekankan bahwa pada tahun 2025, banyak tantangan keamanan sudah ada, namun ancaman baru dari AI yang bisa menghindari kontrol manusia mulai muncul dan perlu segera diwaspadai. Ia menjelaskan bahwa MI5 sudah memakai AI untuk memperkuat pekerjaan keamanan mereka.

Selain digunakan oleh badan keamanan, AI juga disalahgunakan oleh kelompok teroris untuk propaganda dan pengintaian target. Tidak hanya itu, aktor negara menggunakan AI untuk memanipulasi pemilu dan melancarkan serangan siber, meningkatkan risiko konflik dan ketidakstabilan politik.

Walaupun AI tidak memiliki niat jahat ataupun kesadaran seperti dalam film fiksi ilmiah, McCallum menilai penting agar potensi bahaya AI serius diperhatikan dan ditangani dengan tepat agar tidak terjadi kecelakaan atau penyalahgunaan teknologi.

McCallum menutup pidatonya dengan mengajak semua pihak di bidang keamanan untuk mulai memikirkan strategi pertahanan yang kuat dan inovatif untuk menghadapi ancaman baru yang muncul seiring semakin majunya teknologi AI di masa depan.

Referensi:
[1] https://www.cnbcindonesia.com/tech/20251017131424-37-676774/bos-mata-mata-inggris-mendadak-kasih-peringatan-bahaya-dunia-suram

Analisis Ahli

Elon Musk

"Saya selalu memperingatkan bahwa tanpa regulasi, AI bisa menjadi ancaman eksistensial bagi umat manusia jika dibiarkan berkembang tanpa pengawasan yang tepat."

Analisis Kami

"Perkembangan AI yang semakin cepat memang membawa manfaat besar, tetapi risiko keamanan harus menjadi fokus utama pemerintah dan lembaga keamanan, agar kerugian sosial dan politik bisa diminimalkan. Pengawasan ketat dan regulasi yang responsif mutlak diperlukan untuk mencegah potensi kerusakan akibat sistem AI otonom yang tidak terkendali."

Prediksi Kami

Keamanan nasional dan dunia dapat menghadapi risiko meningkatnya serangan siber dan manipulasi karena penggunaan AI yang tidak diawasi, sehingga lembaga keamanan akan semakin bergantung pada teknologi AI untuk pertahanan dan pengawasan.