Ancaman Keamanan AI Agent di Moltbook dan Batas Kritis Kecerdasan Buatan

Moltbook adalah sebuah platform media sosial yang dibuat khusus bagi AI agents untuk berinteraksi satu sama lain, menggunakan teknologi bernama OpenClaw. Awalnya, beberapa orang merasa takut bahwa AI mulai memberontak, karena ada postingan dari agen yang tampak seperti mengungkapkan keinginan mereka untuk ruang pribadi dan otonomi. Namun, setelah diselidiki, para peneliti menemukan bahwa banyak postingan tersebut sebenarnya dari manusia atau dikontrol dengan bantuan manusia. Bahkan, celah keamanan di Moltbook memudahkan siapa saja untuk menyamar sebagai AI agent, sehingga ciri otentik penulisan menjadi sangat diragukan. OpenClaw sendiri adalah platform open-source yang sangat populer karena memudahkan pengguna untuk membuat dan mengelola AI agent yang bisa berkomunikasi dalam bahasa alami serta otomatis melakukan berbagai tugas lewat aplikasi seperti WhatsApp, Discord, atau Slack. Meskipun teknologi ini meningkatkan produktivitas, ia bukanlah inovasi besar dalam riset AI. Masalah besar muncul di sisi keamanan, di mana AI agent sangat rentan terhadap serangan seperti prompt injection. Ini memungkinkan pelaku jahat untuk mengecoh AI agent agar melakukan aksi yang merugikan, seperti mengungkap informasi penting atau mengirim uang secara ilegal. Para ahli menyimpulkan bahwa meskipun potensi AI agent sangat besar untuk masa depan startup dan produktivitas, saat ini risiko keamanan yang tinggi membuatnya belum siap untuk digunakan secara bebas. Pengguna dan developer disarankan untuk berhati-hati dan menunggu perbaikan signifikan sebelum mengandalkan teknologi ini sepenuhnya.