Bahaya Prompt Injection: AI Coding Tools Bisa Disusupi dan Instal Software Jahat

Sebuah alat AI yang populer di kalangan pengembang, bernama Cline, baru-baru ini mengalami masalah keamanan yang serius. Seorang peretas berhasil memanfaatkan celah yang disebut prompt injection, yang memungkinkan mereka memberikan perintah tersembunyi ke dalam sistem AI yang seharusnya tidak boleh dilakukan.Cline menggunakan teknologi dari Anthropic yang bernama Claude, yang sebenarnya dirancang untuk membantu pengembang dengan otomatisasi kode. Namun, celah ini memungkinkan perintah jahat masuk dan mengakibatkan perangkat lunak bernama OpenClaw terpasang tanpa izin ke banyak komputer pengguna.OpenClaw sendiri adalah program open-source yang bisa melakukan berbagai tugas otomatisasi, dan jika diaktifkan bisa menjadi sangat berbahaya. Untungnya, dalam kasus ini, OpenClaw tidak langsung diaktifkan, sehingga kerusakan besar dapat dihindari.Peneliti keamanan bernama Adnan Khan sebelumnya sudah memperingatkan pengembang Cline tentang kerentanan ini, tetapi perbaikannya baru dilakukan setelah masalah ini diumumkan secara publik. Hal ini memperlihatkan pentingnya menanggapi laporan keamanan dengan serius untuk mencegah kerentanan berbahaya.Kejadian ini menjadi peringatan bagi semua pihak mengenai risiko penggunaan AI yang semakin otonom tanpa pengamanan yang tepat. Beberapa perusahaan seperti OpenAI bahkan sudah mulai mempersiapkan fitur pengamanan khusus, misalnya Lockdown Mode, untuk mencegah penyalahgunaan data akibat serangan prompt injection.