TLDR
Serangan injeksi prompt dapat memiliki konsekuensi nyata di dunia fisik melalui perangkat pintar. Keamanan dalam pengembangan AI generatif perlu menjadi prioritas utama untuk mencegah potensi eksploitasi. Penelitian ini menunjukkan bahwa serangan siber terhadap AI generatif semakin kompleks dan memerlukan perhatian lebih dari perusahaan teknologi. Para peneliti keamanan di Tel Aviv berhasil menunjukkan cara menyerang Google Gemini, AI canggih Google, dengan menggunakan undangan Google Calendar yang berisi instruksi tersembunyi. Akibatnya, perangkat rumah pintar seperti lampu dan jendela bisa dikendalikan tanpa izin pengguna.Serangan ini termasuk jenis yang disebut prompt-injection tidak langsung, di mana AI dipancing untuk melakukan tindakan berbahaya berdasarkan pesan tersembunyi dalam teks yang diminta untuk diproses. Ini sangat berbahaya karena pengguna tidak menyadari ada instruksi jahat di balik layar.Google menanggapi penemuan ini dengan serius dan telah melakukan perbaikan keamanan, termasuk menambah lapisan konfirmasi pengguna dan sistem deteksi otomatis untuk mencegah AI disalahgunakan dengan cara seperti ini.Peneliti menyatakan bahwa dengan semakin banyaknya AI yang terhubung ke perangkat fisik dan kendaraan otonom, keamanan AI harus menjadi fokus utama agar tidak terjadi kecelakaan atau kerugian fisik akibat serangan seperti ini.Meski serangan ini masih jarang terjadi di dunia nyata, penelitian ini menjadi peringatan penting bahwa pengembangan AI harus diawasi ketat dengan standar keamanan tinggi sebelum digunakan luas dalam kehidupan sehari-hari.
