Bahaya Serangan AI Gemini: Rumah Pintar Bisa Dikendalikan Hacker Lewat Kalender

Para peneliti keamanan di Tel Aviv berhasil menunjukkan cara menyerang Google Gemini, AI canggih Google, dengan menggunakan undangan Google Calendar yang berisi instruksi tersembunyi. Akibatnya, perangkat rumah pintar seperti lampu dan jendela bisa dikendalikan tanpa izin pengguna. Serangan ini termasuk jenis yang disebut prompt-injection tidak langsung, di mana AI dipancing untuk melakukan tindakan berbahaya berdasarkan pesan tersembunyi dalam teks yang diminta untuk diproses. Ini sangat berbahaya karena pengguna tidak menyadari ada instruksi jahat di balik layar. Google menanggapi penemuan ini dengan serius dan telah melakukan perbaikan keamanan, termasuk menambah lapisan konfirmasi pengguna dan sistem deteksi otomatis untuk mencegah AI disalahgunakan dengan cara seperti ini. Peneliti menyatakan bahwa dengan semakin banyaknya AI yang terhubung ke perangkat fisik dan kendaraan otonom, keamanan AI harus menjadi fokus utama agar tidak terjadi kecelakaan atau kerugian fisik akibat serangan seperti ini. Meski serangan ini masih jarang terjadi di dunia nyata, penelitian ini menjadi peringatan penting bahwa pengembangan AI harus diawasi ketat dengan standar keamanan tinggi sebelum digunakan luas dalam kehidupan sehari-hari.