TLDR
Serangan berbasis AI, seperti GeminiJack, dapat mengeksploitasi kerentanan dalam sistem yang mengizinkan AI mengakses data. Pengguna dan organisasi harus memperlakukan asisten AI dengan hati-hati dan tidak memberikan akses tanpa pengawasan. Penting untuk tetap waspada terhadap jenis kerentanan baru yang muncul seiring dengan adopsi alat AI dalam berbagai platform. Google telah memperkenalkan pembaruan AI yang memungkinkan kecerdasan buatan mengakses data dari Gmail, Docs, dan Kalender pengguna. Meski fitur ini mempermudah pekerjaan, ada risiko baru yang muncul karena AI dapat membaca dan mengeksekusi perintah tersembunyi dalam dokumen yang dibagikan secara tidak sengaja.Sebuah kerentanan bernama GeminiJack ditemukan oleh perusahaan keamanan Noma, yang memungkinkan penyerang mencuri data hanya dengan membagikan dokumen atau undangan kalender berisi instruksi tersembunyi kepada korban. Tidak diperlukan klik atau interaksi dari pengguna, sehingga sangat berbahaya dan sulit dideteksi oleh sistem keamanan tradisional.Google telah bekerja sama dengan Noma untuk memperbaiki masalah GeminiJack, namun para ahli memperingatkan bahaya serangan prompt injection tidak akan berakhir di sini. Serangan-serangan baru yang menggunakan teknik serupa bisa muncul dan mengancam data organisasi maupun pengguna biasa.Pusat Keamanan Siber Inggris (NCSC) mengingatkan bahwa AI harus diperlakukan seperti asisten manusia, bukan teknologi yang sepenuhnya dipercaya tanpa pengawasan. Memberikan akses penuh kepada AI tanpa kendali berarti menyerahkan rahasia dan data penting kepada 'makhluk digital' yang bisa disalahgunakan.Pengguna dan organisasi disarankan untuk lebih waspada sebelum mengaktifkan fitur AI apa pun pada layanan mereka. Pendidikan tentang risiko keamanan AI dan penilaian risiko akses data oleh AI menjadi sangat penting untuk mengurangi potensi kebocoran data dan serangan siber di masa depan.
