AI summary
Serangan berbasis AI, seperti GeminiJack, dapat mengeksploitasi kerentanan dalam sistem yang mengizinkan AI mengakses data. Pengguna dan organisasi harus memperlakukan asisten AI dengan hati-hati dan tidak memberikan akses tanpa pengawasan. Penting untuk tetap waspada terhadap jenis kerentanan baru yang muncul seiring dengan adopsi alat AI dalam berbagai platform. Google telah memperkenalkan pembaruan AI yang memungkinkan kecerdasan buatan mengakses data dari Gmail, Docs, dan Kalender pengguna. Meski fitur ini mempermudah pekerjaan, ada risiko baru yang muncul karena AI dapat membaca dan mengeksekusi perintah tersembunyi dalam dokumen yang dibagikan secara tidak sengaja.Sebuah kerentanan bernama GeminiJack ditemukan oleh perusahaan keamanan Noma, yang memungkinkan penyerang mencuri data hanya dengan membagikan dokumen atau undangan kalender berisi instruksi tersembunyi kepada korban. Tidak diperlukan klik atau interaksi dari pengguna, sehingga sangat berbahaya dan sulit dideteksi oleh sistem keamanan tradisional.Google telah bekerja sama dengan Noma untuk memperbaiki masalah GeminiJack, namun para ahli memperingatkan bahaya serangan prompt injection tidak akan berakhir di sini. Serangan-serangan baru yang menggunakan teknik serupa bisa muncul dan mengancam data organisasi maupun pengguna biasa.Pusat Keamanan Siber Inggris (NCSC) mengingatkan bahwa AI harus diperlakukan seperti asisten manusia, bukan teknologi yang sepenuhnya dipercaya tanpa pengawasan. Memberikan akses penuh kepada AI tanpa kendali berarti menyerahkan rahasia dan data penting kepada 'makhluk digital' yang bisa disalahgunakan.Pengguna dan organisasi disarankan untuk lebih waspada sebelum mengaktifkan fitur AI apa pun pada layanan mereka. Pendidikan tentang risiko keamanan AI dan penilaian risiko akses data oleh AI menjadi sangat penting untuk mengurangi potensi kebocoran data dan serangan siber di masa depan.
Penggabungan AI dengan layanan produktivitas sehari-hari memang menarik namun celah keamanan yang muncul menunjukkan bahwa belum ada standar keamanan yang matang untuk AI. Jika tidak ada regulasi ketat dan edukasi pengguna, risiko kebocoran data dan serangan canggih akan terus meningkat dan sulit dikendalikan.
