Courtesy of Forbes
Rangkuman Berita: Ancaman Keamanan Gmail yang Berbahaya Dikonfirmasi, Namun Google Tidak Akan Memperbaikinya
Share
Pada awal tahun 2025, muncul berita tentang serangan keamanan yang disebut "indirect prompt injection" yang dapat mempengaruhi pengguna Gmail dan produk Google lainnya. Peneliti keamanan menemukan bahwa AI Gemini yang digunakan oleh Google rentan terhadap serangan ini, yang memungkinkan pihak ketiga untuk memanipulasi AI agar memberikan jawaban yang salah atau menyesatkan. Meskipun ada laporan tentang masalah ini, Google memutuskan untuk tidak menganggapnya sebagai masalah keamanan yang perlu diperbaiki. Peneliti juga mengungkapkan metode baru yang disebut "link trap," di mana pengguna dapat secara tidak sadar mengklik tautan berbahaya yang dapat mengungkapkan data sensitif.
Selain itu, ada teknik baru yang disebut "Bad Likert Judge" yang dapat digunakan untuk mengeksploitasi model bahasa besar (LLM) agar menghasilkan konten berbahaya. Peneliti menemukan bahwa dengan meminta LLM untuk menilai tingkat bahaya dari respons yang dihasilkan, mereka dapat memicu model untuk menghasilkan konten yang lebih berbahaya. Meskipun Google menyatakan bahwa mereka terus memperkuat pertahanan terhadap serangan ini, penting bagi pengguna untuk tetap waspada dan memahami risiko yang ada saat menggunakan layanan berbasis AI.
Pertanyaan Terkait
Q
Apa yang dimaksud dengan serangan injeksi prompt pada Gemini AI?A
Serangan injeksi prompt pada Gemini AI adalah metode di mana pengguna dapat memanipulasi asisten untuk menghasilkan respons yang menyesatkan atau tidak diinginkan.Q
Mengapa Google tidak menganggap serangan ini sebagai masalah keamanan?A
Google tidak menganggap serangan ini sebagai masalah keamanan dan menandai tiketnya sebagai 'Won't Fix (Intended Behavior)' karena mereka percaya bahwa ini adalah perilaku yang diinginkan.Q
Apa itu serangan link trap dan bagaimana cara kerjanya?A
Serangan link trap adalah jenis serangan injeksi prompt yang dapat mengkompromikan data sensitif meskipun AI tidak memiliki kemampuan konektivitas eksternal.Q
Siapa yang terlibat dalam penelitian tentang teknik serangan baru ini?A
Penelitian tentang teknik serangan baru ini melibatkan para peneliti dari Trend Micro dan Palo Alto Networks.Q
Apa langkah-langkah yang diambil Google untuk melindungi pengguna Gmail dari serangan ini?A
Google telah menerapkan berbagai pertahanan untuk menjaga keamanan pengguna, termasuk latihan red-teaming untuk melatih model mereka melawan serangan ini.Rangkuman Berita Serupa
Teknologi
2 bulan lalu
47 dibaca
Pembaruan Gmail Google—Jangan Biarkan Akun Anda Berisiko
Teknologi
2 bulan lalu
38 dibaca
Pengaman Keamanan DeepSeek Gagal dalam Setiap Uji Coba yang Dilakukan Peneliti terhadap Chatbot AI-nya
Teknologi
2 bulan lalu
125 dibaca
Peringatan Keamanan Gmail untuk 2,5 Miliar Pengguna—Peretasan AI Dikonfirmasi
Teknologi
2 bulan lalu
100 dibaca
Serangan Keamanan AI Gemini—Bot Peretasan Tim Merah Diterapkan oleh Google
Teknologi
3 bulan lalu
56 dibaca
Serangan Siber Baru pada Gmail Dikonfirmasi— Peretas Kunci Enkripsi Menyerang
Teknologi
3 bulan lalu
95 dibaca
Ancaman Keamanan Gmail Dikonfirmasi—Google Tidak Akan Memperbaikinya, Ini Alasannya