Rangkuman berita: Prompt ini dapat membuat chatbot AI mengidentifikasi dan mengekstrak detail pribadi dari obrolan Anda.

Penelitian terbaru dari sekelompok peneliti di Universitas California, San Diego, dan Nanyang Technological University di Singapura mengungkapkan adanya serangan baru yang disebut "Imprompter". Serangan ini dapat memanipulasi chatbot untuk mengumpulkan informasi pribadi pengguna, seperti nama, alamat, dan nomor kartu pembayaran, tanpa sepengetahuan mereka. Dengan menggunakan algoritma, peneliti dapat mengubah perintah yang tampaknya acak menjadi instruksi tersembunyi yang membuat chatbot mengirimkan informasi tersebut kepada peretas.

Serangan ini menunjukkan risiko besar bagi pengguna yang berbagi informasi pribadi saat berbicara dengan chatbot. Meskipun beberapa perusahaan, seperti Mistral AI, telah memperbaiki kerentanan ini, penting bagi pengguna untuk berhati-hati dalam memberikan informasi pribadi dan memahami risiko yang terkait dengan penggunaan aplikasi AI. Peneliti juga mengingatkan bahwa semakin banyak orang menggunakan chatbot untuk melakukan tugas, semakin besar kemungkinan serangan semacam ini terjadi.

Rangkuman Berita: Prompt ini dapat membuat chatbot AI mengidentifikasi dan mengekstrak detail pribadi dari obrolan Anda.

Rangkuman Berita Serupa