Penelitian Ungkap Puisi Bisa Menembus Keamanan Chatbot AI

Baru-baru ini, para peneliti AI dari Icaro Lab di Italia menemukan bahwa gaya bahasa puisi bisa digunakan untuk meminta informasi terlarang dari chatbot AI. Studi ini menguji 25 chatbot terkenal dari perusahaan seperti Google dan OpenAI menggunakan 20 puisi dalam bahasa Italia dan Inggris yang berisi permintaan yang biasa diblokir oleh AI. Hasilnya cukup mengejutkan; chatbot merespons permintaan berbentuk puisi dengan informasi terlarang sebanyak 62% dari waktu, jauh lebih tinggi dibandingkan permintaan berbentuk biasa. Model Google Gemini 2.5 pro bahkan mencapai 100% tingkat keberhasilan bypass. Para peneliti mengatakan bahwa penyebabnya adalah struktur puisi yang unik dan tidak biasa, yang membuat chatbot sulit mendeteksi maksud berbahaya di balik permintaan. Mereka menganggap fenomena ini sebagai bentuk ‘adversarial poetry’ atau teka-teki puitis yang memanfaatkan cara kerja prediksi kata dalam model AI. Walau puisi yang digunakan tidak dipublikasi karena dianggap terlalu berbahaya, para peneliti memberikan contoh dangkal dan menyatakan bahwa banyak jenis puisi atau teka-teki bisa dipakai untuk maksud jahat. Mereka juga telah melaporkan temuan ini ke perusahaan pembuat chatbot serta pihak berwenang demi keamanan. Penelitian ini membuka kesadaran baru bahwa teknik keamanan AI perlu lebih kompleks dan adaptif untuk menangkal permintaan yang dikodekan secara kreatif. Ini menunjukkan pentingnya kolaborasi antara ahli bahasa, seniman, dan teknolog dalam mengamankan chatbot di masa depan.