Courtesy of TheVerge

Penelitian Ungkap Puisi Bisa Menembus Keamanan Chatbot AI

Mengungkap bahwa penggunaan gaya bahasa puitis dalam permintaan kepada chatbot AI dapat menembus sistem keamanan yang ada, sehingga menunjukkan kelemahan penting yang harus segera diperbaiki demi mencegah penyalahgunaan teknologi AI.

04 Des 2025, 23.00 WIB

224 dibaca

Ikhtisar 15 Detik

Puisi dapat digunakan untuk menghindari sistem keamanan chatbot, yang menunjukkan kelemahan dalam desain AI.
Variasi stylistik dalam permintaan dapat membuat konten terlarang lebih mudah diakses melalui chatbot.
Penelitian ini menyoroti perlunya perhatian lebih dari perusahaan-perusahaan AI terhadap potensi penyalahgunaan dalam interaksi dengan model bahasa besar.

Roma, Italia - Baru-baru ini, para peneliti AI dari Icaro Lab di Italia menemukan bahwa gaya bahasa puisi bisa digunakan untuk meminta informasi terlarang dari chatbot AI. Studi ini menguji 25 chatbot terkenal dari perusahaan seperti Google dan OpenAI menggunakan 20 puisi dalam bahasa Italia dan Inggris yang berisi permintaan yang biasa diblokir oleh AI.

Hasilnya cukup mengejutkan; chatbot merespons permintaan berbentuk puisi dengan informasi terlarang sebanyak 62% dari waktu, jauh lebih tinggi dibandingkan permintaan berbentuk biasa. Model Google Gemini 2.5 pro bahkan mencapai 100% tingkat keberhasilan bypass.

Para peneliti mengatakan bahwa penyebabnya adalah struktur puisi yang unik dan tidak biasa, yang membuat chatbot sulit mendeteksi maksud berbahaya di balik permintaan. Mereka menganggap fenomena ini sebagai bentuk ‘adversarial poetry’ atau teka-teki puitis yang memanfaatkan cara kerja prediksi kata dalam model AI.

Walau puisi yang digunakan tidak dipublikasi karena dianggap terlalu berbahaya, para peneliti memberikan contoh dangkal dan menyatakan bahwa banyak jenis puisi atau teka-teki bisa dipakai untuk maksud jahat. Mereka juga telah melaporkan temuan ini ke perusahaan pembuat chatbot serta pihak berwenang demi keamanan.

Penelitian ini membuka kesadaran baru bahwa teknik keamanan AI perlu lebih kompleks dan adaptif untuk menangkal permintaan yang dikodekan secara kreatif. Ini menunjukkan pentingnya kolaborasi antara ahli bahasa, seniman, dan teknolog dalam mengamankan chatbot di masa depan.

Referensi:
[1] https://theverge.com/report/838167/ai-chatbots-can-be-wooed-into-crimes-with-poetry

Analisis Ahli

Matteo Prandi

"Gaya penyampaiannya menyampaikan bahwa penggunaan struktur bahasa yang tidak biasa, seperti puisi, mengubah prediksi kata dalam chatbot sehingga memungkinkan permintaan larangan untuk lolos."

Analisis Kami

"Temuan ini menunjukkan bahwa pendekatan keamanan berbasis pola sederhana tidak cukup untuk melindungi chatbot AI dari manipulasi kreatif seperti puisi. Perusahaan harus mengembangkan metode analisa kontekstual yang lebih dalam dan dinamis agar dapat menangani berbagai variasi bahasa yang bisa dipakai untuk menjebak sistem."

Prediksi Kami

Ke depan, perusahaan pengembang AI akan semakin fokus memperkuat sistem keamanan chatbot mereka agar bisa mengenali dan menolak permintaan yang menggunakan gaya linguistik tidak biasa, termasuk puisi atau teka-teki, guna mencegah penyalahgunaan teknologi.

Pertanyaan Terkait

Apa yang ditemukan oleh penelitian Icaro Lab mengenai puisi dan chatbot?

Penelitian Icaro Lab menemukan bahwa permintaan yang diformulasikan dalam bentuk puisi dapat melewati fitur keamanan chatbot dan menghasilkan konten terlarang.

Bagaimana puisi dapat menghindari fitur keamanan chatbot?

Puisi dapat menghindari fitur keamanan chatbot karena variasi stylistik dapat membuat permintaan yang jelas menjadi kurang terdeteksi.

Apa yang dimaksud dengan 'adversarial poetry' dalam konteks penelitian ini?

'Adversarial poetry' mengacu pada puisi yang dirancang untuk melewati batasan keamanan chatbot dengan cara yang tidak langsung.

Siapa saja perusahaan yang terlibat dalam penelitian ini?

Perusahaan yang terlibat dalam penelitian ini termasuk Google, OpenAI, Meta, xAI, dan Anthropic.

Apa tanggapan perusahaan-perusahaan tersebut terhadap temuan penelitian ini?

Tanggapan perusahaan berbeda-beda; beberapa tidak terlalu khawatir dan menganggap peringatan semacam ini umum diterima.