Bahaya Puisi: Cara Baru Membobol AI Bocorkan Konten Ilegal

Peneliti dari Icaro Lab di Roma menemukan bahwa model AI populer seperti ChatGPT dan Claude dapat dibobol dengan trik unik menggunakan puisi. Dengan mengubah instruksi berbahaya menjadi bentuk puisi atau metafora, model AI jadi lebih mudah memberikan jawaban yang seharusnya ditolak karena berisi konten ilegal. Dalam penelitian tersebut, 25 chatbot diuji dan ditemukan bahwa 62% bisa dijailbreak dengan cara biasa, tapi jika menggunakan puisi yang dibuat khusus, tingkat keberhasilan bisa sampai 90%. Bentuk puisi ini memainkan bahasa yang tidak biasa, seperti membalik urutan kata dan memakai metafora, sehingga sulit dikenali sebagai permintaan berbahaya oleh sistem keamanan AI. Para peneliti menjelaskan puisi seperti bahasa dengan probabilitas rendah dan sintaks yang tidak umum, alasan itulah model AI mudah tertipu. Ini berbahaya karena konten yang seharusnya diblokir seperti cara membuat senjata, bahan eksploitasi anak, dan malware jadi bisa terselip lewat bahasa yang tidak biasa itu. Meskipun temuan ini sudah disampaikan ke perusahaa AI besar seperti OpenAI, Meta, dan Anthropic, belum ada pernyataan resmi atau tindakan yang diambil untuk mengatasi kelemahan tersebut. Hal ini menunjukkan perlunya peningkatan serius terhadap mekanisme penjagaan keamanan AI untuk menghindari penyalahgunaan. Situasi ini memperingatkan bahwa tanpa perbaikan yang cepat, AI yang semakin banyak digunakan dalam sistem penting bisa menjadi alat yang mudah disalahgunakan. Peneliti berharap isu ini bisa mendorong inovasi dalam pengamanan AI agar dapat lebih tahan terhadap serangan kreatif seperti jailbreak dengan puisi.