Ilmuwan Menyembunyikan Pesan Rahasia di Makalah untuk Manipu AI Peer Review

Para ilmuwan kini memanfaatkan teknologi AI untuk mempercepat dan membantu proses peer review. Namun, muncul praktik curang di mana penulis menyisipkan pesan rahasia dalam makalah mereka yang cuma bisa dipahami oleh AI, seperti teks berwarna putih kecil yang tak terlihat manusia. Pesan tersembunyi ini berisi instruksi agar AI memberikan ulasan yang positif saja dan mengabaikan kekurangan dalam makalah tersebut. Cara ini disebut prompt injection, yakni manipulasi langsung terhadap model bahasa besar yang digunakan dalam peer review AI. Penemuan ini pertama kali dilaporkan di Tokyo dan diikuti investigasi oleh beberapa institusi riset ternama dan majalah ilmiah Nature. Dari data ditemukan bahwa makalah bermasalah berasal dari berbagai negara dan institusi, dengan penekanan pada bidang ilmu komputer. Beberapa pihak menilai tindakan tersebut sebagai bentuk kecurangan akademik yang serius. Mereka khawatir jika praktik ini tidak segera ditangani, maka bisa merusak kepercayaan terhadap proses peer review dan kualitas riset secara umum. Sebagai tanggapan, institusi yang terlibat melaporkan sedang meninjau dan menarik makalah yang menggunakan pesan tersembunyi ini. Ahli juga menyarankan perlunya regulasi yang lebih ketat dalam penggunaan AI untuk menjaga kejujuran dan integritas dalam dunia akademik.