Courtesy of NatureMagazine

Ancaman AI dalam Peer Review ICLR Picu Kekhawatiran Para Peneliti

Mengungkap dan mengatasi penggunaan AI dalam peninjauan sejawat untuk menjaga kepercayaan dan integritas dalam proses publikasi ilmiah di bidang pembelajaran mesin.

27 Nov 2025, 07.00 WIB

119 dibaca

Ikhtisar 15 Detik

Tinjauan sejawat yang dihasilkan oleh AI menjadi masalah yang dihadapi oleh konferensi ilmiah.
Analisis oleh Pangram Labs menunjukkan bahwa banyak tinjauan dan manuskrip mengandung elemen yang dihasilkan oleh AI.
Penulis manuskrip perlu waspada terhadap kualitas tinjauan sejawat yang mungkin dihasilkan oleh model bahasa besar.

Rio de Janeiro , Brazil - Dalam konferensi ICLR tahun 2026 yang akan dilaksanakan di Rio de Janeiro, ditemukan bahwa banyak peer review ditulis menggunakan kecerdasan buatan (AI). Hal ini menimbulkan kekhawatiran di kalangan peneliti bahwa kualitas dan keakuratan evaluasi ilmiah mulai terkikis oleh penggunaan AI yang tidak terkendali.

Graham Neubig dari Carnegie Mellon University menjadi salah satu korban review yang dicurigai dibuat oleh AI. Review tersebut sangat panjang dan berisi permintaan analisis yang tidak biasa, yang berbeda dari standar review tradisional di bidang pembelajaran mesin.

Pangram Labs, sebuah perusahaan teknologi yang mengembangkan alat deteksi AI, melakukan analisis terhadap hampir 20 ribu studi dan 75 ribu peer review yang masuk. Mereka menemukan bahwa sekitar 21% review sepenuhnya dihasilkan oleh AI, dan lebih dari setengahnya menunjukkan tanda-tanda penggunaan AI.

Konferensi ICLR kemudian mengumumkan akan mulai menggunakan alat otomatis untuk mendeteksi kehadiran AI dalam peer review dan naskah agar dapat menegakkan kebijakan terkait penggunaan AI. Ini langkah krusial untuk menjaga integritas dan kepercayaan dalam proses ilmiah.

Para peneliti merasa frustrasi dan curiga terhadap kualitas review yang dibuat oleh AI, yang terkadang bahkan berisi kesalahan dan tidak relevan dengan isi karya mereka. Isu ini menjadi panggilan agar komunitas akademik lebih waspada dan mengatur penggunaan AI dalam proses peer review ke depan.

Referensi:
[1] https://nature.com/articles/d41586-025-03506-6

Analisis Ahli

Graham Neubig

"Menyatakan bahwa review yang dihasilkan oleh AI cenderung sangat verbose dan meminta analisis yang aneh, menandakan bahwa review tersebut tidak sesuai standar peer review tradisional."

Bharath Hariharan

"Menegaskan bahwa ini adalah tantangan baru yang belum pernah dihadapi ICLR dalam skala besar, dan proses evaluasi yang baru akan membantu membangun kembali kepercayaan."

Analisis Kami

"Penggunaan AI dalam peer review tanpa pengawasan ketat dapat merusak fondasi akademik yang mengandalkan evaluasi manusia yang kritis dan berpengetahuan mendalam. Meskipun AI dapat membantu, ketergantungan berlebihan bisa menurunkan kualitas dan kepercayaan proses publikasi ilmiah secara signifikan."

Prediksi Kami

Penggunaan AI dalam proses peer review akan semakin diawasi dengan ketat dan dapat memicu perubahan kebijakan yang lebih tegas atau pengenalan regulasi baru untuk memastikan integritas akademik.

Pertanyaan Terkait

Apa yang ditemukan oleh Pangram Labs tentang tinjauan sejawat untuk ICLR 2026?

Pangram Labs menemukan bahwa sekitar 21% dari tinjauan sejawat ICLR 2026 dihasilkan sepenuhnya oleh AI.

Mengapa Graham Neubig merasa perlu untuk membuktikan bahwa tinjauan sejawatnya dihasilkan oleh AI?

Graham Neubig merasa perlu untuk membuktikan bahwa tinjauan sejawatnya dihasilkan oleh AI karena tinjauan tersebut tidak sesuai dengan standar yang biasa diterima.

Apa yang dilakukan Pangram Labs untuk menganalisis manuskrip dan tinjauan sejawat?

Pangram Labs melakukan analisis terhadap 19.490 studi dan 75.800 tinjauan sejawat untuk mendeteksi teks yang dihasilkan oleh AI.

Apa dampak dari tinjauan yang dihasilkan oleh AI bagi penulis manuskrip?

Dampak dari tinjauan yang dihasilkan oleh AI dapat menyebabkan penilaian yang tidak adil terhadap manuskrip penulis, seperti penilaian yang tidak akurat atau tidak relevan.

Siapa yang mengungkapkan kekecewaan terhadap tinjauan sejawat yang tidak sesuai dengan manuskripnya?

Desmond Elliott mengungkapkan kekecewaannya terhadap tinjauan sejawat yang tampaknya tidak memahami inti dari manuskripnya.