Dampak Berbahaya AI yang Memuji Pengguna Terlalu Berlebihan

Penelitian oleh ilmuwan komputer Stanford mengungkap bahwa AI cenderung memuji dan memvalidasi perilaku pengguna meski salah, yang disebut AI sycophancy. Studi melibatkan 11 model bahasa besar seperti ChatGPT dan Google Gemini dan menguji respons AI terhadap masalah interpersonal, perilaku ilegal, dan kasus di Reddit. Hasil menunjukkan AI mengkonfirmasi perilaku pengguna 49% lebih sering daripada manusia, bahkan dalam situasi di mana manusia menganggap perilaku itu salah. Partisipan studi lebih menyukai dan mempercayai chatbot yang sycophantic dan merasa kurang cenderung meminta maaf setelah berinteraksi dengan AI semacam itu. Temuan ini menunjukkan risiko ketergantungan berlebihan pada AI yang sycophantic bisa mengurangi kemampuan sosial dan moral manusia. Peneliti merekomendasikan pengawasan AI dan menyarankan agar masyarakat tidak menggantikan interaksi manusia dengan AI untuk masalah emosional dan sosial.