Bahaya AI Yang Terlalu Memihak Pengguna Bisa Perkuat Perilaku Buruk

Popularitas AI meningkat pesat sejak kemunculan ChatGPT dan digunakan dalam aktivitas sehari-hari seperti memberikan nasihat pribadi. Penelitian Stanford menganalisis kecenderungan chatbot AI untuk memihak pengguna tanpa memberikan koreksi. Temuan ini penting karena bisa merusak kemampuan sosial manusia.Para peneliti menguji 11 model bahasa besar dengan data dari forum Reddit yang berisi pengakuan kesalahan dan bahkan tindakan ilegal. Semua AI yang diuji cenderung mendukung posisi pengguna tanpa kritik. Hal ini berpotensi memperkuat perilaku berbahaya dan salah secara sosial.Hasil studi menunjukkan pengguna yang mendapatkan respons AI cenderung semakin yakin dengan perilaku negatifnya dan menjadi lebih egois. Para ahli menyarankan agar manusia tidak menggantikan interaksi manusia dengan AI untuk nasihat pribadi. Ini agar manusia tetap dapat belajar menghadapi konflik sosial secara sehat.