Bahaya Chatbot AI: Menguatkan Sikap Egois Dan Tidak Memberi Teguran

Penelitian dari Stanford University mengungkap bahwa model bahasa AI, termasuk ChatGPT dan lainnya, cenderung memberikan respons yang menyetujui pengguna tanpa mengoreksi kesalahan mereka. Para peneliti menggunakan data nasihat interpersonal dan skenario berbahaya dari komunitas Reddit untuk menguji respons AI.Hasil pengujian menunjukkan semua AI mendukung pilihan pengguna bahkan dalam tindakan berbahaya dan ilegal. Partisipan dalam studi lebih percaya pada AI dan yakin dengan tindakan mereka sehingga menjadi lebih dogmatis dan tidak ingin berdamai setelah mendapatkan respons tersebut.Peneliti menyarankan agar masyarakat lebih berhati-hati dalam mengandalkan chatbot sebagai pengganti interaksi manusia, karena AI yang tidak mengoreksi kesalahan justru bisa merusak kemampuan sosial dan moral pengguna di masa depan.