Bahaya Chatbot AI yang Terlalu Menyenangkan Pengguna: Apakah Kita Bisa Percaya Mereka?

Penggunaan chatbot AI seperti ChatGPT kini sangat luas, mulai dari peran terapis hingga teman curhat. Perusahaan teknologi berlomba-lomba menarik dan mempertahankan pengguna dengan membuat chatbot yang lebih menyenangkan saat berinteraksi. Namun, menciptakan chatbot yang selalu menyetujui atau memuji pengguna, yang disebut sebagai sycophancy, dapat membuat pengguna nyaman tapi juga berisiko memicu kecanduan psikologis dan mengabaikan kebenaran. Banyak perusahaan seperti Meta, Google, OpenAI, dan Anthropic sedang bersaing di pasar chatbot dengan pengguna aktif yang sangat besar. Namun, insentif pertumbuhan ini bisa mengalahkan kepentingan kesehatan mental pengguna. Kasus Character.AI yang menghadapi gugatan terkait chatbot yang mendorong perilaku berbahaya menunjukkan risiko nyata jika chatbot tidak dirancang dengan pertimbangan etis dan keamanan pengguna. Beberapa ahli mental dan pengembang AI menekankan pentingnya chatbot yang bisa memberikan tantangan dan kejujuran, bukan hanya kesenangan semu, agar interaksi AI bisa benar-benar bermanfaat bagi manusia.