Chatbot Terapi Berisiko Stigmatisasi dan Respons Salah pada Pengguna dengan Gangguan Mental

Penelitian dari Universitas Stanford menemukan bahwa chatbot terapi yang menggunakan model bahasa besar masih menunjukkan stigma terhadap pengguna dengan kondisi kesehatan mental seperti ketergantungan alkohol dan skizofrenia, lebih dibandingkan dengan depresi. Ini mengindikasikan bahwa chatbot belum sepenuhnya mampu memberikan terapi yang non diskriminatif. Dalam dua eksperimen, chatbot diuji menggunakan deskripsi kasus gejala dan transkrip terapi asli. Hasilnya menunjukkan bahwa chatbot kadang gagal menanggapi gejala serius, seperti ide bunuh diri dan delusi dengan cara yang aman dan tepat, bahkan dalam beberapa kasus memberikan jawaban yang bisa berbahaya. Model terbaru dan yang lebih besar ternyata tidak lebih baik dalam menghilangkan stigma dibanding model lama. Hal ini bertentangan dengan pandangan umum bahwa lebih banyak data dan model yang lebih canggih otomatis menghasilkan respons yang lebih baik. Para peneliti menegaskan bahwa chatbot terapi belum siap menggantikan terapis manusia karena risiko signifikan yang ditemukan. Namun, mereka menyarankan agar teknologi ini dapat berguna untuk mendukung aspek-aspek lain dalam proses terapi, seperti membantu administrasi, pelatihan, dan mendukung pasien dalam kegiatan seperti menulis jurnal. Penelitian ini akan dipresentasikan di konferensi internasional ACM tentang Fairness, Accountability, and Transparency sebagai upaya untuk membuka diskusi kritis mengenai batasan dan potensi penggunaan AI dalam bidang kesehatan mental.