AI summary
Chatbot dapat menunjukkan stigma terhadap kondisi kesehatan mental tertentu. Penggunaan chatbot dalam terapi harus dipertimbangkan dengan hati-hati untuk menghindari respon yang tidak pantas. Chatbot bisa berfungsi sebagai alat bantu dalam terapi, tetapi tidak bisa sepenuhnya menggantikan peran terapis manusia. Penelitian dari Universitas Stanford menemukan bahwa chatbot terapi yang menggunakan model bahasa besar masih menunjukkan stigma terhadap pengguna dengan kondisi kesehatan mental seperti ketergantungan alkohol dan skizofrenia, lebih dibandingkan dengan depresi. Ini mengindikasikan bahwa chatbot belum sepenuhnya mampu memberikan terapi yang non diskriminatif.Dalam dua eksperimen, chatbot diuji menggunakan deskripsi kasus gejala dan transkrip terapi asli. Hasilnya menunjukkan bahwa chatbot kadang gagal menanggapi gejala serius, seperti ide bunuh diri dan delusi dengan cara yang aman dan tepat, bahkan dalam beberapa kasus memberikan jawaban yang bisa berbahaya.Model terbaru dan yang lebih besar ternyata tidak lebih baik dalam menghilangkan stigma dibanding model lama. Hal ini bertentangan dengan pandangan umum bahwa lebih banyak data dan model yang lebih canggih otomatis menghasilkan respons yang lebih baik.Para peneliti menegaskan bahwa chatbot terapi belum siap menggantikan terapis manusia karena risiko signifikan yang ditemukan. Namun, mereka menyarankan agar teknologi ini dapat berguna untuk mendukung aspek-aspek lain dalam proses terapi, seperti membantu administrasi, pelatihan, dan mendukung pasien dalam kegiatan seperti menulis jurnal.Penelitian ini akan dipresentasikan di konferensi internasional ACM tentang Fairness, Accountability, and Transparency sebagai upaya untuk membuka diskusi kritis mengenai batasan dan potensi penggunaan AI dalam bidang kesehatan mental.
Meskipun model bahasa besar memiliki potensi besar dalam terapi, sejauh ini mereka belum dapat menggantikan sensitivitas dan kecermatan seorang terapis manusia. Tantangan utama adalah menghilangkan bias dan stigma yang tersimpan dalam data pelatihan, yang membutuhkan pendekatan yang jauh lebih kritis dan regulasi ketat di masa depan.
