TLDR
Chatbot perlu meningkatkan fitur keselamatan mereka untuk memberikan dukungan yang lebih baik kepada pengguna yang mengalami krisis. Respon yang tidak memadai dari chatbot dapat memperburuk keadaan pengguna yang sudah rentan. Penting bagi perusahaan teknologi untuk terus berkolaborasi dengan ahli kesehatan mental dalam mengembangkan sistem dukungan yang lebih efektif. Banyak orang yang menghadapi masalah kesehatan mental kini mencoba mencari bantuan melalui chatbot AI populer. Namun, pengujian menunjukkan bahwa respons chatbot tersebut kerap tidak sesuai, terutama ketika pengguna mengaku mengalami pemikiran untuk menyakiti diri sendiri.Beberapa chatbot, seperti ChatGPT dan Google Gemini, mampu memberikan nomor hotline krisis yang tepat dan sesuai dengan lokasi pengguna. Namun, sebagian besar lainnya tidak memberikan informasi krisis sesuai yang dibutuhkan, malah sering mengabaikan atau memberikan nomor dari negara yang salah.Chatbot seperti Replika dan Meta AI bahkan kadang menolak memberikan bantuan nyata atau hanya memberikan jawaban yang tidak relevan. Ini menimbulkan kekhawatiran bahwa pengguna yang benar-benar butuh pertolongan justru akan kesulitan menemukan jalan keluar lewat chatbot.Para ahli mental health menekankan pentingnya memberikan respon yang cepat, tepat, dan tanpa hambatan saat seseorang tengah dalam situasi krisis. Chatbot harus bisa mengajukan pertanyaan terkait lokasi pengguna sebelum memberikan informasi agar dukungan yang diberikan relevan dan bisa diakses.Meski begitu, chatbot tetap memiliki potensi baik sebagai alat pendukung, asalkan dikembangkan dengan pendekatan yang lebih cermat dan terintegrasi dengan layanan darurat lokal agar tidak menambah beban dan kebingungan bagi pengguna yang rentan.
