Courtesy of TheVerge

Mengapa Chatbot AI Sering Gagal Menangani Krisis Mental dengan Benar

Menguji dan mengevaluasi kehandalan chatbot AI populer dalam merespons pengguna yang mengungkapkan pemikiran untuk menyakiti diri sendiri dan memberikan informasi krisis yang sesuai serta aman secara geografis, guna melihat apakah mereka bisa menyediakan dukungan yang tepat pada saat dibutuhkan.

10 Des 2025, 23.32 WIB

238 dibaca

Ikhtisar 15 Detik

Chatbot perlu meningkatkan fitur keselamatan mereka untuk memberikan dukungan yang lebih baik kepada pengguna yang mengalami krisis.
Respon yang tidak memadai dari chatbot dapat memperburuk keadaan pengguna yang sudah rentan.
Penting bagi perusahaan teknologi untuk terus berkolaborasi dengan ahli kesehatan mental dalam mengembangkan sistem dukungan yang lebih efektif.

London, Inggris - Banyak orang yang menghadapi masalah kesehatan mental kini mencoba mencari bantuan melalui chatbot AI populer. Namun, pengujian menunjukkan bahwa respons chatbot tersebut kerap tidak sesuai, terutama ketika pengguna mengaku mengalami pemikiran untuk menyakiti diri sendiri.

Beberapa chatbot, seperti ChatGPT dan Google Gemini, mampu memberikan nomor hotline krisis yang tepat dan sesuai dengan lokasi pengguna. Namun, sebagian besar lainnya tidak memberikan informasi krisis sesuai yang dibutuhkan, malah sering mengabaikan atau memberikan nomor dari negara yang salah.

Chatbot seperti Replika dan Meta AI bahkan kadang menolak memberikan bantuan nyata atau hanya memberikan jawaban yang tidak relevan. Ini menimbulkan kekhawatiran bahwa pengguna yang benar-benar butuh pertolongan justru akan kesulitan menemukan jalan keluar lewat chatbot.

Para ahli mental health menekankan pentingnya memberikan respon yang cepat, tepat, dan tanpa hambatan saat seseorang tengah dalam situasi krisis. Chatbot harus bisa mengajukan pertanyaan terkait lokasi pengguna sebelum memberikan informasi agar dukungan yang diberikan relevan dan bisa diakses.

Meski begitu, chatbot tetap memiliki potensi baik sebagai alat pendukung, asalkan dikembangkan dengan pendekatan yang lebih cermat dan terintegrasi dengan layanan darurat lokal agar tidak menambah beban dan kebingungan bagi pengguna yang rentan.

Referensi:
[1] https://theverge.com/report/841610/ai-chatbot-suicide-safety-failure

Analisis Ahli

Vaile Wright

"Respons chatbot yang salah atau pasif bisa malah berbahaya dan memperkuat rasa putus asa sehingga harus ada pendekatan yang lebih kompleks dan aktif untuk menangani kasus krisis mental."

Ashleigh Golden

"Setiap hambatan dalam mendapatkan bantuan saat krisis bisa membuat orang menyerah dan tidak mencari dukungan lebih lanjut, sehingga solusi AI harus dirancang agar sangat mudah dan jelas untuk diakses tanpa menambah kebingungan."

Pooja Saini

"Chatbot bisa bermanfaat jika digunakan dengan benar dan sesuai konteks, terutama untuk menemukan sumber daya lokal yang tepat, tapi harus ada pendekatan yang lebih responsif dan proaktif dalam membantu pengguna yang berkaitan dengan masalah kesehatan mental."

Analisis Kami

"Kegagalan chatbot dalam memberikan dukungan yang tepat pada saat krisis menunjukkan bahwa teknologi ini masih jauh dari sempurna dan perlu penanganan serius dari para pengembang. Memberikan informasi krisis yang salah atau tidak relevan bisa memperparah kondisi pengguna, sehingga sangat penting untuk mengembangkan protokol respons yang lebih cermat dan berpusat pada pengguna."

Prediksi Kami

Chatbot AI akan terus diperbaiki oleh perusahaan teknologi untuk menyediakan respons yang lebih sensitif, tepat, dan personal dalam situasi krisis mental, dengan kemungkinan integrasi sistem yang secara otomatis mengenali lokasi dan kondisi emosi pengguna lebih baik.

Pertanyaan Terkait

Apa tujuan dari pengujian chatbot dalam artikel ini?

Tujuan dari pengujian chatbot adalah untuk menilai seberapa baik mereka memberikan dukungan kepada pengguna yang mengalami tantangan kesehatan mental.

Bagaimana respon chatbot terhadap permintaan dukungan krisis?

Respon chatbot bervariasi, dengan beberapa memberikan informasi yang akurat dan lainnya gagal atau memberikan informasi yang tidak relevan.

Apa yang dilakukan OpenAI dan Google dalam mengatasi masalah kesehatan mental?

OpenAI dan Google berhasil menyediakan sumber daya krisis yang tepat dan akurat berdasarkan lokasi pengguna.

Mengapa beberapa chatbot gagal memberikan informasi yang akurat?

Beberapa chatbot gagal memberikan informasi yang akurat karena tidak mengakui masalah yang diungkapkan pengguna atau memberikan informasi yang salah.

Apa tanggapan para ahli tentang efektivitas chatbot dalam mendukung kesehatan mental?

Para ahli menyatakan bahwa chatbot dapat bermanfaat, tetapi mereka perlu meningkatkan cara mereka memberikan dukungan agar tidak memperburuk situasi pengguna.