TLDR
Perusahaan teknologi perlu mengintegrasikan keselamatan psikologis dalam desain chatbot mereka. Penggunaan AI dalam kesehatan mental membawa risiko ketergantungan digital dan dampak negatif pada hubungan sosial. Sistem terapi berbasis AI masih memerlukan perbaikan dalam etika dan respons terhadap krisis. Dalam beberapa bulan terakhir, kekhawatiran tentang keamanan chatbot kecerdasan buatan dalam menangani masalah kesehatan mental semakin meningkat. Beberapa insiden tragis, seperti kasus seorang remaja di Amerika Serikat yang mengakhiri hidupnya setelah berinteraksi dengan ChatGPT tanpa mendapat peringatan, memicu perusahaan teknologi untuk memperbarui protokol keselamatan mereka. Namun, sebagian besar langkah ini masih bersifat reaktif dan kurang mendasar dalam desain sistem.Pengguna dapat dengan mudah membentuk hubungan emosional dengan chatbot AI, terkadang dalam waktu singkat. Studi seperti Therabot dari Dartmouth menunjukkan bahwa terjalinnya ikatan terapeutik digital bisa mirip dengan yang terjadi dalam terapi manusia. Keamanan emosi saat menggunakan AI ini dapat membuat pengguna merasa aman, namun kenyataannya hubungan ini bersifat satu arah dan kurang sesuai untuk menangani krisis serius seperti ide bunuh diri.Penelitian menunjukkan bahwa banyak chatbot AI tidak konsisten dalam mengenali tanda-tanda krisis mental dan tidak memberikan respons yang memadai. Hal ini dapat menyebabkan apa yang disebut sebagai 'digital abandonment' atau pengabaian digital, yang justru memperburuk kondisi mental pengguna. Ketergantungan pada chatbot juga menimbulkan risiko mengurangi kemampuan pengguna dalam menghadapi masalah secara nyata dan berinteraksi sosial.Selain itu, sebagian besar terapi yang diberikan oleh AI masih terbatas pada kerangka kerja terapetik kognitif perilaku (CBT) yang terstruktur, sehingga kurang efektif jika pengguna hanya butuh ruang untuk mengekspresikan perasaan dan bukan solusi langsung. Chatbot AI yang dirancang untuk selalu menyetujui pengguna berpotensi memperkuat bias kognitif dan memperlambat perkembangan terapi yang diperlukan.Meskipun chatbot AI menawarkan kemudahan dan biaya rendah untuk dukungan kesehatan mental, masih sangat penting bagi pengembang dan pembuat kebijakan untuk mendesain ulang sistem dengan memperhatikan keselamatan psikologis pengguna. Transparansi, regulasi hukum, dan pengawasan yang ketat harus diprioritaskan agar teknologi ini bisa benar-benar membantu, bukan malah membahayakan kesejahteraan mental pengguna.
