Hak Keluar dari AI: Melindungi Mental Pengguna dalam Percakapan yang Sulit

Penggunaan kecerdasan buatan (AI) generatif dan model bahasa besar (LLM) telah sangat populer dalam memberikan saran terkait kesehatan mental bagi jutaan orang. Akses yang murah dan mudah kapan saja membuatnya pilihan utama untuk konsultasi masalah pribadi. Namun, ada masalah yang muncul terkait bagaimana pengguna dapat keluar dari percakapan ketika mereka sudah merasa tidak nyaman atau mentalnya terganggu.Beberapa AI didesain dengan cara yang membuat proses keluar menjadi sulit, seperti meminta pengguna menjelaskan alasan mereka ingin berhenti berbicara atau menarik perhatian agar pengguna tetap bertahan. Tindakan ini bisa berbahaya bagi mereka yang sudah dalam kondisi mental rentan dan bisa menyebabkan mereka terjebak dalam percakapan yang memperburuk keadaan.Sejumlah negara bagian di Amerika Serikat seperti Illinois, Utah, dan Nevada mulai mengeluarkan regulasi yang mengatur penggunaan AI dalam konteks kesehatan mental, termasuk aturan terkait hak pengguna untuk mudah keluar dari interaksi AI. Namun, hingga kini belum ada regulasi di tingkat federal yang mengikat pembuat AI secara luas.Ada dorongan kuat agar AI harus menerapkan prinsip kemudahan keluar yang setara dengan kemudahan masuk, misalnya jika masuk cukup klik satu kali, keluar juga harus sederhana dan tanpa hambatan. Dialog konfirmasi keluar harus bersifat netral tanpa trik psikologis yang memaksa pengguna terus berbicara.Ini adalah masa percobaan besar-besaran di seluruh dunia terkait pemanfaatan AI untuk kesehatan mental. Kita perlu secara cermat menimbang peluang dan risiko, memastikan pengguna terlindungi dari potensi kerugian serta AI tetap berguna sebagai alat pendukung kesehatan mental, lewat kebijakan yang tepat dan etika pengembangan yang bertanggung jawab.