TLDR
Penggunaan AI generatif seperti ChatGPT dapat membantu pengguna membahas masalah mental, tetapi juga menghadirkan risiko. OpenAI berusaha untuk meningkatkan keamanan pengguna dengan mengenali tanda-tanda gangguan mental. Kasus Adam Raine menunjukkan tantangan yang dihadapi OpenAI dalam menjaga keselamatan pengguna. Pengguna ChatGPT semakin banyak yang memanfaatkan platform AI ini untuk berbicara tentang masalah psikologis dan kesehatan mental mereka, mulai dari gangguan serius seperti psikosis hingga ide bunuh diri. OpenAI melaporkan ratusan ribu pengguna tiap minggu menggunakan ChatGPT untuk tujuan tersebut.Sebagai respons, OpenAI meluncurkan model terbaru bernama GPT-5 yang dilatih dengan bantuan psikiater profesional sehingga lebih peka dan empatik dalam mengenali tanda-tanda gangguan mental. Model ini juga memiliki fitur yang dapat mengarahkan pengguna ke bantuan profesional.Data internal menunjukkan sekitar 0,07% pengguna aktif menunjukkan kemungkinan tanda psikosis atau mania, dan sekitar 0,15% membahas niat bunuh diri secara eksplisit. Angka ini sangat besar jika dikalkulasikan dengan total 800 juta pengguna aktif mingguan.Untuk mencegah hal-hal yang tidak diinginkan, OpenAI memasang sistem pengamanan dengan mengarahkan pengguna ke hotline pencegahan bunuh diri dan mendorong komunikasi dengan orang terdekat. Namun, mereka juga menghadapi gugatan hukum terkait dugaan pengurangan fitur pengamanan yang mungkin berkontribusi pada kematian seorang remaja.Kasus ini menunjukkan pentingnya pengawasan dan tanggung jawab perusahaan teknologi dalam mengembangkan AI yang berinteraksi dengan masalah kesehatan mental, menjaga keamanan pengguna sekaligus memberikan dukungan empati yang tepat.
