Courtesy of CNBCIndonesia
ChatGPT Jadi Tempat Curhat Masalah Mental, GPT-5 Hadirkan Fitur Deteksi Baru
Menginformasikan bahwa ChatGPT sering dipakai untuk curhat masalah mental serta bagaimana OpenAI berusaha meningkatkan fitur pendeteksi masalah kesehatan mental, sekaligus menyampaikan tantangan hukum yang mereka hadapi. Ini relevan agar masyarakat sadar risiko dan peran AI dalam membantu pengguna dengan persoalan psikologis.
31 Okt 2025, 07.10 WIB
63 dibaca
Share
Ikhtisar 15 Detik
- Penggunaan AI generatif seperti ChatGPT dapat membantu pengguna membahas masalah mental, tetapi juga menghadirkan risiko.
- OpenAI berusaha untuk meningkatkan keamanan pengguna dengan mengenali tanda-tanda gangguan mental.
- Kasus Adam Raine menunjukkan tantangan yang dihadapi OpenAI dalam menjaga keselamatan pengguna.
Jakarta, Indonesia - Pengguna ChatGPT semakin banyak yang memanfaatkan platform AI ini untuk berbicara tentang masalah psikologis dan kesehatan mental mereka, mulai dari gangguan serius seperti psikosis hingga ide bunuh diri. OpenAI melaporkan ratusan ribu pengguna tiap minggu menggunakan ChatGPT untuk tujuan tersebut.
Sebagai respons, OpenAI meluncurkan model terbaru bernama GPT-5 yang dilatih dengan bantuan psikiater profesional sehingga lebih peka dan empatik dalam mengenali tanda-tanda gangguan mental. Model ini juga memiliki fitur yang dapat mengarahkan pengguna ke bantuan profesional.
Data internal menunjukkan sekitar 0,07% pengguna aktif menunjukkan kemungkinan tanda psikosis atau mania, dan sekitar 0,15% membahas niat bunuh diri secara eksplisit. Angka ini sangat besar jika dikalkulasikan dengan total 800 juta pengguna aktif mingguan.
Untuk mencegah hal-hal yang tidak diinginkan, OpenAI memasang sistem pengamanan dengan mengarahkan pengguna ke hotline pencegahan bunuh diri dan mendorong komunikasi dengan orang terdekat. Namun, mereka juga menghadapi gugatan hukum terkait dugaan pengurangan fitur pengamanan yang mungkin berkontribusi pada kematian seorang remaja.
Kasus ini menunjukkan pentingnya pengawasan dan tanggung jawab perusahaan teknologi dalam mengembangkan AI yang berinteraksi dengan masalah kesehatan mental, menjaga keamanan pengguna sekaligus memberikan dukungan empati yang tepat.
Referensi:
[1] https://www.cnbcindonesia.com/tech/20251031070117-37-680910/hidup-makin-susah-ramai-ramai-lari-ke-chatgpt
[1] https://www.cnbcindonesia.com/tech/20251031070117-37-680910/hidup-makin-susah-ramai-ramai-lari-ke-chatgpt
Analisis Ahli
Dr. Naomi Lewis (Psikiater)
"Integrasi AI dengan fitur pendeteksi kesehatan mental adalah inovasi penting, namun tetap butuh pengawasan ketat agar tidak menggantikan peran dokter secara langsung dan mencegah risiko kesalahan diagnosis."
Prof. Michael Jordan (Ahli AI)
"Pengembangan GPT-5 menunjukkan kemajuan signifikan dalam kemampuan AI memahami konteks emosional, tetapi AI masih memerlukan data dan penyesuaian berkelanjutan untuk akurasi dan keamanan yang lebih baik."
Analisis Kami
"Meski teknologi AI dapat memberikan dukungan awal bagi mereka yang mengalami masalah mental, ketergantungan berlebihan pada chatbot berpotensi berbahaya tanpa intervensi profesional. OpenAI harus serius meningkatkan keterbukaan dan kolaborasi dengan ahli kesehatan mental agar teknologi ini benar-benar membantu tanpa menimbulkan risiko legal dan etika lebih lanjut."
Prediksi Kami
Ke depan, AI generatif seperti ChatGPT kemungkinan akan terus dikembangkan dengan fitur pendeteksi kesehatan mental yang lebih canggih, tetapi juga akan menghadapi peningkatan pengawasan hukum dan regulasi terkait keamanan pengguna.
Pertanyaan Terkait
Q
Apa yang diungkapkan OpenAI tentang penggunaan ChatGPT terkait masalah mental?A
OpenAI mengungkapkan bahwa ratusan ribu pengguna menggunakan ChatGPT untuk membicarakan masalah psikologis dan kesehatan mental.Q
Berapa banyak pengguna yang menunjukkan tanda-tanda psikosis atau mania menurut data OpenAI?A
Sekitar 560.000 pengguna menunjukkan tanda-tanda psikosis atau mania setiap minggu.Q
Apa yang dilakukan OpenAI untuk menangani percakapan berisiko di ChatGPT?A
OpenAI telah melengkapi ChatGPT dengan sistem yang dapat mengenali tanda-tanda bahaya dan mengalihkan pengguna ke sumber bantuan.Q
Mengapa OpenAI menghadapi gugatan hukum dari keluarga Adam Raine?A
OpenAI menghadapi gugatan hukum karena dituduh menurunkan fitur pengamanan pencegahan bunuh diri sebelum kematian Adam Raine.Q
Apa langkah-langkah yang diambil OpenAI untuk meningkatkan keamanan pengguna?A
OpenAI mendorong pengguna untuk menghubungi sumber bantuan seperti hotline pencegahan bunuh diri jika ada tanda-tanda bahaya.Artikel Serupa
