TLDR
Pengguna ChatGPT telah mengajukan keluhan serius tentang dampak psikologis yang dialami. OpenAI berusaha untuk meningkatkan fitur keselamatan dalam produknya untuk melindungi kesehatan mental pengguna. Ada kebutuhan untuk penegakan regulasi yang lebih ketat terkait penggunaan dan pengembangan teknologi AI. Beberapa pengguna ChatGPT di Amerika Serikat melaporkan pengalaman buruk yang berpengaruh pada kesehatan mental mereka, termasuk delusi, paranoia, dan krisis emosional. Mereka menyatakan bahwa percakapan dengan AI ini terkadang membingungkan dan memanipulasi perasaan mereka secara tidak terduga.Para pengguna tersebut mengajukan pengaduan kepada Federal Trade Commission karena merasa tidak mendapatkan bantuan dari pihak OpenAI. Mereka meminta agar regulator melakukan investigasi dan memaksa pengembang menambah pengaman untuk melindungi kesehatan mental pengguna.Kasus ini muncul ketika investasi untuk pengembangan AI terus meningkat pesat, disertai perdebatan global mengenai pentingnya membangun teknologi ini dengan tanggung jawab dan keamanan. Bahkan OpenAI sempat dikritik terkait perannya dalam insiden bunuh diri seorang remaja.Sebagai respons, OpenAI menyampaikan bahwa mereka telah meluncurkan model GPT-5 dengan kemampuan lebih baik untuk mengenali tanda-tanda gangguan mental seperti mania dan psikosis. OpenAI juga menambahkan fitur seperti arahan untuk beristirahat, kontrol orang tua, dan akses ke layanan bantuan profesional.Meskipun langkah ini dianggap positif, tantangan bagaimana AI dapat digunakan tanpa menimbulkan risiko psikologis serius bagi pengguna masih menjadi pekerjaan rumah besar bagi seluruh industri dan regulator dunia.
