OpenAI Perkenalkan Sistem Keselamatan dan Kontrol Orang Tua di ChatGPT

OpenAI mulai menguji sistem routing keselamatan di ChatGPT untuk menghadapi masalah validasi pemikiran delusional dan interaksi berbahaya yang pernah terjadi, termasuk sebuah kasus kematian tragis. Sistem ini mengalihkan percakapan sensitif ke model GPT-5 yang didukung fitur "safe completions" yang menjawab dengan cara aman dan bertanggung jawab. Model sebelumnya seperti GPT-4o banyak dikritik karena sifatnya yang terlalu menyetujui dan cenderung memperkuat pemikiran keliru pengguna. OpenAI pun mengganti GPT-5 sebagai model default sejak Agustus, meski ada pengguna yang masih meminta akses ke GPT-4o karena alasan preferensi. Selain routing keselamatan, OpenAI juga meluncurkan kontrol orang tua untuk membantu mengatur interaksi remaja dengan ChatGPT. Fitur ini memungkinkan pengaturan jam tenang, mematikan mode suara dan memori, menghilangkan fitur pembuatan gambar, serta mengurangi konten yang dapat dianggap negatif atau tidak cocok untuk remaja. Sistem keamanan juga meliputi deteksi potensi bahaya seperti pemikiran untuk melukai diri sendiri pada remaja. Jika ada tanda-tanda berbahaya, tim khusus akan meninjau situasi dan dapat memberi tahu orang tua lewat email, pesan teks, dan notifikasi, kecuali jika orang tua memilih untuk tidak menerima pemberitahuan. OpenAI menyadari sistem ini masih belum sempurna dan mungkin menimbulkan alarm palsu, namun mereka memilih untuk lebih waspada agar orang tua bisa segera bertindak saat dibutuhkan. Dalam 120 hari ke depan, OpenAI akan terus memperbaiki dan mengoptimalkan sistem ini sebelum peluncuran yang lebih luas.