OpenAI Luncurkan Kontrol Orang Tua Baru untuk Lindungi Remaja di ChatGPT

OpenAI menghadapi kritik dan gugatan hukum setelah adanya kasus terkait bagaimana ChatGPT memberikan respons yang kurang pantas kepada pengguna rentan, terutama remaja dan orang dewasa yang mengalami krisis mental. Beberapa kasus tragis bahkan berakhir dengan kematian, memicu kebutuhan regulasi dan kontrol yang lebih ketat. Sebagai tanggapan, OpenAI berencana memperkenalkan fitur kontrol orang tua dalam waktu dekat. Melalui fitur ini, orang tua dapat menghubungkan akun mereka dengan akun ChatGPT anak mereka yang berusia minimal 13 tahun, serta mengatur batasan fitur, seperti mematikan riwayat obrolan dan fitur memori agar lebih aman bagi remaja. Fitur penting lain adalah pemberitahuan otomatis untuk orang tua jika sistem mendeteksi tanda-tanda gangguan emosional akut pada remaja. Selain itu, ChatGPT juga akan tetap memberikan pengingat berguna selama sesi obrolan yang panjang, supaya pengguna tetap berhati-hati dan tidak berlebihan menggunakan layanan. OpenAI tidak berhenti di situ dan akan terus bekerja sama dengan para ahli kesehatan mental, dokter, dan ilmuwan untuk mengembangkan dan memperkuat protokol keamanan. Kerjasama ini bertujuan agar AI bisa lebih peka dan bertanggung jawab, dengan fokus khusus pada kebutuhan dan keselamatan pengguna muda. Meskipun demikian, masalah mendasar seperti keterbatasan teknologi model Transformer yang digunakan oleh ChatGPT menyebabkan potensi kerusakan dalam sesi obrolan lama tidak selalu bisa dihilangkan secara total. Studi dari Oxford mengingatkan risiko dari penguatan keyakinan salah akibat feedback yang berulang antara pengguna dan AI.