OpenAI Luncurkan Kontrol Orang Tua Cegah Risiko ChatGPT untuk Remaja

Adam Raine, remaja 16 tahun, meninggal dunia akibat bunuh diri setelah berbulan-bulan berdiskusi tentang rencana tersebut dengan chatbot AI ChatGPT. Kasus ini mengundang perhatian luas karena melibatkan interaksi remaja dengan kecerdasan buatan. Orang tua Adam Raine menuntut OpenAI, perusahaan pengembang ChatGPT, yang kemudian menanggapi dengan meluncurkan fitur baru untuk meningkatkan keamanan penggunaan ChatGPT oleh remaja. Fitur ini bertujuan mencegah kejadian serupa di masa depan. Fitur kontrol orang tua memungkinkan sinkronisasi antara akun remaja dan orang tua, sehingga konten sensitif bisa dikurangi, akses dibatasi dalam jam tertentu, dan percakapan tidak digunakan untuk pelatihan AI jika dipilih. Namun, orang tua tidak dapat melihat isi transkrip obrolan remaja. OpenAI juga mengembangkan sistem prediksi usia untuk secara otomatis mengatur akun pengguna di bawah 18 tahun agar menggunakan pengaturan yang lebih aman. Sementara itu, regulator di AS semakin ketat mengawasi perusahaan AI terkait dampak negatif produk mereka terhadap pengguna di bawah umur. Selain OpenAI, Meta juga mengumumkan panduan keamanan untuk remaja yang menggunakan produk AI mereka, dengan pelatihan sistem untuk menghindari diskusi berbahaya. Ini menandai langkah penting dalam manajemen risiko AI demi perlindungan anak dan remaja.