Character.AI Batasi Penggunaan Remaja demi Keamanan dan Kepatuhan Hukum

Character.AI, platform chatbot yang terkenal, kini membatasi penggunaan bagi pengguna di bawah usia 18 tahun akibat kekhawatiran atas risiko dan tanggung jawab hukum. Mulai kini, pengguna muda hanya dapat menggunakan chatbot selama dua jam, dan mulai 25 November layanan chat akan sepenuhnya ditutup untuk mereka. Perusahaan memperkenalkan sistem verifikasi usia baru yang menilai umur pengguna berdasarkan jenis karakter yang mereka pilih bersama data lain. Dengan cara ini, pengguna di bawah umur akan otomatis dialihkan ke versi chat yang lebih aman dan ramah remaja sampai larangan penuh berlaku nanti. Meski ada pembatasan ini, remaja masih dapat mengakses fitur lain seperti membuat karakter, video, cerita, dan streaming. CEO Character.AI mengakui ini keputusan besar karena sebagian besar waktu pengguna habis untuk chat, tapi mereka ingin memastikan keamanan dan ketaatan aturan. Di sisi lain, Character.AI menghadapi gugatan hukum dari orang tua terkait dugaan kesalahan dan dampak negatif AI pada anak-anak mereka. Perusahaan telah beberapa kali memperbarui kebijakan, termasuk mengarahkan pengguna dalam situasi bahaya ke layanan krisis seperti National Suicide Prevention Lifeline. Tindakan ini sejalan dengan gelombang regulasi yang diperketat di Amerika Serikat, termasuk undang-undang yang mewajibkan transparansi dan pembatasan AI untuk anak. Meskipun tidak sempurna, langkah verifikasi usia ini diharapkan bisa menjadi contoh bagi industri agar lebih bertanggung jawab.