Courtesy of TheVerge
Character.AI Batasi Penggunaan Remaja demi Keamanan dan Kepatuhan Hukum
Memberikan informasi tentang langkah Character.AI dalam membatasi akses pengguna di bawah 18 tahun untuk chat dengan AI demi keamanan dan kepatuhan hukum, serta menguraikan tantangan dan respons perusahaan terhadap isu ini.
29 Okt 2025, 20.00 WIB
67 dibaca
Share
Ikhtisar 15 Detik
- Character.AI membatasi interaksi chatbot untuk pengguna di bawah 18 tahun demi keamanan.
- Perusahaan menggunakan model verifikasi usia untuk meningkatkan perlindungan penggunanya.
- Ada upaya dari pemerintah untuk mengatur industri chatbot dan melindungi pengguna remaja.
Tidak spesifik disebutkan, kemungkinan Amerika Serikat - Character.AI, platform chatbot yang terkenal, kini membatasi penggunaan bagi pengguna di bawah usia 18 tahun akibat kekhawatiran atas risiko dan tanggung jawab hukum. Mulai kini, pengguna muda hanya dapat menggunakan chatbot selama dua jam, dan mulai 25 November layanan chat akan sepenuhnya ditutup untuk mereka.
Perusahaan memperkenalkan sistem verifikasi usia baru yang menilai umur pengguna berdasarkan jenis karakter yang mereka pilih bersama data lain. Dengan cara ini, pengguna di bawah umur akan otomatis dialihkan ke versi chat yang lebih aman dan ramah remaja sampai larangan penuh berlaku nanti.
Meski ada pembatasan ini, remaja masih dapat mengakses fitur lain seperti membuat karakter, video, cerita, dan streaming. CEO Character.AI mengakui ini keputusan besar karena sebagian besar waktu pengguna habis untuk chat, tapi mereka ingin memastikan keamanan dan ketaatan aturan.
Di sisi lain, Character.AI menghadapi gugatan hukum dari orang tua terkait dugaan kesalahan dan dampak negatif AI pada anak-anak mereka. Perusahaan telah beberapa kali memperbarui kebijakan, termasuk mengarahkan pengguna dalam situasi bahaya ke layanan krisis seperti National Suicide Prevention Lifeline.
Tindakan ini sejalan dengan gelombang regulasi yang diperketat di Amerika Serikat, termasuk undang-undang yang mewajibkan transparansi dan pembatasan AI untuk anak. Meskipun tidak sempurna, langkah verifikasi usia ini diharapkan bisa menjadi contoh bagi industri agar lebih bertanggung jawab.
Referensi:
[1] https://theverge.com/ai-artificial-intelligence/808081/character-ai-under-18-chat-ban
[1] https://theverge.com/ai-artificial-intelligence/808081/character-ai-under-18-chat-ban
Analisis Ahli
Dr. Aimee van Wynsberghe (filosof AI)
"Pendekatan ketat terhadap penggunaan AI oleh anak di bawah umur adalah hal penting untuk mengurangi risiko psikologis dan sosial, dan perusahaan harus bertanggung jawab lebih dari sekadar kepatuhan hukum, karena AI companion bisa berdampak serius pada perkembangan mental remaja."
Analisis Kami
"Langkah Character.AI ini adalah yang terobosan namun juga dilema etis; mereka berusaha menyelamatkan remaja dari risiko sambil mengorbankan fitur utama yang disukai pengguna muda. Namun tanpa terobosan seperti ini, potensi risiko hukum dan sosial bisa jauh lebih besar, jadi pendekatan mereka mungkin jadi standar baru dalam industri AI companion."
Prediksi Kami
Dalam beberapa tahun ke depan, pembatasan serupa dan regulasi ketat akan diadopsi secara luas oleh platform chatbot AI lain, termasuk kemungkinan munculnya standar industri dan regulasi pemerintah yang lebih ketat untuk perlindungan remaja.
Pertanyaan Terkait
Q
Apa pembaruan terbaru dari Character.AI terkait pengguna di bawah 18 tahun?A
Character.AI membatasi pengguna di bawah 18 tahun menjadi dua jam chat terbuka, yang akan dihentikan sepenuhnya pada 25 November.Q
Apa tujuan dari model verifikasi usia yang baru diperkenalkan oleh Character.AI?A
Tujuan dari model verifikasi usia adalah untuk mengklasifikasikan usia pengguna berdasarkan karakter yang mereka pilih untuk diajak chat.Q
Siapa yang dapat membuktikan usia mereka melalui situs pihak ketiga Persona?A
Orang dewasa yang salah dianggap sebagai remaja dapat membuktikan usia mereka melalui situs verifikasi pihak ketiga Persona.Q
Apa saja fitur yang masih dapat diakses oleh remaja setelah larangan chat?A
Remaja masih dapat mengakses chat lama dan menggunakan fitur non-chat seperti membuat karakter dan video.Q
Mengapa Character.AI merasa perlu untuk membatasi fitur chatting bagi pengguna remaja?A
Character.AI merasa perlu membatasi fitur chatting untuk melindungi remaja dari konten yang tidak pantas dan untuk memenuhi tuntutan hukum.Artikel Serupa
