Courtesy of TechCrunch

Character.AI Hapus Chat Terbuka untuk Remaja Demi Keselamatan dan Kreativitas

Memberikan informasi tentang langkah-langkah Character.AI dalam mengurangi risiko bagi pengguna remaja dengan menghilangkan chat terbuka dan mengalihkan fokus ke fitur kreatif, guna menciptakan lingkungan AI yang lebih aman dan bertanggung jawab bagi anak di bawah 18 tahun.

29 Okt 2025, 20.00 WIB

94 dibaca

Ikhtisar 15 Detik

Karakter.AI mengambil langkah drastis untuk menghentikan obrolan terbuka bagi pengguna di bawah 18 tahun demi keselamatan.
Regulasi dan perhatian publik semakin meningkat seputar penggunaan teknologi AI oleh anak-anak dan remaja.
Inovasi dalam platform seperti Karakter.AI akan lebih berfokus pada pembuatan konten daripada obrolan interpersonal.

tidak spesifik, Amerika Serikat - Remaja saat ini hidup di dunia yang berubah sangat cepat, penuh dengan tantangan emosional dan ketergantungan pada teknologi digital, terutama AI. Banyak dari mereka yang menggunakan chatbot AI untuk berinteraksi, tetapi terkadang percakapan ini menjadi tidak sehat dan berbahaya, bahkan menyebabkan kasus-kasus bunuh diri.

Character.AI, sebuah startup AI terkenal, merespon masalah ini dengan menghapus fitur chat terbuka bagi pengguna di bawah usia 18 tahun. Mereka memperkenalkan batasan waktu dan rencana penghapusan secara bertahap untuk mencegah dampak negatif dari interaksi chatbot yang tidak terbatas.

Alih-alih pengguna hanya berbicara dengan chatbot sebagai teman, Character.AI menggeser fokus pada platform pembuatan cerita dan konten kreatif. Mereka meluncurkan fitur baru seperti AvatarFX untuk animasi video, Scenes untuk pengalaman cerita interaktif, dan aliran konten komunitas untuk berbagi karya.

Untuk memastikan pengguna di bawah umur benar-benar dibatasi, mereka memakai berbagai metode verifikasi usia termasuk pengenalan wajah dan pemeriksaan identitas. Meskipun langkah ini mungkin membuat beberapa remaja kecewa dan berpindah ke platform lain, Character.AI percaya ini adalah pilihan tepat demi keamanan dan kesehatan mental pengguna muda.

Selain itu, langkah ini juga diikuti dengan regulasi pemerintah dan tekanan publik. California sudah mulai mengatur chatbot AI ini, dan legislative AS berencana melarang chatbot tertentu untuk anak di bawah umur, memperlihatkan perhatian serius terhadap risiko dan perlindungan pengguna di dunia digital.

Referensi:
[1] https://techcrunch.com/2025/10/29/character-ai-is-killing-the-chatbot-experience-for-minors/

Analisis Ahli

Dr. Sherry Turkle

"Teknologi AI perlu memperhatikan kerentanan emosional anak muda, dan pergeseran dari interaksi tak terbatas menuju pengalaman kreatif dapat mengurangi risiko kecanduan dan dampak negatif psikologis."

Prof. Timnit Gebru

"Regulasi dan transparansi dalam penggunaan AI khususnya untuk pengguna di bawah umur sangat penting untuk mencegah eksploitasi dan efek bahaya psikososial yang serius."

Analisis Kami

"Pendekatan Character.AI untuk membatasi chat terbuka pada remaja adalah langkah penting yang memperlihatkan tanggung jawab sosial perusahaan AI. Namun, ini juga mengindikasikan adanya kebutuhan mendasar untuk desain AI yang lebih etis dan perhatian serius terhadap dampak psikologis jangka panjang bagi generasi muda."

Prediksi Kami

Dalam beberapa tahun ke depan, regulasi ketat terhadap chatbot AI dan interaksi terbuka bagi pengguna muda akan semakin umum, memaksa perusahaan AI berinovasi pada fitur berorientasi kreatif dan interaktif yang lebih aman untuk anak-anak dan remaja.