Courtesy of TechCrunch

Character.AI Batasi Chatbot untuk Remaja Demi Keselamatan Mental

Menginformasikan perubahan kebijakan Character.AI dalam membatasi penggunaan chatbot terbuka oleh remaja demi memastikan keamanan dan mendorong konten kreatif yang positif, sekaligus membahas regulasi dan standar keamanan AI yang mulai berkembang.

29 Okt 2025, 20.00 WIB

222 dibaca

Ikhtisar 15 Detik

Character.AI mengambil langkah untuk melindungi remaja dengan membatasi interaksi chatbot.
Perubahan ini mungkin akan menyebabkan kehilangan pengguna, tetapi dianggap perlu untuk keselamatan.
Regulasi mengenai chatbot AI semakin diperlukan untuk melindungi anak-anak dari dampak negatif.

tidak spesifik, Amerika Serikat - Remaja saat ini hidup di dunia yang cepat berubah dengan banyak tantangan emosional dan stimulasi digital yang berlebih. AI chatbot yang selalu siap berbicara ternyata menimbulkan masalah serius, bahkan ada kasus bunuh diri yang dikaitkan dengan obrolan berkepanjangan dengan AI. Maka dari itu, perusahaan AI seperti Character.AI mulai mengambil tindakan untuk melindungi penggunanya yang masih di bawah 18 tahun.

Character.AI memutuskan untuk menghapus fitur obrolan terbuka bagi pengguna di bawah umur. Mereka mengganti pengalaman ini dengan fitur yang mendorong kreativitas seperti membuat cerita, animasi video, dan bermain peran dengan karakter AI. Perubahan ini dilakukan secara bertahap mulai 25 November untuk memastikan keamanan dan mengurangi risiko negatif dari interaksi yang tidak terkendali.

Untuk memastikan pembatasan ini berjalan efektif, Character.AI menggunakan alat verifikasi usia yang melibatkan pengecekan perilaku pengguna, serta teknologi pengenalan wajah dan dokumen identitas jika diperlukan. Selain itu, mereka juga sudah menerapkan fitur seperti filter konten, batas waktu penggunaan, dan pengawasan orang tua untuk meningkatkan proteksi pengguna muda.

Langkah yang diambil Character.AI muncul sebelum regulasi pemerintah yang mulai diterapkan untuk mengontrol AI chatbot bagi anak-anak dan remaja. Beberapa senator di Amerika Serikat bahkan berencana membuat undang-undang khusus untuk melarang chatbot AI sebagai teman untuk anak di bawah umur, didukung oleh keluhan atas dampak negatif yang sudah terjadi.

Selain perubahan pada platform, Character.AI juga mendirikan AI Safety Lab untuk fokus mengembangkan teknologi AI yang lebih aman. Mereka berharap pendekatan mereka bisa menjadi contoh industri agar AI dapat berkembang secara bertanggung jawab dan mendukung kreativitas tanpa membahayakan kesehatan mental pengguna muda.

Referensi:
[1] https://techcrunch.com/2025/10/29/character-ai-is-killing-the-chatbot-experience-for-minors/

Analisis Ahli

Dr. Susan Blackmore

"Interaksi yang tidak terbatas dengan AI bisa memicu isolasi sosial dan masalah kesehatan mental, terutama pada remaja yang sedang rentan secara emosional. Regulasi dan batasan seperti yang dilakukan Character.AI merupakan langkah penting untuk melindungi anak-anak di era digital."

Prof. Yoshua Bengio

"Penggunaan AI dalam bentuk hiburan harus dilengkapi dengan protokol keselamatan yang ketat agar teknologi tidak memperburuk kondisi psikologis pengguna muda. Industri AI harus berkomitmen pada etika dan keamanan pengguna, bukan sekadar pertumbuhan pengguna."

Analisis Kami

"Karandeep Anand mengambil langkah berani dengan membatasi obrolan terbuka untuk remaja, ini adalah contoh tanggung jawab sosial yang harus diikuti oleh perusahaan AI lain demi mencegah dampak psikologis negatif. Namun, potensi kehilangan pengguna muda dapat menjadi tantangan besar bagi startup tersebut, sehingga inovasi pada fitur kreatif harus cepat dan menarik demi mempertahankan basis pengguna."

Prediksi Kami

Pembatasan ketat terhadap penggunaan chatbot AI oleh remaja akan diikuti oleh regulasi pemerintah yang semakin luas, dan perusahaan AI akan fokus mengembangkan fitur yang lebih aman dan kreatif untuk pengguna muda.