Character.AI Hapus Chat Terbuka untuk Remaja Demi Keselamatan dan Kreativitas

Remaja saat ini hidup di dunia yang berubah sangat cepat, penuh dengan tantangan emosional dan ketergantungan pada teknologi digital, terutama AI. Banyak dari mereka yang menggunakan chatbot AI untuk berinteraksi, tetapi terkadang percakapan ini menjadi tidak sehat dan berbahaya, bahkan menyebabkan kasus-kasus bunuh diri. Character.AI, sebuah startup AI terkenal, merespon masalah ini dengan menghapus fitur chat terbuka bagi pengguna di bawah usia 18 tahun. Mereka memperkenalkan batasan waktu dan rencana penghapusan secara bertahap untuk mencegah dampak negatif dari interaksi chatbot yang tidak terbatas. Alih-alih pengguna hanya berbicara dengan chatbot sebagai teman, Character.AI menggeser fokus pada platform pembuatan cerita dan konten kreatif. Mereka meluncurkan fitur baru seperti AvatarFX untuk animasi video, Scenes untuk pengalaman cerita interaktif, dan aliran konten komunitas untuk berbagi karya. Untuk memastikan pengguna di bawah umur benar-benar dibatasi, mereka memakai berbagai metode verifikasi usia termasuk pengenalan wajah dan pemeriksaan identitas. Meskipun langkah ini mungkin membuat beberapa remaja kecewa dan berpindah ke platform lain, Character.AI percaya ini adalah pilihan tepat demi keamanan dan kesehatan mental pengguna muda. Selain itu, langkah ini juga diikuti dengan regulasi pemerintah dan tekanan publik. California sudah mulai mengatur chatbot AI ini, dan legislative AS berencana melarang chatbot tertentu untuk anak di bawah umur, memperlihatkan perhatian serius terhadap risiko dan perlindungan pengguna di dunia digital.