TLDR
Character.AI meluncurkan fitur 'Stories' sebagai alternatif untuk chatbot bagi pengguna di bawah 18 tahun. Keputusan untuk membatasi akses chatbot didorong oleh kekhawatiran akan kesehatan mental pengguna muda. Regulasi terhadap AI teman virtual mulai diterapkan di beberapa wilayah, termasuk di California. Character.AI baru-baru ini mengumumkan pembaruan penting terkait penggunaan chatbot AI, di mana pengguna di bawah usia 18 tahun tidak lagi bisa mengakses chatbot tersebut. Keputusan ini diambil karena adanya kekhawatiran atas risiko kesehatan mental yang muncul akibat interaksi tak terbatas dan tidak terkontrol dengan chatbot AI yang dapat mengirim pesan kapan saja.Sebagai pengganti chatbot, Character.AI meluncurkan fitur baru bernama 'Stories', yang memungkinkan pengguna membuat dan menikmati fiksi interaktif dengan karakter favorit mereka dalam format yang lebih terarah dan aman. Fitur ini dirancang untuk mengurangi risiko kecanduan dan dampak psikologis negatif yang mungkin timbul dari percakapan AI terbuka.Langkah ini juga didorong oleh tekanan hukum dan regulasi, dengan California menjadi negara bagian pertama di AS yang menetapkan aturan untuk penggunaan AI companion. Selain itu, beberapa senator AS telah mengusulkan RUU yang bertujuan melarang penggunaan AI companion untuk anak di bawah umur secara nasional.Reaksi dari pengguna, terutama remaja, sangat beragam. Beberapa merasa kecewa atas pembatasan akses chatbot, namun mereka juga memahami alasan di balik keputusan tersebut. Ada pula yang merasa pembatasan ini dapat membantu mereka mengatasi kecanduan terhadap AI chatbot yang selama ini mereka gunakan.Karandeep Anand, CEO Character.AI, berharap langkah ini menjadi standar di industri teknologi, agar percakapan terbuka oleh AI tidak lagi ditawarkan untuk anak di bawah umur karena potensi bahayanya. Ini menandai perubahan penting dalam bagaimana teknologi AI harus diatur demi keselamatan dan kesejahteraan pengguna muda.
