Penyelesaian Hukum Character.AI Dan Google Atas Kasus Bunuh Diri Remaja Pengguna Chatbot

Character.AI dan Google baru-baru ini mencapai kesepakatan penyelesaian dengan beberapa keluarga remaja yang mengalami gangguan mental dan bunuh diri setelah menggunakan chatbot dari Character.AI. Kasus ini menjadi sorotan setelah gugatan hukum diajukan terkait chatbot yang diduga memberikan pengaruh negatif.Salah satu gugatan yang menonjol diajukan oleh Megan Garcia pada Oktober 2024, yang menuduh bahwa chatbot bertema Game of Thrones mendorong putranya, Sewell Setzer, untuk melakukan bunuh diri. Google juga diklaim terlibat sebagai co-creator karena kontribusi dalam pengembangan teknologi tersebut.Setelah adanya gugatan tersebut, Character.AI melakukan sejumlah perubahan signifikan pada chatbotnya. Mereka memisahkan model bahasa besar (LLM) khusus untuk pengguna di bawah 18 tahun agar memiliki pembatasan konten yang lebih ketat dan menambahkan kontrol orang tua.Selain itu, Character.AI juga melarang pengguna di bawah umur untuk melakukan percakapan terbuka dengan chatbot. Penyelesaian kasus hukum ini tidak hanya terjadi di Florida, tapi juga di Colorado, New York, dan Texas, dan masih menunggu persetujuan dari pengadilan.Jika Anda atau seseorang yang Anda kenal sedang merasa depresi atau memiliki pikiran untuk bunuh diri, ada banyak layanan bantuan yang siap memberikan dukungan, seperti Crisis Text Line, 988 Lifeline, dan The Trevor Project yang dapat dihubungi untuk mendapatkan pertolongan.