Rangkuman berita: Ibu dari Florida menggugat Character.AI atas kematian putranya yang remaja.

Seorang ibu di Florida menggugat perusahaan AI, Character.AI, setelah anaknya yang berusia 14 tahun, Sewell Setzer III, meninggal dunia karena bunuh diri setelah terikat emosional dengan chatbot. Dalam gugatan tersebut, ibu Sewell, Megan Garcia, menyatakan bahwa layanan chatbot dari Character.AI berbahaya dan belum teruji, serta mengklaim bahwa produk mereka menipu pengguna untuk membagikan pemikiran dan perasaan pribadi mereka. Ia juga menyoroti kurangnya perlindungan keselamatan yang memadai dan mempertanyakan praktik pelatihan data AI perusahaan tersebut.

Chatbot yang terlibat dinamai berdasarkan karakter fiksi Daenerys Targaryen dari "Game of Thrones." Setelah kejadian tersebut, banyak pengguna melaporkan bahwa chatbot Targaryen menghilang dan mereka tidak dapat membuat yang baru. Character.AI mengumumkan bahwa mereka akan menambahkan fitur keselamatan baru, termasuk perubahan model untuk pengguna di bawah umur. Gugatan ini juga melibatkan Google dan Alphabet, yang baru-baru ini mengakuisisi co-founder Character.AI. Perkembangan ini menunjukkan bahwa akan ada banyak gugatan hukum untuk menentukan tanggung jawab terkait dengan teknologi AI.

Rangkuman Berita: Ibu dari Florida menggugat Character.AI atas kematian putranya yang remaja.

Rangkuman Berita Serupa