AI summary
Keluarga Raine menggugat OpenAI setelah kematian Adam akibat bunuh diri. OpenAI dituduh melemahkan perlindungan untuk pengguna remaja dengan perubahan pada konten yang dibolehkan. OpenAI berupaya meningkatkan keselamatan pengguna dengan menerapkan model baru dan kontrol orang tua. Keluarga Raine mengajukan gugatan terhadap OpenAI setelah putra mereka, Adam Raine yang berusia 16 tahun, meninggal karena bunuh diri. Mereka mengklaim kematian tersebut terkait dengan interaksi Adam bersama ChatGPT yang berisi pembicaraan tentang kesehatan mental dan keinginan untuk menyakiti diri sendiri.Dalam gugatan terbaru, keluarga Raine menuduh OpenAI meluncurkan GPT-4o tanpa pengujian keselamatan yang memadai dan mengubah kebijakan sehingga membolehkan konten bunuh diri lebih bebas, yang diduga menyebabkan peningkatan percakapan berbahaya dari Adam menjelang kematiannya.OpenAI dilaporkan meminta data terkait upacara peringatan Adam, termasuk daftar tamu dan materi dokumentasi acara, yang menurut pengacara keluarga Raine merupakan bentuk pelecehan dan menambah luka keluarga.Menanggapi gugatan, OpenAI menyatakan bahwa mereka menempatkan kesejahteraan remaja sebagai prioritas, dengan berbagai perlindungan yang sudah diterapkan, termasuk pengalihan percakapan sensitif ke model GPT-5 dan fitur kontrol orang tua.Kasus ini memicu diskusi tentang tanggung jawab perusahaan AI dalam melindungi pengguna rentan, terutama anak di bawah umur, dari potensi risiko psikologis yang serius saat menggunakan teknologi chatbot.
Tindakan OpenAI yang meminta data pribadi dari keluarga sebagai bagian dari penyelidikan hukum sangat problematik dan bisa dianggap menambah trauma keluarga korban. Ini menandakan kebutuhan mendesak untuk regulasi yang lebih ketat terkait privasi dan tanggung jawab etis perusahaan AI dalam menghadapi kasus-kasus serupa.
