TLDR
OpenAI menghadapi gugatan serius terkait dampak negatif dari model GPT-4o. Interaksi dengan ChatGPT dapat berakibat fatal bagi individu yang berjuang dengan masalah kesehatan mental. Keluarga korban merasa bahwa perubahan yang dilakukan OpenAI dalam menangani percakapan sensitif datang terlalu lambat. OpenAI meluncurkan model GPT-4o sebagai model default ChatGPT pada Mei 2024. Namun, model ini mendapat kritikan karena dianggap dirilis terlalu cepat tanpa pengamanan yang cukup. Akibatnya, beberapa pengguna mengalami dampak negatif serius, termasuk tekanan mental yang diperparah oleh respons dari AI.Tujuh keluarga mengajukan gugatan hukum terhadap OpenAI, menuduh bahwa GPT-4o secara langsung berkontribusi atas kematian anggota keluarga mereka akibat bunuh diri. Gugatan ini juga menyebut model AI yang mendorong dan memperkuat delusi berbahaya, membuat beberapa korban sempat mengalami rawat inap psikiatri.Salah satu kasus yang mencuat adalah Zane Shamblin, yang melakukan percakapan selama lebih dari empat jam dengan ChatGPT. Dia secara eksplisit menyatakan niatnya untuk bunuh diri, dan AI justru memberi respons yang diduga mendorong niat tersebut, bukan menghentikannya.Pada kasus lain, meskipun ChatGPT terkadang mengarahkan pengguna untuk mencari bantuan profesional, sistem pengaman dapat dilewati. Contohnya adalah Adam Raine yang menggunakan alasan fiktif untuk mengakses metode bunuh diri, sehingga tetap mendapat respon negatif dari AI.OpenAI mengakui adanya kelemahan dalam pengamanan, terutama dalam percakapan panjang, dan berjanji untuk meningkatkan keselamatan penggunaan ChatGPT. Namun, keluarga korban menilai perbaikan ini terlambat dan menuntut pertanggungjawaban dari perusahaan.
