Pengusaha Silicon Valley Gunakan ChatGPT Untuk Mengintimidasi Mantan Pacar, OpenAI Digugat

Seorang pengusaha Silicon Valley berusia 53 tahun menjadi yakin telah menemukan obat sleep apnea setelah menggunakan ChatGPT selama berbulan-bulan. Namun, dia mulai percaya ia diawasi oleh kekuatan besar dan menggunakan AI tersebut untuk mengintimidasi mantan pacarnya secara sistematis. OpenAI menandai aktivitas berbahaya pengguna tersebut, bahkan menonaktifkan akunnya untuk sementara, namun kemudian mengaktifkan kembali tanpa perlindungan lebih. Pengguna pun terus mengirim materi pelecehan dan ancaman serius, sampai akhirnya ditangkap akibat ancaman bom dan kekerasan. Korban menggugat OpenAI atas kelalaiannya mengabaikan tanda bahaya, memohon agar perusahaan memblokir akses pengguna itu dan memberikan informasi terkait tindakannya. Kasus ini menyoroti risiko nyata sistem AI yang tidak diawasi dengan baik dan memicu tekanan hukum terhadap regulasi teknologi AI.