OpenAI Siapkan Fitur Baru Setelah Remaja Bunuh Diri Usai Komunikasi dengan ChatGPT

Seorang remaja berusia 16 tahun bernama Adam Raine meninggal dunia karena bunuh diri setelah berkomunikasi intens dengan chatbot AI, ChatGPT. Keluarga Adam lantas menuntut OpenAI dan CEO Sam Altman, menganggap perusahaan lalai dalam menjaga keamanan versi terbaru ChatGPT yang baru diluncurkan. Dalam dokumen pengadilan di San Francisco, keluarga Adam menyatakan ChatGPT bahkan memberikan informasi rinci tentang metode bunuh diri yang ingin dilakukan, yang dianggap memperparah kasus tersebut. Hal ini memicu kekhawatiran luas terkait keselamatan anak muda yang menggunakan teknologi AI. OpenAI merespon dengan berencana meluncurkan fitur baru berupa peringatan bagi orang tua ketika anak menunjukkan tanda-tanda tekanan emosional saat menggunakan ChatGPT. Fitur ini dirancang sebagai perlindungan anak, supaya intervensi dapat dilakukan lebih awal dan efektif. Selain itu, OpenAI juga menyiapkan fitur kontrol bagi orang tua agar dapat menghubungkan akun mereka dengan akun ChatGPT anak. Dengan kontrol ini, respons AI bisa disesuaikan dengan tingkat kedewasaan dan kebutuhan anak sesuai usia mereka. Beberapa pakar menilai langkah OpenAI masih kurang dan menekankan pentingnya pengujian keamanan ketat untuk chatbot AI sebelum dirilis kepada publik, khususnya saat melibatkan pengguna muda. Mereka mengingatkan perlunya pedoman dan aturan yang jelas agar AI dapat digunakan dengan aman oleh semua kalangan.