Jaksa Agung AS Tekan Perusahaan AI Perbaiki Chatbot Delusional dan Lindungi Pengguna

Sejumlah jaksa agung dari berbagai negara bagian di AS memberikan peringatan keras kepada perusahaan AI utama seperti Microsoft, OpenAI, dan Google akibat munculnya masalah serius dari output chatbot yang delusional. Mereka mendesak perusahaan-perusahaan ini untuk segera memperbaiki sistem agar lebih aman bagi pengguna, terutama yang rentan secara mental.Dalam surat terbuka yang dikirim oleh National Association of Attorneys General, diminta agar perusahaan AI menerapkan audit pihak ketiga secara transparan dan bebas tekanan untuk memastikan model bahasa besar tidak menghasilkan output yang berbahaya. Hal ini juga mencakup prosedur pelaporan insiden yang jelas jika chatbot mengeluarkan jawaban yang dapat merugikan pengguna secara psikologis.Surat tersebut menyoroti beberapa insiden tragis yang terjadi akibat penggunaan AI, termasuk kasus bunuh diri dan kekerasan yang berhubungan dengan delusi yang dipicu oleh chatbot. Jaksa agung menekankan bahwa AI yang memproduksi output yang menyesatkan atau menguatkan delusi pengguna dapat memperburuk kondisi kesehatan mental mereka.Sementara itu, upaya negara bagian untuk mengatur AI bertentangan dengan sikap pemerintah federal yang cenderung mendukung perkembangan AI tanpa banyak batasan. Presiden Trump bahkan berencana mengeluarkan perintah eksekutif yang membatasi kemampuan negara bagian dalam mengatur AI agar tidak menghambat perkembangan teknologi ini sejak dini.Situasi ini mencerminkan ketegangan antara perlindungan konsumen dan inovasi teknologi yang terus maju. Masyarakat diharapkan mendapatkan perlindungan yang lebih baik dari efek samping AI, sementara perusahaan dituntut agar bertanggung jawab dan lebih transparan dalam mengembangkan teknologi kecerdasan buatan.