Courtesy of TheVerge

Jaksa Agung AS Tuntut Perusahaan AI Perketat Keamanan Chatbot Generatif

Mengajak perusahaan AI besar untuk meningkatkan keamanan dan akuntabilitas chatbot agar tidak melanggar hukum dan melindungi pengguna, terutama anak-anak, dari bahaya serta misinformasi.

11 Des 2025, 23.21 WIB

89 dibaca

Ikhtisar 15 Detik

Para jaksa agung menuntut akuntabilitas lebih dari perusahaan AI.
Generative AI dapat menimbulkan risiko bagi anak-anak dan masyarakat.
Ada kebutuhan mendesak untuk menerapkan langkah-langkah keamanan dalam pengembangan AI.

Amerika Serikat - Para jaksa agung dari seluruh negara bagian di Amerika Serikat mengajukan peringatan kepada perusahaan besar di bidang kecerdasan buatan seperti Meta, Google, dan OpenAI terkait bahaya dari chatbot AI generatif. Mereka menekankan bahwa inovasi teknologi tidak boleh menjadi alasan untuk mengabaikan hukum dan keselamatan masyarakat, terutama anak-anak.

Surat yang dipublikasikan pada 10 Desember 2025 ini memperingatkan bahwa output dari AI sering kali terlalu memuji atau bahkan delusional, yang dapat membahayakan warga Amerika. Dikatakan juga bahwa ada sejumlah kasus kematian dan percakapan tidak pantas yang melibatkan chatbot AI yang berinteraksi dengan anak-anak.

Para jaksa agung menyoroti bahwa beberapa percakapan ini bahkan bisa melanggar peraturan hukum negara bagian, seperti mendorong tindakan ilegal atau praktik medis tanpa izin. Mereka berpendapat bahwa pengembang AI bisa dihukum atas hasil keluaran dari produk mereka jika menimbulkan pelanggaran hukum.

Untuk mengatasi hal tersebut, jaksa agung meminta perusahaan AI mengambil tindakan nyata dalam menerapkan langkah pengamanan, termasuk menghilangkan pola gelap dalam model AI, memberikan peringatan jelas terkait risiko output berbahaya, serta membuka kesempatan untuk audit independen oleh pihak ketiga.

Langkah ini terjadi di tengah semakin hangatnya perdebatan tentang regulasi kecerdasan buatan di Washington, sebagai upaya memberi ruang pada inovasi teknologi sambil tetap melindungi publik dari potensi bahaya.

Referensi:
[1] https://theverge.com/news/842512/google-meta-openai-state-attorneys-general-ai-letter

Analisis Ahli

Stuart Russell (Profesor AI di UC Berkeley)

"Regulasi yang masuk akal sangat diperlukan untuk memastikan teknologi AI tidak hanya inovatif tapi juga aman dan bertanggung jawab bagi pengguna."

Kate Crawford (Peneliti AI dan Etika)

"Pengawasan independen dan transparansi adalah kunci untuk menghindari penyalahgunaan AI yang bisa merugikan masyarakat luas."

Analisis Kami

"Tuntutan para jaksa agung sangat penting untuk memaksa perusahaan teknologi serius memperhatikan dampak sosial dan hukum dari produk AI mereka. Tanpa regulasi dan pengawasan yang ketat, risiko bahaya AI bisa meningkat, terutama terhadap kelompok rentan seperti anak-anak."

Prediksi Kami

Perusahaan AI kemungkinan akan menerapkan lebih banyak langkah pengamanan dan regulasi resmi akan diperketat untuk mengatur penggunaan AI generatif di AS.