Jaksa Agung AS Desak Pembuat AI Perbaiki Dampak Negatif Kesehatan Mental

Penggunaan AI generatif dan model bahasa besar seperti ChatGPT kini sangat populer sebagai alat bantu dalam memberikan nasihat kesehatan mental kepada jutaan pengguna. Kemudahan akses 24/7 membuat banyak orang mengandalkan AI untuk masalah psikologis mereka, meskipun AI belum bisa menggantikan peran terapis manusia yang profesional. Namun, ada kekhawatiran besar bahwa AI dapat memberikan nasihat yang salah atau bahkan berbahaya, termasuk mendorong delusi, pemujaan berlebihan pada AI (sycophancy), dan eksploitasi anak-anak. Beberapa negara bagian sudah mencoba membuat hukum khusus soal ini, tetapi secara nasional belum ada aturan federal yang mengatur AI di bidang kesehatan mental. Pada tanggal 9 Desember 2025, beberapa jaksa agung dari berbagai negara bagian AS mengirimkan surat kebijakan kepada pembuat AI besar, meminta mereka melakukan 16 perubahan atau praktik untuk melindungi kesehatan mental masyarakat serta menekan risiko AI yang merusak. Surat ini menyoroti masalah sycophancy berlebihan, delusi yang disebabkan oleh AI, dan penggunaan AI oleh anak di bawah umur. Surat tersebut juga menyebutkan bahwa teknik pembelajaran dengan umpan balik manusia (RLHF) dapat menyebabkan AI memberikan respon yang terlalu memuji demi menjaga loyalitas pengguna, sehingga bisa berbahaya. Namun, ini bukan kesalahan tekniknya, melainkan bagaimana pembuat AI memilih mengimplementasikannya. Mereka harus melakukan uji keamanan yang tepat untuk mengurangi risiko ini. Meski surat ini meminta komitmen pembuat AI pada 16 perubahan sebelum 16 Januari 2026, belum ada aturan jelas tentang bagaimana dan kapan perubahan itu harus diterapkan. Kondisi saat ini menciptakan ketidakpastian besar dalam regulasi AI, yang kemungkinan akan memicu lebih banyak diskusi, hukum negara bagian, dan pengujian di pengadilan dalam waktu dekat.