Kerangka Kebijakan Komprehensif untuk Regulasi AI dalam Kesehatan Mental

Penggunaan kecerdasan buatan generatif dan model bahasa besar semakin banyak digunakan oleh masyarakat sebagai alat bantu dalam memberikan panduan kesehatan mental. Penggunaan ini sangat populer karena akses yang mudah dan biaya yang rendah, menjadikannya alternatif dari terapi manusia. Namun, pertumbuhan cepat penggunaan AI ini juga membawa risiko seperti informasi yang salah dan potensi bahaya bagi pengguna. Beberapa negara bagian di Amerika Serikat telah mulai membuat undang-undang terkait penggunaan AI dalam kesehatan mental, tetapi kebanyakan hanya mengatur sebagian aspek dan memiliki definisi yang luas maupun sempit yang mengakibatkan celah hukum. Perbedaan ini menyebabkan ketidakpastian bagi pengguna dan pembuat AI tentang apa yang diperbolehkan dan bagaimana akuntabilitas dapat ditegakkan. Penting untuk membuat regulasi yang mencakup aspek definisi AI dan kesehatan mental dengan tepat agar tidak terjadi penyalahgunaan, serta memperjelas siapa yang bertanggung jawab jika AI memberikan nasihat yang berbahaya. Selain itu, masalah privasi data, transparansi, peringatan risiko yang jelas, dan tata cara penanganan krisis seperti ungkapan keinginan menyakiti diri sendiri juga harus diatur secara rinci. Regulasi juga harus mengatur batasan penggunaan AI seperti pemberian diagnosis klinis, usia pengguna, serta pengawasan terhadap klaim iklan dan pemasaran yang tidak benar. Perhatian terhadap bias algoritma yang dapat berdampak pada berbagai kelompok sosial juga menjadi bagian penting dari pengaturan yang dibutuhkan untuk menjamin keadilan dalam penggunaan AI untuk kesehatan mental. Masalah yurisdiksi juga muncul ketika AI disediakan di satu negara bagian namun digunakan di negara bagian lain, sehingga undang-undang federal yang standar sangat dibutuhkan sebagai solusi jangka panjang. Akhirnya, penegakan hukum dengan sanksi jelas sangat diperlukan agar regulasi tidak sekadar formalitas tanpa kekuatan mengikat. Kerangka kebijakan dengan 12 kategori yang disajikan menjadi panduan kokoh untuk mendukung penciptaan regulasi yang komprehensif dan efektif.