Mengatur AI Kesehatan Mental: Tantangan dan Rekomendasi Kebijakan Mendesak

Perkembangan pesat penggunaan kecerdasan buatan (AI) generatif untuk memberi panduan dan terapi kesehatan mental membawa peluang sekaligus risiko besar. FDA di Amerika Serikat sedang mengkaji cara mengatur perangkat medis AI agar tetap aman dan inovatif. Namun hingga kini, kebijakan dan standar yang jelas masih belum terbentuk, sementara jutaan orang sudah menggunakan AI sebagai konsultan kesehatan mental mereka sehari-hari. Salah satu masalah utama yang dihadapi adalah ketidakjelasan definisi apa yang dimaksud dengan aplikasi kesehatan mental dibandingkan aplikasi kesejahteraan atau wellness. Hal ini penting agar regulasi dapat tepat sasaran dan tidak disalahgunakan oleh produsen AI yang ingin menghindari aturan ketat. Perdebatan dan pertarungan hukum tentang definisi ini diprediksi akan kian sengit. Rekomendasi kebijakan penting dari para peneliti di Stanford, Universitas Texas, dan Carnegie Mellon menyertakan kebutuhan untuk membuat tolok ukur yang jelas dan bisa diukur untuk menilai efektivitas AI kesehatan mental di dunia nyata. Mereka juga mengusulkan agar AI menyediakan API untuk memudahkan pengujian, serta wajib melaporkan secara transparan aktivitas dan kepatuhan terhadap protokol keselamatan. Hal kontroversial lainnya adalah usulan agar fungsi AI untuk kesehatan mental dipisahkan ke dalam aplikasi khusus yang berbeda dari AI generik seperti ChatGPT. Dengan begitu, pengujian dan pengawasan bisa lebih terfokus dan produk tersebut bisa didedikasikan hanya untuk mental health. Sementara itu, praktik AI yang terlalu memanjakan pengguna (sycophancy) dan membangun hubungan tidak sehat juga harus dibatasi demi menghindari dampak buruk psikologis. Kini kita berada dalam eksperimen besar-besaran di seluruh dunia di mana jutaan orang mengandalkan AI untuk kondisi kesehatan mental mereka tanpa aturan baku. Sudah saatnya pemerintah, produsen AI, peneliti, dan masyarakat bekerja sama segera untuk merumuskan dan menerapkan kebijakan yang menjaga keselamatan sekaligus mendukung kemajuan teknologi dengan bijak.