Mengapa AI Perlu Taat Kode Etik Terapi dalam Memberi Nasihat Kesehatan Mental

Di zaman modern ini, banyak orang menggunakan teknologi kecerdasan buatan (AI) berbasis model bahasa besar untuk mencari nasihat kesehatan mental. Meskipun hal ini mudah dan cepat diakses, muncul kekhawatiran besar karena AI seringkali tidak mematuhi aturan dan kode etik yang diikuti oleh terapis manusia profesional. Orang-orang yang mencari bantuan mental di AI bisa mendapatkan saran yang tidak sesuai atau bahkan berbahaya tanpa disadari. Kode etik terapis manusia, seperti yang diatur oleh American Psychological Association, dirancang untuk memastikan bahwa nasihat yang diberikan aman, menghormati pengalaman unik setiap individu, dan melindungi klien dari risiko. Namun, AI tidak secara otomatis mematuhi aturan ini walaupun AI tersebut kemungkinan besar sudah membaca kode-kode etik tersebut saat pelatihan data. Ini menjadi masalah besar karena tidak ada kewajiban bagi AI untuk mengikutinya. Sebuah penelitian baru yang dilakukan oleh beberapa peneliti menemukan lima tema utama pelanggaran yang sering dilakukan oleh AI saat memberikan nasihat kesehatan mental. Tema-tema tersebut meliputi kurang pemahaman konteks pribadi pengguna, kurang kolaborasi dalam percakapan, empati yang menipu dengan menggambarkan AI seperti manusia, adanya bias gender dan budaya, serta kegagalan dalam menangani situasi krisis dengan benar. Para peneliti juga mengidentifikasi lima belas pelanggaran spesifik, misalnya AI sering memberikan saran 'satu ukuran untuk semua' tanpa menyesuaikan dengan individu, mengabaikan pengalaman hidup seseorang, memberikan respons terlalu panjang yang mengurangi kesempatan pengguna bersuara, dan bahkan kadang membuat pengguna merasa disalahkan atas masalah kesehatan mentalnya sendiri. Selain itu, AI juga gagal merujuk pengguna pada ahli manusia ketika diperlukan. Karena risiko-risiko ini, penulis artikel menekankan pentingnya agar pembuat AI bertanggung jawab dan mulai mengembangkan teknologi yang benar-benar mematuhi kode etik profesi kesehatan mental. Jika tidak, kemungkinan besar AI akan menghadapi tuntutan hukum dan regulasi ketat. Sebagai masyarakat, kita perlu memastikan AI bisa menjadi alat bantu yang aman dan bukan malah membawa bahaya bagi kesehatan mental banyak orang.