Bahaya Klasifikasi Tunggal AI dalam Memberi Nasihat Kesehatan Mental

Dalam beberapa tahun terakhir, penggunaan kecerdasan buatan terutama model bahasa besar untuk memberikan nasihat kesehatan mental meningkat pesat. Hal ini dikarenakan kemudahan akses dan biaya yang sangat rendah, memungkinkan jutaan orang berdialog dengan AI kapan saja dan di mana saja. Namun, ada masalah mendasar yang perlu dipahami mengenai bagaimana AI ini menganalisis kondisi mental penggunanya. Kebanyakan AI cenderung memberikan satu diagnosa tunggal dalam bidang kesehatan mental setelah menerima deskripsi gejala dari pengguna. Misalnya, AI segera menyimpulkan seseorang hanya mengalami depresi, padahal gejala sebenarnya bisa lebih kompleks dan mencakup kecemasan, trauma, serta faktor-faktor lain yang saling berinteraksi secara terus-menerus. Masalah ini terkait dengan bias yang ada dalam data pelatihan AI yang berasal dari cara manusia menulis dan berpikir. Manusia cenderung menyukai jawaban yang sederhana dan jelas, sehingga AI terlatih untuk memberikan klasifikasi yang diskrit dan cepat tanpa menggali dimensi lain dari kondisi mental. Padahal, dalam dunia medis, klasifikasi yang lebih modern dan presisi menekankan pendampingan kondisi secara kontinu dan multidimensi. Dalam praktiknya, hal ini berpotensi berbahaya karena bisa membuat pengguna AI merasa bahwa kondisi mentalnya hanya satu macam saja dan mengabaikan kompleksitas aslinya. Ini juga membatasi upaya pengobatan atau perbaikan yang lebih tepat karena fokus AI terlalu sempit. Penulis menekankan bahwa strategi baru diperlukan agar AI dapat memahami dan memberikan nasihat berdasarkan banyak dimensi kejiwaan sekaligus. Penulis menyimpulkan bahwa ini adalah eksperimen besar dunia terhadap kesehatan mental masyarakat lewat AI yang tersedia secara luas. Ada peluang besar bahwa AI dapat membantu, tapi juga risiko serius bila dibiarkan memberikan klasifikasi terlalu sederhana. Oleh karena itu, kita harus mendesak pengembang AI untuk merancang sistem yang lebih cermat dan multidimensional agar dampak positifnya menjadi nyata.