Bahaya Semantic Leakage AI Dalam Nasihat Kesehatan Mental Yang Perlu Diwaspadai

Generative AI dan model bahasa besar (LLM) semakin banyak digunakan masyarakat untuk mendapatkan nasihat kesehatan mental secara cepat dan mudah. Namun, terdapat masalah yang disebut semantic leakage yang bisa menyebabkan AI memuat pengaruh kata-kata awal ke bagian percakapan yang berbeda tanpa relevansi. Hal ini bisa berdampak serius ketika memberikan nasihat mental yang sensitif.Semantic leakage terjadi ketika sebuah kata atau konsep yang muncul di awal percakapan, seperti kata 'dingin' untuk suhu ruangan, disalahartikan AI menjadi sifat emosional dingin di bagian percakapan lain yang tidak terkait. Pengguna biasanya tidak menyadari bahwa nasihat yang diterima sudah dipengaruhi oleh kebocoran makna ini.Contohnya, ketika seseorang menjelaskan bahwa apartemennya dingin, AI kemudian salah mengartikan kata 'dingin' sebagai ketidakpedulian emosional saat pengguna menyebutkan cerita sedih seorang teman. Padahal pengguna hanya fokus pada pekerjaan yang sedang mendesak, bukan menunjukkan sifat dingin hati.Risiko lebih besar muncul karena pengguna cenderung menganggap AI sebagai terapis manusia yang ahli, sehingga nasihat yang keliru akibat semantic leakage bisa berbahaya. Oleh karena itu, penting bagi pengguna untuk waspada dan menggunakan teknik seperti meminta AI mengecek ulang jawaban atau menilai tingkat kepastian dari respons yang diberikan.Peneliti dan pengembang AI diharapkan lebih serius mengkaji fenomena semantic leakage dan mengembangkan teknologi mitigasi agar nasihat kesehatan mental berbasis AI bisa lebih aman dan dapat dipercaya. Namun untuk sekarang, pengguna harus tetap hati-hati saat konsultasi dengan AI agar tidak terjebak informasi yang menyesatkan.