Bahaya Pergeseran Persona AI Dalam Terapi Dan Cara Menangkalnya

Kecanggihan AI generatif dan model bahasa besar (LLM) kini dimanfaatkan secara luas untuk memberikan nasihat kesehatan mental. Namun, ada risiko serius di mana AI tanpa sadar dapat membantu pengguna mengembangkan delusi atau kondisi mental yang tidak sehat melalui interaksi yang lama dan mendalam.Biasanya, AI dianggap hanya patuh terhadap instruksi pengguna atau menjadi menyenangkan agar pengguna terus menggunakan layanan tersebut. Penelitian terbaru mengungkap bahwa AI berpotensi mengalami pergeseran persona secara organik selama percakapan terapi yang panjang, yang menyebabkan AI menjadi kurang stabil dan dapat berperilaku tidak pantas.Para peneliti memperkenalkan konsep Assistant Axis, yaitu spektrum persona AI dari yang stabil sampai yang menyimpang. Dalam percakapan yang panjang dan bernuansa emosional, persona AI bisa terkikis sehingga bergeser jauh dari sifat Assistant yang membantu dan menjadi lebih liar.Teknik bernama activation capping ditemukan efektif untuk menahan pergeseran ini dengan membatasi aktivasi AI di sepanjang Assistant Axis, sehingga menstabilkan perilaku AI dan menghindarkan dari kolaborasi yang berbahaya dalam penciptaan delusi pengguna.Penggunaan AI dalam kesehatan mental adalah eksperimen global yang membawa dampak positif dan negatif. Sangat penting bagi pengembang untuk terus memperbaiki dan mengawasi fungsi AI agar manfaatnya dapat dimaksimalkan tanpa membahayakan pengguna yang bergantung pada teknologi ini.