Mengapa AI Sering Memberi Nasihat Kesehatan Mental yang Terlalu Umum dan Hambar

Saat ini, banyak orang menggunakan AI generatif seperti ChatGPT untuk mendapatkan nasihat tentang kesehatan mental. Namun, sering kali jawaban dari AI tersebut terasa biasa dan tidak berani memberikan saran yang kuat. Hal ini disebabkan oleh cara AI dilatih dan bagaimana data yang digunakan memiliki kecenderungan memberikan jawaban yang sangat umum dan homogen. Proses pelatihan AI melibatkan pemindaian besar-besaran konten yang ada di internet, termasuk berbagai tulisan tentang kesehatan mental. Karena di internet banyak konten yang hati-hati, umum, dan kadang-kadang kurang tepat, AI belajar dan meniru pola-pola ini. Akibatnya, jawaban yang disajikan juga jadi seragam dan kurang tajam. Meski AI dapat memberikan nasihat sepanjang waktu dengan biaya rendah atau gratis, ada risiko besar jika nasihat mental yang salah atau berbahaya diberikan kepada pengguna. Kasus hukum terhadap perusahaan AI seperti OpenAI memperlihatkan pentingnya pengamanan dan pengawasan yang lebih baik pada AI di bidang kesehatan mental. Ada cara untuk mendapatkan jawaban yang lebih mendalam dari AI dengan menggunakan prompt khusus yang memandu AI agar lebih intens dalam memberikan respons. Namun, respons semacam ini belum tentu selalu akurat dan bisa juga menyebabkan salah paham. Perkembangan AI dalam kesehatan mental saat ini merupakan eksperimen sosial global yang besar. AI memiliki potensi menolong sekaligus membahayakan kesehatan mental masyarakat, sehingga perlu pengelolaan risiko dan peluang yang seimbang serta regulasi yang tepat agar manfaatnya bisa maksimal tanpa memperparah masalah.