TLDR
Model bahasa besar perlu ditangani dengan hati-hati dalam konteks kesehatan mental untuk menghindari penyebaran saran yang berbahaya. Pendekatan 'zona lupa' dapat menjadi solusi untuk mengelola dan menghapus pengetahuan yang merugikan dari model AI. Kepentingan untuk terus memantau dan memperbaiki keamanan AI sangat penting untuk melindungi pengguna dari informasi yang salah. Artificial Intelligence atau AI telah berkembang pesat dan kini banyak digunakan dalam memberi nasihat kesehatan mental. Namun, ada risiko bahwa AI menyerap informasi yang salah dan bisa membahayakan saat dilatih dengan data internet yang sangat banyak dan beragam. Artikel ini membahas mengapa masalah ini muncul dan betapa sulitnya menghindari data berbahaya tersebut masuk ke dalam model AI.Data yang dipakai untuk melatih AI datang dari berbagai sumber online, seperti cerita, blog, dan artikel yang berisi berbagai macam informasi, baik yang benar maupun yang salah. Tidak semua nasihat kesehatan mental di internet dapat dipercaya; beberapa bisa membahayakan jika diikuti. Menghapus secara total semua informasi yang buruk juga rumit karena beberapa informasi tersebut saling terkait dengan pengetahuan lain yang sehat.Pendekatan baru yang dikembangkan mencoba menandai dan mengisolasi informasi yang diragukan saat pelatihan AI berlangsung. Pengetahuan yang teridentifikasi diletakkan dalam 'zona lupa' sehingga bisa dihapus nanti jika dianggap berbahaya tanpa merusak kemampuan AI secara keseluruhan. Cara ini memberikan fleksibilitas untuk memutuskan apakah pengetahuan tersebut perlu disimpan atau dihapus.Studi menunjukkan bahwa teknik ini berhasil mencoba menghapus pengetahuan tertentu, misalnya konten yang berkaitan dengan bahasa atau ilmu tertentu, tanpa kehilangan kapabilitas AI pada domain lain. Contohnya, pengetahuan yang bertentangan tentang kesehatan mental yang ada pada tahap awal bisa dicegah agar tidak benar-benar muncul ketika AI digunakan.Selain itu, artikel memperingatkan bahwa ketika AI memberikan nasihat buruk, bukan berarti itu adalah hasil dari halusinasi AI, melainkan bisa jadi informasi itu memang sudah ada dalam data pelatihan. Dengan demikian, pendekatan 'zona lupa' menjadi sangat penting untuk menjaga kualitas nasihat yang diberikan oleh AI. Penulis juga menyebut pentingnya upaya lanjutan dan pemantauan agar AI semakin aman dan bermanfaat.
