TLDR
Hukum baru di Vermont mewajibkan keterlibatan profesional kesehatan mental dalam proses rekomendasi AI. Ada kekhawatiran bahwa terapis mungkin akan mengabaikan analisis kritis terhadap saran yang diberikan oleh AI. Perlu ada pengawasan yang lebih ketat untuk memastikan terapis tetap waspada dan tidak hanya mengesahkan saran AI tanpa penilaian yang cermat. Pomodo.id - Tantangan baru muncul dalam pengawasan penggunaan AI dalam layanan kesehatan mental di Vermont, seiring dengan diundangkannya hukum yang mengatur keterlibatan terapis dalam interaksi klien dengan AI. Hukum tersebut mengharuskan terapis untuk senantiasa berada dalam lingkaran pengawasan, bertindak sebagai peninjau dan pemberi persetujuan atas rekomendasi atau keluaran yang diberikan oleh AI. Dalam teori, hal ini seharusnya menjamin bahwa terapis dapat menangkap bila AI memberikan saran yang tidak tepat atau berbahaya.Namun, tantangan utama yang dihadapi oleh terapis adalah risiko "rubber-stamping," di mana mereka mungkin cenderung untuk menyetujui apa pun yang dikatakan AI, karena terbujuk percaya bahwa sistem AI selalu benar. Beban pekerjaan yang berat juga berpotensi membuat terapis tidak dalam kondisi optimal untuk secara menyeluruh menilai keluaran AI, sehingga mereka mungkin hanya melakukan evaluasi sekilas. Hal ini menimbulkan kekhawatiran bahwa hukum yang dirancang untuk melindungi klien malah akan mengarah pada kurangnya pengawasan yang efektif terhadap AI.Lebih jauh, hukum serupa yang baru saja diterapkan di Colorado mengharuskan terapis untuk aktif terhubung dan memantau interaksi AI dengan klien secara langsung. Ini sekaligus menimbulkan pertanyaan tentang waktu yang diperlukan untuk melaksanakan monitoring secara real-time. Waktu yang dihabiskan untuk pengawasan ini bisa sangat membebani terapis dan mungkin tidak tercakup dalam biaya kesehatan mental standar, yang pada gilirannya dapat membuat pengawasan AI menjadi kurang menarik bagi terapis.
Pengawasan AI dalam Layanan Kesehatan Mental
Pengawasan AI dalam layanan kesehatan mental penting untuk memastikan bahwa teknologi ini tidak menggantikan interaksi manusia yang kritis. Dalam hal ini, keterlibatan aktif terapis sebagai pengamat berfungsi untuk mencegah penyebaran saran yang tidak tepat. Meski demikian, ada yang berpendapat bahwa hukum yang ada sekarang kurang cukup kuat untuk menjaga disiplin para terapis, dan mereka lebih berisiko bergantung pada saran AI tanpa evaluasi yang memadai.
Di sisi lain, terdapat kemungkinan bahwa undang-undang ini dapat mendorong klien untuk menggunakan AI secara mandiri, tanpa bimbingan terapis. Hal ini kontras dengan tujuan awal untuk mendorong penggunaan AI yang terawasi dan aman dalam layanan kesehatan mental. Ketergantungan ini justru berpotensi memperburuk kualitas layanan kesehatan mental, karena klien mungkin memilih untuk tidak membayar terapis dan menggunakan AI sepenuhnya tanpa pengawasan manusia.Menyusul perkembangan ini, implikasi ke depan cukup signifikan. Terdapat kebutuhan mendesak untuk merevisi hukum yang berlaku agar dapat memastikan pengawasan yang efektif terhadap penggunaan AI dalam terapi, serta mempertimbangkan dampak waktu dan biaya terhadap para praktisi kesehatan mental. Jika tidak, sektor kesehatan mental bisa menghadapi stagnasi, di mana penggunaan AI tidak terintegrasi secara optimal dengan praktik klinis dan kesehatan mental yang menyeluruh.Artikel ini disintesis dari 2 sumber.
