Empati AI & Kebijakan

Pomodo.id - Menggugat AI sebagai gangguan publik mulai menarik perhatian di berbagai negara bagian Amerika Serikat. Banyak negara bagian mulai mempertimbangkan untuk menggunakan tuduhan “gangguan publik” sebagai langkah hukum untuk menanggapi masalah yang ditimbulkan oleh teknologi kecerdasan buatan (AI), khususnya generative AI dan model bahasa besar (LLM). Alih-alih mengandalkan pendekatan hukum tradisional, pendekatan ini menawarkan cara baru untuk menangani teknologi yang dipandang berpotensi merugikan masyarakat.

Pomodo.id - Memahami cara kerja Kecerdasan Buatan (AI), terutama dalam aplikasi kesehatan mental, membutuhkan perhatian terhadap bagaimana AI mengelola konteks dan status stateless. Di dunia AI saat ini, terdapat dua pendekatan yang sering dibandingkan: stateless dan konteks. Pendekatan stateless di mana AI tidak menyimpan informasi tentang interaksi sebelumnya, sedangkan pendekatan kontekstual memungkinkan AI untuk mempertimbangkan konteks di mana suatu interaksi terjadi, memberikan jawaban yang lebih relevan dan terinformasi.

Pomodo.id - Menguak peran vital harness engineering, sistem yang diperlukan agar teknologi AI, seperti model bahasa besar (Large Language Models/LLMs) dan generative AI, dapat diakses dan digunakan dengan baik, dalam konteks kesehatan mental sangat penting. Dalam penerapan AI untuk memberikan saran kesehatan mental, kualitas sistem ini dapat menentukan efektivitas respons AI terhadap kebutuhan pengguna. Jika harness engineering diterapkan dengan baik, AI dapat memberikan bantuan yang memadai bagi individu yang mengalami kesulitan mental; sebaliknya, bila implementasinya lemah, respons AI bisa menjadi tidak berguna atau bahkan merugikan.

Pomodo.id - Tantangan baru muncul dalam pengawasan penggunaan AI dalam layanan kesehatan mental di Vermont, seiring dengan diundangkannya hukum yang mengatur keterlibatan terapis dalam interaksi klien dengan AI. Hukum tersebut mengharuskan terapis untuk senantiasa berada dalam lingkaran pengawasan, bertindak sebagai peninjau dan pemberi persetujuan atas rekomendasi atau keluaran yang diberikan oleh AI. Dalam teori, hal ini seharusnya menjamin bahwa terapis dapat menangkap bila AI memberikan saran yang tidak tepat atau berbahaya.