Masa Depan AI Kesehatan: Transparansi, Regulasi, dan Tantangan yang Meningkat

Penggunaan kecerdasan buatan (AI) di bidang kesehatan semakin berkembang dan memberikan banyak manfaat mulai dari asisten radiologi hingga chatbot pasien. Namun, teknologi ini juga menimbulkan risiko seperti bias, kurangnya transparansi, dan ketidakpastian regulasi yang berpotensi membahayakan keselamatan pasien. Sejumlah negara bagian di Amerika Serikat mulai memberlakukan undang-undang yang mengharuskan pengungkapan penggunaan AI kepada pasien dan mendapatkan persetujuan mereka. Misalnya, Utah mengatur agar chatbot kesehatan mental harus menginformasikan bahwa mereka adalah sistem AI sejak awal interaksi. Selain itu, regulasi juga mulai menyentuh penggunaan AI dalam proses asuransi kesehatan, seperti peninjauan kebutuhan medis dan persetujuan layanan. Banyak dokter khawatir AI dapat meningkatkan penolakan tanpa alasan yang jelas dan menyebabkan kerugian bagi pasien. Fragmentasi hukum di berbagai negara bagian ini memaksa organisasi kesehatan dan vendor AI untuk membuat sistem yang fleksibel dan patuh pada aturan lokal. Kolaborasi antar pemangku kepentingan akan sangat membantu mengurangi kompleksitas kepatuhan ini. Di tingkat federal, beberapa peraturan baru telah muncul, namun masih belum menyeluruh. Misalnya, California telah mengesahkan undang-undang baru yang mengatur model AI frontier dengan ketentuan transparansi dan pelaporan insiden. Ke depan, pengawasan terhadap AI kesehatan akan semakin ketat dan kompleks.