Regulasi Ketinggalan, AI Medis di AS Butuh Pengawasan Ketat dan Validasi Lokal

Banyak rumah sakit di Amerika Serikat kini menggunakan alat kecerdasan buatan atau AI untuk membantu diagnosis dan berbagai tugas medis. Namun, regulasi dari badan pengawas seperti FDA belum bisa mengikuti perkembangan cepat teknologi ini. AI medis terus diperbarui dan berubah setelah mendapat persetujuan, sehingga pengawasan berkelanjutan sangat penting namun belum cukup dilakukan. FDA memiliki standar yang relatif longgar dalam menyetujui alat AI medis dibandingkan dengan obat-obatan. Hal ini berpotensi berbahaya karena tidak semua alat harus melalui uji klinis sebelum digunakan. Padahal, alat ini kadang-kadang memberikan hasil yang kurang akurat saat diterapkan pada populasi berbeda dari yang dilatih AI tersebut. Terkait dengan masalah ini, banyak rumah sakit membeli alat AI secara langsung tanpa menguji apakah alat tersebut sesuai dengan kebutuhan dan kondisi pasien lokal. Hal ini dianggap sangat berisiko karena bisa memberikan rekomendasi yang keliru dan membahayakan pasien. Situasi semakin kompleks karena ada keputusan pemerintah untuk mengurangi regulasi AI dengan mencabut perintah eksekutif yang fokus pada keselamatan AI. Selain itu, staf pengawas di FDA yang menangani AI dan digital health juga mengalami pemutusan hubungan kerja, sehingga kapasitas pengawasan semakin berkurang. Para ahli menyarankan agar rumah sakit harus melakukan evaluasi mandiri terhadap alat AI yang digunakan dan memberikan pelatihan kepada tenaga medis agar mereka bisa menginterpretasikan hasil AI dengan tepat. Regulasi saja tidak cukup, dan institusi kesehatan harus memainkan peran aktif dalam memastikan alat yang dipakai aman dan efektif bagi pasien mereka.