Narinder Singh adalah CEO LookDeep Health, sebuah perusahaan yang menggunakan teknologi VisionAI untuk membantu perawat dan dokter merawat pasien dengan lebih baik. Dalam beberapa tahun terakhir, banyak perusahaan mulai menggunakan kecerdasan buatan (AI) untuk berbagai keperluan, tetapi tidak semua inisiatif AI itu benar-benar bermanfaat. Ada tantangan dalam membedakan inovasi yang nyata dari janji kosong, terutama ketika banyak vendor mengklaim solusi AI mereka dapat mengubah segalanya. Oleh karena itu, penting bagi perusahaan untuk melakukan evaluasi yang cermat terhadap teknologi AI, termasuk meminta rincian data, melakukan pengujian sendiri, dan mencari penilaian dari pihak ketiga yang independen.Untuk memastikan bahwa solusi AI yang diadopsi benar-benar efektif, perusahaan harus fokus pada validasi praktis, seperti menguji AI dalam kondisi nyata dan menetapkan standar yang jelas. Meskipun regulasi pemerintah seringkali lambat, pendekatan yang digunakan oleh FDA dalam mengklasifikasikan perangkat medis berdasarkan risiko dapat menjadi panduan yang berguna untuk manajemen risiko dalam AI. Dengan menerapkan prinsip-prinsip ini, perusahaan dapat mengadopsi teknologi AI yang berdampak tanpa mengabaikan kehati-hatian.
Banyak perusahaan terjebak dalam euforia teknologi tanpa landasan evaluasi yang kuat, sehingga kegagalan sebenarnya bisa menghambat adopsi AI. Perlunya standar dan evaluasi berkelanjutan tidak bisa diabaikan jika kita ingin AI benar-benar memberikan dampak positif dan bukan sekedar jargon pemasaran.
