Courtesy of TechCrunch
Rangkuman Berita: Optum dari UnitedHealth meninggalkan chatbot AI, yang digunakan oleh karyawan untuk mengajukan pertanyaan tentang klaim, terbuka untuk internet.
Share
Perusahaan kesehatan besar, Optum, telah membatasi akses ke chatbot AI internal setelah seorang peneliti keamanan menemukan bahwa chatbot tersebut dapat diakses secara publik di internet. Chatbot ini dirancang untuk membantu karyawan menjawab pertanyaan tentang klaim asuransi kesehatan pasien sesuai dengan prosedur operasi standar (SOP) perusahaan. Meskipun chatbot ini tidak mengandung informasi pribadi yang sensitif, penemuan ini terjadi di tengah kritik terhadap perusahaan induknya, UnitedHealth, yang dituduh menggunakan alat AI untuk menolak klaim pasien dan mengabaikan keputusan dokter.
Setelah penemuan ini, Optum segera menonaktifkan chatbot tersebut. Meskipun chatbot ini tidak pernah digunakan secara resmi dan hanya berfungsi sebagai alat demo, ia telah digunakan ratusan kali oleh karyawan untuk menjawab pertanyaan terkait klaim. UnitedHealth, yang merupakan penyedia asuransi kesehatan terbesar di Amerika Serikat, juga menghadapi gugatan hukum karena diduga menggunakan model AI yang memiliki tingkat kesalahan tinggi dalam menolak klaim pasien. Perusahaan ini melaporkan keuntungan sebesar Rp 361.79 triliun ($22 miliar) pada tahun 2023.
Pertanyaan Terkait
Q
Apa yang terjadi dengan chatbot internal Optum?A
Chatbot internal Optum dibatasi aksesnya setelah ditemukan dapat diakses publik secara online.Q
Siapa yang mengungkapkan akses publik ke chatbot tersebut?A
Mossab Hussein, kepala keamanan dari spiderSilk, yang mengungkapkan akses publik ke chatbot tersebut.Q
Apa tujuan dari chatbot SOP yang dikembangkan oleh Optum?A
Chatbot SOP dikembangkan sebagai alat demo untuk membantu karyawan menjawab pertanyaan tentang klaim asuransi kesehatan.Q
Mengapa UnitedHealth Group menghadapi kritik terkait penggunaan AI?A
UnitedHealth Group menghadapi kritik karena diduga menggunakan AI untuk menolak klaim pasien dengan tingkat kesalahan yang tinggi.Q
Apa yang terjadi pada CEO UnitedHealthcare, Brian Thompson?A
Brian Thompson, CEO UnitedHealthcare, dibunuh pada bulan Desember, yang memicu banyak laporan tentang penolakan klaim kesehatan.Rangkuman Berita Serupa
Sains
3 bulan lalu
73 dibaca
Apakah Kecerdasan Buatan Solusi untuk Masalah Kronis dalam Kesehatan?
Teknologi
4 bulan lalu
95 dibaca
Change Healthcare Menghadapi Gugatan Karena Gagal Melindungi Data Pelanggan
Sains
4 bulan lalu
41 dibaca
Optum dari UnitedHealthcare meninggalkan chatbot AI, yang digunakan oleh karyawan untuk mengajukan pertanyaan tentang klaim, terbuka untuk internet.
Teknologi
4 bulan lalu
87 dibaca
Para Pengusaha Ini Menggunakan AI Untuk Melawan Penolakan Klaim Asuransi Kesehatan
Sains
4 bulan lalu
112 dibaca
UnitedHealthcare Menolak Lebih Banyak Klaim Daripada Penanggung Lain — Memicu Kemarahan Pasien dan Sistem Kesehatan
Teknologi
4 bulan lalu
115 dibaca
Ketika Chatbot Menjadi Nakal: Bahaya AI yang Dilatih dengan Buruk