ChatGPT Health dan Tantangan Privasi serta Akurasi Informasi Medis AI

AI seperti ChatGPT sudah digunakan secara luas dalam urusan kesehatan oleh jutaan orang setiap minggunya. Namun, AI ini terkadang memberikan informasi yang tidak tepat, misalnya menyampaikan risiko efek samping obat yang berasal dari studi yang tidak relevan dengan pasien tertentu. Hal ini menimbulkan kekhawatiran terkait keakuratan saran medis AI untuk pasien. Untuk mengatasi hal tersebut, OpenAI meluncurkan ChatGPT Health yang memungkinkan pengguna berdiskusi tentang kesehatan dengan cara yang lebih privat. Pesan-pesan pengguna tidak akan digunakan untuk melatih AI lebih lanjut sehingga diharapkan meningkatkan kepercayaan dan keamanan data pasien. Pengguna juga bisa mengunggah rekam medis mereka agar saran yang diberikan lebih personal. Meski begitu, ada kekhawatiran karena data medis pasien bisa berpindah dari organisasi yang tunduk pada regulasi privasi ketat seperti HIPAA ke perusahaan teknologi yang belum tentu memenuhi standar serupa. Hal ini memicu pertanyaan dari para ahli keamanan data dan pengamat regulasi tentang bagaimana regulasi akan mengatur dan mengawasi pemindahan data tersebut. Di sisi lain, para dokter juga melihat potensi AI membantu mengatasi masalah lain yang lebih mendesak, seperti mengurangi waktu yang dihabiskan untuk tugas administratif yang membatasi jumlah pasien yang bisa dilayani. Beberapa solusi AI sedang dikembangkan untuk mempermudah dokter dalam mengakses dan mengelola rekam medis pasien, sehingga dokter bisa fokus memberi pelayanan secara langsung. Perusahaan seperti Anthropic juga mendukung penggunaan AI untuk mengurangi beban pekerjaan administratif seperti pengajuan otorisasi asuransi. Di tengah harapan itu, tetap ada ketegangan antara tujuan utama dokter yang harus melindungi pasien dengan kepentingan perusahaan teknologi yang harus bekerja untuk pemegang saham mereka.