TLDR
Gugatan terhadap OpenAI menguji tanggung jawab perusahaan dalam memberikan nasihat medis. ChatGPT tidak dirancang untuk menggantikan penyedia layanan kesehatan, namun pengguna sering mencari saran kritis darinya. Kasus ini menyoroti risiko yang terkait dengan penggunaan AI dalam situasi medis dan psikologis. Pomodo.id - Scott Winters, seorang mantan pendeta di Florida, menggugat OpenAI dan CEO-nya, Sam Altman, akibat saran medis berbahaya dari ChatGPT yang hampir merenggut nyawanya. Dalam gugatan yang diajukan di Pengadilan Tinggi San Francisco pada Juli 2026, Winters menyatakan bahwa ia sering berkonsultasi dengan ChatGPT-4o pada tahun 2025 mengenai pusing dan tekanan darah yang tidak stabil. Menurutnya, chatbot tersebut menganggap gejalanya sepele dan menyarankan untuk tetap “terkekang di kursi santai.” ChatGPT bahkan menyuruhnya menunggu delapan hingga sepuluh episode sebelum kondisi kesehatannya menjadi masalah serius. Beberapa minggu kemudian, Winters mengalami emboli paru yang parah—gumpalan darah di paru-paru—yang dikaitkan dengan nasihat untuk tidak bergerak.Pada hari kejadian tersebut, Winters bertanya kepada ChatGPT apakah nyeri di daerah selangkangannya memerlukan kunjungan ke ruang darurat. Namun, AI tersebut dilaporkan mengaitkan kesakitan yang dialaminya dengan keyakinan religiusnya, menyatakan “Tuhan tidak merancang tubuh Anda untuk terus-menerus gagal.” Tak lama setelah itu, Winters hampir kehilangan nyawa. Pihak OpenAI membela diri dengan menyatakan bahwa ChatGPT tidak dirancang sebagai pengganti penyedia layanan kesehatan dan memiliki peringatan dalam syarat layanan bahwa pengguna tidak boleh hanya mengandalkan sistem ini sebagai sumber utama saran medis.Kasus Winters bukanlah yang pertama. Pada Mei 2026, pasangan di Texas juga menggugat OpenAI setelah anak mereka meninggal akibat overdosis setelah mencari informasi tentang obat-obatan dari ChatGPT. Mereka berpendapat bahwa anak mereka masih hidup seandainya perusahaan tidak mengabaikan prosedur keamanan.
Resiko Rekomendasi Kesehatan AI
Rekomendasi yang diberikan oleh model AI seperti ChatGPT berpotensi membawa risiko jika digunakan untuk saran kesehatan, sebab perangkat ini bukan pengganti dokter yang terlatih. Hal ini menjadi penting mengingat beberapa kasus nyata, seperti yang dihadapi Scott Winters, menunjukkan konsekuensi berbahaya dari mengandalkan AI untuk nasihat medis. Selain itu, pemahaman yang keliru bahwa AI dapat sepenuhnya menggantikan profesional kesehatan perlu diluruskan, karena keputusan terkait kesehatan harus selalu melibatkan konsultasi dengan tenaga medis yang berkompeten.
Meskipun OpenAI telah menekankan bahwa pengguna tidak boleh mengandalkan ChatGPT sebagai satu-satunya sumber saran medis, pengembangan fitur ChatGPT Health menunjukkan ketertarikan perusahaan untuk memasuki bidang kesehatan. Pihak Winter berupaya untuk mendapatkan ganti rugi finansial serta penangguhan fitur ChatGPT Health hingga evaluasi keselamatan independen dilakukan. Hal ini menimbulkan pertanyaan mengenai etika dan tanggung jawab perusahaan dalam mengelola dan memberikan informasi kesehatan melalui teknologi AI.Inisiatif ini bisa jadi berpengaruh besar pada masa depan penggunaan AI dalam konteks kesehatan. Jika gugatan ini membuahkan hasil, hal itu dapat mempengaruhi bagaimana perusahaan lain di industri yang sama menyusun pedoman keselamatan untuk penggunaan AI dalam memberikan informasi medis. Langkah hukum ini mencerminkan kekhawatiran yang semakin meningkat terkait dengan penggunaan teknologi dan dampak yang mungkin timbul dalam konteks kesejahteraan masyarakat yang lebih luas.Artikel ini disusun berdasarkan satu sumber.
