Kegagalan AI Deepfake Google & Meta

Pomodo.id - Perusahaan teknologi besar seperti Google sering kali menghadapi tantangan ketika meluncurkan fitur baru berbasis kecerdasan buatan (AI) yang memiliki potensi disalahgunakan. Kasus terbaru menyangkut Google Earth, yang memperkenalkan fitur penciptaan gambar berbasis AI pada akhir Juli 2026. Dengan fitur ini, pengguna dapat memperbesar lokasi tertentu dan membuat gambar yang seolah-olah nyata berdasarkan data citra satelit dan 3D yang dimiliki Google. Namun, setelah fitur ini diluncurkan, dalam waktu sekejap, pengguna seperti Henk van Ess berhasil membuat gambar yang menyesatkan, termasuk citra pengungsi di perbatasan Meksiko dan lubang bom di Gaza.

Pomodo.id - Google telah menghentikan fitur baru di Google Earth yang memungkinkan pengguna untuk mengedit gambar satelit menggunakan perintah teks berbasis kecerdasan buatan (AI). Fitur ini, yang baru diluncurkan, ternyata berpotensi disalahgunakan untuk menciptakan gambar deepfake, yang bisa menyebarkan informasi yang menyesatkan. Henk van Ess, seorang ahli digital dari Digital Digging, misalnya, berhasil menghasilkan gambar-gambar yang menggambarkan situasi sensitif, seperti pengungsi di perbatasan Meksiko dan kawah bom di dekat rumah sakit di Gaza.

Pomodo.id - Google baru-baru ini meluncurkan fitur baru yang memungkinkan pengguna menggunakan Nano Banana 2, generator gambar AI mereka, untuk menciptakan gambar yang dimanipulasi di dalam aplikasi pemetaan citra satelit Google Earth. Meskipun fitur ini dimaksudkan untuk berkreasi dengan geografi, kritik muncul dengan cepat menyoroti potensi penyalahgunaan untuk menyebarkan informasi yang menyesatkan. Fitur yang berbasis pada perintah ini memungkinkan hampir semua gambar untuk disimulasikan di atas peta nyata, menjadikan alat ini tampak berisiko untuk menyebarluaskan disinformasi.