TLDR
Fitur baru di Google Earth yang memungkinkan pengguna mengedit gambar satelit dengan AI dihentikan karena pelanggaran kebijakan. Meskipun gambar yang dihasilkan memiliki watermark, tetap ada risiko penyebaran informasi yang menyesatkan. Google berkomitmen untuk memperbaiki fitur tersebut dengan pengawasan yang lebih ketat sebelum meluncurkannya kembali. Pomodo.id - Google telah menghentikan fitur baru di Google Earth yang memungkinkan pengguna untuk mengedit gambar satelit menggunakan perintah teks berbasis kecerdasan buatan (AI). Fitur ini, yang baru diluncurkan, ternyata berpotensi disalahgunakan untuk menciptakan gambar deepfake, yang bisa menyebarkan informasi yang menyesatkan. Henk van Ess, seorang ahli digital dari Digital Digging, misalnya, berhasil menghasilkan gambar-gambar yang menggambarkan situasi sensitif, seperti pengungsi di perbatasan Meksiko dan kawah bom di dekat rumah sakit di Gaza.Menyusul kritik dan laporan tentang penggunaan gambar yang menyalahi kebijakan, Google menyatakan bahwa mereka mengambil masalah disinformasi dengan serius. Meskipun setiap gambar yang dihasilkan dengan Nano Banana 2, alat generasi gambar AI tersebut, dilengkapi dengan watermark digital bernama SynthID, ternyata tidak menjamin bahwa gambar tersebut akan terhindar dari penyalahgunaan. Van Ess bahkan berhasil mengecoh sistem deteksi AI dengan video yang dihasilkan dari fitur ini, menunjukkan bahwa media hasil generasi AI dapat tersebar walaupun ada watermark yang menandakan kuantitas AI.Meskipun fitur ini dirancang untuk tujuan kreatif dan pemvisualisasian, seperti menganalisis lokasi sejarah atau proyek properti, realitasnya menunjukkan bahwa teknologi tersebut hadir dengan banyak risiko. Dalam satu hari setelah peluncuran, Google mengambil langkah untuk menarik kembali fitur tersebut, memutuskan bahwa meskipun banyak profesional geospasial menggunakan fitur ini untuk tujuan yang bermanfaat, banyak pula yang melanggar aturan melalui penyalinan gambar hasil generasi. Mereka menegaskan pentingnya untuk memastikan bahwa pengguna dapat percaya pada Google Earth sebagai sumber yang dapat diandalkan untuk informasi visual.
Nano Banana 2 adalah alat generasi gambar AI yang dikembangkan oleh Google untuk memungkinkan pengguna menciptakan gambar berdasarkan perintah teks. Alat ini dapat mengubah tampilan geografis secara signifikan, namun risikonya dapat menyebabkan penyebaran informasi tidak akurat. Banyak yang mengira bahwa watermark digital yang disertakan akan melindungi gambar dari disinformasi, tetapi kenyataannya watermark tersebut bisa diabaikan atau bahkan dihapus.
Keputusan Google untuk menghentikan fitur ini menggambarkan keprihatinan yang lebih besar mengenai dampak teknologi AI terhadap integritas media yang ada. Pada zaman di mana informasi bisa dengan mudah dimanipulasi, penting bagi pengguna untuk aktif memverifikasi gambar yang mereka lihat, misalnya menggunakan aplikasi Google lainnya atau membandingkannya dengan platform satelit lain seperti Sentinel-2 atau Landsat. Dengan meningkatnya kecanggihan alat pembuat gambar dan kapasitas untuk menciptakan konten yang meyakinkan, tantangan untuk mengelcome dunia informasi digital yang sehat semakin besar.Menghadapi situasi ini, Google berjanji untuk mencari solusi yang lebih kuat sebelum mengaktifkan kembali fitur tersebut. Ini menjadi pengingat akan pentingnya etika dalam pengembangan teknologi AI dan tanggung jawab yang dimiliki perusahaan-perusahaan teknologi besar, seperti Google, untuk memastikan produknya tidak disalahgunakan. Di Indonesia, jajak pendapat komunitas mengindikasikan bahwa kepercayaan publik terhadap informasi digital dapat cepat terguncang jika mereka merasa ada potensi manipulasi, menciptakan tantangan bagi profesional di bidang media, pendidikan, dan teknologi informasi.
