TLDR
Fitur AI yang dapat menghasilkan gambar sintetis rentan disalahgunakan dan menimbulkan risiko misinformasi. Perusahaan teknologi perlu menerapkan kontrol yang lebih ketat sebelum meluncurkan fitur baru untuk mencegah penyalahgunaan. Respons publik yang cepat terhadap potensi penyalahgunaan menunjukkan bahwa pengujian internal mungkin tidak cukup untuk memastikan keamanan produk. Pomodo.id - Perusahaan teknologi besar seperti Google sering kali menghadapi tantangan ketika meluncurkan fitur baru berbasis kecerdasan buatan (AI) yang memiliki potensi disalahgunakan. Kasus terbaru menyangkut Google Earth, yang memperkenalkan fitur penciptaan gambar berbasis AI pada akhir Juli 2026. Dengan fitur ini, pengguna dapat memperbesar lokasi tertentu dan membuat gambar yang seolah-olah nyata berdasarkan data citra satelit dan 3D yang dimiliki Google. Namun, setelah fitur ini diluncurkan, dalam waktu sekejap, pengguna seperti Henk van Ess berhasil membuat gambar yang menyesatkan, termasuk citra pengungsi di perbatasan Meksiko dan lubang bom di Gaza.Dalam beberapa jam setelah peluncuran, Google menyadari potensi penyalahgunaan serius dari fitur ini dan terpaksa menarik kembali aksesibilitasnya. Komentar dari perwakilan Google menegaskan bahwa meskipun banyak profesional geospasial menggunakan fitur dengan tujuan yang bermanfaat, beberapa pengguna telah mulai menyebarkan gambar yang dihasilkan yang mungkin melanggar kebijakan perusahaan. "Kami tahu bahwa orang-orang secara unik mempercayai Google Earth untuk pandangan dunia yang dapat diandalkan," katanya.Fitur "create image" yang baru saja diluncurkan berintegrasi dengan teknologi penghasil gambar Nano Banana 2 milik Google. Tujuan dari fitur ini termasuk untuk memvisualisasikan data historis dan merencanakan real estat. Akan tetapi, para peneliti disinformasi segera memperingatkan bahwa dengan fitur ini, pelaku buruk dapat dengan mudah menciptakan gambar tidak nyata yang menyesatkan, yang dapat merugikan kepercayaan publik pada sumber daya geospasial yang penting untuk verifikasi fakta. Seorang ahli digital, Henk van Ess, menyoroti bahwa Google telah menghabiskan waktu 20 tahun membangun referensi yang digunakan dunia untuk memeriksa keakuratan, tetapi dengan fitur baru ini, mereka memberikan alat yang dapat "membuat hal-hal yang tidak ada."
Nano Banana 2 adalah alat generasi gambar AI yang dikembangkan oleh Google. Fitur ini memungkinkan pengguna untuk membuat gambar berdasarkan prompt teks yang mereka masukkan. Bagi banyak pengguna, Nano Banana 2 diharapkan bisa menjadi alat yang bermanfaat dalam visualisasi, tetapi ada risiko signifikan yang membayangi. Jika disalahgunakan, seperti yang dibuktikan dengan penemuan gambar yang menyesatkan, alat ini bisa mengikis kepercayaan publik terhadap platform yang diterima secara luas seperti Google Earth.
Kontroversi yang muncul terkait peluncuran fitur ini menunjukkan bahwa meskipun teknologi yang inovatif dapat menawarkan peluang baru, mereka juga membawa risiko besar yang perlu dikelola. Ketidakmampuan untuk memperhitungkan potensi penyalahgunaan dalam proses pengembangan menunjukkan adanya celah yang perlu diperbaiki dari evaluasi fitur baru ini. Pengembalian fitur ini oleh Google mencerminkan kesadaran akan tanggung jawab yang mereka miliki terhadap pengguna yang bergantung pada keakuratan dunia yang disajikan dalam Google Earth.Melihat ke depan, penting bagi perusahaan teknologi untuk melakukan evaluasi risiko yang lebih komprehensif sebelum peluncuran fitur baru. Kejadian ini seharusnya menjadi pelajaran berharga bagi perusahaan lain dalam industri teknologi, termasuk di Indonesia, yang semakin mengadopsi teknologi digital dalam kehidupan sehari-hari. Kepercayaan publik pada platform yang menawarkan informasi geospasial sangat penting, dan langkah-langkah perlu diambil untuk memastikan bahwa fitur baru tidak membahayakan integritas informasi yang disajikan.---
Diterbitkan oleh Pomodo · Redaksi Pomodo
Terbit: 11 Agu 2026, 22.06 WIB
Ditulis dengan bantuan AI dan diperiksa akurasinya terhadap sumber.
Menemukan kesalahan? Hubungi redaksi → [pomodo.id/contact](https://pomodo.id/contact)
