Google Tarik Alat Earth AI Baru setelah Sajikan Gambar Palsu Nuklir Iran

Ilustrasi.(Magnific)

GOOGLE secara resmi menarik fitur kecerdasan buatan (AI) terbarunya yang memungkinkan pengguna mengedit citra satelit hanya dalam waktu 24 jam setelah peluncurannya. Langkah ini diambil setelah sejumlah pengguna mendemonstrasikan perangkat lunak tersebut dapat disalahgunakan untuk menciptakan konten visual yang menyesatkan.

Raksasa teknologi itu awalnya mengumumkan integrasi model pembuatan gambar Nano Banana 2 ke dalam Google Earth pada Kamis (30/7). Fitur ini dirancang agar pengguna dapat mengetikkan perintah teks apa pun untuk membayangkan kembali tempat mana pun di dunia secara virtual di atas lapisan dasar citra satelit, udara, atau 3D.

Penyalahgunaan oleh Pengguna

Meskipun Google mempromosikan fitur ini untuk membantu visualisasi sejarah atau rencana real estat, para pengguna dengan cepat menguji batas kemampuan alat tersebut. Pakar OSINT dan penulis buletin Digital Digging, Hank van Ess, mengungkapkan bahwa sistem tersebut gagal menyaring topik-topik berbahaya.

Beberapa gambar palsu yang berhasil dibuat dan dibagikan oleh pengguna meliputi:

• Pabrik nuklir fiktif di Iran.
• Antrean pengungsi di dekat perbatasan Meksiko.
• Kawah bom hasil fabrikasi di rumah sakit di Jalur Gaza.
• Kecelakaan mobil fatal di jalanan Amsterdam.

"Tidak ada yang ditolak. Tidak ada peringatan, tidak ada output yang diperhalus, tidak ada saran untuk mencoba perintah yang berbeda," tulis Van Ess mengenai pengalamannya menggunakan alat tersebut.

Respons dan Kebijakan Google

Menanggapi penyebaran tangkapan layar yang melanggar kebijakan tersebut, Google segera menonaktifkan fitur itu pada Jumat (31/7). Perusahaan menyatakan sedang bekerja untuk menerapkan sistem keamanan (guardrails) yang lebih kuat.

Seorang juru bicara Google menjelaskan bahwa meskipun para profesional geospasial menggunakan fitur ini untuk tujuan yang bermanfaat, penyalahgunaan oleh sebagian pihak tidak dapat diabaikan. "Kami menarik kembali fitur ini di Google Earth sementara kami berupaya menerapkan perlindungan yang lebih ketat," ujarnya.

Google menegaskan bahwa setiap gambar yang dihasilkan oleh alat Nano Banana menyertakan tanda air (watermark) yang dapat dilacak kembali ke model AI Gemini mereka. Selain itu, gambar-gambar hasil kreasi pengguna tersebut tidak muncul dalam pengalaman utama Google Earth yang dilihat oleh publik secara umum.

Kekhawatiran Disinformasi Global

Insiden ini memperkuat kekhawatiran global mengenai penyebaran informasi palsu berbasis AI di media sosial. Sebelumnya, gambar satelit buatan AI yang menunjukkan serangan drone Iran terhadap sistem radar AS di Qatar sempat viral di platform X (sebelumnya Twitter).

Sebagai langkah antisipasi, platform X memperingatkan para kreator konten tentang risiko penangguhan monetisasi jika mereka mengunggah video konflik bersenjata hasil buatan AI tanpa label yang jelas. Google Earth sendiri, yang tahun ini menginjak usia 21 tahun, memegang lebih dari 280 miliar gambar di 110 negara, menjadikannya salah satu sumber data visual dunia yang paling dipercaya. (Daily Mail/I-2)