Google desactivó su generador de IA en Earth tras crear imágenes falsas peligrosas
Imaginate poder escribir un texto simple en Google Earth y que aparezca una imagen de satélite completamente falsa mostrando lo que pedís. Suena a ciencia ficción, pero Google lo intentó y terminó siendo un desastre. La compañía lanzó una función de IA generativa que transformaba comandos de texto en imágenes de satélite, imágenes aéreas y vistas 3D alteradas. El problema: que generaba contenido completamente fabricado y potencialmente peligroso.
¿Qué pasó?
Google integró un generador de imágenes impulsado por inteligencia artificial en Google Earth que permitía a los usuarios describir escenas mediante texto para que el sistema las "generara" usando datos reales de satélite y fotografía aérea. Suena innovador en teoría, pero en la práctica fue un caos. Usuarios rápidamente comenzaron a crear imágenes completamente falsas: "refugiados cerca de la frontera mexicana", cráteres de bombas junto a hospitales en Gaza, y otras representaciones de eventos que nunca ocurrieron o que fueron completamente distorsionadas.
El investigador Henk van Ess de Digital Digging fue uno de los primeros en documentar estas imágenes problemáticas y compartirlas públicamente. Su descubrimiento expuso un riesgo crítico: la herramienta podía ser utilizada fácilmente para crear desinformación visual convincente. Después de que The Verge reportara sobre estos casos, Google rápidamente desactivó la función. La compañía no ha dado muchos detalles sobre cuándo o si volverá a implementarla.
Lo preocupante es que las imágenes generadas parecían lo suficientemente realistas como para engañar a primera vista. En un mundo donde la credibilidad visual es cada vez más importante para la información, esto representa un peligro serio. No necesitabas ser experto en fotografía de satélite para crear contenido falso; solo necesitabas escribir una descripción.
¿Por qué importa en Argentina y América Latina?
En nuestra región, la desinformación visual es una amenaza creciente. Desde conflictos geopolíticos hasta desastres naturales o eventos políticos locales, este tipo de herramientas podría usarse para amplificar fake news. Pensá en cómo impactaría una imagen de satélite "falsa" de inundaciones o sequías en zonas agrícolas argentinas, o imágenes fabricadas durante momentos electorales. En América Latina, donde la confianza en medios e instituciones ya es frágil en varios países, las imágenes falsas sofisticadas son especialmente peligrosas.
Además, plataformas como Google Earth son herramientas usadas por periodistas, investigadores y ciudadanos en toda la región para verificar información. Si esa herramienta puede fácilmente generar contenido falso, pone en riesgo todo un ecosistema de verificación de hechos que depende de su confiabilidad.
¿Qué se recomienda?
Para usuarios: Sé escéptico con cualquier imagen de satélite o aérea que veas en redes sociales, especialmente si viene acompañada de un texto sensacionalista. Verifica mediante múltiples fuentes antes de compartir contenido visual sobre eventos importantes.
Para periodistas y fact-checkers: Desarrollá herramientas de verificación más robustas. No confíes únicamente en lo que ves; cruzá información con fuentes originales, verificadores de imágenes como Google Reverse Image Search, y cuando sea posible, contactá directamente a testigos o instituciones.
Para desarrolladores y empresas de IA: Estos casos muestran por qué es crítico hacer testing exhaustivo de riesgos de seguridad antes de lanzar funciones generativas públicamente. El concepto de "responsible AI" no es solo marketing; es una necesidad operacional.
Fuente: The Verge AI
