Google desactivó su herramienta de IA en Earth tras generar deepfakes en 24 horas
Imaginate que podés modificar imágenes satelitales del planeta entero solo escribiendo lo que querés que aparezca. Suena increíble, ¿verdad? Google lo intentó el jueves pasado, pero la idea resultó tan peligrosa que la canceló en menos de 24 horas. Bienvenido a la realidad de la IA sin filtros.
¿Qué pasó?
Google lanzó una función experimental en Google Earth que permitía a los usuarios editar imágenes satelitales mediante prompts de texto. La herramienta usaba inteligencia artificial generativa para crear modificaciones de las fotografías reales de nuestro planeta. Básicamente, era un generador de deepfakes geográficos.
El problema fue casi inmediato. Investigadores de Digital Digging, como Henk van Ess, demostraron la facilidad con la que se podía generar contenido desinformativo. Van Ess logró crear imágenes falsas mostrando, por ejemplo, refugiados cerca de la frontera mexicana. En cuestión de horas, quedó claro que la herramienta era un arma potencial para la desinformación a escala masiva.
Ante esta situación, Google no dudó: desactivó la función por completo. La compañía reconoció el riesgo y prefirió frenar en seco antes de que el daño fuera mayor. Una decisión que habla de responsabilidad corporativa, aunque también muestra lo precipitado del lanzamiento.
¿Por qué importa en Argentina y América Latina?
En nuestra región, donde la desinformación ya es un problema serio en redes sociales, una herramienta así habría sido devastadora. Imaginá deepfakes de inundaciones en Buenos Aires, desastres ambientales en la Amazonia argentina, o conflictos fronterizos generados artificialmente. La credibilidad de las imágenes satelitales es fundamental para periodistas, investigadores ambientales y autoridades.
Además, en Latinoamérica tenemos gobiernos y movimientos políticos que ya usan desinformación como herramienta. Una función así habría llegado rápidamente a manos de actores malintencionados, amplificando crisis de confianza en información geográfica y ambiental que es crucial para nuestros países.
¿Qué se recomienda?
- Desconfiá de las imágenes sin fuente verificada: Si ves imágenes satelitales circulando en redes sobre eventos importantes (desastres naturales, conflictos), verificá siempre con Google Earth oficial u organismos públicos.
- Educación digital: Es fundamental que usuarios, periodistas y funcionarios públicos entiendan que las imágenes pueden ser falsificadas. No todo lo que se ve es real.
- Regulación urgente: Los gobiernos latinoamericanos deberían presionar a las grandes tech por regulaciones más estrictas antes de lanzar herramientas IA con potencial desinformativo.
- Verificación de fuentes: Ante cualquier imagen satelital importante, siempre chequeá si viene directamente de Google, de satélites públicos o de agencias oficiales.
Fuente: The Verge AI
