Meta creó su propio sistema de detección de IA y fue un error

¿Vos también estás cansado de no saber si lo que ves en redes sociales es real o generado por inteligencia artificial? Meta intentó resolver este problema a su manera, pero según expertos, eligió el camino más complicado cuando tenía una solución lista para usar.

¿Qué pasó?

En julio de este año, Meta presentó Content Seal, una tecnología de marca de agua invisible que detecta imágenes generadas por su propio modelo de IA. La empresa respondía así a las críticas de su Oversight Board, que en marzo le pedía que usara "sus propias herramientas" para controlar la propagación de contenido generado artificialmente en Facebook, Instagram y Threads.

El sistema funciona incrustando una marca de agua imperceptible al ojo humano en las imágenes creadas por Meta. Cuando alguien sube esa imagen a la plataforma, el sistema la detecta y la etiqueta. Suena bien en teoría, ¿verdad? El problema es que esta solución tiene limitaciones importantes: solo funciona con imágenes generadas por los propios modelos de Meta, dejando afuera todo lo que viene de otros generadores de IA como DALL-E, Midjourney o Stable Diffusion.

Según The Verge, Meta habría podido utilizar la tecnología SynthID de Google, que es mucho más versátil y capaz de detectar imágenes generadas por cualquier modelo de IA, no solo las propias. Pero la compañía de Zuckerberg decidió desarrollar su propio sistema, cayendo en lo que muchos especialistas llaman un típico caso de "síndrome de no inventado aquí".

¿Por qué importa en Argentina y América Latina?

En la región, el impacto de las fake news generadas con IA es cada vez más preocupante. Durante procesos electorales, campañas políticas y debates públicos, el contenido deceptivo se viraliza rápidamente. Argentina, México, Brasil y Colombia ya han reportado casos de deepfakes y imágenes falsas usadas para manipular opinión pública.

Si Meta sigue confiando solo en su sistema limitado, los usuarios latinoamericanos van a seguir expuestos a contenido engañoso generado con herramientas que Content Seal no puede detectar. Esto es especialmente crítico considerando que Meta es la plataforma más usada en la región para consumo de noticias. Una solución mediocre en Nueva York es una crisis de desinformación en Buenos Aires.

¿Qué se recomienda?

• Para usuarios: No confíes en una sola plataforma para verificar contenido. Usá herramientas adicionales como reverse image search en Google, TinEye o verificadores de contenido como Snopes o ScilyFact (en español).
• Para creadores de contenido: Si generás imágenes con IA, aclaralo explícitamente. La transparencia sigue siendo tu mejor defensa contra acusaciones de fraude.
• Para Meta: Considerá adoptar estándares abiertos como el Content Credentials de Adobe o la tecnología de Google, que ofrecen protección más amplia. La competencia no debe ser un obstáculo para la seguridad.
• Para gobiernos y reguladores: Es momento de exigir a las plataformas que adopten soluciones que protejan de todo contenido generado por IA, no solo lo propio. La desinformación no respeta marcas corporativas.

Fuente: The Verge AI