Meta desactiva función que permitía crear deepfakes con cuentas públicas
Meta acaba de dar marcha atrás con una de sus herramientas más controvertidas. La compañía desactivó la función que había anunciado esta semana y que permitía a los usuarios crear deepfakes de celebridades, políticos y figuras públicas usando contenido de sus cuentas de Instagram públicas. El giro fue rápido: tras recibir críticas masivas, el gigante de las redes sociales decidió apagar la característica antes de que generara problemas mayores.
¿Qué pasó?
Meta presentó esta semana una herramienta experimental que funcionaba de manera simple pero preocupante: vos podías tagear a cualquier cuenta pública de Instagram y la IA generaba imágenes basadas en el contenido de esa persona, sin que ella lo autorizara. Imaginate el potencial de abuso: deepfakes de políticos, influencers, periodistas, cualquiera con perfil público quedaba expuesto.
El problema fue inmediato. Actores, músicos, políticos y expertos en seguridad se manifestaron en contra. ¿La razón principal? Nadie pidió permiso. No importaba si eras una figura pública o no; tu contenido podía ser utilizado para crear imágenes falsas sin tu consentimiento. En cuestión de días, Meta reconoció el error y apagó la función.
La decisión refleja una realidad que Meta ya conoce bien: los usuarios y reguladores están cada vez más sensibilizados respecto a los riesgos de las tecnologías de IA generativa. No es la primera vez que la plataforma se ve obligada a frenar una característica por cuestiones éticas o de privacidad.
¿Por qué importa en Argentina y América Latina?
En nuestra región, donde la política es una conversación constante en redes sociales, este tipo de herramientas son particularmente peligrosas. Imaginá deepfakes de candidatos presidenciales, gobernadores o legisladores circulando sin control durante períodos electorales. Argentina ya ha visto cómo la desinformación puede afectar debates públicos; una herramienta así habría sido un arma perfecta para campañas de manipulación.
Además, muchos creadores de contenido, periodistas y influencers latinoamericanos dependen de sus cuentas públicas como herramientas de trabajo. La posibilidad de que alguien usara su contenido sin autorización para crear material falso representaba un riesgo real a su reputación y sustento económico.
¿Qué se recomienda?
Para vos como usuario: Aunque Meta apagó esta herramienta, otras plataformas y desarrolladores independientes siguen experimentando con IA generativa. Revisá los permisos que das a apps y herramientas de terceros. Si creás contenido, considerá si realmente querés que tu material esté disponible públicamente o si conviene limitar la visibilidad.
Para creadores de contenido: Mantené un registro de dónde aparece vuestro contenido. Si detectás que alguien está usando vuestras imágenes para generar deepfakes, documentalo y reportalo a la plataforma. En Argentina, podés contactar a la AFSCA o explorar opciones legales según corresponda.
Para organizaciones: Desarrollen políticas internas sobre cómo identificar y combatir deepfakes. La verificación de contenido va a ser cada vez más importante en los próximos años.
Fuente: The Verge AI
