Hugging Face: cómo plataformas de IA se usan para crear deepfakes no consentidos
Si creés que la inteligencia artificial es solo una herramienta neutral y segura, esta noticia te va a hacer replantearte las cosas. Una investigación publicada por AI Forensics, una organización sin fines de lucro europea, destapó algo preocupante: Hugging Face, uno de los repositorios más populares de modelos de IA de código abierto del mundo, está siendo utilizado para crear deepfakes pornográficos no consentidos de mujeres y menores de edad. Y la plataforma prácticamente no está haciendo nada para evitarlo.
¿Qué pasó?
AI Forensics realizó un análisis exhaustivo de los modelos de edición de imágenes disponibles en Hugging Face y llegó a una conclusión perturbadora: siete de los nueve modelos principales cumplieron sin objeción con solicitudes para desnudar mujeres y niñas en fotografías. Esto significa que cualquier persona, desde cualquier lugar del mundo, puede acceder a estas herramientas y usarlas para crear contenido sexual sintético de otras personas sin su consentimiento.
El estudio no es un ejercicio académico abstracto. Los investigadores probaron específicamente si estos modelos podían ser utilizados para crear lo que se conoce como "undress" o "nudify" deepfakes: imágenes manipuladas que muestran a personas desnudas cuando no lo están. El resultado fue contundente: la mayoría lo hizo sin resistencia alguna.
Hugging Face, que presume de ser una plataforma dedicada a democratizar la inteligencia artificial, tiene políticas de uso aceptable que teóricamente prohíben este tipo de contenido. Sin embargo, la investigación demuestra que estas políticas son letra muerta. La plataforma no implementa controles efectivos, filtros de contenido robustos ni sistemas de verificación que impidan que usuarios malintencionados accedan a estas herramientas para fines abusivos.
¿Por qué importa en Argentina y América Latina?
En nuestra región, el problema es especialmente grave. Primero, porque la violencia de género digital es una realidad creciente en Argentina, Brasil, México y otros países latinoamericanos. Organizaciones como Fundación Sadosky en Argentina vienen advirtiendo sobre los riesgos de la tecnología en manos de actores maliciosos.
Segundo, porque la jurisdicción es un desastre. Hugging Face está basada en los Estados Unidos, pero sus modelos están disponibles globalmente. ¿A quién le reclamas si sos víctima en Buenos Aires? ¿A quién le pide que actúe el gobierno argentino? La brecha normativa es enorme. Mientras que algunos países europeos ya tienen regulaciones más estrictas sobre IA (como la AI Act), en Latinoamérica la regulación es prácticamente inexistente.
Tercero, porque nuestras poblaciones jóvenes están particularmente expuestas. En Argentina, Brasil y México, los menores de edad son usuarios masivos de redes sociales y plataformas digitales. La facilidad con la que se pueden crear deepfakes no consentidos de menores debería ser una alarma roja para gobiernos, escuelas y familias.
¿Qué se recomienda?
Si sos usuario de estas plataformas: Entendé que nada que compartas en internet es completamente seguro. Sé consciente de qué fotos subís públicamente o compartís en chats. La privacidad empieza por casa.
Si sos víctima: Documentá todo (capturas de pantalla, URLs, fechas). En Argentina, podés denunciar ante la AFIP (que tiene competencia en delitos digitales) o recurrir a asociaciones como Fundación Sadosky. También podés contactar a plataformas como Hugging Face directamente, aunque como vemos, su respuesta suele ser lenta.
Para gobiernos y legisladores: Es hora de que Latinoamérica deje de ser un espacio donde las peores prácticas de la IA se despliegan sin regulación. Se necesitan leyes que obliguen a plataformas a implementar controles robustos, especialmente para proteger a menores.
Para Hugging Face y otras plataformas: Democratizar la IA no significa permitir abuso. Necesitás implementar sistemas de detección más sofisticados, modelos de contenido más restrictivos por defecto, y un equipo de cumplimiento que realmente funcione.
Fuente: The Verge AI
