xAI demanda a Minnesota por ley contra apps de desnudificación
La inteligencia artificial está en el centro de una nueva batalla legal en Estados Unidos. xAI, la empresa de IA de Elon Musk, acaba de demandar al fiscal general de Minnesota por una ley que prohíbe las aplicaciones de "desnudificación" —software que genera imágenes íntimas de personas sin su consentimiento. El conflicto trae a la mesa preguntas incómodas sobre libertad de expresión, regulación tecnológica y hasta dónde pueden llegar las leyes para proteger la dignidad de las personas.
¿Qué pasó?
En mayo de este año, Minnesota aprobó una ley que prohíbe de manera amplia las aplicaciones y herramientas que generen o manipulen imágenes para crear contenido íntimo falso de personas reales sin su consentimiento. Ahora, xAI está demandando al fiscal general Keith Ellison argumentando que esta ley viola la Primera Enmienda de la Constitución de Estados Unidos (equivalente a la libertad de expresión).
Según la demanda, la empresa se ve obligada a "restringir de varias maneras" las funciones de edición de imágenes de Grok Imagine, su modelo generador de imágenes. xAI cuestiona que la ley sea demasiado vaga y que sus disposiciones punitivas les dejan "sin opción práctica" más que conformarse a restricciones que consideran inconstitucionales.
La compañía sostiene que la ley es problemática porque podría afectar herramientas legítimas de edición de imágenes que tienen aplicaciones artísticas, educativas y comerciales válidas. Es el clásico debate: ¿cómo regulás la tecnología sin frenar la innovación?
¿Por qué importa en Argentina y América Latina?
Este caso es relevante para nuestra región por varias razones. Primero, Argentina y otros países latinoamericanos están apenas comenzando a desarrollar marcos legales propios para regular la IA y el deepfake. La batalla legal en Minnesota puede influir en cómo nuestros legisladores piensen estas regulaciones.
Segundo, el abuso de imágenes íntimas no consentidas es un problema real en América Latina. En Argentina, hay casos documentados de víctimas de sextorsión y deepfakes íntimos. Una regulación efectiva —pero equilibrada— es necesaria. Sin embargo, también hay que evitar leyes tan amplias que terminen criminalizando herramientas legítimas o que se presten a censura arbitraria.
Tercero, observar cómo se resuelven estos conflictos en Estados Unidos nos da pistas sobre cómo evitar problemas similares en leyes futuras. Si Minnesota pierde la demanda, otros países quizá se replanteen sus enfoques regulatorios. Si gana, podría sentar un precedente internacional sobre cómo proteger a las víctimas de contenido sintético abusivo.
¿Qué se recomienda?
Si sos usuario de herramientas de IA generativa, es momento de reflexionar sobre el uso responsable: no generés contenido íntimo de terceros sin consentimiento, más allá de si es técnicamente posible. En caso de ser víctima de deepfakes o imágenes íntimas no consentidas, guardá evidencia y reportá a las plataformas.
Para legisladores y responsables de políticas públicas en la región: este caso es una lección sobre la importancia de redactar leyes precisas que protejan sin criminalizar indiscriminadamente. Necesitamos regulaciones que distinguir entre uso abusivo y usos legítimos de la tecnología.
Fuente: The Verge AI
