OpenAI cierra cuentas rusas que usaban IA para operaciones de desinformación
La inteligencia artificial sigue siendo un arma de doble filo. OpenAI acaba de descubrir y cerrar una operación de desinformación coordinada desde Rusia que aprovechaba ChatGPT para generar contenido masivo en redes sociales. Aunque el ataque no fue dirigido específicamente a América Latina, sus técnicas son un aviso importante para toda la región sobre los riesgos de confiar ciegamente en herramientas de IA sin regulación.
¿Qué pasó?
El pasado martes, OpenAI informó que eliminó un conjunto de cuentas de ChatGPT operadas desde Rusia que utilizaban VPNs para sortear las restricciones geográficas y ejecutar una operación de influencia. Las cuentas generaban automáticamente posts, comentarios y contenido engañoso que luego se distribuía en plataformas como Substack, Telegram, X (antes Twitter), Facebook y LinkedIn.
Según el reporte, el objetivo principal era promover el International Burke Institute (IBI), una organización con vínculos a actores estatales rusos. Este tipo de operaciones buscan amplificar narrativas específicas, ganar credibilidad mediante volumen de contenido y, en última instancia, influir en la opinión pública a escala global.
Lo preocupante es que utilizaban ChatGPT específicamente porque facilita la generación rápida y masiva de contenido coherente, algo imposible de hacer manualmente a esa escala. OpenAI logró detectar el patrón anómalo de actividad y las técnicas de evasión, pero ilustra un problema más amplio: las herramientas de IA pueden ser armas de desinformación extraordinariamente efectivas.
¿Por qué importa en Argentina y América Latina?
En nuestra región, las operaciones de desinformación ya son un problema real. Durante campañas electorales y debates políticos sensibles, hemos visto cómo las redes de bots y cuentas falsas distorsionan el debate público. Aunque esta operación específica era rusa y global, sus técnicas son replicables por cualquier actor malicioso con recursos.
Para Argentina, Brasil, México y otros países de Latinoamérica, esto representa un escenario futuro donde la desinformación coordinada será más sofisticada y costará menos producirla. Si un grupo con recursos limitados puede automatizar contenido con IA, imaginá qué pueden hacer campañas políticas bien financiadas o gobiernos con presupuestos de inteligencia.
Además, la facilidad con que se pueden eludir restricciones geográficas (mediante VPNs) muestra que ni siquiera los bloqueos regionales son suficientes como defensa.
¿Qué se recomienda?
- Para usuarios: Verificá la información antes de compartirla. Si un post o contenido te parece sospechoso o demasiado perfecto, desconfiá. Controlá las cuentas que seguís y cuestiona las que generan contenido muy homogéneo o repetitivo.
- Para plataformas sociales: Es momento de mejorar las detecciones de patrones anómalos. Las redes como X, Facebook y LinkedIn necesitan sistemas más robustos para identificar comportamientos coordinados, incluso cuando el contenido está generado por IA.
- Para gobiernos y reguladores: La región necesita legislación sobre IA transparencia y responsabilidad. Argentina ya está avanzando en regulación de IA, pero debe incluir protecciones específicas contra desinformación generada por máquinas.
- Para desarrolladores: Las herramientas de IA deben incluir mecanismos de auditoría y límites de uso para detectar patrones de abuso masivo.
Fuente: The Hacker News
