Margaret Atwood advierte: el problema de la IA es "basura entra, basura sale"
Margaret Atwood, la aclamada autora de El cuento de la criada, no se anduvo con vueltas al hablar sobre inteligencia artificial. Durante el Festival Literario y Cultural Babell en Oporto, Portugal, la escritora canadiense se animó a criticar uno de los problemas más fundamentales que enfrenta la IA hoy: la calidad de los datos con los que se entrena.
¿Qué pasó?
En una entrevista cubierta por Deadline, Atwood expresó su preocupación sobre cómo funcionan realmente los sistemas de inteligencia artificial. Su diagnóstico fue directo: "basura entra, basura sale" (garbage in, garbage out). La frase, aunque simple, resume un problema crítico de la industria actual.
Según Atwood, utilizó una herramienta de IA y se dio cuenta de cómo los modelos reproducen y amplifican los sesgos, errores y contenido de baja calidad que ingieren durante su entrenamiento. No es un problema exclusivo de la tecnología en sí, sino de cómo elegimos alimentarla. Si un modelo se entrena con datos incompletos, sesgados o directamente incorrectos, los resultados serán proporcionalmente deficientes.
La observación de la autora toca un debate que ya está presente en la comunidad tecnológica mundial: ¿de dónde sacamos los datos para entrenar estas máquinas? ¿Quién verifica su calidad? ¿Qué sesgos perpetuamos sin darnos cuenta?
¿Por qué importa en Argentina y América Latina?
En nuestra región, este problema se magnifica. Muchas empresas argentinas y latinoamericanas están adoptando herramientas de IA sin considerar si los modelos fueron entrenados con datos representativos de nuestra realidad. Los sistemas de reconocimiento facial, análisis de crédito o algoritmos de selección de personal generalmente se entrenan con datos de contextos europeos o estadounidenses, lo que puede generar discriminación hacia nuestras poblaciones.
Además, en América Latina enfrentamos desafíos adicionales: la calidad de datos disponibles es menor, hay menos regulación sobre su uso y muchas organizaciones carecen de expertise para auditar si estos modelos funcionan correctamente en nuestro contexto. Si la IA se entrena con "basura", los resultados pueden ser especialmente problemáticos en economías donde el margen de error es más crítico para trabajadores y pequeñas empresas.
¿Qué se recomienda?
Para organizaciones en Argentina y Latinoamérica que estén evaluando herramientas de IA:
- Verificá la procedencia de los datos: preguntá a los proveedores sobre cómo fueron recolectados y cuáles son sus sesgos conocidos.
- Testeá con datos locales: antes de implementar un modelo, correlo con información representativa de tu contexto para detectar problemas.
- Mantené auditorías regulares: no confíes en que un modelo seguirá funcionando bien sin supervisión humana continua.
- Documentá decisiones: si la IA afecta a personas (selección de personal, evaluaciones de crédito), dejá registro de cómo se tomaron esas decisiones.
Fuente: The Verge AI
