La IA discrimina más que los humanos al contratar: qué significa para vos

La próxima vez que envíes tu CV a una empresa, es probable que una inteligencia artificial lo revise antes que cualquier persona. Pero acá viene el problema: los investigadores advierten que estos sistemas no son más justos que los humanos. De hecho, podrían ser bastante más injustos.

¿Qué pasó?

Estudios recientes del MIT Tech Review revelan que los modelos de lenguaje grandes (LLMs) no solo reproducen los sesgos que encuentran en sus datos de entrenamiento, sino que además desarrollan sesgos propios adicionales durante el proceso de selección de candidatos. Esto significa que la discriminación no es solo heredada del pasado, sino que se genera activamente en el sistema de IA.

Los investigadores descubrieron que estos algoritmos pueden penalizar a candidatos por características como su nombre, género, edad o el idioma en que escriben su CV, incluso cuando estos factores no deberían ser relevantes. Lo más preocupante: estos sesgos emergentes pueden ser completamente invisibles a primera vista, escondidos en los patrones que el modelo aprende durante el entrenamiento.

A diferencia de un gerente de recursos humanos que, al menos en teoría, puede ser consciente de sus prejuicios, los sesgos de la IA operan en las sombras del código. Y cuando el reclutador promedio recibe miles de candidaturas, la tentación de automatizar todo el proceso con IA es enorme.

¿Por qué importa en Argentina y América Latina?

En nuestra región, donde el mercado laboral ya enfrenta desafíos enormes de desigualdad y discriminación, la implementación de sistemas de selección basados en IA amplifica estos problemas. Las grandes empresas multinacionales que operan en Argentina, Brasil, México y el resto de LATAM cada vez más utilizan estos sistemas de screening automatizado.

Un candidato argentino con un nombre que suene a migrante reciente, una mujer en tecnología, o alguien de provincias que escriba su CV de forma regional, podría ser directamente descartado por un algoritmo sesgado sin que nadie lo sepa. Y acá no estamos hablando de paranoia: estudios ya muestran que esto pasa.

Además, en economías como la nuestra donde el desempleo y la precarización laboral son crisis reales, cualquier herramienta que reduzca oportunidades de trabajo legítimas es un problema de seguridad social.

¿Qué se recomienda?

• Si buscás trabajo: Si sabés que una empresa usa reclutamiento automatizado, asegurate de que tu CV sea lo más claro y directo posible. Evita formatos complejos o muy creativos que el algoritmo podría no procesar. Si podés, buscá una recomendación interna o intentá hablar con alguien antes de enviar tu solicitud.
• Si sos empresario o trabajás en RRHH: Antes de implementar un sistema de selección con IA, exigí auditorías de sesgo. No confíes en que "la IA es objetiva". Pedile a proveedores que demuestren que sus modelos fueron testeados contra discriminación. Y siempre dejá un proceso de revisión humana.
• Demanda regulación: Como región, LATAM debería estar pidiendo que los gobiernos regulen el uso de IA en procesos de selección. La UE ya está avanzando en esto. Argentina podría ser pionero en regulación de IA para proteger derechos laborales.

Fuente: MIT Tech Review