La contratación por IA revela patrones preocupantes: sesgos raciales y rechazo sistémico

La Universidad de Stanford ha publicado el primer gran estudio de contratación por IA y los resultados no son positivos. El examen de los algoritmos de contratación en entornos reales revela patrones preocupantes en la forma en que los sistemas rechazan a los candidatos.

La semana pasada hablamos de un estudio del MIT donde alertaba del coste que podría suponer a las empresas el automatizar puestos de trabajo con IA, sin control humano. Y es que los avances en inteligencia artificial están marcando un punto sin retorno en múltiples sectores y el del empleo es uno de los más conflictivos. La IA está cambiando no solo si las empresas contratan, sino también cómo lo hacen.

Contratación por IA

El noventa por ciento de los empleadores estadounidenses utilizan herramientas de selección de contratación por IA para clasificar a los solicitantes de empleo, y la mayoría depende de los mismos y pocos proveedores externos. Cuando un algoritmo influye en muchos empleadores, ¿cuál es el impacto en los solicitantes de empleo? Desde Standford alertan que los sesgos raciales y el rechazo sistemático son abundantes.

El informe analizó a 3,4 millones de personas que presentaron 4 millones de solicitudes de empleo a 1700 ofertas de trabajo en 150 empresas y 11 sectores industriales. Cada solicitud fue evaluada por una herramienta de contratación basada en inteligencia artificial, desarrollada por un único proveedor externo. El estudio ofrece una visión privilegiada del funcionamiento interno de la contratación algorítmica, demostrando que estas herramientas incrementan el sesgo racial y excluyen a las mismas personas de los puestos de trabajo a los que se postulan.

Sesgo racial a gran escala

El informe encontró evidencia sustancial de disparidades raciales en la selección de candidatos basada en IA. Para medir el impacto adverso, aplicaron la «regla de las cuatro quintas partes» de la EEOC, que señala un puesto cuando un grupo es recomendado a menos del 80 % de la tasa del grupo más recomendado, según la ley laboral estadounidense pertinente (Título VII).

Descubrieron que el 26 % de los solicitantes negros y el 15 % de los solicitantes asiáticos postularon a puestos donde el sistema de IA discriminó a su grupo racial. Para poner esto en perspectiva: si la IA hubiera recomendado a los candidatos negros y asiáticos a la misma tasa que recomendó al grupo más favorecido (generalmente solicitantes blancos), 40.000 solicitudes más de ellos habrían avanzado a la siguiente etapa de contratación.

La forma en que se mide el impacto adverso es crucial. El proveedor que analizamos evalúa a los candidatos para diversos puestos en múltiples empresas. Si agrupamos todas sus recomendaciones —tratando al proveedor como un único proceso de contratación— no encontramos ningún impacto adverso. Sin embargo, si analizamos cada puesto por separado, como suele hacerse en una evaluación de impacto adverso, entonces sí que lo detectamos en muchos puestos.

Rechazo sistémico

En Standford también estudiaron las nuevas preocupaciones derivadas de la dependencia compartida de un único proveedor de contratación, confirmando la hipótesis de que las monoculturas algorítmicas, en las que muchos empleadores llegan a depender de las mismas recomendaciones algorítmicas, podrían provocar que algunas personas queden excluidas de ciertos puestos de trabajo.

Utilizando el amplio conjunto de datos de recomendaciones reales de IA para la contratación, descubrieron que las personas que envían múltiples solicitudes a puestos evaluados por el mismo proveedor de contratación algorítmica tienen más probabilidades de ser rechazadas en todos los puestos a los que se postulan que si las empresas tomaran decisiones de forma estadísticamente independiente entre sí. El diez por ciento de los solicitantes que envían cuatro solicitudes son rechazados en todos los lugares a los que se postulan.

También reveló que este patrón no se observa en otras circunstancias. Analizando datos del estudio previo más extenso sobre decisiones de contratación, que envió 83.000 solicitudes a 108 empresas de la lista Fortune 500 durante el mismo período que su estudio y no se centró en si se utilizó inteligencia artificial para la toma de decisiones, descubrieron que la tasa de rechazo de los solicitantes en todas las empresas a las que postularon no era superior a la esperada si cada empresa decidiera de forma independiente.

Esto sugiere que la concentración del mercado importa: a medida que un único proveedor de servicios de contratación llega a dominar la selección de personal para una industria, es más probable que los candidatos queden excluidos.

Conclusiones

Las herramientas de selección basadas en IA combinan tres características que -a juicio de esta investigación- no deberían coexistir en la toma de decisiones de alto riesgo: su amplia adopción, sus graves consecuencias y su opacidad para el público. El estudio avanza en la comprensión de las consecuencias de las herramientas de contratación por IA, pero gran parte del impacto de esta tecnología aún no está claro. Este ámbito evoluciona rápidamente a medida que se desarrollan nuevas herramientas utilizando modelos de lenguaje y agentes.

La principal conclusión de este trabajo es el valor y la necesidad de la investigación independiente sobre la contratación algorítmica. Sin investigación independiente, será difícil formular políticas de IA basadas en evidencia para regular el impacto de la IA en las perspectivas laborales individuales y en la composición general de la fuerza laboral.

Más información | Informe de Standford sobre contratación por IA