Una investigación liderada por la Universidad de Stanford ha puesto al descubierto que los sistemas de inteligencia artificial utilizados para preseleccionar candidatos en procesos de selección de personal producen sesgos de carácter racial y provocan el rechazo reiterado de los mismos postulantes en diferentes compañías. Este hallazgo adquiere especial relevancia en un mercado laboral cada vez más exigente y donde estas herramientas se han masificado, según el informe divulgado.
El estudio realizó un seguimiento a 3,4 millones de personas que generaron 4 millones de solicitudes para 1.700 ofertas de empleo en 150 empleadores distribuidos en 11 sectores productivos, de acuerdo con la Universidad de Stanford.
Para medir el impacto, los investigadores aplicaron la regla de los cuatro quintos establecida por la Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos. Esta norma identifica un posible perjuicio cuando un grupo es recomendado a una tasa inferior al 80% del grupo más favorecido.
Bajo estos parámetros, el 26% de los postulantes afrodescendientes y el 15% de los postulantes asiáticos se inscribieron en puestos donde el algoritmo discriminó a su grupo racial. El análisis indica que, si ambos grupos hubieran sido recomendados al mismo ritmo que el grupo más beneficiado (generalmente solicitantes blancos), alrededor de 40.000 postulaciones adicionales habrían pasado a la siguiente fase del proceso.
La pregunta central del estudio obtuvo una respuesta concreta: cuando un mismo proveedor concentra el filtrado para múltiples empresas, los efectos de su modelo no se limitan a una sola vacante. Según la Universidad de Stanford, esto incrementa la probabilidad de que una persona quede excluida de manera consistente en todas las posiciones a las que aplica.
¿En qué etapa aparece el sesgo?
El estudio, titulado “Algorithmic Monocultures in Hiring”, fue desarrollado por académicos de la Universidad de Stanford, la Universidad de Chapman y la Universidad de Northeastern. Sus conclusiones serán presentadas en la conferencia ACM sobre equidad, rendición de cuentas y transparencia en la ciudad de Montreal, según reportó la revista Fortune.
Todas las postulaciones del conjunto principal fueron evaluadas por una herramienta de contratación creada por un único proveedor externo: Pymetrics.
Este punto es clave porque, según la Universidad de Stanford, si se agrupan todas las recomendaciones del proveedor como si fueran un único proceso de selección, el perjuicio no se hace visible. Sin embargo, cuando cada puesto se examina de forma individual -como suele exigir la evaluación legal de discriminación laboral en Estados Unidos-, el problema emerge claramente.
Los autores señalaron que agregar datos de múltiples cargos u ocupaciones “basta para ocultar el efecto adverso por puesto”, una práctica que calificaron como una interpretación “incorrecta, o como mínimo incompleta” de las directrices federales.
Kathleen Creel, profesora de la Universidad de Northeastern y coautora del estudio, declaró al Financial Times:
“A medida que un solo proveedor pasa a dominar la toma de decisiones en un espacio, sus peculiaridades o deficiencias pueden estar presentes en todo ese sector de una manera que antes no era posible”.
Un mismo puntaje puede cerrar puertas en varias empresas a la vez
El segundo hallazgo se centró en lo que los investigadores denominan rechazo sistémico. De acuerdo con la Universidad de Stanford, las personas que envían varias postulaciones a puestos evaluados por el mismo proveedor algorítmico tienen más probabilidades de ser rechazadas en todos ellos que si cada empresa actuara de forma estadísticamente independiente.
Este análisis también indicó que 10% de los solicitantes que presentaron cuatro postulaciones fue rechazado en todos los lugares a los que aplicó. Fortune añadió que, entre quienes se postularon a 10 posiciones evaluadas por Pymetrics, el 4% recibió rechazo en todas, una tasa superior a la que cabría esperar por simple azar si las compañías decidieran sin relación entre sí.
La explicación técnica radica en la reutilización de la misma evaluación. Según Fortune, Pymetrics no filtra candidatos por currículum, sino a través de juegos en línea que miden rasgos cognitivos como tolerancia al riesgo, velocidad de procesamiento y altruismo. Los puntajes obtenidos pueden almacenarse y reutilizarse durante un período de hasta 330 días.
Esto implica que, si dos empresas usan Pymetrics, un mismo postulante puede enfrentar en ambas el mismo resultado algorítmico. Los investigadores describieron ese patrón como un “veto algorítmico”, una idea previamente planteada en la literatura académica pero nunca antes documentada a esta escala con datos reales de uso.
Para medir el alcance de este efecto, el equipo solicitó a Pymetrics que ejecutara sus modelos sobre una muestra de 1.000 aspirantes frente a todos los puestos aplicables del conjunto de datos, según Fortune.
Ninguna persona fue rechazada por todos los modelos, pero para reducir la probabilidad de quedar excluida de forma sistémica por debajo del 0,1%, un candidato tendría que postularse al menos a 25 vacantes, más del doble de las 10 que bastarían si las decisiones fueran independientes.
Concentración del mercado amplifica el problema regulatorio
La revisión de la Universidad de Stanford sostuvo que las herramientas de filtrado por IA combinan tres características que no deberían coexistir en decisiones de alto impacto: adopción masiva, consecuencias relevantes para los postulantes y opacidad para el público en general.
Este diagnóstico se produce en un contexto donde 90% de los empleadores de Estados Unidos utiliza sistemas de IA para ordenar y clasificar aspirantes, con una fuerte dependencia de unos pocos proveedores, según la casa de estudios.
El estudio también comparó estos resultados con el mayor análisis previo de decisiones de contratación, que envió 83.000 postulaciones a 108 firmas de la lista Fortune 500 durante el mismo período, sin centrarse en el uso de IA. En ese conjunto, la tasa de rechazos totales no fue superior a la esperable si cada empresa decidiera por su cuenta.
Fortune agregó que, en mayo de 2023, más del 60% de las empresas del Fortune 100 y ocho de las 10 mayores agencias federales de Estados Unidos utilizaban algoritmos de la compañía de inteligencia artificial HireVue.
Por su parte, los autores advirtieron que esta concentración no solo puede propagar sesgos, sino también generar una vulnerabilidad sistémica si un proveedor dominante dejara de operar o produjera resultados discriminatorios a gran escala.
En el ámbito regulatorio, el informe de Fortune señaló que la ciudad de Nueva York aprobó en 2021 la Local Law 144, la primera norma dirigida específicamente a la contratación algorítmica. No obstante, los autores sostienen que su guía oficial actual parece indicar a los auditores que agrupen datos entre puestos y empleadores, lo cual termina ocultando las disparidades existentes.
En Europa, la Ley de IA de la Unión Europea clasifica por defecto los algoritmos de contratación como sistemas de alto riesgo. Sus exigencias de cumplimiento entrarán en vigor el 2 de agosto de 2026.
Los investigadores propusieron cuatro medidas concretas:
- Evaluar el efecto adverso a nivel de cada puesto de trabajo.
- Reforzar la vigilancia del mercado entre empleadores.
- Realizar un seguimiento de los riesgos derivados de la concentración algorítmica.
- Abrir vías legales para que equipos independientes puedan acceder a datos de contratación.
Finalmente, la Universidad de Stanford concluyó que, sin investigación independiente, será difícil construir políticas públicas basadas en evidencias para regular el impacto de la IA sobre las posibilidades de empleo de las personas y sobre la composición general de la fuerza laboral.
Fuente: Infobae