Cómo la IA reduce los sesgos y cuándo los amplifica

Hay una conversación que los equipos de RRHH tienen en privado y raramente en público.

¿Cuántas veces hemos descartado a un candidato por razones que no tenían nada que ver con su capacidad para hacer el trabajo? ¿Cuántas veces el candidato que «encajaba culturalmente» era simplemente el que se parecía más a quien ya estaba en el equipo?

El sesgo en el reclutamiento no es un problema de personas malas. Es un problema de sistemas mal diseñados. Y cuando introduces IA en esos sistemas sin pensarlo, el resultado no es menos sesgo. Es el mismo sesgo a mayor escala, ejecutado más rápido y con la apariencia de objetividad.

Pero hay otro escenario posible. Y es el que están consiguiendo los equipos que están usando la IA con criterio.

Qué es el sesgo en el reclutamiento y por qué es tan difícil de eliminar

El sesgo en el reclutamiento ocurre cuando factores irrelevantes para el rendimiento en el puesto influyen en las decisiones de contratación. Género, edad, nombre, institución educativa, código postal, foto de perfil.

Lo que hace al sesgo especialmente difícil de eliminar es que la mayoría opera por debajo del nivel de consciencia. No es que el recruiter decida activamente discriminar. Es que el cerebro humano toma atajos. Asocia patrones. Reconoce como «candidato fuerte» a perfiles que se parecen a los que en el pasado resultaron ser buenos empleados.

El problema es que esos patrones del pasado reflejan quién tenía acceso a las oportunidades, no quién era capaz de aprovecharlas.

Cinco tipos de sesgo que aparecen con más frecuencia en los procesos de selección:

Sesgo de afinidad. Tendemos a valorar más positivamente a personas que se parecen a nosotros en experiencias, aficiones o trayectoria. Un recruiter que fue a determinada universidad puntúa inconscientemente más alto a candidatos de esa misma universidad.

Sesgo de confirmación. Una vez formamos una primera impresión de un candidato, interpretamos el resto de la información para confirmarla. Si la foto del perfil nos genera una impresión positiva, leemos el CV buscando razones para que sea bueno.

Sesgo de halo. Una característica positiva destacada contamina la evaluación del resto. Un CV con una empresa muy reconocida en el historial hace que el resto del perfil se evalúe con mayor generosidad.

Sesgo de disponibilidad. Recordamos más vívidamente a los últimos candidatos que hemos entrevistado. El quinto candidato del día se evalúa diferente que el primero, independientemente de sus capacidades reales.

Sesgo de nombre. Estudios consistentes en diferentes países muestran que CVs idénticos con nombres percibidos como de mayorías étnicas reciben más respuestas que los mismos CVs con nombres percibidos como de minorías.

Cómo la IA puede reducir el sesgo

La ventaja fundamental de la IA frente al criterio humano en las fases de sourcing y primer filtro es la consistencia. Un sistema bien configurado aplica los mismos criterios al candidato número uno y al candidato número mil. No tiene días mejores ni peores. No se deja influir por la foto de perfil. No recuerda más vívidamente al último candidato que revisó.

Cuatro formas concretas en las que la IA reduce el sesgo cuando se implementa bien:

Criterios documentados antes de empezar. Cuando defines por escrito los cinco requisitos no negociables antes de activar cualquier herramienta de sourcing, estás obligando al equipo a tener una conversación que normalmente no se tiene. ¿Qué predice realmente el éxito en este rol? ¿Qué parte de los requisitos históricos era relevante y qué parte era simplemente lo que siempre habíamos pedido?

Búsqueda multi-fuente con criterios uniformes. Un sistema de sourcing con IA aplica los mismos criterios en LinkedIn, GitHub, Wellfound y bases de datos propias al mismo tiempo. No tiene la limitación del recruiter que busca primero en la fuente que mejor conoce o donde tiene más contactos. Amplía el universo de búsqueda de forma sistemática y consistente.

Screening asíncrono con rúbricas predefinidas. Cuando el primer filtro se hace con preguntas estructuradas y criterios de evaluación definidos antes de ver las respuestas, reduces el impacto de la primera impresión en la decisión de avanzar o no a un candidato.

Anonimización en las primeras fases. Algunas herramientas permiten hacer la revisión inicial de candidatos sin información que active sesgos no relevantes: sin foto, sin nombre, sin institución educativa, evaluando únicamente la experiencia y las competencias relevantes para el rol.

Cuándo la IA amplifica el sesgo en lugar de reducirlo

Aquí es donde hay que ser honesto. Y donde muchos artículos sobre IA y diversidad se quedan cortos.

La IA no es objetiva por naturaleza. Es tan objetiva como los datos con los que se entrena y los criterios con los que se configura.

El problema de los datos históricos. Si entrenas un sistema de IA con los datos de tus contrataciones de los últimos cinco años, el sistema aprende a replicar esas contrataciones. Si en esos cinco años contrataste principalmente a hombres de entre 28 y 35 años con titulación universitaria de determinadas instituciones, el sistema aprenderá que ese es el perfil de candidato exitoso. No porque sea verdad. Porque es lo que los datos le dicen.

El problema de los proxy. A veces los sistemas de IA identifican variables que correlacionan con el rendimiento histórico sin que nadie haya comprobado si esa correlación es real o si es un artefacto del sesgo histórico. Distancia al lugar de trabajo, actividad en determinadas plataformas, vocabulario usado en el CV. Estas variables pueden parecer neutrales y ser discriminatorias.

El problema de la opacidad. Cuando un recruiter descarta a un candidato, al menos en teoría puede explicar por qué. Cuando un sistema de IA lo descarta, a veces es difícil saber exactamente qué criterios llevaron a esa decisión. La opacidad hace más difícil detectar y corregir el sesgo.

El problema de la escala. El sesgo humano afecta a las decisiones de un recruiter. El sesgo de un sistema de IA mal configurado afecta a todas las decisiones de todos los procesos que ese sistema gestiona. La escala que hace a la IA poderosa también hace más grave su sesgo cuando existe.

Qué hacer para usar la IA de forma que reduzca el sesgo y no lo amplifique

Audita tus criterios antes de automatizarlos. Antes de introducir cualquier criterio en un sistema de IA, pregúntate: ¿este requisito predice realmente el rendimiento en este rol, o es simplemente lo que siempre hemos pedido? La IA automatiza tus criterios. Si tus criterios tienen sesgo, la IA lo escala.

Revisa periódicamente los resultados por grupos. Si los shortlists que genera tu sistema de IA muestran consistentemente una subrepresentación de determinados grupos, eso es una señal de que algo en la configuración necesita revisión. No es una crítica a la herramienta. Es información útil.

Mantén la supervisión humana en el diseño, no solo en la ejecución. El momento más importante para controlar el sesgo en un sistema de IA no es cuando revisas los resultados. Es cuando defines los criterios. Involucra a personas con perspectivas distintas en ese proceso.

No delegues en la IA las decisiones que importan. La evaluación final de si un candidato es la persona correcta para un equipo en un momento concreto debe seguir siendo una decisión humana. No porque los humanos seamos objetivos, sino porque somos responsables de esa decisión de una forma que ningún sistema puede serlo.

Conclusión: la IA no resuelve el problema del sesgo. Te da la oportunidad de hacerlo

El sesgo en el reclutamiento existía antes de la IA y seguirá existiendo si no se trabaja activamente para reducirlo. Lo que cambia con la IA es la escala y la velocidad.

Usada con criterio, la IA es la mejor herramienta que los equipos de RRHH han tenido nunca para aplicar criterios consistentes a escala, ampliar el universo de búsqueda más allá de los sesgos de disponibilidad y construir procesos más justos.

Usada sin criterio, es la forma más rápida de escalar los sesgos del pasado y darles la apariencia de objetividad.

La diferencia no está en la herramienta. Está en quién la configura, con qué criterios y con qué nivel de supervisión.

¿Quieres revisar si tu proceso de sourcing actual está amplificando sesgos sin que te hayas dado cuenta? En fïndr te ayudamos a hacer ese diagnóstico. → findr.es

fïndr · findr.es · AI recruiting para equipos que contratan en serio