La utilización de sistemas de inteligencia artificial se ha extendido en los últimos años a la selección y contratación de personas. Muchas empresas y portales de búsqueda de empleo incorporan técnicas de analítica de personas o people analytics para adoptar decisiones de selección y contratación de forma automatizada.

Hay empresas que utilizan sistemas de inteligencia artificial en entrevistas virtuales. Así, por ejemplo, la empresa HireVue desarrolló un sistema de reconocimiento facial que analiza a las personas durante una entrevista virtual, analizando las palabras utilizadas y predecir sus capacidades y competencias profesionales. Anteriormente, el sistema también analizaba los movimientos faciales y el tono de voz, si bien la empresa dejó de analizar estos elementos -aunque no lo ha reconocido, posiblemente por no existir evidencia científica de la veracidad de los resultados.

Otras empresas utilizan chatbots para chatear con las personas candidatas en un proceso de selección, como por ejemplo la empresa StepStone, que utiliza el sistema de inteligencia artificial Mya, que saca conclusiones de las conversaciones que mantiene con las personas que buscan empleo y les manda sugerencias de puestos de trabajo que podrían encajar con sus intereses y perfil.

Existen empresas que utilizan sistemas de inteligencia artificial para evaluar de forma automatizada los CV de las personas candidatas. La empresa proporciona al algoritmo los CV de las personas que considera top performers y, mediante un sistema de aprendizaje automático, se identifican aquellas características comunes (por ejemplo, formación, alma mater, experiencia profesional previa, etc.), que posteriormente se buscan en las personas candidatas. Por ejemplo, si el algoritmo identifica que de entre las personas top performers hay un porcentaje significativo que han estudiado en una determinada universidad, buscará a personas candidatas que hayan estudiado en esa misma universidad, prediciendo que tendrán un buen rendimiento profesional.

Otro sistema de inteligencia artificial utilizado en procesos de selección son los juegos. Empresas como Pymetrics o Knack han desarrollado juegos de ordenador que se utilizan en procesos de selección y pretenden medir variables como la atención, capacidad de decisión, esfuerzo, capacidad de aprendizaje o tolerancia al riesgo. El modelo mide el rendimiento en estos juegos de las mejores personas empleadas en la empresa y lo utiliza como estándar de referencia para evaluar a las personas candidatas.

Finalmente, otras empresas utilizan sistemas de escaneo de redes sociales, analizando la interacción y participación de las personas en redes sociales y elaborar un perfil profesional. La empresa Deep-Sense ofrecía servicios a otras empresas de escaneo las redes sociales de las personas candidatas a un puesto de trabajo para predecir su encaje en la empresa, personalidad y comportamiento.

El uso de sistemas de inteligencia artificial en procesos de selección y contratación de personas puede ofrecen ventajas empresariales. Un proceso de selección con miles de personas candidatas puede simplificarse enormemente mediante un sistema de inteligencia artificial que identifica a aquellas que mejor pueden encajar en el puesto de trabajo. No es necesario automatizar todo el proceso de selección; la empresa puede realizar entrevistas individuales con las personas mejor evaluadas por el sistema, simplificándose enormemente el procedimiento, reduciendo costes empresariales.

Sin embargo, paradójicamente, también pueden complicarlo. Aunque pretenden mejorar la eficiencia y la velocidad, estos sistemas de inteligencia artificial también pueden provocar el efecto contrario dado el incremento de la información a procesar. No solo las empresas han experimentado un incremento en las solicitudes que reciben, sino que los procesos de selección se complican con el procesamiento de muchos más datos personales.

Además, debe cuestionarse la efectividad de estos sistemas para predecir el perfil profesional de una persona. Hilke Schellmann, en su libro The Algorithm, pone en evidencia la debilidad de estos sistemas y como alguno, incluso, ofrece buenas puntuaciones incluso cuando respondes a las preguntas leyendo páginas al azar de la Wikipedia en inglés, alemán y chino.

Más allá, los sistemas de inteligencia artificial incluyen sesgos y estereotipos de género, raza, orientación sexual, discapacidad, etc., que pueden generar situaciones de discriminación.

A modo de ejemplo, la utilización de técnicas de publicidad segmentada para ofertas de trabajo podría generar una situación de discriminación prohibida. La práctica comúnmente utilizada en portales de empleo de dirigir ofertas a personas que comparten determinadas características (lookalike audience), puede resultar discriminatoria si la segmentación se realiza incluya o excluya a colectivos en atención a causas de discriminación prohibidas. Así, por ejemplo, LinkedIn identificó que el algoritmo mostraba ofertas de empleo a aquellas personas que había identificado tenían más probabilidad de contactar con la empresa o postularse para el puesto, lo que se traducía en que recomendaba más ofertas de trabajo a hombres, dado la diferencia entre hombres y mujeres en la búsqueda de empleo.

El uso de juegos en procesos de selección también puede tener un efecto discriminatorio al evidenciarse diferencias entre hombres y mujeres en la ejecución de dichos juegos, así como por razón de edad. También puede tener un impacto discriminatorio por razón de discapacidad, por cuanto muchos de estos juegos miden el tiempo de compleción de una determinada tarea, lo que puede penalizar a personas con una determinada discapacidad, a pesar de que la rapidez no tenga relación con el puesto de trabajo ofertado.

Los sistemas de inteligencia artificial que analizan entrevistas virtuales también pueden tener un efecto discriminatorio al penalizar errores de lenguaje de personas no nativas, migradas o refugiadas, así como confundir diferencias culturales de expresión con un mal perfil profesional. Más allá, es importante recordar la investigación de Joy Buolamwini y Timnit Gebru, que evidenció la existencia de sesgos raciales en los principales sistemas de reconocimiento facial.

También es interesante el ejemplo de la start-up Gild, que, en un artículo publicado en The Atlantic en 2013, reveló que el algoritmo utilizado había identificado una correlación estadística entre las habilidades de codificar de una persona y la participación en foros de programación, como Stack Overflow, y la visita a una concreta página web de manga japonés. Esta variable aparentemente inofensiva puede generar un efecto discriminatorio si tenemos en cuenta el contenido altamente sexual que caracteriza el manga japonés, además de la desigual distribución de tareas de cuidado entre mujeres y hombres que reduce el tiempo disponible de las mujeres para participar en foros de programación. Aunque la empresa admitía que la conexión entre visitar una página de manga japonés y tener buenas habilidades para codificar no es una relación de causalidad, confirmó que sí influía en la cualificación que recibía la persona.

La discriminación algorítmica podrá encauzarse, desde mi punto de vista, en la actual doctrina antidiscriminatoria. Los supuestos de discriminación derivada del uso de sistemas de inteligencia artificial calificaran generalmente como supuestos de discriminación directa o indirecta, sin que sea necesaria la creación de categorías jurídicas nuevas.

Sin embargo, como concluyo en mi artículo “Analítica de personas y discriminación algorítmica en procesos de selección y contratación” publicado en el número extraordinario de la revista Labos sobre la normativa europea sobre inteligencia artificial, el tratamiento jurídico de la discriminación algorítmica genera retos derivados de la opacidad y falta de transparencia que caracteriza los sistemas de inteligencia artificial. Más allá, la objetividad y neutralidad que envuelve a los algoritmos reduce la sensación de discriminación.

La actual normativa reconoce derechos de información, pero resultan insuficientes por cuanto no reconocen el acceso a la información necesaria y esencial para defender el impacto discriminatorio del sistema, como es información estadística sobre los efectos del algoritmo. En consecuencia, mi propuesta es la adopción de una normativa específica referente a la utilización de sistemas algorítmicos y de inteligencia artificial en el ámbito laboral que, además de concretar y ampliar las actuales obligaciones de información, reconozca la obligación de realizar auditorías periódicas sobre el impacto de dichos sistemas y el derecho de la representación legal de la plantilla a acceder a dicha información.

La presente publicación se ha realizado en el contexto del Proyecto “Digitalización del trabajo justa, equitativa y transparente” (DigitalWORK) financiado por FEDER UE – Ministerio de Ciencia, Innovación y Universidades – Agencia Estatal de Investigación – Proyecto PID2023-146944NB-I00.

Esta entrada es un extracto del trabajo de la misma autora «Analítica de personas y discriminación algorítmica en procesos de selección y contratación«, publicado en abierto en el recién publicado número extraordinario de la Revista Labos, cuya lectura recomendamos.

Invitamos a personas expertas de la academia o el ámbito profesional a remitir sus originales para evaluación y eventual publicación a través de la web de la revista, en la que también pueden consultar los requisitos que deben reunir los trabajos.