La inteligencia artificial (IA) aplicada a la gestión de personas (selección, contratación, promoción y remuneración) puede perpetuar y amplificar sesgos de género si los algoritmos aprenden de datos históricos con desigualdades. En aplicación de las normativas europea y española las organizaciones pueden reducir este riesgo auditando sus sistemas de IA, integrando la perspectiva de género, garantizando la supervisión humana y formando a sus equipos para asegurar que la tecnología no comprometa la igualdad en el ámbito laboral.
Cada 8 de marzo, fecha en la que se conmemora el Día Internacional de la Mujer, nos invita a reflexionar sobre los avances en materia de igualdad y analizar los nuevos desafíos que, si no son ya una realidad, estarán en el futuro más próximo.
En el ámbito laboral y de gestión de personas, uno de los desafíos de los últimos años viene de la mano del creciente uso de los sistemas de inteligencia artificial (IA) en los procesos más esenciales de la gestión de personas: selección, contratación, promoción o remuneración.
Es innegable que la tecnología y, en concreto, la IA ofrece eficiencia, pero ¿también objetividad? Podría parecer complicado que un sistema algorítmico no sea objetivo, pues precisamente ayuda a eliminar o mitigar ese elemento intrínseco a las personas que son los sesgos inconscientes. Ahora bien, ¿qué ocurre si sustituimos el componente humano —y por tanto sus sesgos— por un algoritmo que ha aprendido de datos históricos? ¿y si los perfiles de éxito en la organización han sido históricamente masculinos? ¿y si el sistema de promoción diseñado penaliza trayectorias no lineales o con interrupciones, por ejemplo, como las que se producen por cuidados?
La respuesta es que el aprendizaje de las herramientas de IA, si heredan las desigualdades estructurales del pasado como patrón de aprendizaje, pueden reproducir los sesgos de género y perpetuar situaciones de desigualdad, e incluso amplificarlos de forma desapercibida para la persona que las utiliza por la apariencia de neutralidad tecnológica.
Este fenómeno, que se llama “discriminación algorítmica”, es tenido en cuenta por la normativa europea y española.
Es ampliamente conocido el sistema normativo diseñado por la Ley 3/2007 y los Reales Decretos 901/2020 y 902/2020, que han introducido herramientas útiles para lograr la igualdad entre hombres y mujeres en las empresas: los planes de igualdad, el registro retributivo, la auditoría retributiva y los sistemas de valoración de puestos para identificar los de igual valor.
En los próximos años, estas normas se verán complementadas con la trasposición de la reciente Directiva (UE) 2023/970, destinada a reforzar la transparencia salarial y el principio de igualdad de retribución, pues requiere que los criterios que determinan la retribución y la promoción en las empresas sean objetivos, neutros y comprensibles. De hecho, esta directiva exige expresamente que los sistemas de clasificación profesional excluyan toda discriminación, incluida la derivada del uso de herramientas tecnológicas.
Por su parte, la Directiva (UE) 2019/1152 sobre condiciones laborales transparentes y previsibles también exige revisitar los sistemas de gestión de personas, y si estos incluyen herramientas algorítmicas o de IA, no se puede presumir su objetividad.
Por último, el Reglamento de Inteligencia Artificial ha catalogado como “sistemas de alto riesgo” aquellos utilizados en el ámbito del empleo y la gestión de personas en lo que respecta a herramientas de selección y contratación o de toma de decisiones sobre condiciones laborales.
La confluencia de ambas normativas —transparencia retributiva e inteligencia artificial— configura un nuevo estándar de diligencia para las organizaciones que utilizan sistemas automatizados en la gestión del talento.
Algunas buenas prácticas para cumplir con esta normativa para reducir el riesgo de la discriminación algorítmica pasan por:
- Auditar los sistemas de IA y algoritmos utilizados en los procesos de gestión de personas, para evitar potenciales sesgos derivados del aprendizaje de datos históricos.
- Integrar la perspectiva de género en la valoración de puestos y en la definición de las carreras profesionales y criterios de promoción.
- Garantizar la supervisión humana de las decisiones automatizadas.
- Formar a los equipos encargados de la gestión del talento, en sus diversas facetas, para que sean conocedores de los riesgos de la IA y su impacto en la igualdad en la empresa.
En definitiva, en el diseño e implementación de sus estrategias de recursos humanos, las organizaciones han de integrar cumplimiento normativo, innovación tecnológica e igualdad de género.
