Hace unos días se desarrolló el Curso Entorno Laboral Digital y Prevención de Riesgos Laborales organizado por el Instituto Vasco de Seguridad y Salud en el Trabajo (Osalan) en el que interviene como ponente. Decía entonces que la realidad nos advierte que tanto Administraciones Públicas como empresas privadas utilizan algoritmos. Ejemplo de ello es el algoritmo SyRI (System Risk Indication) en los Países Bajos para predecir la probabilidad de fraude a la Seguridad Social y al fisco por parte de los solicitantes de beneficios estatales. En la empresa privada contamos, entre otros, con el chatbot Phai, creado por PredictiveHire, que hace una serie de preguntas abiertas a los candidatos a una oferta de empleo. A continuación, analiza sus respuestas para detectar las características de personalidad relacionadas con el trabajo como dinamismo, iniciativa y flexibilidad. Phai promete en su página web una contratación más justa y recalca que hace las entrevistas muy rápido, es inclusivo y sin sesgo (bias). Pero, ¿Cuáles son los límites a los algoritmos? ¿Cómo podría defenderse un trabajador frente a una decisión adoptada por un algoritmo?
Parece claro que el derecho a la intimidad y a la protección de datos de carácter personal del sujeto afectado es un límite al recurso a los algoritmos. Así lo afirma la Sentencia del Tribunal de Países Bajos (Tribunal de lo civil de la Haya) publicada el 5 de febrero de 2020 respecto de SyRI indicando que existe una responsabilidad especial en el uso de las tecnologías emergentes y concluye que el empleo de SyRI supone un incumplimiento del artículo 8 del Convenio Europeo de los Derechos Humanos (el derecho al respeto de la vida privada y familiar) debido a la falta de transparencia y uso sesgado de este instrumento, utilizado exclusivamente en barrios donde viven personas con rentas bajas o zonas donde residen personas pertenecientes a minorías. Ahora bien, en el ámbito laboral, se deben tener en cuenta también otros derechos en juego como el derecho a la seguridad y salud de los trabajadores.
La tecnología emergente permite no solo que el trabajador tenga un compañero robot sino que también puede haber un jefe algoritmo (Mercader, 2017). En la práctica, el uso de esta tecnología viene a significar una distribución de funciones entre la persona y la máquina inteligente (el algoritmo) hasta el punto que es posible la adopción de medidas solo por algoritmos sin que haya margen de decisión por parte del trabajador. La progresiva pérdida de funciones y autonomía para el trabajador así como la monitorización permanente de su producción puede derivar en riesgos graves para su salud tales como depresión, ansiedad o estrés al verse relegado a la posición de máquina dentro del proceso productivo. Más aún cuando las máquinas no descansan y pueden instar al trabajador a prolongar su jornada laboral con mensajes blandos del tipo: “todavía hay emocionantes tareas asignadas para ti, ¿estás seguro que deseas abandonar?” (Todolí, 2020). Es cierto que la tendencia mencionada será menor en aquellos puestos donde sean relevantes las cualidades de gestión de equipos de trabajo, la empatía, liderazgo y la resolución de conflictos (por ejemplo, los Técnicos de Prevención de Riesgos Laborales o los responsables de health and safety), todas ellas difíciles de aprender por parte de las máquinas inteligentes. Con todo, estos nuevos factores de riesgo deben ser contemplados por el empresario en las evaluaciones de riesgos y articular medidas preventivas dirigidas a reducir su impacto sobre la salud de los empleados.
Los algoritmos predictivos pueden llegar a realizar evaluaciones ergonómicas del riesgo de estrés físico del trabajador/usuario de la herramienta a través del desarrollo de sensores corporales personalizados colocados en la ropa recopilando información, en tiempo real, sobre la salud del trabajador fundamentada en el análisis de los parámetros recogidos: postura, cargas, tiempos y estado fisiológico (frecuencia cardíaca, temperatura corporal, etc.) (Vid. Proyecto H2020 Bionic). Sin embargo, habrá que tener en cuenta la posibilidad de los falsos positivos (cuando se clasifica al trabajador con riesgo de estrés físico de forma errónea) y falsos negativos (cuando se clasifica al trabajador sin riesgo de estrés físico y el riesgo existe) y que estos sistemas den preferencia a ciertos valores sobre otros (las ganancias generales sobre pérdidas específicas). Por ejemplo, se deberá controlar si el algoritmo prioriza la producción sobre el derecho fundamental a la seguridad y salud de los trabajadores. En esta línea, se pronuncia la Recomendación CM/Rec (2020)1 del Comité de Ministros del Consejo de Europa a los Estados Miembros sobre los impactos de los sistemas algorítmicos sobre los derechos humanos de 8 de abril de 2020, donde se insta a los Estados miembros a adoptar un enfoque de precaución y exigir el rechazo de determinados sistemas cuando su despliegue conlleve un alto riesgo de daños irreversibles o cuando, debido a su opacidad, el control y la supervisión humanos se vuelvan impracticables en línea con la pirámide alemana de criticidad basada en el riesgo ya comentada con anterioridad (Vid. ¿Se deben regular los algoritmos? Un breve análisis a la propuesta normativa alemana: la pirámide de criticidad basada en el riesgo). El término “alto riesgo” se aplica al referirse al uso de sistemas algorítmicos en procesos o decisiones que pueden producir graves consecuencias para las personas o en situaciones donde la falta de alternativas genera una probabilidad particularmente alta de vulneración de los derechos humanos incluso introduciendo o ampliando la injusticia distributiva.
El empresario está obligado a prevenir los accidentes pero también puede predecirlos con apoyo en el aprendizaje automático (Machine Learning: el algoritmo aprende de la experiencia para realizar una tarea con una precisión) y sus especializaciones como el aprendizaje profundo (Deep Learning: el algoritmo realiza un aprendizaje completo, es decir, se proporciona la tarea a realizar datos sin procesar, y la red aprende cómo hacerlo todo automática, simulando el pensamiento humano). Una muestra de ello es la constructora Suffolk en Estados Unidos que utiliza un algoritmo de aprendizaje profundo entrenado con imágenes de obras de construcción y registros de accidentes de trabajo. Luego se activa para monitorizar un nuevo sitio de obra y alertar sobre situaciones que puedan provocar un accidente, como cuando un trabajador no usa guantes o trabaja demasiado cerca de una maquina peligrosa. En el uso de esta tecnología se aconseja evitar el diseño de sistemas con la orientación “palanca del hombre muerto” (Dead man switch) y dar siempre la opción de que un operador humano pueda ignorar el algoritmo en un momento dado procedimentando aquellas situaciones en las que debe optarse por este modo de actuar.
Mientras que los datos introducidos en un sistema pueden ser neutrales y representativos, la combinación de varios tipos de datos puede dar lugar a efectos discriminatorios. Así lo afirma la reciente Guía aprobada por CNIL (Agencia francesa de protección de datos) sobre Algoritmos e Inteligencia Artificial de 2 junio de 2020 donde se concluye que los sistemas automatizados “tienden a estigmatizar a los miembros de grupos sociales ya desfavorecidos y dominados”. En lógica preventiva, los trabajadores inmigrantes, discapacitados y mujeres son potenciales víctimas de los algoritmos debido a su vulnerabilidad. El documento propone que se sancione a las personas que apliquen decisiones discriminatoria y que a su vez se introduzcan recomendaciones como éstas: formación y sensibilización de los profesionales que crean y utilizan sistemas algorítmicos; apoyar la investigación para desarrollar estudios sobre sesgos y metodologías para prevenirlos; imponer obligaciones de transparencia más estrictas que refuercen la necesidad de explicar la lógica detrás de los algoritmos (y permitir que terceros, y no solo los afectados por una decisión automatizada, accedan a los criterios utilizados por los algoritmos); y realizar estudios de evaluación de impacto para anticipar los efectos discriminatorios de los algoritmos. Como se observa, la guía francesa desarrolla más garantías que las previstas en el artículo 22 sobre decisiones basadas únicamente en el tratamiento automatizado de datos del Reglamento Europeo 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a libre circulación de estos datos.
Por último, conviene subrayar que en el caso judicial de SyRI una de las partes demandantes fue la Confederación de Sindicatos de los Países Bajos. En verdad, parece recomendable que también los agentes sociales y la negociación colectiva tomen parte en el control y uso de los algoritmos especialmente cuando éstos pueden afectar a la seguridad y salud de los trabajadores. En este sentido, es un buen comienzo que algunos documentos sindicales introduzcan afirmaciones de este tipo: «Tenemos que abrir de forma colectiva el debate sobre el control de los algoritmos, la regulación de su uso, establecimiento de límites, registro público y/o empresarial, o la negociación de su uso” [CCOO, Balance y propuestas de la negociación colectiva, 2019]
