El juego entre la ampliación y potenciación de los poderes empresariales derivado de la aplicación de las herramientas digitales y el vacío normativo en esta concreta materia han propiciado una suerte de círculo vicioso que termina por robustecer y expandir aún más aquellos. Como consecuencia, la falta de un marco legal adecuado coloca a las personas trabajadoras en una situación de desventaja, lo que conduce a peores condiciones laborales, en particular, en lo que respecta al salario, la salud y la seguridad, tiempo de trabajo, igualdad de trato y no discriminación y protección social.

En este contexto, junto a la imposición de limitaciones al empleo de las facultades que integran el poder empresarial (prohibiciones totales o parciales de uso en función de las circunstancias, la imposición de auditorías de riesgos o de supervisión humana, etc.), el ordenamiento jurídico ha venido incluyendo algunas medidas basadas en el establecimiento de contrapesos o contrapoderes. De lo que se trata es de situar a las partes en una situación equiparable, de tal suerte que las negociaciones entre ellos puedan derivar en resultados óptimos o eficientes.

Estas han estado protagonizadas de forma destacada por un ensanchamiento del derecho a la información, fundamentalmente de la representación legal de las personas trabajadoras, pero también de ellas mismas e, incluso, a sujetos al margen de la relación laboral. Así, bajo el paraguas de la “transparencia”, lo que se ha hecho ha sido ensanchar derechos tradicionales de acceso a la información y crear manifestaciones nuevas en un ámbito, el de la inteligencia artificial, caracterizado precisamente por su opacidad. Si la información es poder, eliminando o limitando su monopolio por una de las partes reducimos el suyo e incrementamos el de la contraparte.

El término jurídico de “transparencia”, pues en general es un concepto polisémico y transversal que concierne a una amplia variedad de disciplinas, nace en el ámbito público precisamente para combatir la creciente opacidad de gobiernos y administraciones y expandir, entre otros, el derecho a la información. A partir de ahí, salta al sector privado, alcanzando lógicamente el ámbito laboral, y adquiere nuevos tintes con la Cuarta Revolución Industrial, hasta el punto no solamente de poder hablar de “transparencia algorítimica”, sino de configurarse como un auténtico principio vertebrador del gobierno de los algoritmos, la robótica y la inteligencia artificial (Cotino, 2022).

En este sentido, el art. 8 del Convenio Marco sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho obliga a las partes a «garantizar que existan requisitos adecuados de transparencia y supervisión adaptados a los contextos y riesgos específicos con respecto a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluso en lo que respecta a la identificación de contenidos generados por sistemas de inteligencia».

Por su parte, el protagonista de esta serie, el Reglamento de inteligencia artificial, ya desde un inicio señala que dentro de su objeto se encuentra regular «normas armonizadas de transparencia aplicables a los sistemas de IA destinados a interactuar con personas físicas, los sistemas de reconocimiento de emociones y los sistemas de categorización biométrica […]» (art. 1). De aquí se deduce ya que, aunque la transparencia es un principio protagonista de la regulación de los sistemas de inteligencia artificial en su conjunto, adquiere especial relevancia en el caso de los de alto riesgo, entre los que se encuentran, como se sabe, los relacionados con el empleo, gestión de los trabajadores y acceso al autoempleo.

En este sentido, el Reglamento obliga en su artículo 13 a que los sistemas de IA de alto riesgo se diseñen y desarrollen de un modo que se garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y usen correctamente su información de salida. Al margen de las obligaciones de diseño o precomerciales, a las que se han referido recientemente Jesús Cruz y Jesús Mercader; esto, traducido al ámbito laboral, implica el establecimiento de importantes obligaciones a quien es responsable de su despliegue, esto es, el empleador; obligaciones que actúan lógicamente como límites a su poder de dirección.

Así, como regla específica en el campo laboral, se impone que, antes de poner en servicio o utilizar un sistema de IA de alto riesgo en el lugar de trabajo, los empleadores informen tanto a la representación legal de las personas trabajadoras como a estas individualmente consideradas de que se encuentran expuestos a la utilización de un sistema de IA de alto riesgo (art. 26.7). Además, este deber de información en que se traduce el principio de transparencia ha resultado enriquecido por un acompañante no menor, que es la explicabilidad. No basta con proporcionar la información, sino que ésta ha de adaptarse a la audiencia de tal forma que sea inteligible. Así, la explicabilidad es «la capacidad de generar una explicación sobre el comportamiento del modelo a partir de los datos utilizados, de los resultados obtenidos y del proceso completo de la toma de decisión en función de la audiencia o perfil de los destinatarios a los que se dirige la explicación» (Mercader, 2024, p. 340).

En relación al contenido de la información que se proporciona, el mencionado art. 26.3 habla del hecho mismo de la exposición a sistemas de alto riesgo. Sin perjuicio de que el Reglamento haga un llamamiento a la regulación a nivel nacional para desarrollar este extremo, como norma mínima (art. 2.11), debe extraerse de su propio contenido cuáles son esos elementos imprescindibles en que ha de concretarse la información sobre la exposición a un sistema de alto riesgo. No habiendo más menciones expresas, la única vía es la de aplicar, en lo que sea posible, las reglas relativas a los usuarios a las personas trabajadoras. En sentido, advierte el Reglamento que, cuando se trate de sistemas de IA de alto riesgo, estos deberán ir acompañados instrucciones de uso que incluirán información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para los usuarios y cuyo contenido mínimo se determina expresamente (art. 13.3). Esta regla resulta plenamente trasladable, a nuestro juicio, a la empresa y, por tanto, a sus obligaciones con respecto a las personas trabajadoras. Nada debiera impedir extender cuales quiera otras según su contenido.

Por su parte, el considerando 92, aunque sin fuerza jurídica, parece subsumir «la decisión de poner en servicio o utilizar sistemas de IA» en los procedimientos de información o información y consulta, según la materia. Como la facilitación de información, y esto sí es norma jurídica, ha de hacerse, «con arreglo a las normas y procedimientos establecidos en el Derecho nacional y de la Unión y conforme a las prácticas en materia de información a los trabajadores y sus representantes» (art. 26.11), esto implica, a nuestro juicio, que el contenido de esa información ha de servir al objeto del procedimiento que se trate. Así, si nos encontramos ante un despido colectivo en el que se emplée IA, no solamente habrá de suministrarse información sobre el modo en el que se va usar esa herramienta tecnológica para proceder al despido, sino que habrán de consultarse aquellos extremos que afecten a cuestiones que, en el contexto analógico, se sometían a tal consulta. La interpretación de este precepto a la luz del considerando 92 es clave, pues permite su expansión a cualquier procedimiento de información y consulta y lo dota de un contenido mínimo, al margen del deseable desarollo posterior a nivel nacional.

Pero el Reglamento no puede ser entendido en su completitud si no se pone en contexto con otras normas coetáneas que contribuyen a reforzar la transparencia en el ámbito laboral. En concreto, nos estamos refiriendo a dos directivas:

Con carácter general, la Directiva (UE) 2019/1152 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, relativa a unas condiciones laborales transparentes y previsibles en la Unión Europea. A falta de la aprobación del texto definitivo de su transposición, el proyecto de Ley no se aparta en exceso de la norma europea, por lo que, en lo que hace al objeto de esta entrada, interesa destacar, la ampliación de los derechos de información individual en lo que respecta a los aspectos esenciales y cualesquiera otros que deriven específicamente del contrato. Aunque es éste un avance significativo y puede contribuir a arrojar transparencia en el tecnológico, lo cierto es que se trata de un derecho de escaso contenido digital.

De ahí la importancia que, con carácter específico, reviste la Directiva sobre la mejora de las condiciones de trabajo de las personas que trabajan a través de plataformas laborales digitales, pues introduce mayor transparencia a través de varios mecanismos. Para empezar, mediante la obligación de proporcionar información sobre el uso de sistemas automatizados de supervisión o de toma de decisiones, a las personas que realizan trabajo en plataformas, a los representantes de las personas trabajadoras de plataformas y, si así lo solicitan, a las autoridades nacionales competentes (arts. 9 y 10). En concreto, la información que ha de suministrarse en todo caso comprendería tres ámbitos:

En primer lugar, todos los tipos de decisiones respaldadas o adoptadas por sistemas automatizados de toma de decisiones, también cuando respalden o adopten decisiones que no afecten de manera significativa a personas que realicen trabajo en plataformas.

En segundo lugar, por lo que respecta a los sistemas automatizados de supervisión: i) que tales sistemas están en uso o en proceso de introducción; ii) las categorías de datos y acciones controlados, supervisados o evaluados por tales sistemas, incluida la evaluación por el destinatario del servicio; iii) el objetivo del sistema de supervisión y el modo en que el sistema debe lograr dicho objetivo; y iv) los destinatarios o categorías de destinatarios de los datos personales tratados por dichos sistemas y toda transmisión o transferencia de dichos datos personales, también dentro de un grupo de empresas.

Por último, en lo concerniente a los sistemas automatizados de toma de decisiones: i) que tales sistemas están en uso o en proceso de introducción; ii) las categorías de decisiones adoptadas o respaldadas por tales sistemas; iii) las categoría de datos y los principales parámetros que tales sistemas tienen en cuenta, y la importancia relativa de esos parámetros principales en la toma de decisiones automatizada, incluida la forma en que los datos personales o el comportamiento de la persona que realiza trabajo en plataformas influyen en las decisiones; y iv) los motivos de las decisiones de restringir, suspender o cancelar la cuenta de la persona que realiza trabajo en plataformas, de denegarle el pago por el trabajo realizado, y de las decisiones sobre su situación contractual o cualquier decisión con efectos equivalentes o perjudiciales.

En relación con esto, el art. 11 aclara que las personas que realizan trabajo en plataformas tienen derecho a obtener una explicación de la plataforma digital de trabajo, «sin demora indebida, en relación con cualquier decisión adoptada o respaldada por un sistema automatizado de toma de decisiones. La explicación, oral o escrita, se presentará de manera transparente e inteligible, sirviéndose de un lenguaje claro y sencillo». Tal explicación, deberá darse necesariamente por escrito cuando verse «sobre los motivos de cualquier decisión respaldada o, en su caso, adoptada por un sistema automatizado de toma de decisiones de restringir, suspender o cancelar la cuenta de la persona que realiza trabajo en plataformas, cualquier decisión de denegar la remuneración por el trabajo realizado a la persona que realiza trabajo en plataformas, cualquier decisión sobre la situación contractual de la persona que realiza trabajo en plataformas, cualquier decisión con efectos similares o cualquier otra decisión que afecte a los aspectos esenciales del empleo u otras relaciones contractuales, sin demora indebida y a más tardar el día en que surta efecto».

Tanto en un caso como en otro, esto es, ya se trate de sistemas automatizados de supervisión o de toma de decisiones, es necesario recordar que también existe obligación de informar de los resultados de la auditoría o evaluación, conforme a lo dispuesto en el art. 10.4. Este derecho de información se aplica a los tres sujetos indicados anteriormente, persona trabajadora o prestadora del servicio, representantes y autoridades administrativas si así lo solicitan.

Al margen de los sistemas automatizados y semiautomatizados, la Directiva extiende el principio de transparencia a otros ámbitos (art. 17), de tal suerte que las plataformas digitales de trabajo deberán poner a disposición de las autoridades competentes, así como de los representantes de personas que realizan trabajo en plataformas, la siguiente información: a) el número de personas que realizan trabajo en plataformas desglosado por nivel de actividad y por situación contractual o laboral; b) las condiciones generales determinadas por la plataforma digital de trabajo y aplicables a dichas relaciones contractuales; c) la duración media de la actividad, el número de horas semanales trabajadas por término medio por persona y los ingresos medios derivados de la actividad de las personas que realizan trabajo en plataformas con regularidad a través de la plataforma digital de trabajo de que se trate; y d) los intermediarios con los que la plataforma digital de trabajo tiene una relación contractual. Como complemento de esto, la representación de las personas que realizan trabajo en plataformas tendrá derecho a lo que se ha venido a denominar “transparencia activa” (Valverde, 2023), esto es, a solicitar aclaraciones y datos adicionales a las plataformas digitales de trabajo en relación con cualquier información facilitada, incluidos los detalles del contrato laboral. Las plataformas digitales de trabajo responderán a tal solicitud proporcionando sin demora indebida una respuesta motivada.

Junto al tipo de información que se ha de suministrar, la Directiva también se refiere al modo, distinguiendo entre la que se provee a las personas trabajadoras y a sus representantes. No obstante, en todo caso, la información ha de entregarse por escrito, incluyendo formato electrónico, y de forma transparente, inteligible y fácilmente accesible, sirviéndose de un lenguaje claro y sencillo (art. 9.2).

En el caso de la información individual, ésta será concisa, sobre los sistemas y las características de estos que les afecten directamente y, en particular, en su caso, sobre sus condiciones laborales. Se suministrará, a más tardar, el primer día hábil, previamente a la introducción de cambios que afecten a las condiciones laborales, la organización del trabajo o la supervisión de su ejecución, o en cualquier momento a petición suya. También recibirán información exhaustiva y detallada a petición suya sobre todos los sistemas pertinentes y las características de estos. Dicha información se extenderá a la fase precontractual, aunque, en este caso, «solo se referirá a los sistemas automatizados de supervisión o de toma de decisiones utilizados en dicho procedimiento y se facilitará antes del inicio de dicho procedimiento».

En el lado colectivo, la información será pormenorizada y detallada y referida a todos los sistemas pertinentes y las características de estos. Tal información se recibirá antes de utilizar dichos sistemas o previamente a la introducción de cambios que afecten a las condiciones laborales, a la organización del trabajo o a la supervisión de su ejecución, o en cualquier momento a petición suya. Además, el art. 13 señala expresamente que los derechos de información y consulta de la Directiva 2002/14/CE abarcan las decisiones que puedan conducir a la introducción de sistemas automatizados de supervisión o de toma de decisiones o a cambios sustanciales en el uso de dichos sistemas. Cuándo se trate de uno u otro y el modo dependerá de las concretas circunstancias del caso, es decir, si el evento que lleve aparejado la introducción del sistema de IA conlleva un derecho u otro (por estar relacionados, por ejemplo, con despidos colectivos, sería consulta) o, en caso contrario, porque se elija expresamente una de las dos opciones.

De no tener representantes, establece el art. 14 que las plataformas digitales de trabajo informarán directamente a los trabajadores de plataformas afectados sobre las decisiones que puedan conducir a la introducción de sistemas automatizados de supervisión o de toma de decisiones o a cambios sustanciales en el uso de dichos sistemas. La información se facilitará en forma de documento escrito que podrá estar en formato electrónico y se presentará de forma transparente, inteligible y fácilmente accesible, sirviéndose de un lenguaje claro y sencillo.

El juego articulado de estas tres normas o, mejor dicho, la transversalidad del principio de transparencia marca no solamente el modo en que ha de procederse al desarrollo de esta importante normativa y, en particular, el Reglamento de inteligencia artificial, sino también la forma en que han de interpretarse y aplicarse las normas que lo integran.

* * * * *

La regulación de la Inteligencia Artificial en el Mundo laboral

Esta entrada forma parte de una iniciativa Interblogs de Derecho del Trabajo, en la que se comentan diferentes aspectos de la Regulación de la Inteligencia Artificial en el mundo laboral. Esta iniciativa es el preludio a un Congreso que se celebrará en la Facultat de Dret de la Universidad de Valencia el 20 y 21 de junio de 2024. La iniciativa y el congreso forman parte del proyecto de investigación del Ministerio de Ciencia e Innovación titulado “Algoritmos extractivos y neuroderechos. Retos regulatorios de la digitalización del trabajo” (ref. PID2022-139967NB-I00) dirigido por los profesores Adrián Todolí e Ignasi Beltrán; y del Proyecto de Investigación “La huida del mercado de trabajo y la legislación social en España (TRABEXIT), PID2022-141201OB-I00”, dirigido por el profesor Miguel Rodríguez-Piñero Royo y la profesora María Luisa Pérez Guerrero.