El mundo algorítmico y los sistemas de inteligencia artificial constituyen, en muchos casos, una caja negra de difícil entendimiento y comprensión. Por ello, la exigencia de transparencia aparece como un principio clave en estos tiempos de transformación digital (así lo pone de manifiesto la reciente monografía de Eva Blázquez que he tenido el placer de prologar,  El derecho de información como elemento estructural del principio de transparencia en las relaciones laborales). Pero esta idea entra en abierto contraste con otro fundamento clave de estos sistemas: su carácter reservado o secreto. Y es que los algoritmos constituyen un material extremadamente sensible que incluye una información altamente confidencial por lo que las organizaciones son especialmente reacias a revelar toda información que exteriorice, de cualquier forma y con cualquier alcance, su contenido. Se trata de una información que tiene para la empresa un extraordinario valor económico, actual o potencial, por suponer una ventaja para el empresario frente a los competidores que la desconocen. Son, en suma, el corazón de muchos negocios por lo que constituyen verdaderos secretos empresariales que tratan de cerrarse y aislarse a cualquier conocimiento público. Este conflicto de intereses, entre transparencia y secreto, plantea no pocos interrogantes y difíciles puntos de equilibrio.

Los artículos 14.2 g) (derecho de información) y 15.1 h) (derecho de acceso), del Reglamento General de Protección de datos (“RGPD”), parece venir a trazar ese punto de equilibrio. Dichos preceptos establecen que el responsable del tratamiento debe ofrecer “información significativa sobre la lógica aplicada”, cuando recurra a sistemas automatizados para el tratamiento de datos (El responsable del tratamiento facilitará al interesado la información o el acceso necesario para garantizar un tratamiento de datos leal y transparente respecto del interesado: “la existencia de decisiones automatizadas, incluida la elaboración de perfiles, a que se refiere el artículo 22, apartados 1 y 4, y, al menos en tales casos, información significativa sobre la lógica aplicada, así como la importancia y las consecuencias previstas de dicho tratamiento para el interesado”). El considerando 58 del RGPD viene a subrayar que el principio de transparencia “es especialmente pertinente en situaciones en las que la proliferación de agentes y la complejidad tecnológica de la práctica hagan que sea difícil para el interesado saber y comprender si se están recogiendo, por quién y con qué finalidad, datos personales que le conciernen (…)”. El propio Consejo de Europa así lo subraya en su Proyecto de Informe explicativo sobre la versión modernizada del Convenio 108, apartado 75: “Los interesados deben tener derecho a conocer la lógica subyacente del tratamiento de sus datos, incluidas las consecuencias de dicha lógica, que lleve a conclusiones definitivas, en particular en casos que supongan la utilización de algoritmos para tomar decisiones automatizadas, incluida la elaboración de perfiles”. ¿Pero cuál es el real significado de la expresión “información significativa sobre la lógica aplicada”?

La reciente sentencia del Tribunal de Justicia de la Unión Europea de 27 de febrero de 2025, Dun & Bradstreet Austria GmbH (C-203/22, ECLI:EU:C:2025:117), ha venido a precisar la referida expresión y, con ello, nos acerca un poco más a definir el contenido esencial del principio de transparencia. Por tanto, una sentencia que, aunque no nace de un supuesto de hecho laboral, está llamada a tener un importante impacto en nuestro Derecho digital del trabajo.

La sentencia, en sus considerandos 58 y 59 precisa que la expresión “información significativa sobre la lógica aplicada” en la toma de decisiones automatizada significa que se “debe describir el procedimiento y los principios realmente aplicados de tal manera que el interesado pueda comprender cuáles de sus datos personales han sido utilizados en la toma de decisiones automatizada en cuestión, sin que la complejidad de las operaciones que deben llevarse a cabo en el contexto de la toma de decisiones automatizada pueda eximir al responsable del tratamiento de la obligación de proporcionar una explicación”. Por ello, “esos requisitos no pueden cumplirse con la mera comunicación de una fórmula matemática compleja, como un algoritmo, ni con la descripción detallada de todas las etapas de la toma de decisiones automatizada, ya que ninguna de esas opciones constituiría una explicación suficientemente concisa e inteligible”.

Y es que, como recordara el GT29 (actual Comité Europeo de Protección de Datos) en el Anexo I de las “Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679” (WP251rev.01), al establecer recomendaciones de buenas prácticas, en estos casos, “en lugar de ofrecer una compleja explicación matemática sobre cómo funcionan los algoritmos o el aprendizaje automático, el responsable del tratamiento debe considerar la utilización de formas claras y exhaustivas de ofrecer información al interesado, por ejemplo: (i) las categorías de datos que se han utilizado o se utilizarán en la elaboración de perfiles o el proceso de toma de decisiones; (ii) por qué estas categorías se consideran pertinentes; (iii) cómo se elaboran los perfiles utilizados en el proceso de decisiones automatizadas, incluidas las estadísticas utilizadas en el análisis; (iv) por qué este perfil es pertinente para el proceso de decisiones automatizadas; y (v) cómo se utiliza para una decisión relativa al interesado”. El responsable del tratamiento debe, por tanto, hallar formas sencillas de informar al interesado acerca de la lógica subyacente o los criterios utilizados para llegar a la decisión. La caja negra debe perder su oscuridad.

Asimismo, la sentencia recuerda que “el considerando 63 del RGPD enuncia que el derecho de todo interesado a acceder a los datos personales recogidos que le conciernan no debe afectar negativamente a los derechos y libertades de terceros, incluidos los secretos comerciales o la propiedad intelectual y, en particular, los derechos de propiedad intelectual que protegen programas informáticos”. No obstante, estas consideraciones no deben tener como resultado, entiende la sentencia, la negativa a facilitar toda información al interesado. Por ello, concluye en su considerando 76 que: “El artículo 15, apartado 1, letra h), del RGPD debe interpretarse en el sentido de que, cuando el responsable del tratamiento considere que la información que debe facilitar al interesado de conformidad con dicha disposición contiene datos de terceros protegidos por dicho Reglamento o secretos comerciales, en el sentido del artículo 2, punto 1, de la Directiva 2016/943, dicho responsable del tratamiento está obligado a facilitar la información supuestamente protegida a la autoridad de control competente o al órgano jurisdiccional competente, que deberá sopesar los derechos e intereses en juego con el fin de determinar el alcance del derecho de acceso del interesado previsto en el artículo 15 del RGPD”. Una importante conclusión que abre también un cúmulo de dudas sobre sus posibles consecuencias e implicaciones.

Lo que parece dejar claro este pronunciamiento del Tribunal de Justicia de la Unión Europea es que el Big Data y sus usos por la IA exigen no solo ver sino, también, entender el funcionamiento de estos sistemas. La explicabilidad se convierte en una característica activa del control de estos nuevos sistemas que queda referida a la capacidad de generar una explicación (definida por la RAE como “declaración o exposición de cualquier materia, doctrina o texto con palabras claras o ejemplos, para que se haga más perceptible”) sobre el comportamiento del modelo a partir de los datos utilizados, de los resultados obtenidos y del proceso completo de la toma de decisión en función de la audiencia o perfil de los destinatarios a los que se dirige la explicación.

El recientemente aprobado Reglamento de Inteligencia Artificial (“RIA”) sigue esta misma línea. Su artículo 13 exige que los sistemas de IA de alto riesgo se diseñen y desarrollen de un modo que se garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y usen correctamente su información de salida. Y esta exigencia se ve reforzada, también, por el artículo 86 del RIA que reconoce el derecho a recibir una explicación individualizada de aquellos usos de la IA que afecten, en nuestro ámbito, a una persona trabajadora. Esto supone que “toda persona que se vea afectada por una decisión que el responsable del despliegue adopte basándose en los resultados de un sistema de IA de alto riesgo que figure en el anexo III, (…) , y que produzca efectos jurídicos o le afecte considerablemente del mismo modo, de manera que considere que tiene un efecto perjudicial para su salud, su seguridad o sus derechos fundamentales, tendrá derecho a obtener del responsable del despliegue explicaciones claras y significativas acerca del papel que el sistema de IA ha tenido en el proceso de toma de decisiones y los principales elementos de la decisión adoptada”.

Frente a la clásica cultura del secreto se alza cada vez con más fuerza la de la transparencia y, junto a ella, una de sus dimensiones esenciales cobra cada día más importancia: la explicabilidad.