Hace unos años, con ocasión de la aprobación del RDL 2/2021, tuve la oportunidad de reflexionar sobre las actuaciones administrativas automatizadas en el orden social tanto en este Foro como, de forma más extensa, en la revista Labos. La próxima aprobación del Reglamento europeo de Inteligencia Artificial (RIA), cuya última versión conocida es de 16 de abril pasado, requiere una actualización, y la iniciativa Interblogs de Derecho del Trabajo sobre La regulación de la inteligencia artificial en el mundo laboral me brinda la ocasión de hacerla, con el fin de repasar rápidamente el impacto que aquella pueda desplegar sobre la situación actualmente vigente en nuestro país. 

En el ordenamiento interno, la regulación de las actuaciones administrativas automatizadas en el orden social cristalizó con el citado RDL 2/2021 y el posterior desarrollo reglamentario de alguna de sus reglas. Por un lado, se daba nueva redacción al art. 130 LGSS sobre “Tramitación electrónica de procedimientos en materia de Seguridad Social” estableciendo un régimen específico en este terreno. En realidad, como los condicionantes de la introducción de sistemas de adopción de resoluciones de forma automatizada coinciden con los establecidos en las normas administrativas de alcance general (art. 41 Ley 40/2015), la principal virtualidad de la reforma fue ampliar el marco en el que cabe recurrir a ellos: desde 2021 no se limita a “los procedimientos de gestión tanto de la protección por desempleo previstos en el título III como de las restantes prestaciones del sistema de la Seguridad Social previstas en esta ley, excluidas las pensiones no contributivas” sino que se extiende a los relacionados con “afiliación, cotización y recaudación”. 

Por otra parte, se añadió un inciso al art. 53.1.a) LISOS en el que que presupone la posibilidad de extender actas de inspección “en el marco de actuaciones administrativas automatizadas”. Con posterioridad, el RD 688/2021, entre otras reformas, añadió un capítulo IX al Reglamento general de sanciones por infracciones de orden social aprobado por RD 928/1998, cuyo objeto es precisamente regular los procedimientos sancionadores promovidos por actuaciones administrativas sancionadoras. Es en cierto modo el colofón de un proceso que se había abierto con anterioridad mediante la incorporación de medios informáticos como auxiliares de la función inspectora y del que había dado cuenta su significativa incorporación al conjunto de elementos que componen el sistema de la ITSS, conforme al art. 1.1 Ley 23/2015.

* * * * *

La valoración de la posible incidencia de la inminente publicación del RIA sobre este statu quo pasa por hacer diferentes consideraciones. De entrada, existen algunos datos relevantes que apuntarían hacia una limitada incidencia en el marco descrito. Cabe pensar, en primer lugar, que las decisiones administrativas automatizadas no necesariamente son tomadas por sistemas de IA, en el sentido del art. 3.1) RIA. Aquellas serán siempre algorítmicas, y en cuanto tales estarán sujetas a los límites establecidos en el art. 22 RGPD. Pero si la herramienta que las produce no funciona con “autonomía” ni muestra “capacidad de adaptación tras el despliegue” quedaría al margen de la norma europea. Incluso las actas automatizadas del art. 53.1.a) LISOS pueden resultar de una simple comprobación de datos (por ejemplo, defectos en la cotización) que no encaja fácilmente en el concepto de IA. Otra cosa sucederá, por supuesto, cuando aquellas descansen en valoraciones más complejas de los datos de entrada, en cuyo caso sí caerían de lleno en el campo de aplicación de la normativa europea; y ello incluso si a su través no se adoptan actos administrativos en sentido estricto, como ocurre con los sistemas de detección de objetivos para la actuación inspectora. Téngase en cuenta en este sentido que, conforme al citado art. 3.1) RIA, la información de salida de los sistemas de IA puede incluir “predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales”.

En segundo lugar, no todos los sistemas de IA resultan afectados por el inminente Reglamento de Inteligencia Artificial. Quedan prohibidas determinadas prácticas de IA (art. 5) y se establecen específicas cautelas para el despliegue de sistemas de IA, que son intensas cuando estos son definidos como de alto riesgo (arts. 6 ss.) y diferentes, y sustancialmente menores, en caso contrario. De este modo, las actuaciones administrativas automatizadas en el orden social quedarán más o menos afectadas por la nueva norma en atención a su encuadramiento en esta clasificación, lo que obliga a repasar ambos listados: no están encuadradas entre las actividades prohibidas, pero sí podrían guardar relación con algunas de las incluidas en el listado de sistemas de IA de alto riesgo, contenido en el Anexo III RIA. 

En este sentido, el apartado 6, podría ser relevante respecto del uso de sistemas de IA en materia sancionadora, en la medida en que se utilicen para evaluar posibilidades de que se comentan infracciones o se reincida en ellas –letra d)–. Sin embargo, la noción que encabeza este apartado, “garantía del cumplimiento del Derecho”, queda restringida únicamente a la aplicación de las normas penales. En esta línea, el art. 3.46) RIA se refiere específicamente a “la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales”. De este modo, diría que el único ítem relevante se encuentra en el apartado 5.a) del anexo III, que califica como de alto riesgo los “sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar la admisibilidad de las personas físicas para beneficiarse de servicios y prestaciones esenciales de asistencia pública, incluidos los servicios de asistencia sanitaria, así como para conceder, reducir o retirar dichos servicios y prestaciones o reclamar su devolución”. 

A la postre, solo algunos sistemas de IA utilizados por la administración en el orden social, los relacionados con la dimensión prestacional de la protección social, tanto en su faceta de gestión (art. 130 LGSS) como de garantía sancionadora (arts. 24 ss. y 47 LISOS). El resto de la gestión de la seguridad social y el conjunto de la intervención administrativa en materia laboral no se verían afectados por la entrada en vigor del RIA, sin perjuicio de la aplicación de la normativa general en materia de protección de datos. Comoquiera que esta última piensa únicamente en la protección de las personas físicas (art. 1 RGPD), las garantías y requisitos que hayan de presidir la incorporación de sistemas administrativos de gestión algorítmica descansan en definitiva sobre las decisiones del legislador interno.

* * * * *

La normativa española es, en mi opinión, manifiestamente mejorable. Una cosa es que se adecúe a la europea y otra diferente que sus previsiones puedan ser consideradas suficientes a la luz de los principios que están en juego. Sin entrar en mucho detalle, creo que nuestra regulación adolece de dos defectos: uno es la restrictiva noción de decisión automatizada –que solo aparece cuando ha sido “realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo” y si no ha “intervenido de forma directa un empleado público”– (art. 45.1 Ley 40/2015); el otro, la limitada información que se ha de hacer pública en relación con las herramientas informáticas utilizadas (art. 45.2 Ley 40/2015). 

Las exigencias del próximo Reglamento de Inteligencia Artificial mejoran la situación; pero únicamente en las limitadas materias en las que el uso de sistemas de AI es considerada de alto riesgo. La creciente presencia de la IA en la gestión administrativa requiere, seguramente, ir más allá. Después de todo, “la transparencia, el acceso a la información pública y las normas de buen gobierno deben ser los ejes fundamentales de toda acción política” puesto que “sólo cuando la acción de los responsables públicos se somete a escrutinio, cuando los ciudadanos pueden conocer cómo se toman las decisiones que les afectan, cómo se manejan los fondos públicos o bajo qué criterios actúan nuestras instituciones” cabe “hablar del inicio de un proceso en el que los poderes públicos comienzan a responder a una sociedad que es crítica, exigente y que demanda participación de los poderes públicos”. Estas afirmaciones, que se completan con la de que “los países con mayores niveles en materia de transparencia y normas de buen gobierno cuentan con instituciones más fuertes, que favorecen el crecimiento económico y el desarrollo social”, encabezan el preámbulo de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, y nos indican el camino a seguir: es de todo punto necesario encontrar un adecuado punto de equilibrio entre la mejora eficiencia administrativa y la razonable protección de las expectativas de los sujetos privados. 

* * * * *

La regulación de la Inteligencia Artificial en el Mundo laboral

Esta entrada forma parte de una iniciativa Interblogs de Derecho del Trabajo, en la que se comentan diferentes aspectos de la Regulación de la Inteligencia Artificial en el mundo laboral. Esta iniciativa es el preludio a un Congreso que se celebrará en la Facultat de Dret de la Universidad de Valencia el 20 y 21 de junio de 2024. La iniciativa y el congreso forman parte del proyecto de investigación del Ministerio de Ciencia e Innovación titulado “Algoritmos extractivos y neuroderechos. Retos regulatorios de la digitalización del trabajo” ref. PID2022-139967NB-I00 IP Adrián Todolí y Ignasi Beltrán y del Proyecto de Investigación “La huida del mercado de trabajo y la legislación social en España (TRABEXIT), PID2022-141201OB-I00”, dirigido por el profesor Miguel Rodríguez-Piñero Royo y la profesora María Luisa Pérez Guerrero.

Cronograma