Apenas han transcurrido seis años desde que publicamos la entrada ¿Conoces a Macarena? Los chatbots: los nuevos empleados digitales y los avances en esta materia han sido vertiginosos. Algunos autores nos llevan tiempo alertando que se está produciendo una transición del entorno natural al entorno técnico o artificial donde los niveles de interacción trabajador-máquina podrían desarrollarse hacia un nuevo modelo de colaboración con la incorporación de las máquinas inteligentes (con IA) (Sadin, E., «La Humanidad Aumentada. La Administración Digital del Mundo», Caja Negra, 2017).
También observamos que cada vez utilizamos una IA más humanizada que interactúa con nosotros y que ha motivado que recientes investigaciones se refieran a ella como «personas sintéticas» (synthetic personas) para describir la diversidad de roles sociales que estas entidades de IA están adoptando como nuestros amigos, parejas, mentores y terapeutas. En el libro «Love Machines. How Artificial Intelligence is Transforming Our Relationships», Faber, 2026, su autor- James Muldoon (profesor de la Universidad de Essex en Reino Unido) nos explica que la palabra «persona» deriva del latín y significa «máscara» o personaje interpretado por un actor, y se refiere a la imagen pública o el papel social. Y los chatbots se califican como sintéticos porque están diseñados para imitar a los seres humanos. Estas «personas sintéticas» funcionan con grandes modelos de lenguaje (LLMs).
En el ámbito laboral se han dado a conocer algunos ejemplos. Uno de ellos es la empresa Burger King en Estados Unidos que está probando un sistema de IA («Patty») en los auriculares de sus empleados para ayudarles en la preparación de pedidos. En concreto, el asistente proporciona información sobre la preparación de menús específicos, limpieza de máquinas, avisa si un producto está agotado, etc. Sin embargo, también parece realizar funciones de mando intermedio, porque vigila la cortesía del empleado en las conversaciones con los clientes realizando comprobaciones a partir de palabras clave como decir “por favor”, “gracias” y “bienvenido a Burger King”.
Observamos en el caso Burger King una de las tipologías de cooperación que se produce cuando los sistemas de IA apoyan de forma independiente a los trabajadores en determinadas actividades, en particular en tareas rutinarias y repetitivas que no requieren la participación humana. El interés del tema nos anima a preguntarnos: ¿Qué limitaciones legales tiene? ¿Puede haber algunos riesgos para la empresa? ¿Tiene el mismo impacto sobre la salud interactuar con un ordenador que con una IA?
En el contexto europeo contamos con el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial (en adelante, RIA) que fija un conjunto de prohibiciones y limitaciones (niveles de riesgo), ya que la relación laboral se considera una relación asimétrica donde los trabajadores se encuentran en posiciones especialmente vulnerables. Dichas condiciones se endurecen cuando se trata de datos biométricos (rostro, voz, huella dactilar, entre otros) y tienen consecuencias negativas sobre las condiciones de acceso y trabajo de los empleados.
Recordemos que la empresa Burger King utiliza la agente Patty también para controlar la amabilidad de sus empleados a partir de sus conversaciones con los clientes. Conforme al artículo 5 del RIA el procesamiento de la voz del empleado (dato biométrico) para inferir o deducir sus emociones o intenciones es un supuesto prohibido con algunas excepciones (motivos médicos o de seguridad).
Si bien la amabilidad no es una emoción expresamente recogida en el RIA, las directrices de la Comisión Europea publicadas en febrero de 2025 aconsejan que el concepto de emociones e intenciones se «entienda en un sentido amplio y no se interprete de forma restrictiva». Por lo tanto, se debe actuar con cautela a la hora de determinar si algo es una emoción o no, especialmente si se trata de un caso límite.
Ahora bien, hay que tener en cuenta que cuando hablamos con un chatbot no sólo estamos haciendo una consulta sino que estamos generando datos sobre nuestra salud, miedos, hábitos y decisiones. Si bien la IA destaca en tareas que implican objetivos claros y procesamiento de datos, parece que son algo más que meras herramientas.
Esto nos lleva a aplicar otras normas complementarias al RIA, pues podría haber riesgos respecto de los datos de carácter personal de los usuarios (los empleados) y también del lado empresarial. En este sentido, se deben tener en cuenta las garantías y principios recogidos por el Reglamento (UE) 2016/679 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (RGPD) cuando se produce un tratamiento de los datos de carácter personal. Esto significa la aplicación de las bases de legitimación, el principio de minimización de datos, el deber de transparencia y evitar el riesgo de perfilado del trabajador-usuario. A su vez, un trabajador-no suficientemente cualificado- podría compartir a partir del sistema de IA información y documentos sobre la empresa.
¿Y qué efectos sobre la salud podría tener? Estos días se publicaba en la prensa el suicidio de un hombre tras mantener una relación delirante con Gemini (la IA de Google). Si bien la noticia puede parecernos lejana, en función de sus objetivos y autonomía, la IA puede interpretar emociones complejas, entablar conversaciones significativas y adaptar sus respuestas a las necesidades de los usuarios, personalizando y desempeñando importantes funciones sociales en la vida de las personas.
Como conclusión final, parece acertado aprovechar los beneficios de los sistemas de IA en los entornos laborales pero también es aconsejable que las empresas hagan un uso responsable y evalúen los diferentes impactos que podrían tener sobre la persona del trabajador.
