A medida que se va implantando el nuevo marco europeo para la inteligencia artificial, hay una cuestión que está captando la atención de los profesionales del derecho, los responsables de cumplimiento normativo y los equipos técnicos: ¿qué ocurre con los sistemas que «leen» las emociones a partir de los rostros, las voces o los gestos? La Guía sobre la prohibición de la IA que infiere emociones en los lugares de trabajo y las instituciones educativas, publicada por la Agencia Danesa para la Digitalización, ofrece una de las primeras interpretaciones del artículo 5, apartado 1, letra f), del Reglamento (UE) 2024/1689. Su mensaje es claro: está prohibido comercializar, poner en servicio o utilizar sistemas de IA destinados a inferir las emociones de las personas físicas en el lugar de trabajo o en entornos educativos, salvo por razones médicas o de seguridad. No se trata de una mera declaración, sino que establece un límite legal que determinará las decisiones de compra, el diseño de productos y los procesos de gobernanza en las organizaciones públicas y privadas de toda Europa.

La guía se centra, ante todo, en por qué se ha trazado una línea roja en este caso. Las emociones humanas son realidades contextuales, culturales e individuales que no pueden «objetivarse» de forma fiable mediante reglas matemáticas. Una sonrisa no siempre significa felicidad; una voz elevada no prueba la ira. Por esta razón, incluso cuando un sistema parece ser correcto, su fiabilidad es baja y su uso puede dar lugar a sesgos y tratos desfavorables. Cuando este uso se produce en el marco de relaciones de poder asimétricas (empleador-empleado, profesor-alumno), los riesgos para los derechos fundamentales se multiplican. Esto sustenta la prohibición específica en estos contextos.

Desde un punto de vista práctico, la guía estructura el análisis en torno a tres condiciones acumulativas. En primer lugar, debe existir la comercialización, la puesta en servicio o el uso de un sistema de IA con el propósito específico de inferir emociones. En segundo lugar, el sistema debe analizar datos biométricos (expresiones faciales, lenguaje corporal, tono o cadencia de la voz) y, basándose en esa observación, inferir un estado emocional identificable (felicidad, tristeza, aburrimiento, estrés, entusiasmo, etc.). En tercer lugar, el uso debe tener lugar en un lugar de trabajo o en un entorno educativo. Si se cumplen las tres condiciones, la práctica está prohibida en toda la UE. Si falta alguna de ellas, el caso queda fuera del ámbito de aplicación de la prohibición, aunque puede seguir siendo ilegal por otras razones.

La primera condición se refiere al ámbito de aplicación material de la norma. Para que una práctica esté prohibida, el sistema debe haber sido comercializado, puesto en servicio o utilizado dentro de la Unión Europea con el propósito específico de inferir emociones. Esto significa que la mera existencia de una tecnología capaz de hacerlo no es suficiente: debe haber sido desplegada o puesta a disposición en el mercado con ese propósito específico. De este modo, la prohibición se aplica tanto a quienes diseñan y venden dichos sistemas como a las organizaciones que los implementan.

La segunda condición es el eje técnico del análisis y merece una atención más detallada. No basta con que un sistema capte rasgos; debe inferir explícitamente una emoción. La guía destaca que el concepto de «inferir» requiere interpretación: transformar rasgos físicos o de comportamiento en una conclusión emocional como «desinterés», «frustración» o «satisfacción». También aclara que no todos los análisis de comportamiento entran en este ámbito: la mera «detección» de gestos o el recuento de sonrisas, sin inferencia emocional, no desencadena por sí misma la prohibición. Lo que está prohibido es atribuir un estado emocional a una persona basándose en datos biométricos.

La tercera condición define los contextos. El «lugar de trabajo» se interpreta de manera amplia: oficinas, fábricas, almacenes, entornos virtuales como Teams o Zoom, trabajo a distancia desde casa, espacios públicos en los que existe una relación laboral y situaciones de contratación y selección (entrevistas, pruebas). El término «institución educativa» también se entiende de forma amplia: educación primaria y secundaria, universidades, formación profesional, educación de adultos y plataformas de aprendizaje electrónico cuando su uso es obligatorio. La atención se centra en las personas que se encuentran en una relación de subordinación o dependencia con respecto a la organización.

Para fundamentar el análisis, la guía ofrece dos escenarios ilustrativos que son fácilmente reconocibles en la actualidad. En el primero, una empresa instala cámaras con inteligencia artificial en las salas de reuniones para analizar las voces y los rostros de los empleados con el fin de medir el «entusiasmo» durante las presentaciones; la autoridad concluye que este caso está prohibido: hay un sistema de inteligencia artificial, inferencia emocional basada en datos biométricos y uso en el lugar de trabajo, sin justificación médica o de seguridad. En el segundo, las escuelas utilizan tecnología que supervisa los rostros de los alumnos en el aula para informar a los profesores en tiempo real si un alumno está aburrido, cansado o frustrado; esto también está prohibido, ya que se cumplen las tres condiciones, con un desequilibrio adicional dado que se trata de menores.

La guía no ignora la existencia de excepciones. La Ley de IA permite la inferencia de emociones solo cuando el propósito es médico o relacionado con la seguridad, y solo cuando ese objetivo está claramente justificado y documentado, y cuando no existen alternativas igualmente eficaces y menos intrusivas. Entre los ejemplos mencionados se incluyen los usos terapéuticos (apoyo a personas con autismo) o los usos de accesibilidad (asistencia a personas ciegas o sordas). Por el contrario, proporcionar a la dirección un «termómetro» de la satisfacción de los empleados o medir la «atención» de los estudiantes no se considera una cuestión de seguridad o medicina y no entra dentro de la excepción.

¿Cómo deben responder las organizaciones?

El punto de partida probable es revisar cualquier iniciativa de IA que afecte a la voz, la imagen o los gestos en RR. HH., la contratación y la evaluación del rendimiento; la supervisión de los equipos de atención al cliente; el análisis del aprendizaje; o la vigilancia en las aulas. Si el objetivo real es inferir los estados emocionales del personal o los estudiantes, la conclusión legal es clara: detener, no adquirir o no implementar el sistema. La prohibición se aplica desde el principio: no puede considerarse legal mientras siga existiendo la intención de analizar las emociones en estos casos.

En segundo lugar, las organizaciones deben replantearse sus requisitos para los fabricantes y proveedores. La guía hace hincapié en que un sistema puede quedar fuera de la prohibición si no infiere emociones, sino que se limita, por ejemplo, a medir indicadores objetivos de interacción en reuniones (tiempo de intervención, turnos de palabra, interrupciones) o métricas pedagógicas no emocionales en el aula (entregas, participación observable sin etiquetado emocional). Esto requiere un rediseño del producto y garantías contractuales y técnicas de que no se produce ninguna inferencia emocional encubierta. El matiz es importante: aunque la clasificación emocional no se muestre al usuario, si existe, su uso en el trabajo o la educación sigue estando prohibido.

En tercer lugar, es esencial distinguir las emociones de los estados físicos. Un sistema que detecta la somnolencia en los conductores profesionales basándose en el parpadeo y el comportamiento del vehículo puede acogerse a la excepción de seguridad, siempre que se pueda justificar como protección de la vida y la salud y que no exista una alternativa menos intrusiva. Por el contrario, «detectar el estrés» en un operador de un centro de llamadas mediante el análisis de la voz para ajustar su guion no es una medida de seguridad ni una intervención médica, sino un uso prohibido. La finalidad y la proporcionalidad no se presumen, sino que deben demostrarse.

En cuarto lugar, a nivel de gobernanza, la guía se ajusta al principio de responsabilidad proactiva: no basta con eliminar la referencia al «estado de ánimo»; las organizaciones deben auditar las funcionalidades y documentar que el sistema no realiza inferencias emocionales en estos contextos. En la contratación pública, los contratos deben incluir cláusulas que prohíban explícitamente la activación presente o futura de módulos de reconocimiento de emociones en el lugar de trabajo o en entornos educativos y que permitan auditorías técnicas. Los programas de cumplimiento interno deben actualizar las políticas de IA, los catálogos de prácticas prohibidas y los mecanismos para rechazar casos de uso que puedan resultar atractivos desde el punto de vista empresarial, pero que sean legalmente insostenibles.

En quinto lugar, es importante recordar que la Ley de IA coexiste con el RGPD y las leyes laborales y educativas. Un caso que no entre dentro de la prohibición del artículo 5, apartado 1, letra f), puede seguir siendo ilegal por otras razones: tratamiento de datos biométricos sin base jurídica, falta de transparencia o minimización de datos, o repercusiones desproporcionadas en la igualdad o la no discriminación. La guía lo deja claro: se centra únicamente en la categoría de inferencia emocional prohibida en el trabajo y la educación; no prejuzga el cumplimiento de otras leyes aplicables.

En conclusión, la guía danesa sobre la prohibición de los sistemas de IA que infieren emociones puede servir como punto de referencia inicial para la aplicación de la Ley Europea de IA. Su interpretación aclara los límites de una práctica que, debido a su elevado impacto potencial en la privacidad y la dignidad, está prohibida en los entornos laborales y educativos, salvo por razones médicas o de seguridad.

El documento refuerza la idea de que las organizaciones deben revisar cualquier tecnología que utilice datos biométricos para inferir emociones, asegurándose de que sus usos cumplan estrictamente con la ley y no creen desequilibrios de poder o formas intrusivas de procesamiento. Al hacerlo, la guía ayuda a consolidar un marco de confianza en el desarrollo y la implementación de la inteligencia artificial dentro de la Unión Europea.