Biometría y sistemas automatizados de reconocimiento de emociones Implicaciones Jurídicos-Laborales
Desde los comienzos de los años 90 se viene investigando en los sistemas automatizados de reconocimiento de emociones. A diferencia de los controles empresariales tradicionales, estos sistemas tienen la capacidad de reconocer emociones y estados de ánimo, se basan en los datos biométricos (rostro, voz, entre otros) y emplean algoritmos e inteligencia artificial. Todo ello incrementa la capacidad de análisis y explotación de los datos de carácter personal de las personas trabajadoras por parte de las empresas.
A partir de la definición de sistema automatizado de reconocimiento de emociones de la propuesta europea de Reglamento de Inteligencia Artificial, el presente libro da respuesta a interrogantes de gran calado: ¿debe prohibirse cualquier sistema de reconocimiento de emociones en el ámbito laboral, o sólo los llamados de alto riesgo?; ¿cómo inciden estos sistemas en los derechos fundamentales de las personas empleadas?; ¿están legitimadas las empresas para su aplicación? Además, se analizan las primeras resoluciones sobre este tema en Europa.
Prólogo 13
Capítulo 1. Planteamiento de la investigación 19
Capítulo 2. Los datos biométricos del trabajador y su tratamiento por la empresa 23
1. La transformación del dato biométrico 23
2. Legitimación del empresario para controlar los datos biométricos del trabajador 32
2.1. La huella dactilar y el cumplimiento de la obligación de registro de jornada 34
2.2. El reconocimiento facial como medida de seguridad frente a riesgos de gravedad 44
2.3. El tratamiento del sonido en el ámbito laboral 50
3. Las obligaciones de la empresa en el tratamiento de datos biométricos del trabajador 75
4. Los derechos de los trabajadores 79
Capítulo 3. Una aproximación a los sistemas de reconocimiento de emociones y su proyección en el ámbito laboral 87
1. ¿Qué es una emoción? 87
2. ¿Tienen las emociones un valor económico para las empresas? 91
3. Los antecedentes: el polígrafo 93
4. La novedad de este control frente a los controles laborales tradicionales 97
5. La estructura de los sistemas de reconocimiento de emociones 98
5.1. Los datos biométricos 101
5.2. Los algoritmos 103
5.3. La IA (Inteligencia Artificial) 107
6. ¿Son posibles los ordenadores emocionales? 111
Capítulo 4. Tipología de sistemas de reconocimiento de emociones 113
1. La regulación de los sistemas de IA basado en el nivel de riesgo 113
1.1. El carácter inspirador de la propuesta legislativa alemana 118
1.2. Los niveles de riesgo establecidos en la Ley de Inteligencia Artificial 120
2. Los sistemas de reconocimiento de emociones basados en los datos biométricos 124
2.1. Los supuestos prohibidos 124
2.2. Los supuestos permitidos 128
3. Los sistemas de reconocimiento de emociones de naturaleza menos invasiva 130
3.1. Los robots software en las sombras 130
3.2. Los RPA: las nuevas fuerzas de trabajo digitales 135
3.3. Los chatbots: ¿Conoces a Macarena? 137
i. Los chatbots como soporte de tareas de trabajo 139
ii. Los chatbots orientados a la salud mental 142
3.4. Los robots de software y la IA: ¿el fin del derecho a la intimidad del trabajador? 144
Capítulo 5. ¿Están legitimadas las empresas para el reconocimiento de emociones en el trabajo? 149
1. Las posibles razones alegadas por las empresas 149
1.1. Razones de calidad y productividad 149
1.2. Integración de trabajadores con discapacidades (asperger, autista) 153
1.3. La seguridad en sentido amplio 154
2. Análisis de supuestos concretos 156
2.1. Reconocimiento de emociones en el habla (“Speech Emotion Recognition”/”SER”) 156
2.2. El reconocimiento facial de emociones 158
2.3. Monitorización de las conversaciones escritas de las personas trabajadoras (emails, chats, etc.) 162
2.4. Estudio de emociones a través de los movimientos del trabajador 165
Capítulo 6. Obligaciones de la empresa 167
1. Transparencia y su control 167
2. Decisión final humana 180
3. Evaluación de impacto 183
4. Delegado de protección de datos 185
5. ¿Auditoría? 185
6. Protección de datos desde el diseño 186
7. Prevención de riesgos laborales 188
Capítulo 7. Fallos del sistema y derechos de las personas trabajadoras 201
Conclusiones 207
Bibliografía 211
ANA BELÉN MUÑOZ RUIZ, Profesora Titular de Derecho del Trabajo y de la Seguridad Social de la Universidad Carlos III de Madrid. Miembro de la Comisión de Estudio de las Repercusiones Laborales de los Algoritmos del Ministerio de Trabajo y Economía Social desde junio 2021 para desarrollar el deber empresarial de transparencia algorítmica.
Premio de Excelencia otorgado por el Consejo Social de la Universidad Carlos III de Madrid (2021). Designada como Mediadora en el Servicio Interconfederal de Mediación y Arbitraje F.S.P (SIMA-FSP), desde marzo de 2020. Ha realizado estancias de investigación en las Universidades de Harvard, Oxford y London School of Economics and Political Science (LSE). Ha desarrollado labores docentes en inglés en prestigiosas Universidades en Bélgica, Dinamarca, Países Bajos, Suecia, Suiza, Reino Unido y Hungría.
Defendió su Tesis Doctoral en la Universidad Carlos III de Madrid sobre el Sistema Normativo de la Prevención de Riesgos Laborales (2008), publicada en Lex Nova en 2009. Es investigadora principal de varios proyectos europeos, entre ellos, Proyecto Europeo H2020, Eusocialcit, The Future of European Social Citizenship, que focaliza sobre la problemática de la prevención de riesgos laborales en la Unión Europea vinculada con la digitalización.
Seleccionada por el Instituto Sindical Europeo (ETUI) para realizar el informe español sobre el marco normativo de los riesgos psicosociales (2021). Ha publicado varios trabajos sobre tecnología y control laboral. Entre ellos, el libro «Control informático, videovigilancia y protección de datos en el trabajo», publicado en Lex Nova en 2012 junto con D. Aurelio Desdentado Bonete. Es co-editora del Blog «El Foro de Labos» habiendo publicado entradas sobre tecnología emergente y control laboral
