Inteligencia artificial y prevención de riesgos laborales: obligaciones y responsabilidades

Índice
PRESENTACIÓN        17
PRIMERA PARTE
REGLAMENTO DE INTELIGENCIA ARTIFICIAL Y NORMATIVA DE SEGURIDAD DEL PRODUCTO: OBLIGACIONES Y RESPONSABILIDADES PARA EL FABRICANTE Y EMPRESARIO
Capítulo primero:
LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO LABORAL Y EL MARCO REGULADOR EUROPEO DE SEGURIDAD DEL PRODUCTO        23
Beatriz Rodríguez Sanz de Galdeano
I. LA INCORPORACIÓN DE SISTEMAS DE IA EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES        24
1. Los avances tecnológicos determinantes de la industria 4.0        24
2. Aproximación a las principales aportaciones de la industria 4.0 en la empresa y sus implicaciones en materia de PRL        25
2.1.-Robótica avanzada        25
2.2. Sistemas de Gestión        27
2.3.- EPIS inteligentes        27
3. Algunas particularidades de estos nuevos equipos y los retos para el legislador        28
II. INSUFICIENCIA DEL MARCO NORMATIVO EXISTENTE Y PRIMEROS AVANCES EN EL SENO DE LA UE        31
1. Primeros pasos: el enfoque europeo en materia de IA        31
2. Creación de directrices éticas en materia de IA        32
3. Revisión de la normativa existente y formulación de propuestas legislativas        33
III. La propuesta de REGLAMENTO IA: una apuesta por una aproximación horizontal y coherente con el resto de bloques normativos        35
1. Amplitud de su ámbito de aplicación y apuesta por un planteamiento basado en niveles de riesgo        36
2. Enfoque horizontal y sistema entrelazado con el resto de normativa        38
3. Fijación de requisitos generales y remisión a las especificaciones técnicas        39
IV. Vuelta a lo concreto: los requisitos de seguridad de los nuevos sistemas de IA utilizados en el ámbito laboral        40
1. Robots-máquinas: normativa de máquinas y legislación de IA        40
1.1. Concepto de máquina y sistemas de IA        42
1.2. Procedimiento de evaluación y certificación de los sistemas de IA incluidos en el campo de aplicación de la normativa de máquinas        44
1.3. Requisitos esenciales de seguridad        46
1.4. Las normas técnicas y los organismos de normalización para las máquinas con sistemas de IA        48
2. Normativa de seguridad para la fabricación de EPIs inteligentes        49
3. Exoesqueletos: ni máquinas ni productos sanitarios        52
4. Vehículos guiados en el ámbito de la empresa        53
5. Drones        53
6. Software de gestión independiente        54
V. Las obligaciones del empresario respecto de productos que incorporan sistemas de IA        56
1. Integración en el ámbito laboral de productos seguros: obligación de evaluación de riesgos, de formación e información        57
2. La alteración y adaptación del equipo: el empresario como posible fabricante        58
3. El empresario como usuario de un sistema de IA        61
4. Las obligaciones del empresario como posible responsable de tratamiento de datos        62
VI. Algunos desafíos pendientes        67
VII. BIBLIOGRAFÍA        69
Capítulo segundo:
EL REGLAMENTO UE DE INTELIGENCIA ARTIFICIAL Y SU INTERRELACIÓN CON LA NORMATIVA DE SEGURIDAD Y SALUD EN EL TRABAJO        73
José Luis Goñi Sein
I. INTRODUCCIÓN: PROCESO DE REGULACIÓN DE LA LEY DE IA        73
II. COHERENCIA CON EL ACERVO SOCIAL EUROPEO: DIRECTIVA DE SEGURIDAD Y SALUD LABORAL.        77
III. DISEÑO EUROPEO DE INTELIGENCIA ARTIFICIAL:        82
1. Definición de IA        82
2. Pirámide de riesgos        83
3. Requisitos obligatorios para los sistemas de IA de “Alto Riesgo”        90
IV. SISTEMAS DE IA EN EL TRABAJO Y SU IMPACTO EN LA SEGURIDAD Y SALUD LABORAL:        93
1. Automatización por IA: dispositivos robóticos        95
2. Software de gestión algorítmica        98
3.Trabajo en plataformas digitales        101
V. LA IA DE ALTO RIESGO Y GESTIÓN DE RIESGOS DE SEGURIDAD Y SALUD LABORAL        103
1. Identificación de riesgos asociados a IA        106
2. Evaluación de riesgos        106
3. Medidas de gestión de riesgos        107
VI. TRANSPARENCIA ALGORÍTIMICA Y GOBERNANZA PARTICIPATIVA        110
1. La información como contenido previo de fiabilidad del sistema de IA        110
2. Sistemas de IA y participación sindical        112
3. Derecho de los trabajadores a una explicación de las decisiones automatizadas y a impugnarlas.        114
VII. CONCLUSIONES        116
VIII. BIBLIOGRAFÍA        119
Capítulo tercero:
Responsabilidad civil en materia de inteligencia artificial y su incidencia en el ámbito de reparación del daño derivado de Accidente de Trabajo y Enfermedad Profesional español        123
Julen Llorens Espada
I. Daños por sistemas de IA en el ámbito laboral        123
1. Robot con integración de sistemas de IA         127
2. Sistemas de IA integrados en aplicaciones dirigida a la gestión de la PRL        129
II. RETOS        132
1. Imputación y delimitación de la responsabilidad        132
2. ConJugar diversos bloques normativos        138
2.1. Responsabilidad civil adicional en materia de seguridad y salud en el trabajo        139
2.2. Responsabilidad del fabricante        143
a) Seguridad del producto        143
b) Prevención de Riesgos Laborales        145
2.3. Compatibilidad con la responsabilidad civil en protección de datos        145
2.4. Compatibilidad con el sistema de Seguridad Social        147
2.5. Responsabilidad penal        148
III. Las claves del nuevo sistema        149
1. Exhibición de pruebas        149
2. Presunción de relación de causalidad en caso de culpa        151
2.1. Sistemas de IA de no “alto riesgo”        151
2.2. Sistemas de IA de “alto riesgo”        154
a) Diligencia digital de los proveedores        155
b) Diligencia digital de las empresas que actúen como usuarias del sistema de IA        156
Bibliografía        157
SEGUNDA PARTE
LA INCORPORACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES
Capítulo Cuarto:
APORTACIONES DE LA INTELIGENCIA ARTIFICIAL EN MATERIA PREVENTIVA Y NUEVOS RIESGOS EMERGENTES        161
Mirentxu Marín Malo
I. INTRODUCCIÓN        161
II. LOS SISTEMAS DE IA COMO HERRAMIENTA PARA LA MEJORA DE LAS CONDICIONES DE SEGURIDAD Y SALUD EN EL TRABAJO        166
1. El uso de sistemas de IA para la gestión de la prevención en la empresa        167
1.1. La adopción de medidas preventivas basadas en sistemas de IA        167
1.2. La IA como medio para facilitar el cumplimiento de ciertas obligaciones específicas del empresario en materia preventiva.        168
1.3. Los sistemas de IA como medio para dar cumplimiento a obligaciones empresariales que exigen la presencia de personal especializado en el centro de trabajo        169
2. La IA como garantía de una formación en materia preventiva suficiente y adecuada        171
3. Los sistemas de IA como herramienta para la mejora de las condiciones de seguridad y salud del centro de trabajo        173
3.1. La mejora de la ergonomía        174
3.2. Las posibles mejoras en condiciones ambientales del centro de trabajo        175
3.3. La IA como herramienta para aumentar los niveles de seguridad y salud generales de los trabajadores        177
III. RIESGOS LABORALES EMERGENTES ASOCIADOS A LA INTELIGENCIA ARTIFICIAL        177
1. Los riesgos psicosociales vinculados a la implantación de sistemas de IA en la prestación de servicios a través de plataformas digitales        178
1.1. Riesgos derivados del uso de la digitalización del medio laboral como medio de control        179
1.2. La IA como medio para el seguimiento y valoración del trabajo prestado        181
1.2.1. La evaluación por parte de la empresa        181
1.2.2. La evaluación por parte del cliente        184
2. La robotización “inteligente” como origen de nuevos (y viejos) riesgos laborales        185
2.1 La deshumanización del trabajo        190
2.2. Los riesgos mecánicos derivados de la robotización del medio laboral        192
IV. BIBLIOGRAFÍA        193
Capítulo quinto:
INTELIGENCIA ARTIFICIAL Y SALUD LABORAL        197
Julen Llorens Espada
I. INTRODUCCIÓN: INTELIGENCIA ARTIFICIAL DESDE EL ÁMBITO DE LA SALUD        197
II. APLICACIÓN DE LA IA Y VIGILANCIA DE LA SALUD        201
1. Diagnósticos de salud a través de modelos predictivos y vigilancia de la salud en la empresa        201
2. Diagnósticos predictivos y reconocimientos médicos obligatorios para cubrir puestos de trabajo con riesgo de enfermedades profesionales        203
III. MONITORIZACIÓN DE LA SALUD DE LOS TRABAJADORES A TRAVÉS DE SISTEMAS DE IA Y GESTIÓN DE PRL        209
1. Wereables e IoT con fines de prevención de riesgos laborales        211
2. Equipos de Protección Individual inteligentes        215
3. Plataformas de gestión de la prevención de riesgos laborales        220
4. Riesgos de la gestión de la PRL a través de IA        224
IV. SISTEMAS DE IA Y PROTECCIÓN DE DATOS PERSONALES EN EL ÁMBITO DE LA SALUD LABORAL        226
1. Vigilancia de la salud mediante IA y protección de datos personales        227
2. Garantías del marco legal de prevención de riesgos laborales ante la vigilancia de la salud a través de sistemas de IA        230
2.1. Voluntariedad y derecho de información        231
2.2. Finalidad y proporcionalidad        233
2.3. Confidencialidad y personal habilitado        234
3. Garantías del marco legal de protección de datos en el tratamiento de datos de salud        238
3.1. Legitimación en el tratamiento de datos personales de salud con fines de prevención de riesgos laborales        238
3.2. Tratamiento automatizado de datos de salud: bases de legitimación        240
3.3. Tratamiento semi-automatizado de datos de salud: bases de legitimación        244
4. Principios generales de protección de datos        245
V. BIBLIOGRAFÍA        248
Capitulo sexto:
UTILIZACIÓN DE NUEVAS TECNOLOGIAS CON FINES DE GESTION PREVENTIVA. POSIBILIDADES A LA LUZ DE LA NORMATIVA EN MATERIA DE SEGURIDAD Y SALUD LABORAL        253
Luis Pérez Capitán
I. INTRODUCCIÓN        254
II. LAS NUEVAS TECNOLOGÍAS EN EL ÁMBITO FORMATIVO DE PREVENCIÓN DE RIESGOS LABORALES        256
1- Una breve reflexión previa.        256
2 Las plataformas digitales: ¿instrumentos adecuados para la formación preventiva?        258
III.- LA ADECUACIÓN DEL USO DEL SISTEMA DE VIGILANCIA A DISTANCIA COMO INSTRUMENTO DEL CUMPLIMIETNO DE LAS OBLIGACIONES DE VIGILANCIA ESTABLECIDAS EN LA REGULACIÓN PREVENTIVA.        268
1 Los sistemas de control remoto y la obligación general de vigilancia empresarial.        269
1.1. Una breve referencia a la obligación de vigilancia empresarial.        269
1.2. Supuestos específicos de vigilancia: los medios de protección personal y otras situaciones.        271
2 La adecuación de los sistemas de control remoto para el cumplimiento de esta obligación general.        272
3. La vigilancia ante las situaciones de riesgo agravado: los recursos preventivos. Examen de la adecuación de los sistemas de control remoto al cumplimiento de esta obligación.        274
3.1. Una introducción acerca del recurso preventivo.        274
3.2. La adecuación de los sistemas de control remoto para suplir la presencia física del recurso preventivo.        277
4. La adecuación de los sistemas de control remoto para el cumplimiento de la obligación de vigilancia en los casos de concurrencia de actividades empresariales.        279
4.1. La adecuación de los medios de control remoto para el cumplimiento de la obligación de vigilancia del empresario principal.        279
4.2. El encargado de coordinación y las posibilidades del cumplimiento de sus obligaciones de vigilancia a través de sistema de control remoto.        281
5. Los sistemas de control remoto y la obligación de vigilancia en el ámbito de las obras de construcción.        284
5.1. Las herramientas de control remoto y su conciliación con las obligaciones de vigilancia del coordinador en materia de seguridad y de salud durante la ejecución de la obra.        285
5.2. Algunas menciones específicas al deber de vigilancia: director de obra y director de ejecución de obra.        289
6. Los Servicios de Prevención como sujetos obligados a efectuar una actividad de vigilancia.        290
IV. CONCLUSIONES        291
V. BIBLIOGRAFÍA        292
TERCERA PARTE
RESPONSABILIDAD CIVIL POR DAÑOS DERIVADOS DE LA INTELIGENCIA ARTIFICIAL
Capítulo séptimo:
MARCO NORMATIVO GENERAL Y PROPUESTAS DE REGULACIÓN EN LA RESPONSABILIDAD CIVIL        297
Mª Ángeles Egusquiza Balmaseda.
I. CONSIDERACIONES PREVIAS.        297
II. COMPLEMENTARIEDAD NORMATIVA COMO AXIOMA EN LA REGULACIÓN FUTURA DE LA UE SOBRE RESPONSABILIDAD CIVIL POR IA.        302
III. PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD CIVIL EN MATERIA DE IA.        308
1. Planteamiento general.        308
2. Objeto y ámbito de aplicación.        308
3. Contenido de la armonización en materia de responsabilidad civil extracontractual por IA.        313
3.1. Aspectos generales.        313
3.1.1. La exhibición de pruebas y presunción refutable de incumplimiento en los sistemas de IA de alto Riesgo.        315
3.1.2. La presunción refutable de la relación de causalidad.        323
IV. A MODO DE CONCLUSIÓN.        327
V. BIBLIOGRAFÍA        328
Capítulo octavo:
EL CONCEPTO LEGAL DE PRODUCTO A LA LUZ DE LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS        331
María Jorqui Azofra
I. INTRODUCCIÓN        331
II. RAZONES QUE JUSTIFICAN LA REVISIÓN DEL ACTUAL CONCEPTO LEGAL DE PRODUCTO PARA SU ADAPTACIÓN A LA ERA DIGITAL        339
III. LA DEFINICIÓN DE PRODUCTO EN LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS        360
IV. CONSIDERACIONES FINALES        374
V. BIBLIOGRAFÍA        386
Capítulo noveno:
RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE CONTENIDOS Y SERVICIOS DIGITALES        391
Raquel Luquin Bergareche
I. INTRODUCCION. DIGITALIZACION Y SERVICIOS        391
II. RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE SERVICIOS DIGITALES: ENCUADRE NORMATIVO.        398
1. La “Directiva de servicios digitales” y su transposición mediante Real Decreto-Ley 7/2021, de 27 de abril.        398
1.1. Ámbito normativo.        400
1.2. Precisiones terminológicas.        401
1.3. Responsabilidad civil contractual derivada de la prestación de servicios digitales.         403
1.3.1. La Directiva (UE) 2019/770 del Parlamento Europeo y del Consejo de 20 de mayo de 2019 relativa a determinados aspectos de los contratos de suministro de contenidos y servicios digitales (“Directiva de servicios digitales”).        403
1.3.2. El Real Decreto-Ley 7/2021, de 27 de abril: modificaciones en la normativa española relativa al suministro de productos y servicios digitales a consumidores.        408
III. EL REGLAMENTO RELATIVO A UN MERCADO ÚNICO DE SERVICIOS DIGITALES O LEY DE SERVICIOS DIGITALES (“DIGITAL SERVICES ACT” O DSA).        428
1. Marco normativo para el proceso europeo de digitalización.        428
2. Los servicios de intermediación en línea: intermediación, alojamiento de datos y plataformas en línea.        429
3. Nuevo régimen de responsabilidad de los prestadores de servicios digitales que actúan como intermediarios.        432
3.1. Ámbito de aplicación: la “conexión sustancial” del intermediario con la Unión Europea.        432
3.2. Precisiones terminológicas.        435
3.3. La exención de responsabilidad horizontal de los prestadores de servicios de la sociedad de la información: los “safe harbours” o puertos seguros.        438
3.4. Régimen de responsabilidad de los intermediarios.        445
3.4.1. Exención de responsabilidad de los intermediarios de mera transmisión o alojamiento de datos (“caching” y “hosting”) y por investigaciones por iniciativa propia o voluntarias para detectar, identificar y retirar contenidos ilícitos o inhabilitar el acceso a los mismos .        445
3.4.2. Actuaciones contra contenidos ilícitos.        447
3.4.3. Ordenes de entrega de información por las autoridades nacionales judiciales o administrativas.        449
3.4.4. El indeterminado criterio de la “diligencia debida” de los prestadores de servicios intermediarios para crear un entorno en línea transparente y seguro.        449
3.4.5. Notificación y acción frente a contenidos ilícitos.        453
4. Régimen de responsabilidad de las plataformas en línea.        455
5. Plataformas en línea de muy gran tamaño: obligaciones adicionales y régimen reforzado.        461
IV. BIBLIOGRAFÍA        463