Algoritmos inteligencia artificial y relación laboral
Analiza los retos jurídicos que plantea el uso de algoritmos e inteligencia artificial para la adopción de decisiones automatizadas en el ámbito laboral, tales como selección o contratación, asignación de tareas o despidos.
- Analiza un el uso de algoritmos y sistemas de inteligencia artificial para elaborar perfiles y adoptar decisiones de forma automatizada en el ámbito laboral.
- Estudio jurídico del uso del algoritmos e inteligencia artificial en el ámbito laboral.
- Aproximación al uso de algoritmos en la relación laboral desde una perspectiva multidisciplinar.
Anna Ginès i Fabrellas es profesora en ESADE-Universitat Ramón Llull
Destinado a profesionales del Derecho del Trabajo y Protección de Datos Personales.
Extracto:
La utilización de sistemas de inteligencia artificial y algoritmos en la relación laboral, aunque parezca extraído de alguna de las mejores novelas de ciencia ficción, es una realidad. Muchas empresas están utilizando tecnología inteligente para adoptar decisiones de gestión de personas, tales como selección y contratación, asignación de tareas, fijación de salario, promociones o, incluso, despidos. Sin embargo, el uso de tecnología inteligente también genera riesgos potenciales sobre los derechos fundamentales a la intimidad, protección de datos, igualdad y no discriminación o seguridad y salud laboral. En este contexto, el objeto de la presente obra es analizar la regulación actual del uso de algoritmos y sistemas de inteligencia artificial para la adopción de decisiones automatizadas en el ámbito laboral, identificando los nuevos retos empresariales, jurídicos y éticos que presenta y formulando propuestas de interpretación y lege ferenda.
PRÓLOGO. EL IMPACTO LABORAL DE LOS ALGORITMOS
ANNA GINÈS I FABRELLAS
PARTE I. INTELIGENCIA ARTIFICIAL Y ALGORITMOS: OPORTUNIDADES, DESAFÍOS
CAPÍTULO 1
HACIA UNA POLÍTICA DE INNOVACIÓN EN IA
ESTEVE ALMIRALL
1.Introducción
2.La promesa
3.La paradoja de la IA
4.La disrupción de la IA
5.La innovación en IA
6.Hacia una política de innovación en IA jurídico
7.Bibliografía
CAPÍTULO 2
ALGORITMOS, DECISIONES AUTOMATIZADAS Y DESAFÍOS ÉTICOS: UN ANÁLISIS SOCIOLÓGICO
DAVID MURILLO
1.Introducción
2.La IA como cultura: mitos, principios y valores
2.1.Un marco conceptual básico
2.2.Mitos de la IA
3.La IA como artefacto moral: desafíos éticos y sociales
4.La IA como lógica organizativa: el extractivismo de datos
5.La IA como mecanismo de control: impacto sobre las personas trabajadoras
6.La IA como ámbito de regulación: tendencias y oportunidades
6.1.Los datos como el nuevo petróleo: una analogía útil para confrontar el extractivismo de datos
6.2.Entender las plataformas tecnológicas como agentes de cambio institucional y la IA como ideología
6.3.El derecho como resultado de la negociación entre agentes, posibilidades tecnológicas y la sociedad
6.4.Reflexiones finales
7.Bibliografía
CAPÍTULO 3
NOTAS PARA UN APRENDIZAJE AUTOMÁTICO JUSTO
IRENE UNCETA
1.Introducción
2.Aproximación al aprendizaje automático
2.1.Las tipologías de aprendizaje
2.2.Los datos
2.3.Inferencia y predicción
2.4.Los algoritmos y los modelos
2.5.Las métricas
3.Los sesgos en el aprendizaje automático
3.1.Las fuentes de sesgo
3.2.Las métricas de fairness
4.Hacia un aprendizaje automático justo
5.Bibliografía
PARTE II. EL TRATAMIENTO JURÍDICO DEL USO DE INTELIGENCIA ARTIFICIAL Y ALGORITMOS EN EL ÁMBITO LABORAL
CAPÍTULO 4
INTELIGENCIA ARTIFICIAL, ALGORITMOS Y BIG DATA EN EL ÁMBITO LABORAL. CONSIDERACIONES EN TORNO A SU MARCO REGULATORIO
SALVADOR DEL REY GUANTER
1.Introducción
2.Consideraciones generales sobre el marco regulatorio
3.Sobre la centralidad del Estatuto de los Trabajadores en la regulación de la IA, algoritmos y big data en la empresa
4.El marco regulatorio extraestatutario trascendente para los sistemas de IA, algoritmos y big data en el ámbito laboral: algunos ejemplos recientes
4.1.IA y marco regulatorio del empleo
4.2.IA y marco regulatorio de la formación
4.3.El marco legal de la igualdad y no discriminación en las relaciones laborales y la implantación de IA
4.4.IA y algoritmos en la normativa sobre garantía integral de la libertad sexual
5.Conclusiones
6.Bibliografía
CAPÍTULO 5
LA PROPUESTA DE REGLAMENTO SOBRE INTELIGENCIA ARTIFICIAL Y SU IMPACTO EN EL ÁMBITO LABORAL
HENAR ÁLVAREZ CUESTA
1.Marco normativo europeo para la Inteligencia Artificial y propuesta de la denominada “Ley de Inteligencia Artificial”
2.La clasificación de los sistemas de Inteligencia Artificial en la Ley de Inteligencia Artificial europea
2.1.Prácticas prohibidas en el uso de sistemas de Inteligencia Artificial
2.2.Sistemas de Inteligencia Artificial de alto riesgo
2.3.Sistemas de IA de riesgo limitado
2.4.Sistemas de riesgo mínimo
3.Obligaciones referidas a los sistemas de IA de alto riesgo
3.1.Obligaciones de la persona proveedora/desarrolladora
3.2.Obligaciones de la persona usuaria o implementadora
4.Principios y reglas de uso de sistemas de IA de alto riesgo
4.1.Calidad de los datos del sistema de IA de alto riesgo
4.2.Transparencia y derecho de información del sistema de IA de alto riesgo
4.3.Supervisión y control humanos del sistema de IA de alto riesgo
4.4.Solidez y seguridad de la IA
4.5.Evaluación de la conformidad de sistemas de alto riesgo
5.Cuestiones pendientes en la Ley de Inteligencia Artificial europea en su aplicación al trabajo
6.Bibliografía
CAPÍTULO 6
DECISIONES AUTOMATIZADAS Y ELABORACIÓN DE PERFILES EN EL ÁMBITO LABORAL Y SU POTENCIAL IMPACTO DISCRIMINATORIO
ANNA GINÈS I FABRELLAS
1.Introducción
2.El tratamiento jurídico del uso de algoritmos para la elaboración de perfiles y decisiones automatizadas en el ámbito laboral
2.1.Introducción a los conceptos de decisiones automatizadas y elaboración de perfiles
2.2.Decisiones automatizadas y elaboración de perfiles en el Reglamento General de Protección de Datos
2.2.1.Prohibición general de decisiones íntegramente automatizadas con efectos jurídicos o similarmente significantes
2.2.2.Excepciones a la prohibición general de decisiones íntegramente automatizadas
2.3.Principios, garantías y salvaguardas frente a las decisiones automatizadas y la elaboración de perfiles
2.3.1.Principios generales del tratamiento de datos personales
2.3.2.Derechos de información y transparencia
2.3.3.Derecho de impugnación, revisión e intervención humana
2.4.Derechos colectivos de información, consulta y negociación
3.El impacto discriminatorio del uso de algoritmos en el ámbito laboral
3.1.Orígenes de la discriminación algorítmica
3.2.El tratamiento jurídico de la discriminación algorítmica
3.3.Nuevas dimensiones de la discriminación algorítmica
4.La necesidad de avanzar hacia mayor transparencia algorítmica
5.Reflexiones finales. Retos jurídicos para una inteligencia artificial ética y justa
6.Bibliografía
CAPÍTULO 7
LA DIRECCIÓN ALGORÍTMICA EN LA PROPUESTA DE DIRECTIVA SOBRE EL TRABAJO EN PLATAFORMA: UN AVANCE PARCIAL ENTRE LA DIMENSIÓN INDIVIDUAL Y COLECTIVA
MATTEO AVOGARO
1.Introducción
2.El marco normativo vigente: el Reglamento General de Protección de Datos y la dirección algorítmica en el contexto del trabajo en plataformas
2.1.Medidas para limitar la utilización de sistemas totalmente automatizados de toma de decisiones
2.2.Normas de aplicación general del RGPD que afecten a la dirección algorítmica en el trabajo en plataformas
3.La dirección algorítmica en la Propuesta de Directiva sobre el trabajo en plataformas: comprensibilidad, explicación y consulta colectiva como clave para unas mejores condiciones de trabajo
3.1.Transparencia y utilización de sistemas automatizados de supervisión y toma de decisiones
3.2.Supervisión humana de los sistemas automatizados
3.3.Revisión humana de decisiones importantes
3.4.Derechos de información y consulta de la representación de las personas trabajadoras
3.5.La extensión del cuadro regulador del Capítulo III de la Propuesta de Directiva a las personas que trabajan en plataformas sin relación laboral
4.Una lectura crítica de la Propuesta de Directiva: entre ambición innovadora y pragmática moderación
5.Conclusiones
6.Bibliografía
CAPÍTULO 8
APRENDIZAJE AUTOMÁTICO, MONITOREO INFINITO Y DESAFÍOS DE PROTECCIÓN DE DATOS Y PRIVACIDAD
RAQUEL SERRANO OLIVARES
1.Problemática jurídica analizada y derechos en juego
2.Recogida y tratamiento de datos personales
2.1.Recogida y tratamiento de datos personales en la selección y contratación de personal
a)Datos aportados por la persona candidata
b)Datos no obtenidos de la persona candidata: redes sociales
c)Tecnología de reconocimiento de emociones a partir de datos biométricos
2.2.Datos recabados durante la relación laboral, incluyendo medios de control utilizados por los dispositivos de IA
3.Sistemas de aprendizaje automático y elaboración de perfiles
4.Decisiones automatizadas
5.Reflexión final
6.Bibliografía
CAPÍTULO 9
IA Y SEGURIDAD Y SALUD LABORAL: LA DICOTOMÍA ENTRE SER UN GRAN ALIADO PRODUCTIVO Y UN “RIESGO LABORAL EMERGENTE”
MANUEL LUQUE PARRA
1.Introducción
2.La IA como “gran aliada” para la seguridad y salud en el trabajo
2.1.La incidencia de la IA en la mejora de la seguridad de los sistemas productivos
2.2.La IA como “oportunidad” para hacer más eficientes los sistemas de gestión de PRL: mucho más que la certificación ISO 45001
3.La IA como un “riesgo laboral emergente”
3.1.La IA como riesgo psicosocial emergente a evaluar
3.2.La mujer trabajadora en el entorno de la inteligencia artificial
3.3.La propuesta de Reglamento sobre IA: “IA, entorno laboral y ‘alto riesgo’ ”
4.Valoración final
5.Bibliografía
CAPÍTULO 10
LOS DERECHOS COLECTIVOS DE INFORMACIÓN, CONSULTA Y NEGOCIACIÓN DEL USO DE ALGORITMOS Y SISTEMAS DE INTELIGENCIA ARTIFICIAL
ALBERTO PASTOR MARTÍNEZ
1.La incidencia del nuevo marco normativo en materia de participación de las personas trabajadoras
1.1.La aprobación del Real Decreto-ley 9/2021 y la posterior Ley 12/2021 y su incidencia en los derechos de participación de las personas trabajadoras
1.2.Algoritmos y protección de datos. El principio de transparencia
2.El derecho a la información algorítmica en su dimensión colectiva
2.1.La utilización de algoritmos en materia laboral como elemento determinante de la obligación de información algorítmica colectiva
2.2.Contenido de la información
2.3.Titulares del derecho a la información algorítmica colectiva
2.4.Dinámica y forma de la obligación informativa
3.El derecho de consulta de la representación de las personas trabajadoras
3.1.El ámbito de aplicación del derecho de consulta de la representación de las personas trabajadoras con relación al uso de algoritmos
3.2.Dinámica, forma y efectos de la omisión del derecho de consulta
4.Un breve excurso sobre negociación colectiva y algoritmo
5.Bibliografía
CAPÍTULO 11
EVALUACIÓN DE IMPACTO DE LOS ALGORITMOS PARA LA TOMA DE DECISIONES AUTOMATIZADAS EN EL ÁMBITO LABORAL
ANTONIO DELGADO PLANÁS
1.Introducción
2.Función de la evaluación de impacto
2.1.Definición de la evaluación de impacto
2.2.Las evaluaciones de impacto como parte de un sistema de gestión del riesgo
2.3.El momento para la realización de la evaluación de impacto y la privacidad desde el diseño
3.La obligación de la realización de una evaluación de impacto
3.1.Operaciones que requieren evaluación de impacto
3.2.Operaciones que no requieren evaluación de impacto
4.El papel de la persona delegada de protección de datos
5.Contenido mínimo de la evaluación de impacto
6.Conclusión
7.Bibliografía
ANNA GINÈS I FABRELLAS
Directora
ALGORITMOS, INTELIGENCIA ARTIFICIAL Y RELACIÓN LABORAL
| ESTEVE ALMIRALL |
MANUEL LUQUE PARRA |
| HENAR ÁLVAREZ CUESTA |
DAVID MURILLO |
| MATTEO AVOGARO |
ALBERTO PASTOR MARTÍNEZ |
| ANTONIO DELGADO PLANÁS |
SALVADOR DEL REY GUANTER |
| ANNA GINÈS I FABRELLAS |
RAQUEL SERRANO OLIVARES |
| IRENE UNCETA |
