Derecho de contratos, responsabilidad extracontractual e inteligencia artificial
El objeto de esta obra está constituido por el estudio sistemático de los aspectos del Derecho de contratos y del Derecho de daños. En los que tiene incidencia la utilización de sistemas inteligencia artificial (IA).
Desde la perspectiva contractual, entre otros aspectos, se revisa la doctrina y las reglas aplicables a los vicios del consentimiento. En aquellos casos que, con la IA se explotan vulnerabilidades,
existen sesgos en el algoritmo o se omite información relevante para una de las partes del contrato (dolo y error, respectivamente): o sesgos discriminatorios que pueden afectar a la toma
de decisiones automatizadas en la contratación (discriminación algorítmica) y a la protección de datos personales que, en buena medida, están vinculados a la opacidad del algoritmo
y el efecto de la «caja negra». La influencia de la IA en la redacción e interpretación de contratos, y en particular el empleo de la herramienta del diseño legal (Legal Desing), partiendo
del principio general de autonomía privada, los límites de la libertad contractual en este ámbito, así como de las precisiones que requieren las reglas de interpretación contractual
en aquellos casos en los que los contratos se incluyen imágenes con carácter regulador de su contenido.
También son objeto de atención las cuestiones atinentes a la responsabilidad contractual derivadas de la automatización del cumplimiento de contratos mediante IA; y de su uso
y de sus consecuencias en la prestación de servicios de telemedicina. Desde la perspectiva del Derecho de daños, se analiza la idoneidad y los problemas que plantean las reglas tradicionales
en materia de responsabilidad civil extracontractual y, en particular, los criterios de imputación del Derecho de daños, partiendo, también en este caso, de la disrupción que supone la
apacidad que tienen las inteligencias artificiales para aprender y desarrollar sus habilidades propias y sin intervención humana, lo que les permite tomar decisiones autónomas, como
consecuencia de la interacción de sus distintos componentes de una forma que resulta extraordinariamente compleja.
En esencia, se pretende dar respuesta a la cuestión de si ¿es necesaria una regulación nueva para los daños derivados del uso de inteligencia artificial? En la respuesta, se analiza ampliamente
la propuesta relativa a las normas armonizadas en materia de inteligencia artificial (IA) de la UE contenidas en la propuesta de «Reglamento de Inteligencia Artificial».
OTROS LIBROS DE ARANZADI
ÍNDICE
PARTE I DERECHO DE CONTRATOS E INTELIGENCIA ARTIFICIAL
CAPÍTULO I «DESHUMANIZANDO» AL CONTRATO. UNA MIRADA DESDE LA
INTELIGENCIA ARTIFICIAL
I. Introducción
II. De la fase precontractual al acuerdo de voluntades
III. Automatizando la negociación. El acuerdo contractual
IV. ¿Vicios del consentimiento o protección de la confianza y reparto de riesgos cuando
interviene un sistema de IA?
V. La redacción y la interpretación del contrato a través del legal design
VI. Cumplimiento de las obligaciones contractuales e inteligencia artificial
VII. Conclusiones
Bibliografía
CAPÍTULO II LA CONTRATACIÓN ENTRE SISTEMAS DE INTELIGENCIA ARTIFICIAL
I. Introducción
II. Inteligencia artificial y voluntad contractual
III. Los contratos algorítmicos
IV. La ineficacia de los contratos algorítmicos
Bibliografía
CAPÍTULO III SESGOS DISCRIMINATORIOS EN LA TOMA AUTOMATIZADA DE
DECISIONES EN LA CONTRATACIÓN Y PROTECCIÓN DE DATOS
I. Propuesta de reflexión
II. Consideraciones previas
III. Sesgos discriminatorios y perfilado
IV. Toma de decisiones, elaboración de perfiles y sesgos discriminatorios en la contratación
V. Transparencia algorítmica en la normativa comunitaria: soluciones proactivas
Bibliografía
CAPÍTULO IV LEGAL DESIGN EN LA REDACCIÓN E INTERPRETACIÓN DE LOS
CONTRATOS
Introducción
I. La herramienta del diseño legal, hacia un método de investigación interdisciplinar
II. Elaboración de modelos contractuales estandarizados
III. Protección de datos personales desde el diseño legal
IV. Legal Design y transparencia en los contratos con consumidores
V. ¿Cómo afecta Legal Design a la interpretación de los contratos?
VI. Breve conclusión
Bibliografía
CAPÍTULO V LA AUTOMATIZACIÓN DEL CUMPLIMIENTO DE CONTRATOS MEDIANTE
INTELIGENCIA ARTIFICIAL: CUESTIONES SOBRE RESPONSABILIDAD CONTRACTUAL
I. Cuestiones previas
II. «Contratos inteligentes» vs contratos automatizados basados en la IA
III. La responsabilidad contractual por los daños ocasionados mediante un sistema de
inteligencia artificial
IV. Conclusiones
Bibliografía
CAPÍTULO VI RESPONSABILIDAD CONTRACTUAL POR EL USO DE IA EN LA
PRESTACIÓN DE SERVICIOS DE TELEMEDICINA Y APLICACIONES DE SALUD DIGITAL
I. Introducción. El nuevo paradigma de salud digital: telemedicina y medicina personalizada
II. La relación médico-paciente en el sistema de «E-Health»
III. La IA en la prestación de servicios de salud digital: responsabilidad contractual
Bibliografía
PARTE II RESPONSABILIDAD CIVIL EXTRACONTRACTUAL E INTELIGENCIA ARTIFICIAL
CAPÍTULO VII LA RESPONSABILIDAD CIVIL POR DAÑOS CAUSADOS POR
INTELIGENCIA ARTIFICIAL. ESTADO DE LA CUESTIÓN
I. Planteamiento de la cuestión
II. ¿Es necesaria una regulación nueva para los daños causados por inteligencia artificial?
III. Últimas propuestas de la Unión Europea para la responsabilidad civil por daños causados
por inteligencia artificial
IV. A modo de reflexión
Bibliografía
CAPÍTULO VIII RESPONSABILIDAD OBJETIVA Y SUBJETIVA EN LAS PROPUESTAS
LEGISLATIVAS EUROPEAS SOBRE RESPONSABILIDAD CIVIL APLICABLES A LA
INTELIGENCIA ARTIFICIAL
I. Introducción
II. Los objetivos fundamentales de la regulación de la inteligencia artificial: entre la protección
de las víctimas y el mantenimiento del nivel de innovación
III. Dificultades derivadas de la utilización de la culpa como criterio de imputación de
responsabilidad para la IA
IV. Dificultades derivadas de la utilización de la responsabilidad objetiva como régimen de
responsabilidad aplicable a la IA
V. Estructura del proyectado sistema europeo de responsabilidad civil por daños causados por
la IA
VI. La regulación de la culpa o negligencia en las normas de la PDRIA. ¿Resuelven los
problemas para imputar responsabilidad por culpa a los operadores de la IA?
VII. El criterio de imputación en la PDRP: modificaciones en la noción de producto defectuoso,
en las normas sobre prueba del defecto. Su idoneidad para resolver los problemas derivados
de uso de la IA
Bibliografía
CAPÍTULO IX DAÑOS PRODUCIDOS POR LA IA: LA OPACIDAD DEL ALGORITMO Y EL
EFECTO DE CAJA NEGRA
I. IA explicada de modo sencillo
II. La IA, sus rasgos y su capacidad de dañar
III. La opacidad de la IA
IV. Los daños causados por la toma de decisiones automatizadas
V. Escollos en la regulación la responsabilidad civil extracontractual ante la IA
VI. La responsabilidad civil extracontractual y los sistemas de IA
Bibliografía
CAPÍTULO X CAUSALIDAD Y RESPONSABILIDAD CIVIL POR DAÑOS OCASIONADOS
POR SISTEMAS DE INTELIGENCIA ARTIFICIAL: LAS PRESUNCIONES DE CAUSALIDAD
EN LAS PROPUESTAS NORMATIVAS DE LA UE
I. Introducción
II. La relación de causalidad respecto de daños ocasionados por la inteligencia artificial y las
dificultades para su prueba
III. La búsqueda del alivio de la carga de la prueba del perjudicado por parte de la UE sin frenar
la innovación
IV. Las presunciones de defecto y de causalidad en la propuesta de Directiva sobre
responsabilidad por los daños causados por productos defectuosos
V. La presunción de causalidad en la propuesta de Directiva sobre responsabilidad en materia
de inteligencia artificial
VI. A modo de conclusión
Bibliografía
CAPÍTULO XI INTELIGENCIA ARTIFICIAL Y DAÑOS INDEMNIZABLES
I. Introducción
II. Concepto de daño indemnizable y problemas de armonización
III. Supuestos particulares de daño y su posible indemnizabilidad
IV. Problemas en torno a la cuantificación de los daños
V. Remedio indemnizatorio y presunciones de daño
Bibliografía
CAPÍTULO XII MUTUALIZACIÓN DE LOS RIESGOS GENERADOS POR LOS SISTEMAS
DE IA
I. Bases de la mutualización de los riesgos generados por los sistemas de inteligencia artificial
II. La aseguración obligatoria de los daños producidos por inteligencia artificial
III. Fondos de garantía
IV. Personalidad jurídica de una IA responsable
Bibliografía
