Determinación de la responsabilidad patrimonial de la administración en la toma de decisiones basadas en inteligencia artificial
En la presente monografía se analiza un tema de creciente importancia en el ámbito jurídico y tecnológico: la responsabilidad patrimonial de la Administración Pública cuando se emplean sistemas de inteligencia artificial (IA) para la toma de decisiones. A medida que la IA se integra en áreas clave de la gestión pública, como la tributaria, la seguridad y la prestación de servicios, surge la necesidad de establecer un marco jurídico claro que proteja a los ciudadanos frente a posibles daños ocasionados por decisiones algorítmicas.
En este trabajo, se exploran los desafíos jurídicos y técnicos que plantea el uso de algoritmos en el sector público, abordando aspectos como la inadecuación del actual régimen de responsabilidad objetiva, el papel de los contratistas en el suministro de sistemas de IA, y las posibles exoneraciones de la Administración. Además, se proponen recomendaciones para mitigar los riesgos y mejorar la transparencia en los procesos de contratación pública, sentando las bases para un uso seguro y justo de la inteligencia artificial en la gestión pública.
Índice
Agradecimientos
Prólogo 13
CAPÍTULO 1.
Ámbito subjetivo de la responsabilidad por daños causados por actos administrativos basados en inteligencia artificial
CAPÍTULO 2.
La responsabilidad patrimonial de la Administración: la inadecuación de la responsabilidad objetiva
7. La responsabilidad por riesgos desconocidos como posible causa de exoneración de la Administración Pública
CAPÍTULO 3.
Los parámetros de utilización de la IA como elemento modulador de la responsabilidad
Referencias Bibliográficas
AUTORA: PATRICIA MENDILIBAR NAVARRO
MÁS TÍTULOS RELACIONADOS: DERECHO ADMINISTRATIVO
INTELIGENCIA ARTIFICIAL
Índice
Agradecimientos 11
Prólogo 13
CAPÍTULO 1.
Ámbito subjetivo de la responsabilidad por daños causados por actos administrativos basados en inteligencia artificial 23
1. Los tipos de actos administrativos en los que puede intervenir la IA y los algoritmos 23
2. Sujetos intervinientes en el proceso 27
3. La responsabilidad del proveedor externo 31
3.1. La regulación de la responsabilidad del contratista 31
3.2. Los daños de los que responden los contratistas 36
3.3. Régimen sustantivo aplicable a las relaciones entre los contratistas y los administrados 40
3.4. Las obligaciones y la responsabilidad del contratista según la Ley de IA y las Directivas en materia de responsabilidad civil extracontractual 43
3.4.1. La Propuesta de Directiva de responsabilidad por productos defectuosos 44
3.4.2. La Propuesta de Directiva de adaptación de las normas de responsabilidad 45
4. Excepciones a la responsabilidad del contratista 48
4.1. Cumplimiento de una orden inmediata y directa de la Administración 48
4.2. Incumplimiento de la Administración de sus deberes de policía e inspección 50
5. Recomendaciones a incluir en el expediente de contratación para mitigar, en la medida de lo posible, la responsabilidad patrimonial de la Administración 54
CAPÍTULO 2.
La responsabilidad patrimonial de la Administración: la inadecuación de la responsabilidad objetiva 59
1. Ámbito objetivo de aplicación de la responsabilidad patrimonial de la administración 59
2. El régimen actual de responsabilidad patrimonial de la Administración 61
2.1. Caracteres del régimen de responsabilidad patrimonial de la Administración 61
3. El régimen de responsabilidad patrimonial objetiva desde el punto de vista de la jurisprudencia 67
4. El régimen de responsabilidad patrimonial objetiva desde el punto de vista doctrinal 73
5. La inadecuación de la responsabilidad objetiva a los usos de la IA en el sector público 78
6. Requisitos para que exista responsabilidad patrimonial de las Administraciones Públicas 82
6.1. Lesión resarcible 82
6.2. El daño: la doctrina de la pérdida de oportunidad 87
6.2.1. Efectividad del daño 92
6.2.2. Evaluable económicamente 95
6.2.3. Daño individualizado en relación a una persona o grupo de personas 100
6.3. Relación de causalidad 101
6.3.1. La imputación de la responsabilidad 106
6.3.2. Ausencia de fuerza mayor 109
7. La responsabilidad por riesgos desconocidos como posible causa de exoneración de la Administración Pública 111
CAPÍTULO 3.
Los parámetros de utilización de la IA como elemento modulador de la responsabilidad 119
2. La motivación del acto administrativo 122
3. Publicidad 128
4. La transparencia 129
4.1. La opacidad del algoritmo: especial mención a las black boxes o cajas negras 129
4.2. Las obligaciones de transparencia 132
5. Rendición de cuentas 142
6. La minimización de sesgos (I): la auditoría algorítmica 143
7. La minimización de sesgos (II): la introducción de correctivos 150
8. Garantías de defensa y recurso 152
9. La existencia de un mapeo de usos de algoritmos en el sector público 157
10. El respeto al principio de legalidad y seguridad jurídica en el procedimiento administrativo 164
Conclusiones 167
Referencias Bibliográficas 183
1. Artículos científicos, capítulos de libro y libros 183
2. Blogs jurídicos, webs y noticias 188
3. Resoluciones e informes de grupos de trabajo, organismos internacionales, asociaciones y fundaciones 190
4. Sentencias y otras resoluciones judiciales 191
5. Textos normativos utilizados 194
