-5%

La evaluación de impacto algorítmico en los derechos fundamentales

ISBN: 9788411246231

El precio original era: 25,26€.El precio actual es: 25,26€. 24,00 IVA incluido

Hay existencias

Peso 200 g
Fecha de Edición 09/06/2023
Plazo de entrega

24 h

Número de Edición

1

Idioma

Español

Formato

Libro + e-Book

Páginas

152

Lugar de edición

NAVARRA

Encuadernación

Rústica

Colección

ESTUDIOS ARANZADI

Editorial

ARANZADI THOMSON REUTERS

EAN

978-84-1124-623-1

Evaluación impacto algorítmico derechos fundamentales

El presente trabajo constituye una aportación teórica, pero también práctica, acerca de los criterios que deben permitirnos diseñar y usar las herramientas normativas que, en los próximos años, deberán guiar el desarrollo de sistemas basados en inteligencia artificial, con potencial impacto sobre los derechos fundamentales.
El autor dedica una parte importante de su trabajo a estudiar la naturaleza jurídica de las llamadas evaluaciones de impacto algorítmico en nuestro ordenamiento jurídico, a analizar cómo se produce la recepción de una práctica habitual en los sistemas del derecho común que más allá de las directrices éticas a las que responden, están basadas en un traspaso de la responsabilidad y de la obligación de ponderar, un ejercicio que ahora se exige a empresas y administraciones públicas implicadas.
En un escenario normativo dominado por el enfoque de riesgo, como el propuesto por la Unión Europea, el papel de las evaluaciones de impacto algorítmico deviene clave. A los juristas nos corresponde, cuanto antes, aceptar este nuevo paradigma, comprendiendo los efectos del principio de responsabilidad proactiva y tratando de definir, con criterios jurídicos estables, qué elementos deben formar parte de ese juicio y cómo deben interpretarse los resultados. Un desafío, pero también una oportunidad, que la obra aprovecha para establecer los términos de un debate necesario.

 

NOTA PRELIMINAR. AGRADECIMIENTOS

PRÓLOGO

A MODO DE INTRODUCCIÓN: JUSTIFICACIÓN DEL TEMA, DEFINICIÓN DE OBJETIVOS Y OPORTUNIDAD DEL PRESENTE TRABAJO

PRIMERA PARTE
LA EVALUACIÓN DE IMPACTO ALGORÍTMICO (EIA) Y LA PONDERACIÓN DE DERECHOS FUNDAMENTALES

I.   Antecedentes y origen del principio de responsabilidad proactiva

II.  La ponderación ex ante de los derechos fundamentales en juego

1. El principio de proporcionalidad en sede judicial

2. El principio de proporcionalidad como límite interno a la función del legislador

3. Particulares y administraciones públicas con funciones de evaluación y ponderación de derechos ex ante

3.1. El precedente de la AEPD y su expansión competencial

3.2. El caso del llamado derecho al olvido: ¿un falso derecho, a juzgar por un falso tribunal?

3.3. La LIA: una normativa basada en el enfoque de riesgo

III.  Contenido de la evaluación de impacto algorítmico (EIA) y juicio de proporcionalidad

1. Objeto de evaluación (decisión algorítmica automatizada) y límites de los sistemas de IA en función de la tecnología concreta

2. Publicidad de los informes EIA y obligación de registro público: ¿una ponderación compartida con el público?

3. Gestión interna de (auto)evaluaciones de impacto algorítmico: hacía un modelo de debido proceso, justicia y equidad en la co-construcción de una Inteligencia Artificial confiable

4. Acceso significativo por parte de desarrolladores, investigadores y auditores. La revisión y mejora continua del sistema

5. La evaluación de impacto dispar (disparate impact assessment)

IV.  Naturaleza jurídica y papel de las EIA en la protección efectiva de los derechos fundamentales

V.  Las EIA como herramienta esencial para la minimización de riesgos, sesgos y daños

SEGUNDA PARTE
METODOLOGÍA PARA LA EVALUACIÓN DE IMPACTO ALGORÍTMICO (EIA). MODELOS EN PERSPECTIVA COMPARADA

I.   La definición del contexto, alcance y naturaleza del sistema de IA como punto de partida para la EIA

II.  El enfoque de la EIA: consecuencias y derechos, tecnología, terceros implicados y riesgos

1. En función de las consecuencias: derechos e intereses legítimos potencialmente afectados

2. En función de la tecnología empleada

3. En función de la participación de terceros: proveedores, clientes, vendedores, auditores y desarrolladores. Sobre el Third Party Risk Management

4. En función de los principales riesgos

4.1. Riesgo de desinformación

4.2. Riesgo de discriminación. A vueltas sobre el disparate impact assessment

4.3. Riesgo de indefensión y segunda oportunidad algorítmica

III.  Elementos de la EIA

IV.  Motivación y ponderación en la EIA

1. El juicio de necesidad (relativizado)

2. El juicio de idoneidad

3. La proporcionalidad en sentido estricto

V.  Modelos de EIA en perspectiva comparada

1. Canadá y el Algorithmic Impact Asssessment Tool

2. La herramienta AIA del Gobierno de Estados Unidos

3. Países Bajos y el modelo FRAIA

4. OEIAC. El modelo PIO (Principios, Indicadores y Observables)

5. Ada Lovelace Institute

6. Model Rules del European Law Institute

CONCLUSIONES

EPÍLOGO

REPERTORIO BIBLIOGRÁFICO

PERE SIMÓN CASTELLANO, Profesor Titular de Derecho Constitucional UNIR