Transparencia y explicabilidad de la inteligencia artificial
Los sistemas de inteligencia artificial cada día se usan más tanto en el sector privado como en el público; afectan a nuestras vidas e impactan a nuestros derechos, seguridad o salud. Conforme más riesgos se producen por estos sistemas, una mayor transparencia y explicabilidad de los mismos ha pasado a ser una de las garantías esenciales y especiales a exigir. De hecho, son las más invocadas en las muchas declaraciones y documentos de la llamada Ética de los algoritmos. Más allá de exigencias éticas, el Derecho cada vez concreta más obligaciones para hacer efectiva esta transparencia algorítmica. El presente libro constituye la mejor monografía en español sobre el tema y reúne a nueve autores en los que prima la perspectiva jurídica, si bien con valiosas contribuciones desde disciplinas tecnológicas. En la obra, a partir de los necesarios elementos conceptuales, generales y de género, se analizan las garantías y particularidades de la transparencia y explicabilidad ya para el sector público, ya para la empresa, la contratación y prestación de servicios de internet y en el ámbito laboral.
Contenido general de la obra 9
Presentación 17
Bloque I
TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL. ELEMENTOS CONCEPTUALES, GENERALES Y DE GÉNERO
Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta 25
Lorenzo Cotino Hueso
I. La transparencia, un concepto polisémico, evocador y esencialmente instrumental, ahora aplicado al ámbito de la inteligencia artificial 25
II. Transparencia y explicabilidad: el principio de referencia de la inteligencia artificial confiable 29
III. Transparencia y explicabilidad ¿para qué? Los muchos “caminos” los que llevan a la “Roma” de la transparencia 31
IV. Un esbozo de las exigencias normativas de transparencia algorítmica 36
V. ¿Cuánta transparencia? 38
VI. La “transparencia” como concepto general inclusivo y la miríada de nociones que orbitan a su alrededor 41
VII. Transparencia “técnica”, transparencia intrínseca, interpretabilidad, comprensibilidad, descomponibilidad y simulabilidad del sistema de inteligencia artificial 42
VIII. Transparencia ¿para quién? Transparencia “interna” y “externa” 45
IX. Explicabilidad. Tipos y elementos para lograrla 50
X. Interpretabilidad, transparencia y explicabilidad 55
XI. Auditabilidad de los sistemas de IA y cómo lograrla 58
XII. Trazabilidad (y documentabilidad) 61
XIII. Testabilidad, comprobabilidad, verificabilidad (y replicabilidad) 62
XIV. Transparencia algorítmica como “comunicación”, notificación de interacciones y de decisiones con inteligencia artificial 63
XV. Otros contenidos bajo el genérico de la transparencia: informes periódicos, código abierto, contratación pública abierta, transparencia de las evaluaciones de impacto 65
XVI. Una recapitulación, para concluir 67
Algoritmos: ¿podemos hacerlos transparentes y trazables en su proceso? 71
Alfred Peris Manguillot
I. El concepto de algoritmo 71
II. Redes neuronales y aprendizaje profundo 74
III. Inteligencia artificial y justicia 78
IV. Algoritmos más allá de la inteligencia artificial 80
V. Conclusiones 82
Transparencia en la inteligencia artificial y en el uso de algoritmos: una visión de género 85
Raquel Valle Escolano
I. Introducción 85
II. La IA y el uso de algoritmos: un nuevo paradigma con evidentes ventajas y áreas de riesgo 86
III. La dimensión ética como eje clave de la IA y de una gobernanza mediada por algoritmos 89
IV. Las (inevitables) implicaciones de género 91
V. La transparencia como problema de fondo 102
VI. A modo de conclusión 105
Bloque II
TRANSPARENCIA Y EXPLICABILIDAD EN EL USO DE LA INTELIGENCIA ARTIFICIAL POR EL SECTOR PÚBLICO
Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa 111
Gabriele Vestri
I. Introducción 111
II. El código fuente como elemento del modelo funcional 113
III. El acceso al código fuente ante la Ley 19/2013, de 9 de diciembre (LTAIBG) 119
IV. El sesgo algorítmico como base de partida 126
V. A modo de conclusión 131
Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas 135
María Estrella Gutiérrez David
I. Introducción 135
II. La discutida naturaleza jurídica del código fuente y de los algoritmos públicos. Su calificación como “información pública” 137
III. Detección y escrutinio público de patologías de la automatización y algoritmización de la actividad administrativa. El interés público en el acceso 146
IV. El problema de los errores en el diseño de los algoritmos del MIUR y de Ofqual 149
V. En particular, importancia de la validación de los modelos algorítmicos y el problema de la amplificación del sesgo. De nuevo, Ofqual 159
VI. Sobre el “Valor iusfundamental” del derecho a saber qué tratamientos algorítmicos aplica la Administración. Lecciones finales de Parcoursup 163
Algoritmo y transparencia de la Administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso “Buona Scuola” 169
Salvatore Palumbo
I. El caso “Buona Scuola” 169
II. Uso de software en la administración pública y protección de la propiedad intelectual 172
III. Acceso a la información pública y lenguaje de programación 178
IV. La transparencia como principio fundamental de la acción administrativa 181
V. Acceso a la información de la administración pública y procedimiento algorítmico: desde la Ley nº241 de 1990 hasta el Decreto Legislativo nº97 de 2016 188
VI. Conclusiones provisionales 195
Bloque III
TRANSPARENCIA Y EXPLICABILIDAD EN LA EMPRESA, LA CONTRATACIÓN Y PRESTACIÓN DE SERVICIOS DE INTERNET Y EN EL ÁMBITO LABORAL
Explicabilidad e inteligencia artificial responsable. Recomendaciones “aterrizadas” al día a día de las empresas 199
Juan Manuel Belloto Gómez
I. A modo de introducción 199
II. Explicabilidad e inteligencia artificial responsable 200
III. Explicabilidad. Recomendaciones aterrizadas al día a día de las empresas 211
IV. Epílogo 223
La moderna configuración de la transparencia en la prestación de servicios y en la contratación en Internet 225
Javier Plaza Penadés
I. La transparencia como valor y como principio general 225
II. Principio de transparencia y protección de datos 226
III. “Los derechos fundamentales de la persona prevalecen sobre la tecnología” 228
IV. La transparencia en Internet 229
V. Conclusiones 247
Transparencia algorítmica en el ámbito laboral 249
Adrián Todolí Signes
I. El uso de los algoritmos en el trabajo 249
II. El deber de trasparencia algorítmica en el ámbito laboral 253
III. Comparativa entre los derechos de información de Estatuto y la regulación europea 257
IV. Contenido de la información a entregar 259
V. Derechos de información ya existentes que afectan a los algoritmos 263
VI. Conclusiones: trascendencia del nuevo derecho de información 264
LORENZO COTINO HUESO, Catedrático de Derecho constitucional de la Universidad de Valencia
JORGE CASTELLANOS CLARAMUNT, Profesor de Derecho constitucional en la Universidad de Valencia
