La presente obra afronta la realidad de una trilogía que es muy difícil de combinar: desarrollo técnico, innovación normativa y seguridad jurídica. Combinar la realidad física con la jurídica, o lo que es lo mismo, adecuar la legislación a los sucesivos cambios tecnológicos, sin sacrificar, o al menos haciéndolo en el menor grado posible, la seguridad jurídica, algo que sólo desde la lógica es posible comprender es una labor ímproba.
Hacer frente, con ciertas garantías, al problema planteado, solo es posible recurriendo a la lógica, que debe imperar por encima de todo, tanto en la Ley como en la decisión basada en la misma. La lógica, como el Derecho, es un medio, que solo tendrá sentido cuando opera más allá de la realidad existente, por lo que limitarse a lo que la realidad ofrece genera una contingencia segura. Esto hace que el Derecho sea ciencia, en toda la extensión del concepto, o al menos deba serlo. Ciertamente avanza, pero debe ir más allá para regular lo anterior de una forma adecuada al hoy y al mañana si queremos huir de la inseguridad —jurídica—.
Así, la cuestión de incorporar la IA a la Administración no convierte a esta, sin más, en inteligente, dado que lo inteligente puede ser precisamente limitar el recurso. En todo caso, el análisis de la cuestión, desde un fondo jurídico, supone ir más allá de la realidad social vigente, anticipando respuestas jurídicas a problemas futuros o, como mínimo, garantizando la adaptabilidad de una norma que perdurará en el tiempo tras su publicación gracias a la flexibilidad que la lógica que la contempla le confiere. Esto es precisamente lo que hemos procurado trasladar al lector, quien será el que juzgue el logro.
I. INTRODUCCIÓN
I.1. El derecho como ciencia: una necesidad
I.2. La interacción del derecho con la ciencia
I.2.1 La relación tecnología y derecho
I.2.2. Introduciendo la Inteligencia Artificial (IA)
I.2.3. El algoritmo: ese gran desconocido
I.2.3.1. Una aproximación histórica
I.2.3.2. La visión técnica
I.3. Las decisiones automatizadas. ¿La última frontera?
II. ADMINISTRACIÓN Y TECNOLOGÍA
II.1. Una relación bien avenida
II.1.1. Un antes y un después
II.1.2. La Ley de servicios de la sociedad de la información. Un precedente cierto
II.2. Algoritmos y administraciones públicas
II.2.1. La actuación administrativa automatizada
II.2.2. El otorgamiento de poder para la toma de decisiones automatizada
II.2.3. La predeterminación humana en la toma de decisiones
III. EL RECURSO DE LA IA EN LA ADMINISTRACIÓN PÚBLICA
III.1. Introducción
III.2. El algoritmo público bajo la lupa
III.2.1. El problema del aprendizaje automático del algoritmo
III.2.2. Límites y controles a la inteligencia artificial en la Administración
III.2.2.a) Desarrolladores tecnológicos, sistemas algorítmicos y humanismo digital
III.2.2.b) Liberalización del código algorítmico versus propiedad intelectual
III.2.2.c) Establecimiento de sistemas de auditorías
III.2.2.d) Procesos de evaluación pública
III.2.2.e) Código ético algorítmico, normalización y estandarización
III.3. El algoritmo. ¿Fuente de derecho o herramienta jurídica?
III.3.1. El algoritmo como herramienta
III.3.2. Elaboración del algoritmo. El recurso a la potestad reglamentaria como garantía de transparencia
III.3.3. Recurso sí, obligación no
III.4. La gobernanza de la inteligencia artificial
III.4.1. No es ficción es una realidad
III.4.2. ¿Es posible una ius-algoritmia? Argumentos positivos
III.4.3. Límites a la automatización
III.4.4. ¿Son vinculantes las decisiones algorítmicas?
III.4.5. Garantías frente a las decisiones automatizadas
IV. ALGORITMOS Y DATOS. UNA RELACIÓN NECESARIAMENTE BIEN AVENIDA
IV.1. La interrelación entre datos y algoritmos. Presentando un problema
IV.2. Datos personales, alimento y barrera del algoritmo
IV.2.1. Estado de la cuestión
IV.2.2. Aspectos clave de la protección de datos desde la perspectiva de la IA
IV.2.3. Garantías adicionales
Bibliografía
Daniel Terrón Santos, Profesor Titular de Universidad del Área de Derecho Administrativo de la Universidad de Salamanca
