El Juez Robot. La independencia judicial en peligro
La inteligencia artificial forma parte inseparable de nuestras vidas. Un aspecto de la misma afecta a la Justicia y, más concretamente, a la posibilidad de que un día podamos ser juzgados en cualquier orden jurisdiccional (civil, laboral, administrativo o incluso penal), por una máquina. Se está empezando a trabajar en esta línea en algunos países, aunque todavía se visualice socialmente como algo muy lejano. En parte, porque la gente siente un poco de temor ante esa posibilidad.
El tema es más preocupante y va más allá de sentimientos y elucubraciones. En nuestros sistemas constitucionales de Justicia, el Juez-Robot decisor no puede tener cabida. Muchas razones pueden aducirse, la de más calado afecta a la puesta en peligro del principio de la independencia judicial si se introdujera en España, y en cualquier país democrático, porque la base de la decisión no se fundaría en el conocimiento racional y motivado del ser humano, sino en la información que alguien ajeno al poder judicial introduciría en el algoritmo que deba resolver el asunto.
Este libro analiza esta cuestión, desde diversos aspectos y a un nivel comparado, explicando lo que piensa al respecto el mundo anglosajón, el alemán, el italiano, el francés, el portugués y el español. En general, todos son conscientes del peligro, pero pocos se fijan con profundidad en el enorme riesgo que existe con el Juez-Robot sentenciador de que se derrumbe la clave de bóveda de nuestro actual sistema democrático: La sagrada independencia judicial. Para el autor de este libro, aquí reside la cuestión central.
I. Introducción: Objeto de la investigación 15
II. El estado de la cuestión 21
A) ¿Qué es la inteligencia artificial?. 21
B) La aparición de la inteligencia artificial. 25
C) Los conceptos básicos. 35
D) La relación entre la Inteligencia Artificial y el Derecho. 41
E) La relación entre la Inteligencia Artificial y el Derecho Procesal. 48
F) Las argumentaciones generales sobre el tema. 50
III. La complejidad legal: El ansia de normativización 67
A) Europa: 67
a) Evolución normativa. 67
b) La futura Ley de Inteligencia Artificial europea. 72
c) Otros documentos de relevancia. 78
B) España. 82
C) Alemania. 90
D) Italia. 94
IV. La incidencia de la ética 99
A) Las propuestas: 100
a) La Carta Ética europea. 100
b) Las Directrices Éticas para una Inteligencia Artificial. 101
B) Los principios: 102
a) Principios éticos generales. 103
b) Principios éticos particulares. 107
V. Instituciones procesales que pueden ser campo
apropiado para el uso de la inteligencia artificial 129
A) Organización del Poder Judicial. 130
B) Proceso civil. 134
C) Proceso penal. 137
D) En especial, la resolución del conflicto mediante la Inteligencia Artificial. 143
VI. Problemas constitucionales que se plantean: Los
derechos fundamentales (derechos humanos) y la
Inteligencia Artificial 149
A) El impacto de la Inteligencia Artificial en los derechos fundamentales / humanos. 150
B) Propuestas de regulación: 152
a) Iniciativas privadas. 152
b) Propuestas públicas: 155
1. En general: Los derechos fundamentales sobre los que se basa una Inteligencia Artificial fiable 156
2. Respeto de la dignidad humana. 159
3. Libertad individual. 160
4. Respeto de la democracia, la Justicia y el Estado de Derecho. 161
5. Igualdad, no discriminación y solidaridad. 161
6. Derechos de los ciudadanos. 163
c) Su concreción en el ámbito de la Justicia: 163
1. El derecho fundamental de acceso a un tribunal: Efectividad y protección. 164
2. La esencia de la contradicción y confrontación en el proceso: El principio adversarial. 167
3. El principio de igualdad de armas: 167
1”) Significado. 168
2”) Prohibición de la discriminación. 169
4. Los principios de imparcialidad e independencia de los jueces. 169
5. El sagrado derecho de defensa o derecho a un abogado. 170
6. El derecho constitucional a la presunción de inocencia. 171
7. El delicado tema del derecho fundamental a la protección de datos. 172
8. Los derechos fundamentales implícitos: 184
1”) El principio del estado de derecho. 184
2”) El derecho constitucional al juez legal. 187
C) El peligro que nos acecha: 189
VII. La protección de la independencia judicial frente
a la inteligencia artificial 197
A) La independencia judicial y su evolución en el mundo tecnológico 197
B) Sin jueces verdaderamente independientes no hay democracia 200
C) El Estado, garante inicial y final de la independencia judicial 202
D) Un nuevo actor entra en escena: La Inteligencia Artificial: 206
a) Respecto a la independencia objetiva. 212
b) Respecto a la independencia subjetiva. 214
c) La llamada independencia interna o justificación de la imparcialidad. 215
VIII. El Juez-Robot. Cuestiones a analizar y problemas
a resolver antes de su implantación, si así se
decidiera 225
A) El robot es una figura jurídica impersonal. Alcance de su labor 228
B) La legitimidad democrática del Juez-Robot 232
C) La construcción y programación de la máquina de juzgar: 235
a) El problema de la enorme sobrecarga judicial en la Justicia local. 237
b) La falacia de pensar en los asuntos pequeños, irrelevantes o sencillos. 238
c) El costo no es el problema. 240
D) El funcionamiento de la máquina de juzgar y sus resultados: 241
a) Ausencia de emociones y sentimientos. 242
b) Ausencia de transparencia. 247
c) Ausencia de motivación. 249
d) Los sesgos. 253
e) El complejo tema de la prisión preventiva. 254
E) Las reglas infranqueables: 256
a) La aplicación de normas éticas de la Inteligencia Artificial en el Juez-Robot. 257
b) La protección de los derechos fundamentales en la utilización de la máquina de juzgar. 259
F) La decisión judicial: 260
a) La valoración de la prueba. 261
b) La discrecionalidad judicial. 268
c) En lo penal especialmente: 274
1. La medición de la pena. 274
2. La suspensión de la pena y cumplimiento de obligaciones. 276
3. Las alternativas a la pena de prisión. 278
G) La impugnabilidad de la decisión: 279
a) ¿Tiene sentido el recurso de apelación contra las sentencias definitivas del Juez-Robot? 280
b) Los errores del Juez-Robot y su control mediante los recursos 281
H) La responsabilidad del robot: 283
a) Responsabilidad contractual y responsabilidad extracontractual. 288
b) Responsabilidad por el producto. 290
c) La posición jurídica de la Unión Europea. 294
d) ¿Sería admisible un Juez-Robot irresponsable? 299
I) Los daños colaterales: 300
a) Desaparición de la equidad 301
b) Uso torticero de predicciones 302
c) Reconsideración radical de los presupuestos procesales 302
d) Pérdida de sentido de muchos actos procesales 303
e) Práctica invisible de la prueba 303
f) El principio de oralidad, innecesario 304
g) Irremediable desaparición del Jurado 305
h) Nueva planta y demarcación debidas a una reorganización de juzgados y tribunales 306
k) Cuestiones organizativas irresolubles que deben resolverse: 306
a) ¿Estará el Juez-Robot bajo la tutela del Consejo General del Poder Judicial? 307
b) ¿Qué participación tendrán las Comunidades Autónomas? 309
c) ¿Será necesario un estatuto jurídico del Juez-Robot? 310
d) ¿Qué situación jurídica tendrán las empresas que producen los algoritmos? 313
e) ¿Deberá el Consejo General del Poder Judicial controlar a los programadores? 315
f) ¿Será necesario un estatuto jurídico del programador? 316
IX. Conclusiones: El Juez-Robot ataca a la independencia judicial y por ello no puede ser implementado
en la Justicia 319
X. Bibliografía 327
JOSÉ LUIS GÓMEZ COLOMER, Nacido en Valencia (España) en 1955, es licenciado en Derecho y graduado en Criminología, doctorándose en Derecho en 1981 por la Universidad de Valencia. Fue Catedrático de la Universidad de Santiago de Compostela y de la de Valencia, antes de su destino actual en la Universidad Jaume I de Castellón. Ha ocupado cargos universitarios relevantes durante 15 años (Director de Departamento, Decano y Vicerrector). Es titular de la cátedra de Derecho Procesal de la universidad y dirige el Grupo de Investigación consolidado DUE PROCESS RESEARCH GROUP. Es autor de más de 25 libros y más de doscientos artículos (sobre justicia gratuita, derecho de defensa, jurado, procesos matrimoniales, proceso civil cautelar, Corte Penal Internacional, violencia de género, inmunidades, aforamientos, víctimas del delito, responsabilidad de personas jurídicas, prueba prohibida, sistema adversarial, etc.). Es especialista en Derecho Procesal Civil y Penal comparados, contemplado en sus investigaciones siempre el Derecho Procesal alemán, el italiano y el estadounidense. Ha pronunciado más de 500 conferencias sobre temas de su competencia, en Europa y América. Ha ampliado estudios postdoctorales en Alemania, Italia y Estados Unidos durante más de 11 años. Es becario, entre otras prestigiosas instituciones, de la Fundación alemana Alexander von Humboldt. Ha sido consultor internacional para el desarrollo y la reforma procesal penal en Costa Rica, Honduras, Guatemala, Paraguay y Nicaragua, habiendo colaborado en la explicación de la reforma procesal penal en México, Argentina, Chile, Brasil y Perú. Dirige un máster en Honduras, uno en Colombia y otro en México. Ha elaborado como experto extranjero el Código Procesal Penal de Nicaragua (2001), y el Código Procesal Civil de Honduras (2007), ambos en vigor actualmente. Es Presidente de la Asociación Alexander von Humboldt de España desde 2012. Ha elaborado el Proyecto de Código Procesal Civil de Guatemala (2012-2014). Ha dirigido más de 10 tesis doctorales a discípulos españoles y latinoamericanos. Goza de seis sexenios de investigación y seis quinquenios docentes, los máximos posibles. Es Premio de Investigación del Consejo Social de la Universidad Jaume I de Castellón a la Trayectoria Investigadora – XV edición, 2013. Es Doctor Honoris Causa por la Universidad Tecnológica de Honduras (diciembre 2013). Vocal Permanente de la Sección Quinta (Derecho Procesal) de la Comisión General de Codificación, desde 2018, que preside desde esa fecha también. Miembro del Consejo Asesor para la revisión de la Ley de Enjuiciamiento Criminal desde una perspectiva de género (desde 2018). Distinguido en 2018 con la Cruz de Honor de San Raimundo de Peñafort por el Ministerio de Justicia español.
