Inteligencia artificial en el sector público. Retos pendientes

PRIMERA PARTE. TRANSFORMACIÓN Y RETOS REGULATORIOS DE LA INTELIGENCIA ARTIFICIAL LOS DERECHOS Y GARANTÍAS DE LOS PARTICULARES ANTE EL USO DE LA INTELIGENCIA ARTIFICIAL POR LA ADMINISTRACIÓN PÚBLICA

Intangibilidad del procedimiento basado en IA y garantías de los ciudadanos

II.Caracteres de la IA y posicionamiento de la administración pública

II.1. Funcionamiento de la IA

II.2. La función de la Administración ante la IA

III. La actuación de la administración basada en IA III.1. Obtención de información y sistemas de alertas III.2. Prestación de servicios públicos III.3. Toma de decisiones: algoritmos predictivos IV. Derechos de los ciudadanos IV.1. Acceso a la Administración digital IV.2. Procedimiento administrativo: participación y motivación IV.3. Privacidad y elaboración de perfiles IV.4. Transparencia IV.5. Seguridad Derechos digitales Conclusiones Bibliografía CLAVES PARA UN USO ÉTICO Y CONFIABLE DE LA INTELIGENCIA ARTIFICIAL EN EL SECTOR PÚBLICO. MODELO DE GOBERNANZA Y HERRAMIENTAS PARA EL DISEÑO DE UN MARCO INSTITUCIONAL I.Introducción II.Construyendo el camino hacia un uso ético de la Inteligencia Artificial I.1. Los primeros pasos en Europa hacia una IA legal, ética y robusta I.2. Principios éticos en el Reglamento Europeo de Inteligencia Artificial I.3. Una visión a la Inteligencia Artificial desde los instrumentos internacionales 1.1. Crecimiento inclusivo, desarrollo sostenible y bienestar 1.2. Valores centrados en el ser humano y equidad 1.3. Transparencia y explicabilidad 1.4. Robustez, seguridad y protección 1.5. Responsabilidad I.4. La regulación sobre la Inteligencia Artificial en España II. Riesgos éticos y sociales en una gestión pública basada en IA: instrumentos de mitigación y control II.1. El modelo del regulador europeo: uso de la IA basado en la gestión de riesgos II.2. El recurso a los instrumentos de soft law: el caso de la Carta de Derechos Digitales II.3. El enfoque de los Códigos de conducta en el Reglamento de Inteligencia Artificial II.4. Transparencia algorítmica y registros de algoritmos II.5. El papel y finalidad de las evaluaciones y auditorías de algoritmos III. Un modelo de gobernanza para el diseño, implantación y seguimiento del uso de la IA en el sector público III.1. Un nuevo modelo organizativo: Chief Artificial Intelligence Officer (CAIO) III.2. La Oficina Europea de Inteligencia Artificial III.3. La Agencia Española de Supervisión de la Inteligencia Artificial: su nueva dimensión en la ENIA 2024 Conclusiones Bibliografía Otros documentos de consulta LA INTELIGENCIA ARTIFICIAL SOSTENIBLE. EL SECTOR PÚBLICO ANTE LOS DESAFÍOS DEL DESARROLLO SOSTENIBLE DE LA INTELIGENCIA ARTIFICIAL I.Introducción II.Inteligencia Artificial como tecnología sostenible II.1. La conformación del concepto de IA sostenible en la Unión Europea II.1.1. Antes del Reglamento Europeo IA II.1.2. La IA sostenible en el Reglamento Europeo de la IA II.1.3. Hacia una definición integradora de la IA sostenible III. La Inteligencia Artificial sostenible desde la perspectiva internacional III.1. Recomendación de la OCDE sobre Inteligencia artificial III.2. Recomendación sobre la ética de la Inteligencia artificial de la UNESCO III.3. Carta Iberoamericana de Principios y Derechos en los Entornos Digitales III.4. Carta Iberoamericana de la Inteligencia Artificial en la Administración Pública IV. El sector público español y el desarrollo de una IA sostenible IV.1. Plan Nacional de Algoritmos Verdes IV.2. Principios para el control, la auditoría y la supervisión de la IA sostenible IV.3. La nueva Estrategia Nacional de Inteligencia artificial 2024 y su propuesta para reforzar la sostenibilidad de la IA Conclusiones reflexivas Referencias bibliográficas Referencias normativas REGULANDO LA IA: RETOS, PERSPECTIVAS Y ESTRATEGIAS PARA UN MARCO REGULATORIO ADAPTATIVO I.Introducción I.1. La IA y su intersección con el mundo jurídico II .Fundamentación teórica: por qué y para qué regular II.1. ¿Es necesario regular la IA? II.2. El papel del derecho frente a la tecnología II.3. ¿Para qué regular la IA? III. Escuelas jurídicas y su enfoque sobre la IA III.1. Iusnaturalismo III.2. Positivismo III.3. Realismo jurídico III.4. Sociológico III.5. Nuevos enfoques IV. ¿Cómo regular la IA? IV.1. Hard law vs. soft law IV.2. Perspectivas vertical y horizontal IV.3. Internacional vs. nacional IV.4. La flexibilidad necesaria en un mundo tecnológico en cambio constante V. Conclusión y recomendaciones V.1. Derecho elástico V.2. Recomendaciones y estrategias para el futuro V.3. Principios orientadores para legisladores y abogados V.4. Consideraciones prácticas y márgenes de error Bibliografía UN SOMERO ANÁLISIS AL RÉGIMEN SANCIONADOR DEL NUEVO REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL Y A SU POSIBLE IMPACTO EN EL SECTOR PÚBLICO I.Introducción II.Las razones de la normativa europea, su estructura y la gobernanza prevista III.La Unión Europea y su poder sancionador IV.Visión general del régimen sancionador del reglamento de inteligencia artificial IV.1. La potestad sancionadora que el Reglamento delega a los Estados miembros IV.2. La potestad sancionadora que el Reglamento mantiene a nivel supranacional IV.3. Autoridades nacionales específicamente identificadas como eje de la aplicación efectiva del sistema de sanciones y control V. El reto de controlar, regular y, en su caso, sancionar el uso de la inteligencia artificial en el sector público V.1. ¿La Administración Pública puede ser sancionada por un mal uso de la IA? V.2. La Administración Pública como sujeto pasivo de las sanciones de IA. Algunas reflexiones inevitablemente incompletas Bibliografía SEGUNDA PARTE. INTEGRACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LAS ORGANIZACIONES PÚBLICAS HACIA PERSPECTIVAS COMPLEJAS EVALUACIÓN DEL IMPACTO DE LOS ASISTENTES VIRTUALES EN EL ENTORNO DEL SECTOR PÚBLICO I.Cuestiones preliminares II.Asistentes virtuales para un sector público a la vanguardia de los Avances tecnológicos II.1. Asistentes virtuales en atención primaria de salud (APS) II.2. Asistentes virtuales en la actividad administrativa III. Big data como límite de los asistentes virtuales IV. La (des)humanización de la relación ciudadano/a administración pública IV.1. Hacia un futuro no tan lejano. Un apunte A modo de conclusión Bibliografía ESCENARIOS DE USO DE LA IA EN ADMINISTRACIONES LOCALES I.Introducción II.Marco teórico II.1. Inteligencia Artificial: Conceptos y Aplicaciones II.2. Contexto estratégico y normativo II.3. Beneficios y Desafíos de la Implementación de la IA II.3.1. Implementar la IA en los servicios públicos II.3.2. Fomentar la investigación y el desarrollo en IA II.3.3. Garantizar el uso ético de la IA II.3.4. Concienciar, formar y capacitar en IA II.3.5. Promover la IA en las empresas locales III. Diagnóstico de la situación actual III.1. Estructura y funciones de la Diputación de Cádiz III.2. Retos III.3. Áreas de Oportunidad III.3.1. Servicios directos a la ciudadanía III.3.2. Apoyo técnico, económico y tecnológico a los ayuntamientos III.3.3. Coordinación de servicios municipales III.3.4. Organización de servicios de carácter supramunicipal III.3.5. Aprovechamiento de los datos que manejan los sistemas de información existentes III.4. Riesgos y Limitaciones Actuales III.4.1. Desconocimiento de las posibilidades que tiene la IA III.4.2. Reticencia natural de los funcionarios y empleados públicos al cambio III.4.3. Amenaza a los puestos de trabajo de menor cualificación III.4.4. Sesgos en los algoritmos de la IA III.4.5. Uso malintencionado de la IA III.4.6. Reemplazo de los trabajadores humanos en muchos campos III.4.7. Preocupaciones éticas sobre la IA III.4.8. Evitar replicar el modelo burocrático III.4.9. Capturas sindicales y corporativistas IV. Plan de implementación IV.1. Objetivos Específicos IV.2. Áreas de Implementación Prioritarias IV.2.1. Automatización de la tramitación de procedimientos administrativos IV.2.2. Generación de documentación administrativa IV.2.3. Servicios jurídicos IV.2.4. Machine learning para extracción de datos de documentos en papel y en formato electrónico IV.2.5. Análisis de datos masivos IV.2.6. Chatbots de atención a ciudadanía y empleados IV.2.7. Creación GPTs propios IV.2.8. Seguridad ciudadana y emergencias IV.2.9. Ciberseguridad IV.2.10. Aplicaciones No-Code IV.2.11. Creación de mapas mentales IV.3. Acciones Concretas VI.3.1. Desarrollo de un marco de competencias digitales IV.3.2. Plan de sensibilización y capacitación para el personal empleado de la Diputación y de sus ayuntamientos IV.3.3. Creación de un Comité de Inteligencia Artificial IV.3.4. Creación de un equipo de trabajo estable a modo de Oficina de Proyectos IV.3.5. Identificación de colaboradores voluntarios de los ayuntamientos y entidades del sector público provincial IV.3.6. Dotación presupuestaria estable para la contratación de servicios y consultorías especializadas IV.3.7. Automatización de procesos con tecnología RPA IV.3.8. Análisis de datos masivos y análisis predictivo IV.3.9. Supervisión de cumplimiento normativo IV.3.10. Seguridad ciudadana y en dependencias corporativas IV.3.11. Ciberseguridad IV.3.12. Transparencia y rendición de cuentas IV.3.13. Atención a la ciudadanía y empleados públicos IV.3.14. Integración profunda de sistemas propios con IA IV.4. Recursos Necesarios IV.5. Cronograma de Implementación V. Evaluación del impacto V.1. Metodología de Evaluación Conclusiones y recomendaciones LA INTELIGENCIA ARTIFICIAL Y LA SECRETARÍA DE LAS ENTIDADES LOCALES. «DE LA ESCRIBANÍA A LA CUSTODIA DEL ALGORITMO» I.Introducción II.Las funciones y el rol de la secretaría ante la transformación digital II.1. La organización tradicional de las funciones de secretaría II.2. Planteamiento previo sobre el nivel de digitalización de los servicios locales II.3. La toma de decisiones en las entidades locales, el expediente administrativo y la coordinación jurídico-administrativa de la secretaría y de los servicios administrativos II.4. El rol de la secretaría ante la transformación digital y la IA II. La inteligencia artificial como instrumento para la secretaría III.1. La regulación de la inteligencia artificial III.2. El gobierno de los datos III.3. El control de los algoritmos III.4. La automatización y la IA III.5. La prevención de los sesgos IV. La innovación de las funciones de la secretaría con la asistencia de la inteligencia artificial IV.1. Fe pública local IV.2. La asistencia a las sesiones de los órganos de gobierno IV.3. Asesoramiento legal preceptivo IV.4. Funciones de coordinación jurídico-administrativas IV.5. Atención a la ciudadanía y a los servicios administrativos IV.6. La superior dirección de los archivos y registros IV.7. Funciones en los procesos electorales y en la constitución de las corporaciones locales IV.8. Transparencia y acceso a la información IV.9. Protección de datos IV.10. Ciberseguridad V. El examen del expediente por la secretaría y la inteligencia artificial V.1. La relevancia del examen del expediente V.2. La automatización del examen del expediente y la técnica de compliance V.3. El examen del expediente con la asistencia de IA como garantía para la integridad y la corrección jurídica en la toma de decisiones VI. Conclusiones VI.1. El rol de la secretaría y la IA en la entidad local VI.2. Prevención de riesgos de la IA VI.3. La IA es un instrumento para el reforzamiento de la integridad institucional VI.4. Optimización de la adquisición de soluciones basadas en IA y asistencia de las diputaciones provinciales VI.5. La organización y coordinación como asignatura pendiente de todo el sector público VI.6. ¿Mandarán las máquinas en las entidades locales? Bibliografía ¿HACIA UNA INSPECCIÓN DE TRABAJO Y SEGURIDAD SOCIAL EFICAZ Y EFICIENTE GRACIAS A LA INTELIGENCIA ARTIFICIAL? POR AHORA NO, OBJETIVO INACABADO I.Introducción II.Los principios de eficacia y eficiencia en las administraciones públicas y en la inspección de trabajo y seguridad social II.1. La interconectividad de la transparencia con la eficacia y la eficiencia III.Presunto concepto de inteligencia artificial aplicado al sector público IV.La evolución de la digitalización en la inspección de trabajo y seguridad social y la aplicación de la inteligencia artificial IV.1. La modernización de la Inspección: «Proyecto LINCE» IV.2. La Herramienta de Lucha contra el Fraude IV.3. El procedimiento sancionador automatizado de la Inspección (2022) IV.4. Propuesta de futuro Breves conclusiones Bibliografía LA INTELIGENCIA ARTIFICIAL APLICADA A LA SEGURIDAD Y LA DEFENSA EN PERSPECTIVA JURÍDICA I.Introducción al tema de estudio II.La inteligencia artificial aplicable a la defensa más allá de los medios de combate II.1. ¿Se están empleando estos sistemas de IA? III. ¿Es posible una regulación de estos sistemas? III.1. Razones para la regulación III.2. ¿Qué es lo que hay que regular? III.3. ¿Qué papel desempeña la ética en esta problemática? III.4. Esbozos sobre un posible marco normativo europeo III.5. Iniciativas internacionales sobre la materia Ideas fuerza a modo de conclusión Bibliografía DOCUMENTACIÓN NORMATIVA E INSTITUCIONAL INTELIGENCIA ARTIFICIAL CREATIVA EN LA ADMINISTRACIÓN PÚBLICA: TRANSPARENCIA Y EXPLICABILIDAD DE UN PROCESO ¿CREATIVO? I.Introducción II.Una inteligencia artificial coherente con la dignidad de la persona. Un posicionamiento ante el progreso III.Inteligencia artificial generativa en la administración pública III.1. ¿Qué es la inteligencia artificial? III.2. ¿Qué es la inteligencia artificial creativa? III.3. La inteligencia artificial generativa: ¿puede ser realmente creativa? III.4. Posibles usos de la inteligencia artificial creativa en la Administración Pública IV. Algunos problemas jurídicos derivados del empleo de la inteligencia artificial creativa en la administración pública IV.1. Servicio objetivo a los intereses generales y derecho fundamental a una buena administración. Marco ético IV.2. Gestión de la información. Privacidad y protección de datos personales IV.3. Discriminación algorítmica A modo de conclusión: la necesaria transparencia y explicabilidad de las herramientas de inteligencia artificial creativa en la administración pública Bibliografía TERCERA PARTE. INTELIGENCIA ARTIFICIAL Y VISIONES COMPARADAS RETOS Y AVANCES EN LA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL Y LAS NUEVAS TECNOLOGÍAS EN EL SECTOR PÚBLICO COLOMBIANO I.Introducción II.Del mensaje de datos a las nuevas tecnologías en la administración pública colombiana II.1. El mensaje de datos como herramienta y soporte digital II.2. Los códigos de procedimiento y las tecnologías emergentes II.3. Otras normas que soportan la aplicación de tecnologías a la administración pública colombiana II.4. El avance en materia de derechos digitales ante la introducción de nuevas tecnologías en la administración pública colombiana III. La disrupción de la IA en la administración pública colombiana III.1. Marco internacional de la IA III.2. Avances en materia de administración inteligente en Colombia III.3. Las políticas públicas en Colombia en materia tecnológica y de IA IV. Retos y desafíos en la administración pública colombiana frente a las nuevas tecnologías IV.1. Principios y preocupaciones que se debe tener en cuenta al regular la IA aplicada a la Administración pública IV.2. Proyectos recientes de Ley sobre IA en Colombia Conclusiones Bibliografía CERTIFICACIÓN DE COMPETENCIAS EN INTELIGENCIA ARTIFICIAL PARA EMPLEADOS PÚBLICOS: PROPUESTAS ESTRATÉGICAS Y TECNOLOGÍA BLOCKCHAIN I.Estrategias de inteligencia artificial y capacitación de empleados públicos: un análisis comparativo entre España y Colombia I.1. España: Formación integral en IA: Impulsando la eficiencia y transparencia Pública I.2. Colombia: Apuesta progresiva en la capacitación en IA para una administración pública moderna II. Diseño de programas de competencias en IA para empleados públicos: propuesta estratégica para Colombia II.1. Estrategias de formación en IA: España II.2. Estrategias de formación en IA: Lecciones de países pioneros II.3. Propuesta del CLAD para la formación en IA en la administración pública II.4. Oportunidades para los gobiernos al capacitar a los empleados públicos en IA II.5. Plan de estudios propuesto para desarrollar competencias digitales en IA en empleados públicos en Colombia II.6. Ejes centrales para la implementación del plan de estudios II.7. Estrategia para expandir el plan de estudios a toda Colombia: Redes Territoriales de Especialización Tecnológica (RTET) III. Innovación en la certificación de competencias en IA: microcredenciales y certificados interoperables con tecnología blockchain III.1. Certificaciones profesionales: Estableciendo estándares de competencia III.2. Plataformas de gestión de Aprendizaje (LMS) y evaluaciones: Herramientas para el desarrollo continuo III.3. Sistema de Incentivos: Promoviendo el desarrollo profesional III.4. Blockchain como tecnología clave para emitir los certificados en competencias en IA para empleados públicos Conclusiones generales Lista de referencias ADMINISTRACIÓN DE JUSTICIA Y SU RELACIÓN CON EL RESTO DE ADMINISTRACIONES: ALGUNAS REFLEXIONES SOBRE LA INTEROPERABILIDAD I.Planteamiento general II.La interoperatibilidad en el ordenamiento jurídico español II.1. Regulación jurídica II.2. Regulación jurídica en el ámbito de la Administración de Justicia II.3. La realidad práctica de la interoperabilidad de la Administración de Justicia y sus relaciones con el resto de Administraciones públicas III. La jurisprudencia como límite al desarrollo e implantación de la administración de justicia digital: el principio pro actione A modo de reflexión final Bibliografía RETOS DE LA INTELIGENCIA ARTIFICIAL EN LA TOMA DE DECISIONES ADMINISTRATIVAS EN LATINOAMÉRICA, FRENTE A LA GARANTÍA DE LOS DERECHOS HUMANOS I. Introducción II. La transformación digital de la administración pública latinoamericana III. Ia, los derechos humanos y sesgos algorítmicos IV. ¿cómo mitigar el riesgo producto del uso de ia en el sector público? Conclusiones BIBLIOGRAFÍA