Acababa de terminar este artículo justo cuando el ‘trílogo europeo’ (Consejo, Parlamento, Comisión) ha llegado a un acuerdo provisional sobre la futura Ley de Inteligencia Artificial, la AI Act. El tema objetivo, la IA y la Administración pública.
Índice de temas
Introducción e importancia de la normativa
Un gran logro de la presidencia española, aunque todavía falta la aprobación definitiva en una norma que, en mi opinión, será aún muy debatida por la visión divergente que mantienen Consejo y Parlamento, gobiernos e industrias, incluso áreas de trabajo dentro de cada país (por ejemplo, sobre su utilización para temas de seguridad y vigilancia) que generará aún algunas tensiones.
Entraría en vigor totalmente en 2026 y algunas partes pueden entrar antes; es imprescindible en mi opinión, porque estas tecnologías deben regularse para aprovechar todas sus oportunidades, pero al mismo tiempo vigilar su comportamiento y mitigar y minimizar sus riesgos.
Las Administraciones públicas tenemos una doble responsabilidad: utilizar la tecnología adecuadamente para mejorar la eficiencia interna y el servicio que prestamos a ciudadanos y empresas; y la prerrogativa, la obligación, de la regulación de las materias sensibles, especialmente las que afectan a derechos fundamentales de las personas o a la competencia y competitividad.
Por lo que un artículo que se centra precisamente en el aprovechamiento de la IA, como antes de otras tecnologías ‘emergentes’, en la Administración pública europea en general, y española en particular, no puede obviarse este debate.
Las Administraciones públicas tenemos una doble responsabilidad: utilizar la tecnología para mejorar el servicio que prestamos a ciudadanos y empresas; y la obligación de regular las materias sensibles
Un debate que se ha planteado especialmente en Europa (los modelos chino y americano responden a distintos intereses y visiones), que ha ido mucho más allá de lo técnico para centrarse en los aspectos humanistas ante las nuevas posibilidades (el eterno equilibrio oportunidades/amenazas especialmente en el mundo de la tecnología) que trae la inteligencia artificial.
Manteniendo todas las preocupaciones, siempre he sido un tecno-optimista sobre los avances tecnológicos para el desarrollo humano, mientras que además de la regulación apliquemos un criterio básico en su uso: el sentido común en nuestro comportamiento (el caso de la utilización en la toma de decisiones sobre inmigración en Holanda es un ejemplo claro de lo que no se debe hacer), especialmente cuando el uso de las tecnologías afecta a nuestras vidas personales y a nuestra actividad profesional.
Siempre he sido un tecno-optimista sobre los avances tecnológicos para el desarrollo humano, mientras que además de la regulación apliquemos el sentido común
Hay que pensar que, en la utilización de las herramientas tecnológicas, ahora con la IA, como antes con el uso de los datos para ‘personalizar servicios’ o las redes sociales (quizás no suficientemente debatidas como ahora), los posibles afectados somos nosotros o pueden ser nuestros hijos, lo que ayuda a aportar esta posición de equilibrio entre aprovechar sus posibilidades y evaluar sus riesgos.
Uso de la IA en la Administración pública
Aunque a menudo se habla de la IA como si fuera un bloque tecnológico monolítico, en realidad, se forma de distintas técnicas utilizadas desde hace muchos años, que permiten que los sistemas informáticos proporcionen soluciones, propuestas o decisiones, que hasta ahora creíamos que solo podíamos proporcionar las personas. Y también ocurre en los servicios públicos administrativos.
La Administración pública ha utilizado tecnologías de IA desde hace tiempo: tecnologías del lenguaje natural (para digitalizar, comprender, traducir y producir lenguaje, clasificar documentos, etc.), gestión de imágenes y vídeos (que permiten romper las barreras de lo que la algorítmica clásica posibilita; por ejemplo, en Madrid un análisis aéreo de imágenes de la ciudad ofrece enormes posibilidades), sistemas expertos y algoritmos predictivos y prescriptivos, robotización, etc.
Pero ha sido la aparición de la IA generativa a finales de 2022 (fundamentalmente ChatGPT de Open AI) lo que les ha puesto en el centro del debate político y social (y de la opinión pública), también en el económico, laboral y geopolítico; no olvidarlo, porque detrás de esta tecnología hay un elemento de dominación económico, incluso militar.
Detrás de la tecnología de IA generativa hay un elemento de dominación económico, incluso militar
En nuestro ámbito de actuación (el Ayuntamiento de Madrid) se utilizan distintas técnicas de IA que se han incorporado por las áreas de gobierno de forma natural para mejorar eficiencia, automatización para trabajos hasta ahora difíciles y complejos.
Desde movilidad en reconocimiento de vehículos, predicciones de nivel de contaminación, preclasificación de documentos, al Geoportal, (tratando automáticamente imágenes para todo tipo de masa arbórea en la ciudad, pérdida de masa tras Filomena, tejados con posible amianto, capacidad de instalación de placas solares en la ciudad, etc.), algoritmos predictivos en ciberseguridad (para mitigar riesgos de ciberataques) o la Agencia Tributaria de Madrid, chatbots en atención ciudadana, etc.
En ocasiones de forma experimental y otras totalmente operativas, pero siempre con todas las garantías y sin tomar decisiones automáticas sobre las personas, que queda siempre en manos de los empleados públicos.
La IA nos traerá un nuevo modelo de relación hiperautomatizado que supondrá un nuevo salto de mejora de los servicios públicos.
Esta hiperautomatización permitirá que pasos o etapas del procedimiento administrativo que hasta ahora solo podían realizarse por empleados públicos los podrán realizar los ordenadores usando algoritmos de IA con todas las garantías.
La inteligencia artificial nos traerá un nuevo modelo de relación hiperautomatizado que supondrá un nuevo salto de mejora de los servicios públicos
Y no debemos alarmarnos, porque el objetivo será prestar mejores servicios como en su día lo hicieron los actos administrativos automatizados.
Madrid es una gran ciudad (la segunda mayor de la UE con 3,3 millones de empadronados, que presta servicios de ciudad a 5 millones de personas, 0,5 millones de empresas y 10 millones de turistas al año).
Y la automatización es un elemento esencial en esta mejora de los servicios. Un certificado de empadronamiento, por ejemplo (2,5 millones al año), ya se emite de forma automatizada y el impuesto sobre la renta se gestiona fundamentalmente de forma automatizada en la actualidad en España.
Y nosotros no tenemos preocupación porque comprendemos los algoritmos que hay detrás, aunque apenas intervengan empleados públicos en la mayor parte de los casos.
Pensemos en otro caso simple: Madrid recibe unos 250.000 documentos anuales en su registro general de entrada (a través del SIR) que en muchos casos una persona debe leer y asignar a la unidad competente, cuando un algoritmo de IA con un mínimo riesgo lo puede hacer con mucha mayor productividad y reduciendo costes y tiempos de tramitación.
Muchos casos hasta llegar a la inteligencia artificial generativa (con la popularización del ChatGPT y muchas otras herramientas) que llenan de posibilidades futuras nuestra forma de trabajo, incrementando la productividad de las organizaciones (pensar en las oportunidades para el teletrabajo y trabajo colaborativo de las unidades administrativas). Como vemos, múltiples posibilidades que no pretenden sustituir a las personas, sino potenciar sus posibilidades.
Riesgos y regulación
En este proceso es evidente que, además de las oportunidades, existen riesgos y retos que abordar que tendremos que controlar, mitigar y, sobre todo, regular en los próximos años.
Por mencionar algunos de los más importantes: el equilibrio entre proporcionar servicios personalizados y la privacidad, la ‘explicabilidad’ y trazabilidad de las decisiones administrativas, la transparencia en la utilización de los algoritmos (pensemos en buscadores o comercio electrónico), el posible sesgo en la toma de decisiones y la posibilidad de discriminación en casos de una muestra no correcta de datos de aprendizaje, la suplantación biométrica de las personas y el robo de identidades, la posible manipulación de información incluyendo la política, los fakes y deep fakes, ciberseguridad y utilización de IA por ciberdelincuentes, los derechos de autor, propiedad intelectual e imagen personal, la utilización de las nuevas generaciones de ordenadores cuánticos (posiblemente romperán nuestra actual criptografía), etc.
Sin olvidar los posibles efectos de la hiperautomatización de la IA en el mercado laboral (traerán nuevos trabajos y modificarán otros, como todas las revoluciones industriales, y las administraciones tenemos que proteger a las personas).
Y también la sostenibilidad energética, ya que estas tecnologías son altamente consumidoras de recursos energéticos, y su desarrollo implicará un incremento de los centros de datos, la hipercomputación y la computación cuántica; y los efectos energéticos serán un elemento esencial de debate.
Somos conscientes de estos retos y creemos que la combinación de la regulación (y la aplicación del sentido común y de responsabilidad) permitirá equilibrar la balanza de oportunidades y riesgos, porque todos somos conscientes de que la tecnología permite muchas posibilidades, pero no todo lo que puede hacerse debe ser permitido, y para esto está la regulación y la aplicación de criterios éticos.
La regulación de la tecnología y de su uso, como se ha indicado, es importante, y así lo está gestionando la UE especialmente con sus paquetes regulatorios sobre nuevos derechos digitales, datos y ciberseguridad (íntimamente relacionados con la IA), soberanía digital y los específicos sobre IA (Artificial Intelligence Act) de los que trata este artículo.
Como en su día lo fue la regulación sobre la protección de datos de carácter personal (RGPD), aunque con una componente mucho mayor de negocio, porque otro equilibrio importante son sus efectos en no frenar la innovación e incrementar cargas administrativas, especialmente a pymes.
Esta normativa que se acaba de aprobar forzará a la Administración pública a que utilice algoritmos de IA a catalogar los sistemas y clasificarlos según su riesgo y el nivel de afectación a las personas desde mínimo riesgo a riesgo inaceptable, lo que determinará las obligaciones que cumplir (trasparencia, autorización previa o prohibición).
Esta normativa que se acaba de aprobar forzará a las Administraciones a que utilicen algoritmos de IA a catalogar los sistemas y clasificarlos según su riesgo
Aunque, como indica el lenguaje de Bruselas, “los árbitros no ganan partidos”, por lo que aparte de la regulación, es necesario acción y poner en marcha proyectos con base europea y no fragmentados en iniciativas parciales nacionales, incluso regionales.
Porque la inteligencia artificial se ha convertido en la mayor posibilidad de negocio tecnológico y forma parte ya del bloque de lucha geoestratégica entre grandes bloques políticos (especialmente USA y China), por lo que la soberanía digital ha pasado a ser un elemento esencial de la estrategia de los gobiernos.
Conclusiones sobre la IA y la Administración pública
Como un paso más de la transformación digital, la IA debe servir para impulsar las capacidades digitales de Europa y crear nuevas oportunidades para negocios, consumidores y ciudadanos, mientras se salvaguardan los derechos básicos, beneficiando a las personas, a la economía y el medio ambiente.
La IA también va a suponer un nuevo paso adelante en la mejora de eficiencia interna y calidad de los servicios públicos que prestan las administraciones.
Como en toda tecnología, hay un equilibrio entre sus oportunidades y riesgos. Estamos en los primeros pasos de su utilización, la labor de los próximos años será aprovechar las oportunidades y mitigar los riesgos.
En toda revolución industrial se producen cambios y transformaciones que afectan al ámbito laboral.
La IA no va a sustituir inmediatamente a la inteligencia humana, sino que la va a reforzar y potenciar
En mi opinión particular, en la mayoría de los casos, la IA no va a sustituir inmediatamente a la inteligencia humana, sino que la va a reforzar y potenciar, incrementando la productividad, como la realidad aumentada no sustituye a la realidad, sino que incorpora información útil en tiempo real en su contexto, lo que abre nuevas posibilidades.
El desarrollo de la inteligencia artificial supone una nueva oportunidad en este camino de mejora social, como han sido otras revoluciones industriales que también nos han traído confusión y preocupación sobre nuestro futuro.
No tengo dudas de que así será, pero siempre garantizando todos los derechos y controlando todos los riesgos de su uso.
