BLOG

Esto es el subtítulo de la página

INTELIGENCIA ARTIFICIAL EN EL SECTOR PÚBLICO (PARTE II)

Siguiendo el análisis de la guía de Tecnologías y Protección de datos en las Administraciones Públicas , y aunque ya hablamos en anteriores artículos de este blog (puedes consultar los mismos aquí y aquí) sobre las claves de adecuación al RGPD de aquellos tratamientos que incorporen Inteligencia Artificial (en adelante IA), hoy vamos a dar un paso más allá y analizar la importancia de su aplicabilidad al sector público.

Es innegable que la inteligencia artificial es una realidad que ha venido para quedarse y que, cada vez más, estará presente en nuestro futuro. En los últimos meses, hemos visto como la IA ha jugado un papel relevante en la respuesta a la pandemia de la Covid-19. El volumen y variedad de datos disponibles y el aumento de la capacidad de proceso, son el caldo de cultivo para que se desarrollen soluciones en diferentes áreas o sectores de actividad, entre ellos, el sector público, con el objetivo de automatizar procesos y ofrecer servicios más eficientes y mejorados.

Existe por tanto, una gran oportunidad para aplicar la IA como un elemento de transformación de la economía y la sociedad, incluido el funcionamiento de los servicios públicos y la transparencia de las administraciones.

La Comisión Europea, en cumplimiento de su estrategia de IA, ha desarrollado un plan coordinado con los Estados miembros para fomentar el desarrollo y la utilización de la IA en Europa. Su objetivo es apoyar la implementación de la Estrategia Europea sobre Inteligencia Artificial, teniendo en cuenta diferentes ámbitos que incluyen entre otros la protección de datos, y trabajar en la definición de una inteligencia artificial confiable.

Estaréis de acuerdo conmigo, en que una inteligencia artificial (IA) confiable puede traer muchos beneficios, como una mejor atención médica, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.

A nivel nacional, el Gobierno de España, ha puesto en marcha su propia Estrategia Nacional de Inteligencia Artificial. De hecho, el impulso a la Inteligencia Artificial constituye uno de los elementos principales de la Estrategia Europea sobre Inteligencia Artif cuyo objetivo es alinear las políticas nacionales destinadas a fomentar el desarrollo y el uso de la IA en España.  La Estrategia española de I+D+I en Inteligencia Artificial, identifica numerosos campos para el desarrollo de la IA en el sector público, pudiendo citar como alguno de los casos de uso identificados los siguientes:

  1. Interacción con el ciudadano, por ejemplo, con el uso de chatbots, basados en el procesamiento del lenguaje natural como primera interfaz entre los ciudadanos y la Administración Pública.
  2. Salud, tanto para el tratamiento como para gestión.
  3. Seguridad en temas de vigilancia, movilidad y tráfico o, por ejemplo, a temas concretos como inspecciones de urbanismo.
  4. Prevención contra la corrupción.

Es por ello por lo que hoy hablaremos de esta relación entre la Administración y la IA. En primer lugar, expondremos los beneficios que aportará la IA a la Administración Pública y a la ciudadanía, para finalmente exponer los distintos riesgos que el uso de la IA en las AAPP puede suponer para los derechos y libertades de los ciudadanos especialmente en materia de protección de datos.

Fuente: Estrategia Nacional de IA

BENEFICIOS DE LA IA EN LAS AAPP

La relación entre IA y Administración proporciona beneficios mutuos:

Por un lado, la Inteligencia Artificial es útil para mejorar la transparencia y comunicación de la actividad pública en los sectores de sanidad y servicios sociales, medio ambiente y energía, justicia, transporte y logística, educación, empleo y seguridad, así como conocer de manera más exacta la sociedad en la que nos encontramos y determinar las prioridades de actuación, identificando aquellos ámbitos con ventajas competitivas y aquéllos más desfavorecidos.

Mientras que por otro lado, la actividad de la Administración también puede beneficiar a la Inteligencia Artificial, desplegando todos sus instrumentos para financiar, promover e integrar la IA en sus procesos.

Todo ello sin olvidar que el beneficio final de todo este proceso es para la ciudadanía. Es la ciudadanía quien debe monitorizar la actividad de la Administración, sentirla más cerca y poder usar aplicaciones adaptadas y personalizadas a sus necesidades.

En este sentido La IA ofrece a las Administraciones Públicas múltiples oportunidades para mejorar su actividad y el modo en el que se relacionan con la sociedad.

IA PARA LA REFORMA DE LA ADMINISTRACIÓN:

Adopción de decisiones de forma transparente. Es preciso que el acceso a la información de interés público esté al alcance, fomentando el gobierno abierto y permitiendo a la ciudadanía monitorizar a la Administración en las políticas que se implementen.

Crear repositorios de datos públicos que permitan el acceso en condiciones óptimas de seguridad, legalidad, integridad confidencialidad y protección de la privacidad de los ciudadanos para desarrollar nuevas aplicaciones y oportunidades.

Desarrollar decisiones basadas en la evidencia y la evaluación de políticas. Para que una política pública logre su objetivo, en cualquiera de los ámbitos como justicia, sanidad, empleo, etc., es imprescindible que provenga de un conocimiento lo más real y actualizado posible de la sociedad. Esto trae como ventaja una actuación más estructurada y fiable frente a sucesos críticos como puede ser la prevención epidemiológica o la actuación frente a fenómenos naturales.

Aumentar la eficiencia de los procesos, con el fin de agilizar trámites, automatizar procesos mediante la implantación de robots, permitir una mejor interrelación con la ciudadanía a través de asistentes virtuales o chatbots, reforzar la seguridad, luchar contra el fraude con modelos basados en detección de patrones fraudulentos, y en general, mejorar la calidad de las políticas públicas con base analítica que permitan obtener políticas óptimas basadas en simulación.

MEJORA DE LOS SERVICIOS A LA CIUDADANÍA:

Todas las actuaciones señaladas anteriormente redundarán en un mayor acercamiento a la ciudadanía, mediante el uso de mecanismos como la Carpeta Ciudadana o la ventanilla única, así como una mejor prestación del servicio público dado que la IA permitirá una reducción de trámites y una automatización de tareas obteniéndose servicios más adaptados, de mayor usabilidad, accesibilidad y personalizados a la ciudadanía y empresas. El uso de las tecnologías de procesamiento del lenguaje natural también mejorará la relación con la ciudadanía, mediante la implantación de nuevas vías de comunicación tales como chatbots o sistemas conversacionales.

En este sentido, El Plan de Transformación Digital de las Administraciones Públicas, recoge en detalle las diferentes acciones que se pondrán en marcha con el fin de incorporar la IA en los procesos del sector público.

RIESGOS PARA LOS DERECHOS Y LIBERTADES DE LOS INTERESADOS ASOCIADOS AL USO DE INTELIGENCIA ARTIFICIAL EN LAS AA.PP

Los algoritmos de la IA están pensados para reconocer patrones y así aprender a tomar decisiones de forma autónoma. El uso de estos algoritmos para la toma de decisiones no siempre permite encontrar la traza o explicación a las decisiones tomadas. Este tipo de escenarios se denominan de “caja negra”. Por ello existe un gran interés en desarrollar metodologías que permitan auditar los algoritmos que infieren nueva información y toman decisiones de forma directa o indirecta, sobre las personas.

La inteligencia artificial también despierta dudas entre usuarios, investigadores, especialistas, autoridades y la industria con relación al cumplimiento normativo, la garantía de los derechos de los interesados y la seguridad jurídica de todos los intervinientes.

Además, dado que los modelos de los sistemas de IA se pueden apoyar en enormes cantidades de datos para aprender y realizar la toma de decisiones, cuando se está tratando datos de carácter personal es importante comprender cómo influyen estos datos en el comportamiento de los sistemas y garantizar su calidad e integridad, además de ser necesario evitar que contengan sesgos, inexactitudes, errores y equivocaciones, socialmente construidas, que conduzcan al sistema a extraer generalizaciones incorrectas y a la posibilidad de que tome decisiones injustas que favorezcan a unos grupos sobre otros.

Esta necesidad de datos reales puede llevar a un responsable a usar datos recogidos con un propósito distinto e incompatible para entrenar sus sistemas. Desde el punto de vista de la protección de datos personales es capital asegurarse que existe una legitimación clara para dicho tratamiento de datos. Debemos recordar en este sentido que el artículo 6 del Reglamento General de Protección de Datos 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 (en adelante RGPD), establece que todo tratamiento debe estar basado en un fin legítimo. El RGPD enumera seis de estos fines, y el tratamiento de datos personales debe estar vinculado al menos a uno de ellos.

Muchas veces los sistemas de inteligencia artificial están tratando datos personales e incluso datos especialmente protegidos como los de salud, sexo, raza, creencias u opiniones políticas.. Para ello, hay que tener muy presentes las restricciones que establece el artículo 9 del RGPD y de la LOPDGDD y las condiciones para levantar dicha limitación.

Así en los casos de que esa legitimación la proporcione el propio consentimiento de los usuarios, la misma deber hacerse de forma tal que la transparencia de la información sea máxima de modo que los usuarios sean plenamente conscientes de dónde, cómo y para qué se van a usar sus datos y los mecanismos existentes para reclamar sus derechos sobre ellos o retirar el consentimiento prestado.

Este deber de información deberá adaptarse a cada etapa del ciclo de vida de la solución de IA en la que se esté realizando el tratamiento. A este respecto, resulta de especial interés aquellos casos en los que el interesado esté sometido a decisiones automatizadas o en los supuestos de elaboración de perfiles a los que hace referencia el artículo 22 del RGPD, pues en esos casos el interesado debe disponer de “información significativa sobre la lógica aplicada” y “la importancia y las consecuencias previstas”.

Si el tratamiento basado en IA toma decisiones basadas únicamente en el tratamiento automatizado de los datos explotados, es recomendable que los organismos públicos analicen el riesgo que se deriva de este método de toma de decisiones y adopten mecanismos para su análisis y gestión como:

La constitución de comités de ética y protección de datos encargados de evaluar los daños y beneficios potenciales que, para los interesados en particular y para la sociedad en general, pueda suponer un determinado tratamiento.

Establecer controles periódicos de aseguramiento de la calidad de sus sistemas para garantizar que las personas reciben un trato justo y no discriminatorio.

 • Realizar auditorías para comprobar que los componentes utilizados en los sistemas de toma automática de decisiones funcionan según lo previsto

 • Para evitar delegar totalmente en la autonomía del sistema y caer en conclusiones que nadie revisa y que pueden tener un gran impacto sobre los derechos y libertades de las personas, es recomendable introducir las garantías de un enfoque subjetivo que explique una verdadera conexión entre los datos y los resultados.

Implementar mecanismos que permitan al interesado expresar su punto de vista e impugnar la decisión, llegado el caso, con información sobre los plazos acordados para la revisión y un punto de contacto designado para la consulta.

• Incluso cuando se estime que existe una obligación de supervisión humana, en los procesos que implican tomas de decisiones automatizadas, hay que evaluar el riesgo de que no exista operador humano cualificado que pueda ignorar el resultado de la decisión tomada en un momento dado.

RECOMENDACIONES EN EL USO DE IA EN LAS AAPP

Como buena práctica, y más allá de exigencias derivadas de la protección de datos, se recomienda la supervisión humana cualificada en cualquier tratamiento basado en IA, y en general, de aquellos que tomen decisiones automatizadas. A la hora de diseñar los sistemas, la supervisión humana es una opción que debe ser tenida en consideración para que forme parte de los procedimientos y mecanismos asociados al tratamiento, de modo que se permita la posibilidad de que un operador humano pueda ignorar el algoritmo en un momento dado. De esta forma, se estaría introduciendo un elemento de control enfocado a dar respuesta al posible riesgo de que la decisión tomada por el sistema no fuera la correcta y estuviera limitando derechos y libertades de los interesados.

Para finalizar y ayudar al cumplimiento del RGPD a aquellas organizaciones que incluyan en sus tratamientos componentes de IA, la AEPD publicó en su día el documento Adecuación al RGPD de los tratamientos que incorporan Inteligencia Artificial. A mayor abundamiento en España, de forma similar al Reino Unido, se aprobará una guía de uso de la Inteligencia Artificial en el sector público, para introducir esta tecnología de manera ordenada, interoperable, y con respeto a los principios éticos y a la legalidad vigente. Estas actuaciones se adoptarán en colaboración con las CCAA, y las entidades locales, a través de una Conferencia Sectorial.

Ver Parte I aquí