Compartir desde0:00
0:00
/

Agustí Cerrillo: “La IA no puede avanzar sin seguridad jurídica”

El catedrático de la UOC defiende que las administraciones deben innovar con inteligencia artificial sin esperar a que Europa resuelva todos los interrogantes regulatorios.

Este boletín Algoritmo Transparente número #147 también está traducido al catalán, inglés, francés e italiano.

«Esperar a que Europa actualice la regulación sin actuar es un error.»

«La supervisión humana continúa siendo imprescindible ante cualquier decisión automatizada.»

«El futuro pasa por una mayor automatización, pero también por más personas preparadas para gobernarla.»

Agustí Cerrillo Martínez (Barcelona, 1970) es catedrático de Derecho Administrativo de la Universitat Oberta de Catalunya (UOC) y una de las principales referencias académicas en el estudio de la administración digital, la transparencia pública, la gobernanza y la integridad institucional. Su investigación se centra en el impacto jurídico de la inteligencia artificial dentro de las administraciones públicas, así como en la reutilización de datos públicos, la buena administración y la prevención de la corrupción. Es coinvestigador principal del proyecto estatal «Retos jurídicos del uso de datos masivos para el fomento de la innovación y la buena administración a través de la inteligencia artificial», director académico de formación continua en Administración y Gobernanza Pública de la UOC y codirector del Máster de Dirección Pública, conjuntamente con la Escola d’Administració Pública de Catalunya. Anteriormente dirigió los Estudios de Derecho y Ciencia Política de la UOC, ejerció como defensor universitario y ha desarrollado buena parte de su actividad investigadora en el grupo GADE sobre administración y democracia electrónicas. En esta entrevista reflexiona sobre el papel de los gobiernos locales ante la irrupción de la IA, los límites de la regulación europea y los retos que afrontará la Administración pública durante los próximos años.

La inteligencia artificial evoluciona mucho más rápido que las leyes. ¿Es posible regular una tecnología que cambia prácticamente cada día?

Este es probablemente el gran reto que tenemos hoy tanto los juristas como la sociedad. Se trata de garantizar la seguridad jurídica, proteger los derechos fundamentales y asegurar el buen funcionamiento de las administraciones públicas mientras asistimos a un desarrollo vertiginoso de la inteligencia artificial. El derecho necesita estabilidad y previsibilidad, mientras que la tecnología evoluciona constantemente. Por eso es necesario encontrar mecanismos que permitan adaptar la regulación sin renunciar a las garantías propias de un Estado de derecho.

¿En qué se centra su intervención en esta jornada de la UOC?

Analizo el papel de los gobiernos locales en el fomento de la innovación mediante la inteligencia artificial. Durante los últimos años, varios municipios han comenzado a aprobar normas que permiten crear espacios de experimentación regulada, los conocidos sandboxes, donde es posible probar nuevos servicios y productos utilizando los datos, las infraestructuras y las capacidades de las administraciones públicas. La cuestión que planteo es si estos espacios también pueden convertirse en laboratorios adecuados para experimentar con sistemas de inteligencia artificial, manteniendo siempre las garantías legales y los derechos de la ciudadanía.

¿Qué administraciones están abriendo camino?

Existen experiencias muy interesantes. València y Madrid trabajan desde hace tiempo en esta dirección, pero también destacaría Barcelona. A pesar de haber aprobado recientemente su ordenanza reguladora, ha incorporado una visión especialmente innovadora sobre cómo deben funcionar estos espacios regulatorios. Es un buen ejemplo de cómo los gobiernos locales pueden convertirse en motores de innovación sin esperar siempre iniciativas procedentes de otros niveles de la Administración.

¿La política todavía tiene miedo de la inteligencia artificial?

Más que miedo, diría que ha habido diferentes etapas. Primero existió desconocimiento y eso generaba desconfianza. Después comenzaron a identificarse los beneficios potenciales de la IA y aquellos recelos iniciales fueron disipándose. Ahora estamos entrando en una nueva fase en la que reaparece cierta preocupación, pero esta vez mucho más vinculada a los riesgos que comporta la tecnología. Lo más positivo es que este debate ha evolucionado: hoy ya no se trata de aceptar o rechazar la IA, sino de identificar sus riesgos y adoptar medidas que permitan prevenir posibles perjuicios y proteger los derechos de los ciudadanos.

¿Cuáles son esos riesgos?

Resulta difícil determinar cuál es el principal porque todos son importantes. La dependencia tecnológica de grandes empresas, especialmente estadounidenses, es evidente y obliga a las administraciones a desarrollar conocimiento y capacidad propios. Pero también existen riesgos derivados de los errores que pueden cometer los sistemas de inteligencia artificial. Por eso, cualquier decisión administrativa automatizada debe incorporar mecanismos de supervisión humana. La tecnología puede ayudar enormemente, pero las decisiones que afectan a las personas no pueden quedar exclusivamente en manos de un algoritmo.

La Unión Europea parece estar revisando su planteamiento regulatorio sobre la IA. ¿Es una rectificación?

Más que una rectificación, es la expresión de un equilibrio muy difícil de mantener. Europa debe proteger los derechos fundamentales, el medio ambiente y la salud, pero al mismo tiempo debe preservar la capacidad de innovación y la competitividad de sus empresas. Además, este equilibrio también depende de lo que hacen Estados Unidos y China, que condicionan el contexto internacional. Por tanto, es normal que el Reglamento europeo sobre inteligencia artificial pueda ir evolucionando. El problema es que estos ajustes también generan incertidumbre entre las empresas y las administraciones, que a menudo dudan sobre cuál es el momento adecuado para incorporar estas tecnologías.

¿Esta incertidumbre puede acabar frenando la innovación?

Sí, si las administraciones adoptan una actitud excesivamente pasiva. Esperar a que la Unión Europea resuelva todos los interrogantes antes de actuar sería un error. Cada administración, dentro de su ámbito competencial, debería desarrollar un marco propio que concrete ese equilibrio entre innovación y protección de los derechos de acuerdo con sus necesidades específicas. La regulación europea ofrece el marco general, pero después hay que adaptarlo a la realidad de cada administración y a los riesgos concretos que debe afrontar.

¿Cómo imagina las administraciones públicas dentro de cinco años?

Veo administraciones mucho más capaces de utilizar la inteligencia artificial para automatizar procesos, agilizar trámites y mejorar la calidad de las decisiones públicas. Pero esta transformación solo tendrá éxito si va acompañada de una inversión decidida en las personas. No bastará con incorporar tecnología; también serán necesarios profesionales formados que entiendan estas herramientas, las supervisen y garanticen un uso responsable. El futuro de la Administración pasa, sin duda, por una mayor automatización, pero también por una Administración con más talento, mayor capacidad técnica y más criterio humano.

Discusión sobre este video

Avatar de User

¿Quieres leer más?