IA útil para empresas
En Algoritmo Transparente damos un paso más para acercar la inteligencia artificial al tejido empresarial. En colaboración con Lynoa Studio, ofrecemos asistentes inteligentes y chatbots personalizados para mejorar la atención al cliente, captar nuevas oportunidades comerciales y automatizar procesos.
Soluciones prácticas, adaptadas a cada negocio y orientadas a obtener resultados reales.
Descubre el servicio y solicita una demo
Este boletín Algoritmo Transparente número #143 también está traducido al catalán, inglés, francés e italiano.
«Las normas existen para proteger los derechos de las personas, no por el simple hecho de regular.»
«Europa debe construir su propia soberanía digital sin renunciar a la innovación ni a los valores que la distinguen.»
«Si hiciéramos transparente el impacto ambiental de la inteligencia artificial, ciudadanos, empresas e instituciones tomarían decisiones muy diferentes.»
Nicoletta Rangone es una de las principales especialistas europeas en Derecho Administrativo, calidad regulatoria y gobernanza de la inteligencia artificial. Es catedrática de Derecho Administrativo en la Universidad LUMSA de Roma, donde dirige el grado en Derecho y forma parte del Centro Universitario de Investigación e Internacionalización. Además, imparte docencia en el programa Erasmus Mundus European Master in Law and Economics (EMLE) y ha sido titular de una Cátedra Jean Monnet dedicada al enfoque europeo de la Better Regulation.
Recientemente ha asumido la dirección del nuevo Centro de Excelencia Sustainable Artificial Intelligence for Regulation (SUSTAIN-AI-REG), un proyecto financiado por la Comisión Europea que durante los próximos tres años analizará cómo conciliar el desarrollo de la inteligencia artificial con la protección de los derechos fundamentales y del medio ambiente. También forma parte del Núcleo de Evaluación del Impacto de la Regulación (NUVIR) y asesora a organismos como la OCDE, el Banco Mundial, la Autoridad Italiana de Defensa de la Competencia y la Autoridad Nacional Anticorrupción. Rangone sostiene que Europa no debe imitar ni el modelo estadounidense ni el chino, sino construir un camino propio basado en los derechos, la transparencia y la soberanía tecnológica.
Acaban de poner en marcha un nuevo Centro de Excelencia Jean Monnet dedicado a la inteligencia artificial sostenible. ¿Cuál es su objetivo?
Se trata de un proyecto de tres años que acaba de comenzar y que da continuidad a una línea de investigación desarrollada durante los últimos años gracias a los programas Jean Monnet de la Comisión Europea. En un principio trabajábamos sobre Better Regulation y, casi de manera natural, ese ámbito de estudio terminó encontrándose con la inteligencia artificial. La IA puede convertirse en una herramienta extremadamente valiosa para ayudar a las administraciones públicas a elaborar mejores normas, realizar evaluaciones previas de impacto o gestionar procesos de participación pública a gran escala. Es un potente factor de amplificación de estas técnicas, pero también implica riesgos importantes, sobre todo en términos de inclusión, transparencia y protección de los derechos fundamentales. Por eso decidimos ampliar la investigación hacia un aspecto que hasta ahora había recibido mucha menos atención: la sostenibilidad ambiental de la inteligencia artificial.
¿Por qué considera que el impacto ambiental de la IA es uno de los grandes temas todavía pendientes?
Cuando empecé a estudiar la inteligencia artificial me di cuenta de que, además de los riesgos jurídicos y sociales, existía otra dimensión prácticamente ausente del debate público: la de los costes ambientales. Esos costes existen y son muy relevantes, pero a menudo permanecen ocultos porque se consideran externalidades que no asumen ni los desarrolladores ni los usuarios de los sistemas. Hablamos del consumo de energía, del agua necesaria para refrigerar los centros de datos, de la fabricación de microchips y de todo el ciclo de vida de los dispositivos. La verdadera cuestión es quién debe asumir esos costes y cómo deben incorporarse al marco regulatorio.
El AI Act apenas aborda esta cuestión. ¿Ha sido una oportunidad perdida?
El Reglamento Europeo de Inteligencia Artificial es una norma de extraordinaria importancia y Europa puede sentirse orgullosa de haber sido la primera gran jurisdicción del mundo en dotarse de un marco jurídico completo para este ámbito. Sin embargo, también presenta limitaciones evidentes, y una de las principales es precisamente la escasa atención que dedica al impacto ambiental de la inteligencia artificial. Creo que este será uno de los grandes debates de los próximos años, porque la sostenibilidad no puede seguir siendo un aspecto secundario del desarrollo tecnológico.
En los últimos meses se ha extendido la idea de que Europa regula demasiado y que eso frena la innovación. ¿Comparte esa opinión?
No creo que el debate pueda simplificarse de esa manera. Las normas no existen para que los reguladores justifiquen su existencia; existen para proteger los derechos de las personas. Desde ese punto de vista, Europa tiene una gran fortuna, porque su Reglamento de Inteligencia Artificial está claramente orientado a los derechos (rights-driven), es decir, sitúa los derechos fundamentales en el centro del sistema. Otras regiones del mundo priorizan la innovación por encima de cualquier otra consideración. Europa, en cambio, intenta conciliar ambas necesidades y, en mi opinión, ese es precisamente su principal valor.
Entonces, la cuestión no es elegir entre derechos e innovación.
Exactamente. Es un falso dilema. No podemos proteger los derechos hasta el punto de impedir cualquier forma de innovación, pero tampoco podemos sacrificarlos en nombre del progreso tecnológico. El objetivo debe ser avanzar simultáneamente en ambos frentes, manteniendo un equilibrio constante entre la protección de las personas y la capacidad de innovar.
Sin embargo, usted identifica algunos problemas en la forma en que Europa legisla.
Sí. Los objetivos del Reglamento me parecen excelentes, pero el problema es su enorme complejidad. Solo el AI Act cuenta con 113 artículos, 180 considerandos y 13 anexos. A esta estructura, ya de por sí muy extensa, se suman actos delegados y de ejecución, normas armonizadas, códigos de buenas prácticas y directrices que todavía se están elaborando. Todo ello crea una arquitectura jurídica muy pesada, que genera incertidumbre tanto para las empresas como para las administraciones públicas. Europa necesita simplificar este sistema, pero simplificar no puede significar eliminar las garantías. Simplificar debe consistir en reducir las cargas administrativas manteniendo intactos los objetivos de protección de los derechos, porque de lo contrario ya no hablaríamos de simplificación, sino de desregulación.
La Comisión Europea ha empezado a modificar normas que todavía no habían entrado plenamente en vigor. ¿Ve riesgos en ello?
El principal riesgo es la inestabilidad jurídica. A raíz del informe Draghi, la Comisión Europea ha impulsado varios paquetes ómnibus para revisar normativas como el AI Act y el Reglamento General de Protección de Datos. Algunas modificaciones pueden ser útiles porque reducen cargas innecesarias, pero otras representan un paso atrás. El problema es que se están modificando obligaciones antes incluso de que empresas y administraciones hayan tenido tiempo de aplicarlas. Adaptarse a la normativa europea ya supone costes muy elevados; si las reglas cambian continuamente, aumenta el coste del cumplimiento y también la tentación de esperar o incluso de no cumplirlas.
También critica el método seguido para aprobar estas reformas.
Sí, porque no podemos resolver la complejidad de la regulación empobreciendo el proceso democrático. Algunos de estos paquetes se han preparado mediante consultas muy limitadas, dirigidas sobre todo a expertos, sin una participación suficiente de la ciudadanía y sin una evaluación previa de impacto. Europa siempre se ha distinguido por herramientas como la plataforma Have Your Say, que permite a los ciudadanos contribuir a la elaboración de las políticas públicas. Renunciar a estas garantías en reformas que afectan al AI Act o al RGPD significa avanzar prácticamente a ciegas. La solución no consiste en simplificar el proceso de toma de decisiones, sino en producir normas más claras y menos gravosas.
Después de conocer las experiencias de Barcelona, Madrid y Valencia, destacó la capacidad innovadora de las administraciones españolas. ¿Le sorprendió?
Me sorprendió muy positivamente encontrar funcionarios públicos con una mentalidad tan abierta hacia la innovación. En las experiencias que conocí, el mensaje de las ciudades era básicamente este: «Traednos ideas y nosotros pondremos a disposición los datos urbanos». Lo más interesante es que todo ello se desarrolla bajo el mismo RGPD que tenemos en Italia. La diferencia, por tanto, no está en la normativa europea, que es idéntica para todos, sino en la manera en que las instituciones nacionales la interpretan. En España, al menos en los casos que tuve ocasión de conocer, la protección de datos no ha impedido innovar. En Italia, en cambio, algunas interpretaciones son mucho más restrictivas.
Italia fue el primer país europeo en suspender temporalmente ChatGPT. ¿Fue un ejemplo de esa interpretación restrictiva?
Sí. Aquella decisión se justificó por cuestiones relacionadas con la base jurídica del tratamiento de datos utilizado para entrenar los modelos, la exactitud de los datos y la ausencia de mecanismos adecuados de verificación de la edad. No cuestiono la necesidad de proteger la privacidad, pero una misma norma puede interpretarse de maneras muy distintas. La interpretación jurídica debe ser evolutiva y proporcionada. La protección de los derechos es irrenunciable, pero no debería anular otros objetivos legítimos, como la innovación en la Administración pública. Cuando es el sector público quien utiliza estas tecnologías, sabemos que la finalidad debe ser siempre el interés general y la mejora de los servicios a los ciudadanos.
Francia parece haber avanzado más que Italia en materia de soberanía digital. ¿Cómo explica esa diferencia?
Francia siempre ha tenido una cultura muy fuerte de defensa de sus propios campeones nacionales. Hoy eso se traduce en una estrategia concreta a favor de la soberanía digital: inversiones públicas en la nube, apoyo a empresas como Mistral y limitaciones al uso de determinadas plataformas extranjeras en los ámbitos más sensibles. Probablemente esas alternativas no ofrecen todas las funcionalidades de las grandes empresas tecnológicas estadounidenses, pero la cuestión no es elegir siempre la herramienta más potente. Las administraciones públicas también deben valorar dónde se almacenan los datos, qué ordenamiento jurídico los protege y qué grado de dependencia tecnológica se genera.
En Italia varias universidades ponen ChatGPT a disposición de estudiantes y profesores. ¿Por qué le parece problemático?
No estoy diciendo que estas herramientas no deban utilizarse, pero creo que hace falta una mayor conciencia del mensaje que transmite una institución pública cuando implanta de forma masiva una determinada plataforma. Cuando una universidad ofrece un producto a toda su comunidad, está sugiriendo implícitamente que es seguro y fiable. Sin embargo, en las universidades circulan datos personales, información sensible, resultados de investigación y contenidos que no deberían compartirse sin las debidas precauciones. Además, una vez que una organización adopta una plataforma, resulta muy difícil desligarse de ella. Esa dependencia también forma parte del debate sobre la soberanía digital.
¿Hablar de soberanía digital europea significa ser proteccionistas?
No necesariamente. La soberanía digital no es un nacionalismo cerrado, sino la capacidad de garantizar que las tecnologías esenciales que utilizamos sean coherentes con nuestros valores jurídicos. Europa ha construido un modelo basado en los derechos fundamentales, la protección de los datos personales y la dignidad de la persona. Esa sensibilidad no es la misma en todos los ordenamientos jurídicos. Si afirmamos que nuestro modelo está orientado a los derechos (rights-driven), debemos ser coherentes también en nuestras decisiones tecnológicas y en la contratación pública.
¿El enfoque europeo basado en los derechos es realmente compatible con la innovación?
Debe serlo. Se trata, una vez más, de encontrar un equilibrio. El AI Act, por ejemplo, prohíbe el uso de la inteligencia artificial para inferir emociones en determinados contextos, como el ámbito educativo. Esa prohibición puede limitar algunas aplicaciones destinadas a personalizar el aprendizaje a partir del análisis de las reacciones emocionales de los estudiantes. Sin embargo, también puede evitar que un joven quede etiquetado para siempre como un alumno lento, inestable o excepcional. Tal vez Europa renuncie a algunas aplicaciones, pero desarrollará otras que respeten mejor la dignidad humana. Innovar no significa necesariamente adoptar cualquier tecnología disponible.
Llama la atención que en Italia la inteligencia artificial no se haya convertido en un tema de fuerte confrontación política.
Sí, probablemente sea uno de los pocos ámbitos que todavía no se han polarizado. En Italia casi todo genera división política, pero la inteligencia artificial no. En principio, eso es positivo porque evita que un debate tan complejo quede reducido a consignas ideológicas. Lo que sí me preocupa es que todavía se hable demasiado poco de ello. Aún no existe una verdadera conciencia sobre las implicaciones de esta tecnología, especialmente en lo que respecta a sus costes ambientales y a su impacto sobre las políticas públicas.
Usted insiste en que la sostenibilidad no es solo una cuestión ecológica, sino también de gobernanza.
Exactamente. Cuando hablamos de los costes de la inteligencia artificial solemos pensar en conceptos muy abstractos, pero ya existen consecuencias muy concretas. En algunos países, por ejemplo, compañías energéticas han dejado de firmar contratos con comunidades locales porque la demanda procedente de los centros de datos absorbe una parte muy importante de la capacidad disponible. También sabemos que los sistemas conversacionales consumen mucha más energía que otros tipos de modelos. Todo ello debería llevarnos a reflexionar sobre cuándo es realmente necesario utilizar estas herramientas y cuándo existen alternativas más eficientes.
Es un debate que afecta directamente también a las administraciones públicas.
Sin ninguna duda. No todas las administraciones necesitan grandes modelos de lenguaje de propósito general. En muchos casos, los Small Language Models pueden resultar mucho más adecuados porque consumen menos recursos, son más fáciles de controlar y permiten reutilizar conocimientos ya desarrollados por otras administraciones. Las administraciones públicas comparten muchas funciones: inspecciones, gestión del riesgo, procedimientos administrativos o tareas de supervisión. Si una administración ya ha entrenado un sistema eficaz, tiene todo el sentido que otra pueda reutilizarlo en lugar de empezar desde cero. Eso reduce los costes económicos, disminuye el consumo energético y facilita también el cumplimiento de los requisitos de transparencia y trazabilidad.
¿La reutilización y el software de código abierto deberían convertirse en una prioridad para Europa?
Creo que sí. En Italia, la Agencia para la Italia Digital ya recomienda priorizar soluciones abiertas, pero eso solo puede funcionar si también existe transparencia. Es necesario saber qué ha desarrollado cada administración, qué herramientas están disponibles y qué resultados han obtenido. Compartir ese conocimiento es fundamental. Las ciudades europeas afrontan problemas muy similares y no tiene sentido que cada una reinvente las mismas soluciones. Más que copiar, se trata de aprender unas de otras y adaptar aquellas experiencias que ya han demostrado su eficacia.
Otra de sus principales propuestas consiste en definir indicadores comunes para medir el impacto ambiental de la inteligencia artificial.
Probablemente sea el mayor reto que tenemos por delante. Hoy no disponemos de una metodología compartida para medir el impacto ambiental de los sistemas de inteligencia artificial. No sabemos con precisión qué debe contabilizarse, dónde empieza el ciclo de vida de un sistema y dónde termina. Hablamos de los centros de datos, pero también de los microchips, de los dispositivos que utilizamos y de su reciclaje. Cada empresa realiza sus propios cálculos y, sin criterios comunes, resulta imposible comparar los resultados. Sin métricas compartidas tampoco puede existir una verdadera transparencia.
Y sin transparencia resulta imposible elegir de forma consciente.
Exactamente. Si ciudadanos, empresas y administraciones conocieran el impacto ambiental real de los distintos sistemas, podrían tomar decisiones mucho más responsables. La transparencia tiene un efecto transformador porque favorece las soluciones más eficientes y crea incentivos reputacionales para que las empresas mejoren su comportamiento. Hoy, en cambio, todo sigue siendo extremadamente opaco. Las grandes plataformas protegen esa información porque representa una ventaja competitiva, y eso dificulta enormemente cualquier comparación objetiva.
¿Demuestra el caso DeepSeek que es posible innovar reutilizando conocimientos ya existentes?
Es una de las lecciones más interesantes que deja el caso DeepSeek. Su desarrollo demuestra que innovar no significa necesariamente empezar siempre desde cero. Es posible reducir de manera significativa los recursos necesarios aprovechando modelos, conocimientos, arquitecturas e infraestructuras ya existentes. Esto refuerza la idea de que la reutilización también puede convertirse en un principio de sostenibilidad digital. Del mismo modo que la economía circular recupera materiales y componentes, en inteligencia artificial también deberíamos favorecer, siempre que sea posible, la reutilización de modelos y de recursos computacionales, evitando duplicidades innecesarias. El concepto de circularidad no debería limitarse únicamente a los objetos físicos, sino extenderse también a los sistemas digitales.
No obstante, también hay que tener en cuenta las recientes acusaciones formuladas por Anthropic contra DeepSeek, que ponen de manifiesto cómo la reutilización y la destilación de modelos plantean cuestiones delicadas relacionadas con las condiciones de acceso, las licencias, la transparencia y la protección de las inversiones realizadas por los desarrolladores originales. Por ello, fomentar la reutilización debe ir acompañado de normas capaces de equilibrar la sostenibilidad, la innovación y la protección de los derechos e intereses en juego.
Cuando habla de soberanía tecnológica, ¿se refiere a una soberanía nacional o europea?
Siempre europea. Me considero profundamente europea. Formo parte de la primera generación que vivió la experiencia Erasmus, y eso marcó profundamente mi forma de entender Europa. Cuando viajo a España, Francia o cualquier otro país europeo me siento como en casa porque, a pesar de las diferencias culturales y lingüísticas, compartimos un patrimonio de valores muy profundo.
Precisamente por eso creo que Europa debe construir una verdadera capacidad tecnológica propia, no para competir desde una lógica nacionalista, sino para preservar un modelo de sociedad basado en los derechos, la democracia y el Estado de derecho.
Acaba de publicarse la encíclica Magnifica Humanitas, en la que el papa León XIV aborda también el impacto ambiental de la inteligencia artificial. ¿Qué valoración hace?
Lo que más me llamó la atención fue que el Papa abordara este tema de una manera tan explícita. La sensibilidad ecológica ya estaba presente en encíclicas anteriores, pero esta vez se habla directamente del consumo de agua, del consumo de energía y de los efectos que la inteligencia artificial puede tener sobre las generaciones futuras.
Es significativo que estas reflexiones provengan también de autoridades espirituales y de organismos internacionales como las Naciones Unidas. Eso significa que el debate ha dejado de ser exclusivamente tecnológico. La inteligencia artificial es una cuestión de responsabilidad colectiva y debemos afrontarla asumiendo también los costes que implica. Solo así podremos aprovechar todo su potencial sin comprometer el futuro.
