Compartir desde0:00
0:00
/

Pompeu Casanovas: "La inteligencia artificial nos obliga a redefinir el derecho"

Sostiene que la IA no es solo una revolución tecnológica, sino una nueva manera de organizar el conocimiento que transformará las instituciones, la democracia y la gobernanza.

IA útil para empresas

En Algoritmo Transparente damos un paso más para acercar la inteligencia artificial al tejido empresarial. En colaboración con Lynoa Studio, ofrecemos asistentes inteligentes y chatbots personalizados para mejorar la atención al cliente, captar nuevas oportunidades comerciales y automatizar procesos.

Soluciones prácticas, adaptadas a cada negocio y orientadas a obtener resultados reales.

Descubre el servicio y solicita una demo

Este boletín Algoritmo Transparente número #141 también está traducido al catalán, inglés, francés e italiano.

«La inteligencia artificial no es solo una tecnología: es una nueva forma de organizar el conocimiento, y eso obliga a replantear nuestras instituciones.»

«Ya no basta con hablar de Estado de derecho; debemos hablar de un auténtico estado de los derechos que sea ejecutable también en los ecosistemas digitales.»

«Europa ha sabido regular mejor que nadie, pero todavía no ha sido capaz de construir una verdadera autonomía digital.»

Cuando la irrupción de la inteligencia artificial generativa ha situado la IA en el centro del debate público, Pompeu Casanovas i Romeu (Sabadell, 1957) lleva décadas estudiando la relación entre conocimiento, derecho y tecnología. Doctor en Filosofía y en Antropología Jurídica, profesor de investigación de Inteligencia Artificial, Ética y Derecho en el Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC) e investigador vinculado a la Universidad Autónoma de Barcelona, ha desarrollado buena parte de su carrera entre Catalunya, Estados Unidos y Australia, siempre desde una perspectiva interdisciplinaria que combina filosofía, derecho, ciencias cognitivas e inteligencia artificial. Es una de las voces europeas que más tiempo lleva reflexionando sobre la gobernanza jurídica de los sistemas inteligentes.

Su último libro, Ética y ecosistemas jurídicos. Del conocimiento social a la inteligencia artificial, sintetiza años de investigación y defiende una tesis que va mucho más allá de la tecnología. Según Casanovas, la IA representa una nueva manera de organizar el conocimiento colectivo, y eso obliga a repensar las instituciones, el derecho, la democracia e incluso la forma en que los ciudadanos ejercen sus derechos. En la entrevista también reflexiona sobre la rivalidad entre Estados Unidos y China, el papel de Europa, la militarización de la IA, la encíclica De Magnifica Humanitate de León XIV y los riesgos de una dependencia excesiva de las grandes plataformas tecnológicas.

«La inteligencia artificial es una nueva manera de organizar el conocimiento»

El subtítulo de su libro es muy revelador: “Del conocimiento social a la inteligencia artificial”. ¿Esa es la tesis central?

Exactamente. De hecho, el subtítulo resume casi todo el libro. La idea principal es que, cuando estudiamos cualquier sociedad humana, en realidad no estudiamos únicamente individuos, sino sobre todo el conocimiento colectivo y la manera en que ese conocimiento se organiza. Las instituciones, el derecho, la política o la economía no dejan de ser formas de organizar ese conocimiento compartido.

Por tanto, la inteligencia artificial no es el punto de partida.

No. Es el resultado de una evolución mucho más larga. Durante siglos, el conocimiento se ha transmitido de formas distintas. Primero oralmente, después mediante la escritura, más tarde con la imprenta y, finalmente, con los ordenadores e Internet. La inteligencia artificial representa un nuevo paso dentro de esa misma evolución.

¿Qué cambia ahora?

Que ese conocimiento ya no solo podemos expresarlo mediante lenguaje natural, sino también a través de lenguajes artificiales capaces de ser interpretados por las máquinas. Eso transforma profundamente la manera en que producimos conocimiento, lo compartimos y lo reutilizamos. Las máquinas ya no se limitan a almacenar información; también contribuyen a generar nueva información.

Y eso obliga a replantear muchas cosas.

Exactamente. El libro defiende que hoy todos los ecosistemas sociales tienen también una representación artificial. Prácticamente ya no existe ninguna actividad humana que no genere datos interpretables por máquinas. Ese es el cambio real. La inteligencia artificial no es simplemente una herramienta más potente. Es una nueva manera de organizar el conocimiento social.

Por eso el libro no habla únicamente de inteligencia artificial, sino también de ecosistemas jurídicos.

Sí. Porque cuando cambia la manera en que se organiza el conocimiento también cambian las instituciones que deben regularlo. El derecho siempre ha sido una forma de organizar la convivencia. Ahora esa convivencia también tiene lugar en los ecosistemas digitales.

«La IA no empezó con ChatGPT»

La sensación es que, para mucha gente, la inteligencia artificial nació hace dos o tres años.

Es una percepción comprensible, pero históricamente incorrecta. La inteligencia artificial nace en los años cincuenta. El término aparece entonces y muy pronto comienzan a desarrollarse los primeros lenguajes de programación simbólica y los primeros intentos de reproducir procesos de razonamiento.

Usted vivió aquel periodo.

Sí. Cuando yo empezaba mi trayectoria académica ya seguía los trabajos de figuras como Herbert Simon o Allen Newell. Simon, por ejemplo, ya defendía en los años cincuenta que algún día un ordenador sería capaz de derrotar al campeón mundial de ajedrez.

Y muchos lo consideraron un visionario excesivo.

Porque se equivocó en el calendario, pero no en la dirección. Pensaba que ocurriría mucho antes. Finalmente tardó unas décadas más, pero la predicción terminó cumpliéndose.

También vivió el llamado “invierno de la IA”.

Sí. Hubo periodos en los que parecía que la inteligencia artificial había fracasado porque no cumplía las expectativas que se habían generado. Pero la investigación nunca se detuvo. Mientras tanto avanzaban las matemáticas, la teoría de la probabilidad, las redes neuronales, las ciencias cognitivas y la web semántica.

Hasta llegar a los grandes modelos de lenguaje.

Exactamente. Los grandes modelos lingüísticos no aparecen de la nada. Son el resultado de muchas décadas de desarrollo científico. Si solo miramos ChatGPT, nos perdemos toda la historia que explica por qué hoy esta tecnología es posible.

Por eso insiste tanto en el concepto de organización del conocimiento.

Porque es el hilo conductor de toda esta evolución. No es tanto una historia de ordenadores cada vez más potentes como una historia de cómo las sociedades han ido organizando su conocimiento mediante tecnologías cada vez más sofisticadas.

«La IA interfiere en todas las formas de conocimiento»

Usted vivió los primeros inviernos de la inteligencia artificial y ahora presencia una explosión sin precedentes. ¿Cómo interpreta este momento?

Existe una diferencia fundamental respecto a etapas anteriores. La inteligencia artificial ya no es solo un ámbito especializado de investigación. Ha empezado a interferir en todas las formas de conocimiento. Afecta al conocimiento científico, al jurídico y al económico, pero también al conocimiento cotidiano de cualquier ciudadano. Millones de personas interactúan cada día con sistemas de IA sin necesidad de disponer de formación técnica.

¿Eso modifica también la relación entre los expertos y la ciudadanía?

Profundamente. Hasta ahora, el conocimiento experto estaba muy delimitado. Hoy una parte de ese conocimiento circula a través de los grandes modelos lingüísticos. Esto genera enormes oportunidades, pero también obliga a repensar la manera en que validamos el conocimiento, construimos confianza y distribuimos las responsabilidades.

Por tanto, la IA no transforma únicamente las profesiones tecnológicas.

No. Transforma la manera en que toda la sociedad produce, comparte y utiliza el conocimiento. Por eso digo que no es simplemente una nueva tecnología. Es una nueva infraestructura cognitiva.

«La ética ya no es un debate teórico»

Su libro llega en un momento en que la IA también ha entrado de lleno en el ámbito militar. Habla de Palantir y del concepto de kill chain. ¿Por qué considera que supone un punto de inflexión?

Porque hasta hace muy poco hablábamos sobre todo de cadenas de suministro, optimización logística o procesos industriales. Ahora ya se habla con absoluta naturalidad de kill chain, es decir, de sistemas que optimizan la cadena de decisión para localizar y eliminar un objetivo militar.

Y eso cambia por completo el debate.

Sí. Cuando una empresa afirma públicamente que utiliza inteligencia artificial para hacer más eficiente esa cadena de decisión, la pregunta ya no es únicamente tecnológica. Es jurídica, política y, sobre todo, ética. Debemos preguntarnos qué tipo de sociedad queremos construir y qué límites estamos dispuestos a aceptar.

Ese es precisamente uno de los motivos que hacen que su libro resulte especialmente actual.

Creo que sí. La ética deja de ser una reflexión abstracta y pasa a tener consecuencias muy concretas. Cuando las decisiones automatizadas pueden afectar a derechos fundamentales o incluso a la vida de las personas, el debate ético deja de ser opcional.

«La encíclica del papa ha sido una sorpresa muy agradable»

En este contexto aparece la encíclica De Magnifica Humanitate de León XIV. ¿Qué lectura hace de ella?

Fue una sorpresa muy agradable. El papa tiene una importante formación científica, y eso se nota. Comprende perfectamente qué es la inteligencia artificial y no cae en simplificaciones.

¿Hay algún aspecto que le impresionara especialmente?

Sí. Hay un pasaje en el que reflexiona sobre el riesgo de que los sistemas incontrolados terminen convirtiendo a los consumidores en personas dependientes. Es una idea muy interesante porque desplaza el debate hacia la libertad de las personas.

¿Comparte esa preocupación?

En buena medida, sí. Las empresas deben ser muy conscientes del tipo de instrumentos que ponen en el mercado. Cuando un sistema condiciona la toma de decisiones de sus usuarios, también asume una responsabilidad social.

Por tanto, considera que la encíclica aporta elementos útiles al debate público.

Sin duda. Quizá algunos busquen en ella soluciones técnicas que no están presentes, pero esa no es su función. Lo que hace es recordarnos que la inteligencia artificial afecta directamente a la dignidad humana, la libertad y la responsabilidad. Y eso es muy importante.

«Europa ha acertado en los derechos, pero no basta»

Europa ha sido pionera en la regulación de la inteligencia artificial. ¿Es suficiente?

No. Es necesario, pero insuficiente.

¿Por qué?

Porque regular es imprescindible, pero si solo regulamos acabaremos dependiendo de las tecnologías desarrolladas por otros. Europa ha realizado una aportación muy valiosa en la protección de los derechos fundamentales, pero esa defensa de los derechos debe ir acompañada de una política científica e industrial mucho más ambiciosa.

Es decir, defiende regular e innovar al mismo tiempo.

Exactamente. No podemos plantearlo como una alternativa. Necesitamos ambas cosas. Necesitamos proteger a los ciudadanos, pero también desarrollar capacidades propias.

Cuando habla de autonomía digital europea, ¿qué quiere decir exactamente?

Significa que Europa debe ser capaz de gestionar sus propios ecosistemas de datos y desarrollar herramientas propias allí donde sea estratégico. Si toda la información crítica acaba en manos de un único proveedor, estamos generando una dependencia que puede resultar muy problemática en el futuro.

Ponía el ejemplo del sistema judicial.

Sí. Si una administración pública utiliza únicamente herramientas desarrolladas por una sola gran corporación, inevitablemente está trasladando una parte muy importante del conocimiento institucional hacia ese proveedor. Eso exige mucha prudencia.

¿Significa eso renunciar a las plataformas estadounidenses?

No. Creo que sería un error plantearlo así. Debemos aprovechar las mejores herramientas disponibles, pero, al mismo tiempo, construir capacidades propias. Ambas estrategias son compatibles y, de hecho, deben reforzarse mutuamente.

«El derecho también debe aprender a hablar con las máquinas»

En el libro sostiene que la gran transformación no es únicamente tecnológica, sino también jurídica. ¿Por qué?

Porque el derecho siempre ha sido una manera de organizar la convivencia humana. Las normas existen para que las personas puedan relacionarse dentro de un marco de reglas compartidas. Pero ahora una parte muy importante de esas relaciones también tiene lugar en los ecosistemas digitales y en los sistemas de inteligencia artificial.

¿Eso obliga a replantear la forma en que entendemos el derecho?

Sí. Durante muchos años hemos concebido el derecho como una estructura formada por leyes, reglamentos, jueces y administraciones. Todo eso sigue siendo imprescindible, pero hoy también intervienen algoritmos, plataformas digitales, sistemas automáticos de decisión y grandes repositorios de datos. Este nuevo escenario obliga a ampliar la mirada.

Por eso introduce el concepto de ecosistema jurídico.

Exactamente. El derecho ya no funciona únicamente dentro de los tribunales o de los parlamentos. También opera en entornos digitales donde interactúan de forma constante múltiples actores —administraciones, empresas, ciudadanos y sistemas automáticos—. Si ignoramos esa realidad, el derecho siempre llegará tarde.

«No basta con proclamar derechos; deben poder ejercerse»

Una de las expresiones más llamativas del libro es la de “estado de los derechos”. ¿Qué significa exactamente?

Es una evolución de la idea clásica de Estado de derecho. El Estado de derecho sigue siendo fundamental, pero hoy ya no basta con que los derechos existan sobre el papel. Deben poder ejercerse también en los entornos digitales.

¿Cuál es la diferencia?

Tradicionalmente nos preocupábamos, sobre todo, de que las leyes fueran legítimas y de que los poderes públicos las respetaran. Hoy también debemos preguntarnos si los sistemas digitales permiten que esos derechos sean realmente efectivos.

¿Puede poner algún ejemplo?

La protección de los datos personales, el derecho a la información, la transparencia de los sistemas automatizados o la posibilidad de recurrir una decisión tomada por un algoritmo. Todos esos derechos existen, pero deben ser técnicamente ejercibles. Si no lo son, acaban convirtiéndose en simples declaraciones de buenas intenciones.

Por tanto, el problema no es únicamente jurídico.

No. También es tecnológico. Por eso cada vez resulta más necesario que juristas, ingenieros, filósofos y científicos trabajen conjuntamente. Los problemas que plantea la inteligencia artificial ya no pueden resolverse desde una sola disciplina.

«La IA puede reforzar el derecho, no solo ponerlo en riesgo»

Cuando se habla de derecho e inteligencia artificial casi siempre se pone el foco en los riesgos. Usted también ve oportunidades.

Y muchas. La IA puede contribuir a que los sistemas jurídicos sean más eficientes, más transparentes y más accesibles.

¿Por ejemplo?

Puede ayudar a gestionar grandes volúmenes de información jurídica, facilitar la búsqueda de jurisprudencia, detectar incoherencias normativas o automatizar determinadas tareas administrativas que hoy consumen muchísimo tiempo.

¿Eso significa sustituir a jueces o abogados?

No. Ese es un malentendido muy habitual. La inteligencia artificial no debería sustituir la deliberación jurídica. Lo que puede hacer es ayudar a los profesionales a tomar decisiones mejor fundamentadas.

La decisión sigue siendo humana.

Debe seguir siéndolo. Especialmente cuando afecta a derechos fundamentales. Una cosa es automatizar procesos repetitivos y otra muy distinta delegar la responsabilidad jurídica en una máquina.

«La confianza será la infraestructura más importante»

Habla con frecuencia de la confianza. ¿Por qué considera que es un concepto central?

Porque toda sociedad funciona gracias a la confianza. Confiamos en las instituciones, en los profesionales, en los registros públicos, en los contratos… Si esa confianza se deteriora, el propio sistema también se deteriora.

¿La IA pone en riesgo esa confianza?

La pone a prueba. Si los ciudadanos no entienden cómo funcionan los sistemas automatizados o perciben que las decisiones son opacas, la confianza disminuye.

¿Cómo puede evitarse?

Con transparencia, con mecanismos de auditoría y con responsabilidades muy bien definidas. La tecnología no puede convertirse en una excusa para que nadie asuma las consecuencias de una decisión.

«Las grandes decisiones seguirán siendo humanas»

Algunos pronostican que la IA acabará tomando decisiones políticas o jurídicas de enorme complejidad. ¿Comparte esa visión?

No. Creo que existirán sistemas extraordinarios de ayuda a la decisión, pero una sociedad democrática no puede renunciar a la responsabilidad humana en las decisiones más trascendentales.

Por tanto, el futuro no es un gobierno de los algoritmos.

No debería serlo. Los algoritmos pueden aportar información, detectar patrones o sugerir alternativas, pero la deliberación sigue siendo una responsabilidad humana. Esa es la base de cualquier sistema democrático.

Es ahí donde filosofía, derecho e inteligencia artificial vuelven a encontrarse.

Exactamente. La tecnología plantea preguntas nuevas, pero las grandes cuestiones siguen siendo las mismas: qué es una decisión justa, cómo protegemos la dignidad humana o qué límites ponemos al poder. La inteligencia artificial no elimina esas preguntas; las hace todavía más urgentes.

«Catalunya tiene talento; el reto es saber conectarlo»

Después de muchos años trabajando entre universidades y centros de investigación de distintos países, ¿cómo ve el ecosistema catalán?

Lo veo con optimismo, porque Catalunya dispone de activos extraordinarios. Cuenta con universidades muy competitivas, centros de investigación de primer nivel e investigadores reconocidos internacionalmente. No partimos de cero, ni mucho menos.

¿Qué nos falta entonces?

Sobre todo capacidad de articulación. A menudo tenemos equipos excelentes que trabajan muy bien, pero demasiado desconectados entre sí. Necesitamos una estrategia compartida que permita poner en relación universidades, centros de investigación, empresas y administraciones.

¿Es un problema de recursos?

Los recursos siempre son importantes, pero no explican todo el problema. También es una cuestión de continuidad. La investigación necesita tiempo, estabilidad y objetivos compartidos. No puede depender permanentemente de los ciclos políticos o de convocatorias puntuales.

¿Esa mirada interdisciplinaria también es imprescindible en la IA?

Cada vez más. La inteligencia artificial ya no es patrimonio exclusivo de los informáticos. Necesitamos matemáticos, juristas, filósofos, lingüistas, antropólogos, economistas y especialistas en políticas públicas. Los grandes problemas que plantea la IA no pueden resolverse desde una única disciplina.

«Las universidades deben volver a ser espacios de pensamiento»

¿La universidad también tendrá que cambiar?

Ya está cambiando. Pero creo que todavía debe asumir una responsabilidad mayor.

¿En qué sentido?

La universidad no solo debe formar profesionales. También debe generar pensamiento crítico. En momentos de transformación profunda como el actual, esa función es más importante que nunca.

¿Teme que la inmediatez tecnológica termine desplazando esa reflexión?

Es un riesgo real. Vivimos en una sociedad que premia mucho la rapidez. Pero comprender los grandes cambios exige tiempo. Las tecnologías evolucionan muy deprisa; las instituciones y la cultura, en cambio, necesitan una perspectiva mucho más amplia.

Por eso defiende tanto la filosofía.

La filosofía no ofrece recetas inmediatas, pero ayuda a formular las preguntas correctas. Y cuando aparece una tecnología capaz de transformar la sociedad entera, las preguntas son tan importantes como las respuestas.

«No debemos tener miedo a la tecnología»

El debate público suele oscilar entre el entusiasmo y el catastrofismo. ¿Dónde se sitúa usted?

Ni en un extremo ni en el otro. El miedo nunca es un buen consejero, pero el entusiasmo acrítico tampoco.

¿Qué actitud propone?

Comprender. El primer paso siempre es entender qué está ocurriendo. Cuando una sociedad comprende los cambios, es mucho más capaz de gobernarlos.

Por tanto, el problema no es la tecnología.

No. Las tecnologías, por sí solas, no son buenas ni malas. Todo depende de los objetivos que les asignemos, de las instituciones que las regulen y de los valores que incorporemos a ellas.

Ahí es donde vuelve a aparecer la ética.

Exactamente. La ética no consiste en frenar la innovación. Consiste en orientarla. En preguntarnos hacia qué modelo de sociedad queremos avanzar y qué límites consideramos irrenunciables.

«El futuro sigue abierto»

Cuando mira los próximos diez o quince años, ¿qué es lo que más le preocupa?

No tanto la inteligencia artificial en sí misma como nuestra capacidad para gobernarla. La historia nos enseña que todas las grandes revoluciones tecnológicas han obligado también a transformar las instituciones. Esta vez no será diferente.

¿Y qué es lo que más esperanza le inspira?

La capacidad humana para aprender. Las sociedades han sabido adaptarse a cambios muy profundos a lo largo de la historia. No hay ningún motivo para pensar que ahora vaya a ser imposible, siempre que afrontemos esta transformación con conocimiento, responsabilidad y voluntad de cooperación.

Si tuviera que resumir en una sola idea el mensaje de su libro, ¿cuál sería?

Que la inteligencia artificial no es únicamente una cuestión tecnológica. Es una oportunidad para repensar la manera en que compartimos el conocimiento, cómo protegemos los derechos y cómo construimos instituciones capaces de responder a los desafíos del siglo XXI.

Discusión sobre este video

Avatar de User

¿Quieres leer más?