Compartir desde0:00
0:00
/

Wellington Migliari: “La IA no puede sustituir el criterio humano cuando hay derechos fundamentales en juego”

El investigador de la Universidad Complutense alerta de los riesgos de automatizar los servicios sociales para las personas en situación de sinhogarismo y defiende que la tecnología debe ayudar

Este boletín Algoritmo Transparente número #146 también está traducido al catalán, inglés, francés e italiano.

«Cuando hay personas en situación de vulnerabilidad extrema, el factor humano es imprescindible.»

«Las tecnologías tienen limitaciones; la inteligencia artificial también.»

«El sinhogarismo es una de las caras visibles de la precarización de la vida.»

Nacido en São Paulo en 1982, Wellington Migliari es profesor del Departamento de Derecho Administrativo de la Universidad Complutense de Madrid e investigador especializado en derecho administrativo, urbanismo, vivienda, contratación pública y personas en situación de sinhogarismo. Actualmente participa en diversos proyectos de investigación sobre la utilización de la inteligencia artificial en las decisiones administrativas, especialmente en el ámbito urbano y de la vivienda, así como sobre la vulneración de derechos provocada por la automatización de los procedimientos administrativos. Con una trayectoria académica marcada por el análisis comparado entre Europa y Brasil y por el uso de metodologías cuantitativas y cualitativas, defiende una idea clara: la inteligencia artificial puede ser una gran aliada de las administraciones públicas, pero nunca debería sustituir el criterio humano cuando entran en juego personas especialmente vulnerables. Lo explica en esta conversación durante las jornadas sobre inteligencia artificial organizadas por la UOC.

Su investigación se centra en la inteligencia artificial aplicada a las administraciones públicas. ¿Cuál es el principal objetivo?

Comencé investigando a las personas que viven en la calle y el fenómeno del sinhogarismo. A partir de ahí vi que convergen dos cuestiones fundamentales: la vulnerabilidad extrema de estas personas y la forma en que intervienen las administraciones públicas a través de los servicios sociales. Como las administraciones avanzan inevitablemente hacia una digitalización cada vez más intensa, también aparece la posibilidad de automatizar estos servicios. Mi investigación intenta responder hasta qué punto resulta conveniente y qué límites no deberían traspasarse.

Una de las palabras que aparecen con frecuencia en su investigación es «sandbox». ¿Qué es exactamente?

Un sandbox es un entorno de experimentación. Permite probar una tecnología, una regulación o una política pública antes de implantarla definitivamente. Se trata de comprobar, con datos y una evaluación rigurosa, si una determinada automatización mejora realmente un servicio público o si, por el contrario, genera problemas inesperados. Precisamente porque son experimentos, los resultados deben evaluarse antes de tomar decisiones definitivas.

Pero usted sostiene que estos experimentos tienen límites muy claros.

Exacto. En la investigación que hemos realizado hemos constatado que los sandboxes no son recomendables cuando trabajan con personas en situación de vulnerabilidad extrema. En estos casos existe un nivel muy elevado de discrecionalidad que depende de los profesionales de los servicios sociales. Deben escuchar a cada persona, entender sus circunstancias y valorar alternativas que a menudo no pueden reducirse a un conjunto de datos. Por eso creo que los experimentos pueden ser útiles, pero siempre manteniendo la intervención humana en la toma de decisiones.

¿Eso significa que un servicio social completamente automatizado no sería aceptable?

No en estos casos. Un sistema cien por cien automatizado destinado a personas en situación de máxima vulnerabilidad no es recomendable. La tecnología puede ayudar mucho a los profesionales, pero hay decisiones que siguen requiriendo escuchar a las personas, interpretar situaciones muy particulares y actuar con sensibilidad. Ese factor humano es muy difícil de reproducir mediante una automatización completa.

Su investigación compara Barcelona y Brasil. ¿Por qué estos dos casos?

Porque hemos trabajado sobre dos realidades diferentes. En Barcelona hemos estudiado a las personas que viven en la calle y hemos contrastado los datos con los informes de la Fundación Arrels. Paralelamente, desarrollamos una investigación similar en Belo Horizonte, Brasil, mediante entrevistas semiestructuradas. La metodología era prácticamente experimental y eso nos ha permitido comparar dos formas diferentes de afrontar un mismo fenómeno.

¿Qué diferencias existen entre ambos modelos?

La primera es cuantitativa: el número de personas que viven permanentemente en la calle. Pero la diferencia más importante es la forma de actuar de los servicios sociales. En Barcelona, normalmente son las personas vulnerables quienes buscan los servicios públicos. En Brasil existe la denominada «búsqueda activa»: la legislación obliga a los servicios sociales a salir a la calle y buscar a esas personas. Es un enfoque diferente sobre el mismo problema.

¿Europa está mucho más regulada que Brasil en materia de inteligencia artificial?

En cuanto al nivel de digitalización, diría que ambos contextos están bastante avanzados. La diferencia es jurídica. Barcelona, y Europa en general, disponen de un marco normativo mucho más desarrollado, tanto para regular el uso de la inteligencia artificial como para definir las obligaciones y los límites de las administraciones públicas. En Brasil estos procesos experimentales todavía cuentan con una regulación menos madura.

¿Los sandboxes permiten saltarse temporalmente la normativa?

No exactamente. Están regulados y funcionan dentro de un marco legal. Es cierto que, durante la experimentación, pueden existir algunas excepciones o adaptaciones respecto al funcionamiento ordinario del servicio, lo que en la literatura anglosajona se denomina waiving. Pero esas excepciones también forman parte del propio diseño normativo del experimento y no significan actuar al margen de la ley.

¿Quién debe decidir hasta dónde llega la inteligencia artificial en estos procesos?

Los primeros responsables son los profesionales que están en contacto directo con la ciudadanía: trabajadores sociales, profesores, policías u otros empleados públicos. En algunos países se les denomina la «burocracia de calle» porque son quienes afrontan las situaciones concretas de las personas. Su trabajo exige cierto margen de discrecionalidad, es decir, escuchar, interpretar y comprender cada caso antes de decidir. Automatizar completamente este proceso es extraordinariamente difícil porque resulta casi imposible prever todas las situaciones particulares que pueden presentarse.

¿Puede poner algún ejemplo?

Imaginemos a una persona con discapacidad. Quizá económicamente no cumpla los criterios habituales para acceder a un determinado servicio, pero físicamente le resulte muy difícil cocinar cada día o ir a comprar. ¿Cómo programamos todas estas circunstancias? Es posible intentarlo, pero requeriría una enorme complejidad y, probablemente, acabaríamos invirtiendo mucho más tiempo y recursos que si un profesional valorara directamente el caso. Por eso creo que la tecnología debe ayudar a los trabajadores sociales, no sustituirlos.

Hay quien defiende que la inteligencia artificial puede eliminar la subjetividad de las decisiones administrativas. ¿Comparte esta idea?

No creo que sea una cuestión ideológica ni que dependa del color político del gobierno. El debate es mucho más sencillo: todas las tecnologías tienen limitaciones, y la inteligencia artificial también. Del mismo modo que un coche tiene limitaciones de seguridad o de funcionamiento, un sistema de IA también las tiene. La pregunta no es si la tecnología es buena o mala, sino en qué ámbitos sigue siendo imprescindible la presencia de una persona formada, con experiencia y sensibilidad ante las necesidades humanas. Cuando hay derechos fundamentales en juego, estas limitaciones deben tenerse muy presentes.

¿Resulta paradójico que, con toda esta tecnología disponible, Barcelona continúe teniendo miles de personas durmiendo en la calle?

Una de las cosas que he aprendido estudiando el sinhogarismo es que no depende tanto del partido que gobierne una ciudad. Es un fenómeno urbano que existe desde hace siglos. Si leemos textos jurídicos de los siglos XVI, XVII o XVIII, ya encontramos disposiciones sobre las personas que vivían en la calle. Cuando las ciudades concentran población, también aparece este fenómeno. Por eso creo que debemos dejar de verlo únicamente como un problema político y empezar a entenderlo como un fenómeno estructural que requiere respuestas diferentes.

Pero hay países donde prácticamente no se ven personas durmiendo en la calle.

Sí, pero eso no significa necesariamente que el problema no exista. Hay países que trabajan con lo que denominamos «sinhogarismo invisible». Es decir, personas que, sin la intervención continuada de la administración pública, acabarían viviendo en la calle, pero que reciben una atención lo bastante intensa como para evitar que eso llegue a ocurrir. Muchas veces, la diferencia no es la ausencia del fenómeno, sino la capacidad preventiva de los servicios públicos.

En Estados Unidos, el sinhogarismo también se ha convertido en un arma política. ¿Qué lectura hace?

Cuando analizamos el caso estadounidense, el debate aparente gira alrededor del sinhogarismo, pero el problema de fondo es otro: la precarización del trabajo y de las condiciones socioeconómicas. El sinhogarismo es una de las consecuencias visibles de esa realidad. También lo hemos visto en Brasil, especialmente durante las últimas elecciones municipales de São Paulo. El debate público parecía centrarse en las personas que viven en la calle, pero en realidad hablaba de salarios insuficientes, precariedad laboral y vulnerabilidad económica. El sinhogarismo es una cara del problema, no necesariamente la raíz.

¿También está cambiando la percepción social?

Sí, porque la precarización afecta cada vez a más personas. Hace algunos años, mucha gente veía el sinhogarismo como una realidad completamente ajena. Hoy muchas familias se preguntan si sus hijos tendrán las mismas oportunidades que ellas tuvieron. La sensación predominante es que las perspectivas empeoran y que nadie puede dar por garantizado el futuro de sus descendientes. Ese miedo explica muchas actitudes sociales y también muchas decisiones electorales. A menudo se vota desde la desconfianza y la inseguridad.

Si pudiera promover las grandes reformas que considera necesarias, ¿por dónde empezaría?

En primer lugar, sería necesario estudiar mucho mejor las necesidades reales de vivienda. Todavía nos faltan datos y estimaciones suficientemente sólidos para planificar políticas eficaces. En segundo lugar, creo que deberíamos poner menos énfasis en la regulación por sí misma y mucho más en la cooperación entre administraciones públicas y entidades sociales, que con frecuencia acumulan una experiencia muy valiosa. Finalmente, también deberíamos replantearnos el concepto de propiedad. La propiedad privada cumple una función social, tal y como reconocen la Constitución española y muchas otras constituciones. La vivienda es mucho más que un bien patrimonial: es un derecho esencial para el desarrollo de cualquier sociedad.

¿Cómo incorpora la inteligencia artificial a su trabajo como investigador?

Utilizo herramientas como ChatGPT o DeepSeek, pero, sobre todo, programo en R y Python para analizar datos y gestionar bibliografía científica. Hoy es posible elaborar en pocos minutos listados de artículos académicos que antes requerían semanas de trabajo. En este sentido, la inteligencia artificial y estas herramientas representan una extraordinaria ganancia de productividad.

¿También las utiliza para escribir?

No para escribir el contenido. El trabajo de analizar, leer y redactar sigue siendo mío. Lo que sí hago es utilizarlas como revisoras lingüísticas. Me ayudan a detectar problemas ortográficos, conectores mal utilizados, incoherencias sintácticas o cambios de hilo argumental que, después de muchos días trabajando en un texto, a menudo ya no percibes. Es una ayuda muy útil, pero no sustituye la revisión científica ni el criterio de los revisores humanos de las revistas académicas. Por eso continúo enviando mis artículos a colegas para que los revisen antes de publicarlos. La inteligencia artificial es una buena asistente, pero todavía está muy lejos de sustituir el trabajo intelectual de un investigador.

¿La inteligencia artificial puede llegar a sustituir completamente a los profesionales de los servicios sociales?

No creo que ese sea el camino. Si intentáramos programar todas las circunstancias personales que pueden afectar a una decisión administrativa, acabaríamos construyendo sistemas extraordinariamente complejos. Pensemos, por ejemplo, en una persona con discapacidad. Quizá económicamente no cumpla los requisitos habituales para recibir un determinado servicio, pero sus limitaciones físicas le impidan cocinar cada día o ir a comprar. ¿Cómo trasladamos todas estas circunstancias a un algoritmo? Es posible intentarlo, pero requeriría una enorme inversión de tiempo, dinero y energía para acabar haciendo un trabajo que un profesional de los servicios sociales ya puede resolver hablando con esa persona.

El debate sobre el sinhogarismo se utiliza a menudo políticamente. ¿Eso dificulta encontrar soluciones?

El riesgo es quedarnos únicamente con la parte más visible del problema. Cuando se habla de sinhogarismo, especialmente en países como Estados Unidos o también en Brasil, el debate político suele girar alrededor de las personas que viven en la calle. Pero el problema de fondo es otro: la precarización de la vida, de los salarios y del mercado laboral. El sinhogarismo es una consecuencia de esta vulnerabilidad socioeconómica, no la única causa. Si solo discutimos sobre las personas que duermen en la calle y no abordamos las causas estructurales, difícilmente encontraremos soluciones duraderas.

¿Cree que esta precarización también explica los cambios políticos que estamos viviendo?

Sí. Cada vez hay más familias que se hacen una pregunta muy sencilla: ¿nuestros hijos tendrán las mismas oportunidades que nosotros? Hace algunos años, muchas personas confiaban en que la siguiente generación viviría mejor. Ahora esa certeza se ha debilitado. La percepción es que el futuro será más difícil y eso genera miedo. Y el miedo acaba influyendo en la manera de votar de la ciudadanía. Muchas decisiones políticas nacen más de la desconfianza ante el futuro que de la esperanza.

Compartir

¿La respuesta pasa únicamente por aprobar más leyes?

No. Evidentemente, es necesario un marco jurídico sólido, pero también hace falta cooperación. Las administraciones públicas no pueden afrontar solas un problema tan complejo. Deben trabajar conjuntamente con las entidades sociales, que acumulan una experiencia muy valiosa. Al mismo tiempo, deberíamos revisar nuestra concepción de la propiedad. El derecho de propiedad tiene una función social reconocida constitucionalmente y la vivienda no es únicamente un bien económico; es un derecho imprescindible para que cualquier sociedad pueda desarrollarse dignamente.

¿La inteligencia artificial también ha cambiado su manera de investigar?

Mucho. Hace algunos años podía tardar casi un mes en identificar una decena de artículos académicos realmente útiles. Hoy, combinando herramientas de inteligencia artificial con grandes bases de datos científicas, ese mismo trabajo puede hacerse en pocos minutos. Es un cambio espectacular desde el punto de vista de la productividad. Ahora bien, una cosa es localizar información y otra leerla, interpretarla y escribir las conclusiones. Esa parte continúa dependiendo del criterio humano.

¿Hasta qué punto confía en estas herramientas cuando escribe?

Las utilizo, sobre todo, como un revisor adicional. Me ayudan a detectar errores ortográficos, conectores mal utilizados, incoherencias en la estructura del texto o cambios de hilo argumental que, después de muchos días trabajando en un artículo, a menudo dejas de ver. Pero los trabajos científicos siguen necesitando revisores humanos. Cuando envío un artículo a una revista académica, siempre pido también la opinión de colegas que puedan ayudarme a mejorarlo. La inteligencia artificial es una herramienta muy útil, pero no sustituye la lectura crítica ni el conocimiento especializado.

Discusión sobre este video

Avatar de User

¿Quieres leer más?