Las personas, mucho más que datos

Sergi Rodríguez López-Ros

Enlace a la publicación original: https://www.lavanguardia.com/blogs/perspectiva-y-contexto/20250401/10540865/personas-mas-datos.html

A casi nadie se le escapa que la inteligencia artificial está transformando nuestra sociedad. Hace tiempo que vengo escribiendo que, más que en un cambio de época, estamos en un cambio de era. No se trata ya de hacer de forma distinta, léase más eficiente y económica, lo que ya hacíamos, sino de hacer cosas nuevas. No se da aquí la famosa frase de san Ignacio de Loyola de “no es que viera una nueva realidad, sino que viera la misma pero non nuevos ojos”. Es más, en esta ocasión es la nueva realidad la que nos ve a nosotros.

Este nuevo estado de las cosas afecta incluso a la manera en que las sociedades, sobre todo aquellas en las que se implanta la inteligencia artificial, gestionan sus procesos administrativos y el acceso a sus servicios, especialmente en lo relacionado con los de empleo y justicia. Hasta ahí poco que decir, pues parece un incremento de la eficacia. Sin embargo, cuando estas herramientas no están diseñadas con criterios de equidad, pueden reforzar desigualdades estructurales y generar barreras invisibles que afectan a los colectivos más vulnerables. Y eso es lo preocupante.

El proyecto Inteligencia Artificial e Inclusión Inmigrante, desarrollado por Vanesa Berlanga en colaboración con OdiseIA con el apoyo de Google.org, ha identificado desafíos significativos en el uso de la inteligencia artificial en procesos que involucran a migrantes forzosos. Leo con alegría que por fin una de las GAFAM se implica en el resultado no contable de sus acciones, lo que en román paladino llamamos responsabilidad, al tiempo que leo con preocupación que los primeros hallazgos evidencian una preocupante brecha digital y la presencia de sesgos algorítmicos que impactan negativamente en la integración de estas poblaciones.

Desde mi inmersión en el mundo de las minorías, primero la gitana y luego la judía, ha considerado que la forma en que son tratadas es un termómetro del estado de los derechos fundamentales en cada país. Lo minoritario no es sólo vulnerable por su número sino por su condición, lo que hace que el mayoritario se sienta aun más fuerte. Por ese motivo veo con alarma que tales estudios recientes destacan que los migrantes forzosos enfrentan barreras significativas en su acceso a herramientas digitales esenciales, lo que limita su capacidad para integrarse laboralmente. La digitalización creciente de los procesos de empleo y acceso a servicios públicos ha generado nuevas desigualdades, afectando especialmente a aquellos con menor alfabetización digital.

El acceso a la tecnología es clave para la inclusión social y laboral. Recuerdo haber alertado de lo mismo al llegar internet, cuando en 1998 los gitanos celebraron un congreso para evaluar su acceso a ella. Luego vino la digitalización, más tarde la conectividad y ahora “la inteligencia”. Sin embargo, los datos muestran que el 70% de los migrantes forzosos no tienen acceso adecuado a herramientas digitales esenciales, lo que les sitúa en una situación de desventaja frente al resto de los ciudadanos al interactuar con instituciones públicas o buscar empleo. Sí, han leído bien: también son ciudadanos.

Además, veo también con preocupación que el 80% de los migrantes identifican la falta de digitalización como una barrera para su integración laboral. Sin trabajo no hay inclusión social, pero tampoco crecimiento económico. En ese mundo nuevo, donde la selección de personal se basa cada vez más en plataformas digitales y algoritmos de selección, las personas (nunca dejan de serlo, por suerte) sin un historial digital sólido ven reducidas sus oportunidades. Ni más ni menos.

Estos datos reflejan una realidad preocupante: la digitalización avanza, pero no para todos por igual. Los migrantes forzosos, que tienen tanto derecho a buscar trabajo en otro como a quedarse a trabajar en el suyo, quedan rezagados así en el acceso a servicios esenciales, perpetuando una exclusión social que las políticas públicas aún no han logrado abordar de manera efectiva: una brecha digital que condiciona el futuro. Quiero destacar finalmente dos conceptos que me han llamado también la atención tras leer ese estudio: los sesgos algorítmicos y la inclusión digital.

Sesgos algorítmicos en empleo, vivienda y justicia

La inteligencia artificial se ha convertido en una herramienta clave en procesos de selección laboral y asignación de vivienda, pero su aplicación sin mecanismos de control adecuados puede reforzar estereotipos y discriminaciones preexistentes. El citado estudio identificó que hasta el 45% de los sistemas de inteligencia artificial utilizados en empleo y vivienda presentan sesgos algorítmicos, generando barreras de acceso para los migrantes.

Entre los principales problemas detectados destacan los filtros en procesos de selección laboral, ya que muchos algoritmos penalizan a candidatos con experiencia laboral o educativa obtenida fuera del país de acogida, limitando sus oportunidades de empleo. También el acceso a vivienda pública, porque los modelos de evaluación priorizan a solicitantes con historial crediticio local, dejando fuera a migrantes recientes que aún no han generado registros financieros en el país.

Finalmente hay que considerar las evaluaciones de riesgo en el sistema judicial: Algunos algoritmos utilizados para predecir reincidencia en procesos judiciales penalizan indirectamente a los migrantes debido a factores como la falta de empleo estable o redes familiares en el país.

En un contexto donde la inteligencia artificial juega un papel cada vez más determinante en la toma de decisiones, resulta crucial garantizar que estos sistemas sean auditables, transparentes y diseñados con criterios de equidad para evitar la exclusión de poblaciones vulnerables.

Hacia una IA más inclusiva (e inteligente)

Creo que no hay verdadera inteligencia sin emociones. La solución a todos estos desafíos no radica en rechazar la inteligencia artificial, como cualquier otra tecnología desarrollada por el ser humano, sino en aplicar estrategias que garanticen su desarrollo y uso responsable.

Entre las principales medidas recomendadas por nuestro estudio destacan la implementación de revisiones regulares para identificar y corregir sesgos en los sistemas, la inclusión de información representativa de poblaciones migrantes para evitar que los algoritmos refuercen patrones discriminatorios, la aplicación de normativas como la Artificial Intelligence Act de la Unión Europea para garantizar que los sistemas de IA operen bajo principios de equidad y derechos humanos. Finalmente, hay que desarrollar políticas públicas que faciliten la alfabetización digital y el acceso a plataformas tecnológicas para migrantes.

La inteligencia artificial puede ser un motor de inclusión o un obstáculo invisible que refuerza desigualdades. La clave está en su implementación ética y en el compromiso de instituciones, empresas tecnológicas y organismos reguladores para asegurar que estas herramientas favorezcan la equidad y el respeto a los derechos humanos. El reto no es menor. En un mundo donde la automatización sigue ganando terreno, garantizar que la inteligencia artificial sirva a toda la sociedad y no solo a quienes tienen acceso privilegiado a la tecnología es una tarea urgente. Aún estamos a tiempo de evitar la discriminación algorítmica de las personas vulnerables