Autores: Begoña González, Juan Jose Escribano, Ramón Baradat, Fabian García, Hugo Ramallo, Andrea Stechina, miembros de los grupos 1.4 y 1.5, Proyecto cAIre de OdiesIA.
La vulnerabilidad es una condición intrínseca al ser humano. Como ya señalamos en la entrada de blog «AI for Good: La idea de la vulnerabilidad humana en tela de juicio», todos somos vulnerables, pero las circunstancias sociales, económicas o de salud amplifican esta realidad en ciertos colectivos. Personas mayores, migrantes, víctimas de violencia de género, personas con discapacidad o en exclusión social enfrentan desafíos que la tecnología, específicamente los sistemas de IA, puede ayudar a acentuar o a mitigar.
Si nos centramos en el aspecto positivo, la capacidad de mitigación de vulnerabilidades a través del uso de sistemas de IA, el potencial de esta herramienta es inmenso. Pero este impacto positivo solo es posible si quienes trabajan en estas tecnologías adoptan enfoques éticos, sostenibles y centrados en las personas. La inclusión en la IA, como ya hemos apuntado, es cosa de todos.
En la búsqueda de conectar con empresas y organizaciones que utilizan sistemas de IA para apoyar a personas vulnerables, encontrarse con obstáculos puede parecer inevitable. Desde la falta de respuesta en la comunicación hasta la falta de claridad en sus misiones, estas barreras reflejan desafíos sistémicos más amplios en lugar de casos aislados. Los conocimientos obtenidos de investigaciones recientes, incluyendo un análisis de los esfuerzos de acercamiento a organizaciones y de sus modelos de negocio, arrojan luz sobre por qué persisten estas dificultades y qué se puede hacer para superarlas.
La complejidad de identificar actores en IA y vulnerabilidad
En los meses que llevamos trabajando en este proyecto, y a pesar del potencial transformador de la IA, conectar con empresas y organizaciones que realmente desarrollan soluciones enfocadas en la vulnerabilidad humana es sorprendentemente complicado.
Un reciente análisis de nuestros esfuerzos por contactar a organizaciones que trabajan con IA para colectivos vulnerables ha puesto de manifiesto varios retos:
Mensajes poco claros: Muchas organizaciones utilizan un lenguaje genérico o ambiguo en sus comunicaciones, dificultando la comprensión de sus objetivos y acciones concretas.
Falta de respuestas: De casi 300 organizaciones contactadas, menos de un 10% respondió positivamente, mientras que la mayoría no ofreció seguimiento alguno.
Desconocimiento del impacto de la IA: En muchos casos, las organizaciones no monitorean y evalúan el impacto real de sus herramientas, lo que genera dudas sobre su compromiso y efectividad.
Estos obstáculos no son insuperables, pero reflejan un ecosistema fragmentado donde aún queda mucho por mejorar, y, por tanto, mucho espacio para la innovación y para emprendedores.
Modelos de negocio para el bien social en IA
El informe de GSMA Intelligence de 2018 Scaling Big Data for Social Good ya subrayaba que los modelos de negocio son fundamentales para garantizar la sostenibilidad y el impacto de las iniciativas de IA en el ámbito de la vulnerabilidad. Analicemos los principales enfoques y cómo generan valor:
1. Modelos filantrópicos y donaciones subsidiadas: Proyectos impulsados por filantropía o subsidios externos suelen ser el punto de partida. Aunque útiles para lanzar iniciativas y ganar confianza, carecen de la sostenibilidad necesaria para un impacto a largo plazo. Por ejemplo, la Cruz Roja ha integrado tecnologías de big data e IA para mejorar la atención a mujeres víctimas de violencia de género. Mediante el análisis de datos, han optimizado la identificación de perfiles, mejorado la contactabilidad y reducido el desuso de sus servicios, permitiendo una atención más personalizada y efectiva.
Valor generado: Acceso gratuito a soluciones innovadoras para colectivos vulnerables, lo que genera confianza inicial y atención a necesidades urgentes.
2. Modelos escalonados: Proporcionan servicios básicos gratuitos y reservan características avanzadas para usuarios que pueden pagar. Un ejemplo lo encontramos en LUP. Fundada por Apurva San Juan y Eneko Calvo, esta empresa ha desarrollado un dispositivo que convierte texto en audio en menos de dos segundos, utilizando IA y visión computacional. Este dispositivo está diseñado para personas con baja visión, dislexia o vista cansada. Ofrecen diferentes modelos a partir de 549 euros, con funciones avanzadas como conexión Bluetooth y traducción en 30 idiomas, permitiendo accesibilidad a diversos segmentos de la población.
Valor generado: Democratizan el acceso a la tecnología al tiempo que aseguran la sostenibilidad financiera del proyecto.
3. Modelos colaborativos: Involucran a actores públicos, privados y ONGs en proyectos conjuntos, aprovechando recursos, conocimientos y redes. Un ejemplo es la startup española SocialDiabetes, que lidera el consorcio SmartDiabetes, que ha recibido financiación de la Unión Europea para desarrollar nuevos modelos de asistencia sanitaria basados en valor. Integran una plataforma de terapia digital que utiliza IA para mejorar la autogestión de la diabetes, beneficiando a millones de personas en Europa.
Valor generado: Aumentan la escala y eficacia de las soluciones al integrar perspectivas y habilidades diversas.
4. Subsidios cruzados: Empresas destinan parte de sus ingresos de proyectos comerciales para financiar iniciativas sociales. Un ejemplo lo encontramos en ROAM, una startup palentina que ha desarrollado un modelo laboral que retiene talento cualificado en la España vaciada, combinando competitividad con un enfoque humano y sostenible. Aunque no se centra exclusivamente en IA, su modelo de negocio incluye la gestión de servicios esenciales, donde la tecnología juega un papel clave para ofrecer atención personalizada y eficiente.
Valor generado: Permiten desarrollar herramientas sociales sin comprometer recursos exclusivamente en un modelo de donación.
Generación de valor más allá de lo económico
El éxito de estas iniciativas basadas en el uso de sistemas de IA no debe evaluarse únicamente desde una perspectiva financiera, sino por su capacidad para generar valor social y ético. Estas tecnologías pueden transformar vidas al facilitar el acceso a oportunidades de empleo, servicios de salud, educación o recursos básicos, empoderando a las personas vulnerables. Además, el desarrollo de sistemas de IA adaptadas a las necesidades específicas de cada colectivo y libre de sesgos contribuye a reforzar la inclusión y la equidad. Los sistemas de IA también tienen el potencial de generar un impacto sistémico al optimizar recursos y decisiones, desde la prevención de desastres hasta el monitoreo de epidemias, beneficiando a comunidades enteras. Todo esto debe complementarse con un enfoque que priorice la ética y la privacidad, fortaleciendo la confianza tanto de los beneficiarios como de la sociedad en general, y garantizando que estas herramientas se utilicen de manera justa y responsable.
Construyendo un futuro más inclusivo
A pesar de los desafíos, nuestros grupos de investigación están convencidos de que construir un ecosistema inclusivo y eficaz que aproveche el potencial de la IA para apoyar a personas vulnerables es no solo posible, sino esencial. La clave radica en adoptar enfoques estratégicos que prioricen la transparencia, la sostenibilidad y el impacto social duradero. Aquí algunas estrategias fundamentales para lograrlo:
Comunicación clara y accesible: Es fundamental que las empresas y organizaciones comuniquen con claridad cómo sus soluciones de IA están ayudando a las personas vulnerables. Esto incluye explicar sus objetivos, beneficios y posibles riesgos de forma transparente y accesible. Publicar informes de impacto y mantener canales abiertos para el diálogo con la sociedad civil y los beneficiarios es esencial para construir confianza. Por ejemplo, el concepto de “lectura fácil” (easy read) es un método de crear documentos que son más fáciles de entender. Los sistemas de IA, como en el caso de ATECA, pueden ayudar a organizaciones y empresas en la redacción de documentación, y luego convertir información compleja en “lectura fácil”. Así no solo se comunica de manera clara y accesible, sino también se ayuda a la ganancia de lectores, incrementando el impacto social.
Pilotaje con propósito: Los proyectos piloto deben diseñarse pensando en la sostenibilidad desde el principio. Esto significa definir objetivos claros y medibles, identificar rutas para escalar las soluciones y considerar aspectos como el impacto ambiental y social. No basta con probar una idea; se debe garantizar que tenga un futuro viable y duradero. Por ejemplo, la herramienta RiD, que se ha desarrollado para ayudar al desarrollo de software inclusivo para usuarios con una discapacidad específica, y tiene en cuenta estas necesidades a lo largo de todo el ciclo de vida del producto.
Fomento de alianzas intersectoriales: La colaboración entre sectores público y privado, organizaciones no gubernamentales e instituciones académicas permite combinar recursos y conocimientos para abordar problemas complejos de manera más efectiva. Estas alianzas son imprescindibles para desarrollar soluciones robustas y equitativas.
Evaluación continua del impacto: implementar mecanismos regulares de evaluación que midan tanto los resultados cuantitativos como el impacto cualitativo de las soluciones. Esto incluye recopilar las experiencias de las personas vulnerables para ajustar y mejorar las estrategias. Por ejemplo, el informe de 2018 explica como en Finlandia, Telia utiliza sistemas de IA para analizar patrones de movilidad que mejoran la planificación urbana. Evalúan continuamente el impacto social y ajustan sus herramientas para responder a las necesidades de los usuarios y de los responsables de las políticas públicas.
Inversión en capacitación y alfabetización digital:Para que las soluciones de IA tengan un impacto inclusivo, es imprescindible capacitar a las personas vulnerables. Esto no solo implica enseñarles a usar la tecnología, sino también a comprender sus implicaciones y a participar activamente en su desarrollo.
Involucrar a personas vulnerables desde el principio: Creemos que las soluciones más efectivas son aquellas diseñadas con la participación activa de las personas a las que van dirigidas. Escuchar sus necesidades y contextos garantiza que las herramientas de IA sean útiles, respetuosas y relevantes.
Una llamada a conectar
Sabemos que hay más organizaciones y empresas comprometidas en desarrollar soluciones innovadoras para colectivos vulnerables, pero muchas veces no logramos establecer contacto. Por eso mismo queremos proponerte dos maneras de conectar:
OdiseIA ha lanzado el I Hackaton Internacional de IA para colectivos vulnerables, OdiseIA4Good. A finales de febrero (25, 26 y 27 de febrero, 2025) esperamos convocar a hackers, emprendedores y personas que quieran aportar y enriquecer perspectivas en grupos multidisciplinares en el desarrollo de soluciones basadas en sistemas de IA cuya finalidad sea ayudar a mitigar y solucionar cuestiones de vulnerabilidad humana.
Si el Hackaton no encaja bien en tu agenda, ¡queremos conocerte! Escríbenos a bgotero@odiseia.org o fabian.garcia@odiseia.org y cuéntanos tu caso de uso.
Juntos podemos transformar ideas en acción y asegurar que nadie quede atrás.
Comments