OdiseIA advierte del grave riesgo de impunidad en el uso indebido de la inteligencia artificial por parte del sector público

Madrid, 1 de abril de 2025 – El Observatorio del Impacto Social y Ético de la Inteligencia Artificial (ODISEIA) ha emitido un contundente documento de alegaciones al Anteproyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial, alertando de un vacío legal que puede provocar la exclusión de consecuencias reales y efectivas para los usos indebidos de los sistemas de IA por parte de la administración pública.

ALEGACIONES - ODISEIA.pdf

Descargar PDF • 83KB

Aunque el Reglamento Europeo de IA establece una lista clara de prácticas prohibidas y sistemas de alto riesgo –con multas que alcanzan los 35 millones de euros o el 7 % del volumen total de negocio para las empresas infractoras– el anteproyecto publicado en fase de borrador, excluye expresamente a los organismos públicos de la imposición de sanciones económicas. En su lugar, se contempla únicamente un régimen de apercibimientos, medidas correctivas o posibles sanciones disciplinarias internas.

Para ODISEIA, esta exclusión supone un serio riesgo. Esta cuestión no solo representa un agravio comparativo frente al sector privado, sino que fomenta la impunidad institucional, compromete la ejemplaridad del Estado y pone en peligro los derechos fundamentales de la ciudadanía.

El documento de alegaciones publicado por OdiseIA, y otras asociaciones que protegen los derechos civiles, advierte que la implementación de sistemas de IA sin control o sin garantías adecuadas en ámbitos como la sanidad, la justicia, la seguridad o los servicios sociales puede derivar en decisiones automatizadas opacas, sesgadas o incluso discriminatorias. Ejemplos preocupantes a este respecto incluyen la evaluación automática de solicitantes de ayudas públicas, el uso de reconocimiento facial en espacios públicos o la predicción del riesgo de reincidencia criminal.

En este sentido, OdiseIA reclama que el uso de IA en la administración pública debe estar sujeto a los mismos principios de transparencia, legalidad y responsabilidad que las empresas y organismos privados. Dejar fuera al sector público de las sanciones económicas mina la confianza ciudadana y abre la puerta a abusos difíciles de corregir a posteriori.

Las principales propuestas de OdiseIA son las siguientes:

• Incluir al sector público en el régimen sancionador con multas proporcionales.

• Detallar los procedimientos disciplinarios aplicables a autoridades y personal directivo.

• Sustituir las meras amonestaciones por sanciones reales, visibles y disuasorias.

  
  

OdiseIA insiste en que gobernar la IA no es solo una cuestión técnica o económica, sino ética y democrática. Una legislación débil en este sentido puede consolidar un modelo institucional opaco y poco responsable, además de propiciar una desconfianza en la opinión pública, al generarse un entorno en el que el mal uso de la inteligencia artificial desde el poder público, ya sea consciente o inconscientemente, queda sin consecuencias.