Análisis desde una perspectiva holística y necesaria cohesión con otras normas y derechos consolidados
Carmen Muñoz García
Subproyecto 1.1. Mapping of AI governance – recommendations and regulation
AI Governance (Project #1)" FOR GOOGLE.org
Entregado 14.07.2024
El enfoque a tener en cuenta: el estudio del RIA desde una perspectiva holística
El Reglamento de IA de la Unión Europea, hito normativo a nivel mundial, debe considerarse como un todo para los sistemas de IA y para los modelos de IA de uso general. Y cómo tal, debe tener en cuenta que, cualquier herramienta de IA que se desarrolle y/o use en la UE, salvo excepciones, está sujeta al RIA en su práctica totalidad. De ahí que considere que su estudio debe abordarse desde una perspectiva holística una vez que, cualquier sistema o modelo de IA sujeto al Reglamento, está vinculado a los objetivos predeterminados por los colegisladores de la Unión. Toda la regulación en su conjunto contribuye de manera sistemática u ordenada a cumplirlos. A saber: (i) se trata de un marco jurídico uniforme para el desarrollo y uso de la IA que promueve una IA centrada en el ser humano, basada en la ética, y que, dirigida a ser segura y fiable debe garantizar derechos y principios consolidados en la UE; (ii) además, cualquier actuación, implementación o desarrollo de sistemas en el mercado interior debe llevarse a efecto a sabiendas de que se pretende -garantizando la seguridad jurídica-, facilitar la inversión y brindar apoyo a la innovación (incluidad PYMEs y startup).
No cabe entender este marco regulatorio cómo una suma de sistemas y modelos de IA, con regulación estanco para cada herramienta, con requisitos y obligaciones propias e independientes. La evolución de esta tecnología y la posibilidad de modificación de sus capacidades y riesgos determinan que, cualquier sistema, dadas sus propiedades, su autoaprendizaje, su maleabilidad, la complejidad y opacidad de la herramienta, esté sujeto a cumplir los objetivos de la Unión (todos los antedichos). Así es, la regulación, en su totalidad, está dirigida a cumplir esos fines, de ahí que se imponga un marco adecuado de vigilancia del mercado, de seguimiento, evaluación y control durante toda la vida de la herramienta. Y que en conexión con todo esto se prevean sistemas adecuados de gobernanza, multas y sanciones en el ámbito del Derecho público. También, una específica regulación de la responsabilidad por daños a perjudicados por los defectos o consecuencias negativas de las herramientas de IA que, estas sí, inciden en la esfera propia del dañado.
¿Regula la protección a las personas? ¿ Y a los vulnerables?
Hemos iniciado esta primera parte poniendo el foco el artículo primero del Reglamento de inteligencia artificial al objeto de poner de relieve, principalmente, que estamos ante un marco regulatorio para la IA. Y es así, como se desprende de este artículo clave por lo siguiente:
Aun cuando tiene por objeto mejorar el funcionamiento del mercado de la Unión y adoptar una IA centrada en el ser humano, ética y fiable (art. 1, apartado 1);
Sólo regula, de manera armonizada y uniforme, la inteligencia artificial: su introducción en el mercado, puesta en servicio y utilización, prácticas prohibidas, requisitos y obligaciones para los sistemas de IA de alto riesgo, también de los modelos de IA de uso general, la transparencia aplicable a determinados sistemas, seguimiento y vigilancia del mercado, gobernanza y garantía del cumplimiento, y además, medidas de apoyo a la innovación (art. 1, apartado 2).
Ahora bien, a pesar de sólo regular la inteligencia artificial, de ser una norma administrativa (cómo son las normas sobre la navegación aérea, la energía nuclear o sobre los vehículos a motor), que impone reglas rigurosas para estas herramientas y sus operadores, y que exige que se cumplan requisitos y obligaciones por cualquier agente de sistemas y modelos, superando los umbrales fijados en el Reglamento, su objetivo es proteger los derechos de las personas en todo el mercado de la Unión.
No regulando de manera directa los derechos de las personas, el marco regulatorio europeo de la IA impone reglas para quienes son los operadores en la cadena de valor de la IA. Se trata de que estos sujetos, vía cumplimiento normativo y de principios éticos, no infrinjan los derechos de las persona recogidos en la Carta de la Unión y en el Derecho europeo vigente, y muy especialmente, de las personas vulnerables.
En coherencia con lo anterior, todos estos derechos a tutelar, tanto de las personas físicas en general, como de los sujetos vulnerables en particular: (i) ni han formado parte del propósito regulatorio, (ii) ni han recibido un tratamiento singular en el Reglamento. De ahí que, la mención de los primeros, pero especialmente de los segundos, los vulnerables, sea sólo para incidir en que las garantías de los sistemas o modelos, la evaluación y prevención de riesgos, la detección o la supervisión de las herramientas, deben ser más rigurosas cuando el sistema o modelo puede afectar a personas o colectivos vulnerables.
Es más, respecto a estos últimos, la ausencia de un concepto propio y estático de vulnerabilidad, no nos facilitará la tarea de visibilizar quiénes, por su especial condición o circunstancia negativa, coyuntural o duradera, están más expuestos a cualquier riesgo o incidencia perjudicial de la IA que, incluso, puede llegar a situarle en situación de exclusión social crónica de difícil solución. Con todo, si alguien es vulnerable, o deviene como tal, y resulta perjudicado por la IA, está legitimado para reclamar en el marco de la norma pertinente que se haya infringido. De ahí que, las políticas de concienciación, apoyo y defensa a personas y colectivos vulnerables, frente a riesgos de la IA -que pueden llegar a ser sistémicos-, debe ser una cuestión prioritaria para instituciones internacionales, europeas y nacionales, también por empresas y organizaciones.
En definitiva, siendo el Reglamento de IA una norma aplicable a todos los sectores, y la herramienta un instrumento para las personas y su bienestar: 1. Debe aplicarse en contexto con otras normas del Derecho digital de la Unión, entre otras: RGD y RD, DCB, DCSD, DMA o DSA; y 2. Deben salvaguardarse los derechos recogidos en la Carta de los Derechos Fundamentales de la Unión y los derechos contenidos en otras normas consolidadas: protección de datos, protección de los consumidores, no discriminación e igualdad de género. También otras normas que garantizan derechos como el de la reparación de daños causados por la IA (responsabilidad civil extracontractual). De ahí que, el estudio del Reglamento deba hacerse desde una perspectiva holística, y además, teniendo en cuenta, que no es necesario incluir en el Reglamento la enumeración de personas protegidas, o de sujetos o grupos vulnerables.
Con todo, operar en la cadena de valor de la IA exige una participación proactiva de todos los que, de una manera u otra, participan en el desarrollo y uso de la herramienta. El cumplimiento del Reglamento, la eficiencia mediante los mecanismos de gobernanza y las normas sancionadoras, contribuirán a lograr la máxima implementación de la norma en cuanto a la protección de las personas. Para contribuir a esto, será esencial formar y “alfabetizar” sobre los marcos regulatorios y la ética. También, instar a ONGs, instituciones públicas y privadas a concienciar a la ciudadanía de los múltiples derechos de las personas que, no regulados en el Reglamento, sí están vigentes una vez que la norma los consolida e impulsa.
A mayor abundamiento, a favor de los vulnerables, el cumplimiento de las obligaciones y requisitos por los operadores, el seguimiento y vigilancia poscomercialización de la IA, deben ser más exhaustivos, fortaleciendo así, de manera indirecta y mediata, los derechos de las personas y colectivos vulnerables. De ahí que, cuando alguien, por su condición o situación, encaje en el rol de persona o colectivo vulnerable, el rigor de la norma deberá ser mayor, y la protección mucho más garantista, si cabe. Los mecanismos de gobernanza y de sanciones, también los de reparación de daños, las actuaciones de organismos públicos y privados, de ONGs, asociaciones y fundaciones, serán claves.
Versión del artículo con notas y referencias: