Organizaciones sociales consideran el proyecto de regulación de la IA un avance todavía muy insuficiente
La aprobación el martes pasado del proyecto de Ley para la Gobernanza y el Buen Uso de la Inteligencia Artificial ha reactivado las advertencias de las principales organizaciones de la sociedad civil, que consideran que el texto supone un avance, pero aún insuficiente para garantizar la protección de derechos en un contexto de creciente automatización.
La Federación de Consumidores y Usuarios CECU, el Institut de Drets Humans de Catalunya (IDHC) y la plataforma IA Ciudadana coinciden en que la norma debe incorporar mayores garantías, transparencia y mecanismos de supervisión antes de su tramitación parlamentaria.
CECU reconoce que la iniciativa del Gobierno para adaptar el reglamento europeo de Inteligencia Artificial o AI Act al ordenamiento español introduce elementos positivos, como la creación de un inventario de sistemas de IA en el sector público y un régimen sancionador específico.
Sin embargo, la organización subraya que la información difundida hasta ahora no permite confirmar la inclusión de propuestas esenciales trasladadas durante la audiencia pública, entre ellas una participación amplia de la sociedad civil en los órganos de gobernanza o la creación de un registro central y obligatorio de algoritmos.
Su responsable de derechos digitales, Anabel Arias, advierte que “sin una aplicación efectiva, con autoridades capacitadas, recursos suficientes y capacidad sancionadora real, existe el riesgo de que las obligaciones previstas queden en papel mojado”.
Arias insiste en que la ley debe reforzarse durante la tramitación parlamentaria para garantizar “una protección efectiva de los derechos de las personas consumidoras frente a los riesgos de la inteligencia artificial”.
El IDHC considera que el proyecto de ley llega en un momento decisivo, pero insiste en que debe reforzar las garantías previstas en el reglamento europeo. La organización alerta de que los sistemas de IA, si no cuentan con controles adecuados, “pueden representar una amenaza grave para los derechos fundamentales y los procesos democráticos”, al fomentar dinámicas de vigilancia masiva y amplificar desigualdades sociales.
Por ello, reclama ampliar el listado de sistemas prohibidos, eliminar la discrecionalidad en la clasificación de sistemas de alto riesgo y establecer obligaciones significativas de transparencia pública y rendición de cuentas. El IDHC también insiste en que la sociedad civil debe participar en la definición de estándares técnicos, un ámbito que considera demasiado opaco y dominado por intereses tecnológicos y corporativos.
La plataforma IA Ciudadana, que agrupa a 17 organizaciones, ha reforzado su posición tras la publicación de un informe que analiza 39 registros de algoritmos en Europa, incluidos cinco nacionales.
El estudio concluye que la supervisión actual es insuficiente y que sectores como la policía, la justicia, los servicios de empleo, la banca o los seguros ya utilizan sistemas automatizados que pueden generar indefensión.
La plataforma recuerda que “no es una cuestión de tecnología, sino de derechos”, y cita como ejemplos las 55 mujeres asesinadas después de que el sistema VioGén clasificara sus casos como de riesgo bajo o las distorsiones del algoritmo del Distrito Único Andaluz que afectaron a cientos de jóvenes en el acceso universitario.
Un registro obligatorio
En este contexto, IA Ciudadana reclama la creación de un Registro Central de Algoritmos obligatorio, transparente y diseñado con participación social. Su co-director en Civio, David Cabo, considera que “la aprobación del Anteproyecto de Ley es una gran oportunidad para crear este registro”, y confía en que el Gobierno incorpore a las organizaciones sociales en su diseño.
La plataforma también pide al Parlamento que impulse una comisión específica sobre transparencia algorítmica y que el Gobierno informe anualmente sobre el uso de IA en la Administración. A su juicio, España ha mostrado ambición en el discurso —con la Carta de Derechos Digitales o la Estrategia Nacional de IA—, pero acumula retrasos en su implementación.
En ausencia de avances institucionales, recuerda que han sido los medios de comunicación y las ONG quienes han impulsado investigaciones y litigios para esclarecer el funcionamiento de sistemas automatizados, desde el rastreo de bajas laborales de la Seguridad Social hasta el algoritmo BOSCO del bono social.
Las tres organizaciones coinciden en que el proyecto de ley aprobado el martes abre una oportunidad decisiva para reforzar la protección de derechos en el despliegue de la inteligencia artificial. Pero advierten que, sin transparencia, supervisión independiente y participación social, la norma corre el riesgo de quedarse corta ante los desafíos que ya están presentes en la vida cotidiana.
Apoya y cuida Noticias ObrerasTu aportación hace posible un periodismo comprometido con la dignidad del trabajo, la justicia social y la esperanza. Puedes colaborar también a través de Bizum al 13744. Cualquier aportación, por pequeña que sea, suma y nos ayuda a seguir construyendo, día a día, esta mirada compartida al servicio del bien común
Redactor jefe de Noticias Obreras
