Carme Artigas: «La inteligencia artificial es una infraestructura de poder que define el mundo»

La exsecretaria de Estado de Digitalización e Inteligencia Artificial, además de copresidenta del Órgano Consultivo de IA de las Naciones Unidas, es una de las mayores expertas en tecnología.

Participó junto con el presidente de la Conferencia Episcopal, Luis Argüello, el secretario general de CCOO, Unai Sordo, y el presidente de la CEOE, Antonio Garamendi, en un coloquio de la Fundación Pablo VI sobre la encíclica Magnifica humanitas del papa León XIV.

¿Qué valoración hace de la encíclica Magnifica humanitas y qué impacto cree que puede tener a corto y largo plazo?

Esta encíclica es, sin exagerar, un punto de inflexión. Va a marcar un antes y un después en la forma en que la ciudadanía, los responsables públicos y también el sector tecnológico abordan la gobernanza de la inteligencia artificial (IA). Hasta ahora, el debate estaba encallado entre quienes defendemos la necesidad de regulación y quienes, desde las grandes compañías tecnológicas, lo interpretan como un intento de frenar la innovación y el progreso.

Llevo trabajando en este ámbito desde el año 2020, tanto en España con la Carta de Derechos Digitales, como en Europa con la Ley de Inteligencia Artificial y en Naciones Unidas en la gobernanza global. Y siempre ha habido esa tensión. Lo que cambia ahora es que aparece una voz con una autoridad moral indiscutible, que se sitúa al mismo nivel de influencia que los grandes actores tecnológicos. Eso obliga a cambiar el marco del debate.

Lo relevante es que la encíclica no habla solo desde la fe –aunque esa sea su raíz–, sino que lo hace desde la dignidad humana. Interpela directamente a todos: a quien desarrolla tecnología, a quien la regula y a quien la utiliza. Y lo hace con una mirada muy amplia, abordando el impacto en el trabajo, en la sociedad, en la verdad, en la persona. Saca este debate del espacio restringido en el que muchos intentaban encajarlo –como si la fe fuera algo estrictamente privado– y lo convierte en un asunto público, transformador.

Para quienes llevamos tiempo trabajando en esto, es un espaldarazo enorme. El Papa pone un altavoz global a un debate que ya existía, pero que no tenía suficiente visibilidad. Y lo hace con valentía, sin evitar ningún tema, incluido el uso militar de la tecnología. Es un texto oportuno, pero sobre todo necesario.

Ha estado implicada en algunos espacios de reflexión sobre inteligencia artificial. ¿Cómo ha sido el proceso de reflexión que hay detrás de esta encíclica?

No he participado directamente en el Vaticano, pero sí en un grupo de trabajo en la Universidad Pontificia de Roma sobre ética y gobernanza de la inteligencia artificial. Estuvimos unas cuarenta personas durante varios días, procedentes de lugares muy distintos: universidades como Oxford o Cambridge, representantes del sector público, privado, expertos internacionales… Participaba desde el ámbito de la regulación en Naciones Unidas.

El nivel intelectual del debate fue extraordinario. Y eso también desmonta ciertos tópicos: la Curia vaticana y todo el entorno que trabaja estos temas tiene una capacidad intelectual altísima. El proceso ha sido muy riguroso.

Hoy el gran objetivo de muchos
actores no es el bien común, sino
controlar la infraestructura de la IA,
que es la infraestructura del poder
económico, social y militar

De hecho, lo más interesante no es un único encuentro, sino el conjunto del proceso. Se ha invitado a muchísima gente, incluso a las grandes empresas tecnológicas. Por eso la encíclica tiene esa riqueza: no nace de una única perspectiva, sino de un diálogo abierto, construido poco a poco, escuchando a muchos actores. Yo lo comparo con levantar una muralla piedra a piedra. Ese proceso de escucha está reflejado en el resultado final.

¿Qué hace que esta revolución tecnológica sea distinta a otras que hemos vivido?

Hay tres elementos que la hacen radicalmente diferente. El primero es su alcance transversal. Todas las revoluciones tecnológicas anteriores afectaban principalmente a los sistemas productivos: cambiaban el trabajo, la economía y, con el tiempo, la sociedad. Pero la inteligencia artificial –y especialmente la IA generativa– afecta a todos los sectores sin excepción, incluidos aquellos que pensábamos exclusivamente humanos.

Por primera vez, la tecnología entra de lleno en las industrias creativas: escribir, pintar, componer, filmar… Aquello que definíamos como expresión humana deja de ser exclusivamente humano. Eso es inédito.

El segundo elemento es su impacto sobre la verdad. Esta tecnología no solo transforma la economía o el trabajo, sino la percepción de la realidad. Y este es, en mi opinión, el mayor riesgo existencial: no que una máquina nos destruya, sino que como sociedad dejemos de poder distinguir entre lo verdadero y lo falso. Si no hay una realidad compartida, se resienten la democracia, la cohesión social, la confianza. Esto ya lo estamos viendo con la manipulación informativa, y la encíclica lo aborda de manera muy directa.

Y el tercero –el más importante– es que es la primera tecnología capaz de evolucionar sin intervención humana constante. No es como la energía nuclear o cualquier otra tecnología anterior, que requería siempre una acción humana directa. Aquí estamos ante sistemas que aprenden, se adaptan y toman decisiones. Eso convierte a la inteligencia artificial en algo mucho más profundo que una herramienta: es una infraestructura de poder, un sistema operativo que organiza el mundo.

Ante este escenario, surge la pregunta fundamental: ¿qué es lo que debemos preservar como seres humanos?

Estamos en un momento de redefinición total. El modelo social, económico y político que heredamos de la Revolución Industrial ya no funciona. No sirve ni para organizar el trabajo, ni para articular la democracia, ni para estructurar la vida social.

Pero esto, lejos de ser solo una amenaza, es una oportunidad. Tenemos la posibilidad de construir un modelo mejor, más orientado al bien común. La tecnología, bien utilizada, permitiría resolver problemas históricos de la humanidad: enfermedades, pobreza, crisis climática… Sin embargo, lo que estamos viendo es otra cosa: una concentración masiva de poder.

Hoy el gran objetivo de muchos actores no es el bien común, sino controlar la infraestructura de la inteligencia artificial, que es la infraestructura del poder económico, social y militar. Ese es el verdadero campo de batalla.

Y si no se corrige, la sociedad reaccionará. Siempre lo ha hecho. Puede hacerlo de forma ordenada o mediante crisis profundas. Por eso es tan importante introducir ahora límites, reflexión y criterio ético.

¿Está diciendo que puede haber una reacción social fuerte si esto no se encauza?

Sí, y no sería la primera vez en la historia. A menudo se caricaturiza a los luditas como enemigos de la tecnología, pero no lo eran. Lo que rechazaban era el abuso de poder, el uso de la tecnología para explotar a las personas. Eso es exactamente lo que puede volver a ocurrir. Si la tecnología se percibe como una herramienta de dominación, la respuesta social será inevitable. Y puede ser muy desestabilizadora.

O somos capaces de hacer un ajuste a tiempo –un «aviso» que nos haga reaccionar– o el riesgo es una ruptura social mucho más grave. En ese sentido, la encíclica puede ser ese toque de atención que necesitamos.

¿Qué papel pueden jugar los jóvenes en todo esto?

Son esenciales, pero hay un problema: no están reclamando derechos digitales. Y no lo hacen porque han nacido en un entorno completamente digitalizado. No conocen otra realidad, no saben qué derechos les faltan.

Esto es muy diferente a lo que ocurrió con el movimiento climático. Ahí los jóvenes sí tenían una referencia clara de lo que se estaba perdiendo y pudieron movilizarse. En el ámbito digital, esa conciencia aún no existe.

Por eso es fundamental interpelarlos. Hablar de privacidad, de verdad, de autonomía, de relaciones humanas reales. Porque el riesgo es una juventud desactivada, atrapada en entornos diseñados para captar su atención, influir en su comportamiento y, en última instancia, controlar su narrativa.

Desde el punto de vista institucional, ¿qué se está haciendo? ¿Tiene capacidad la comunidad internacional para responder?

Sí, tiene capacidad, y de hecho ya se están dando pasos importantes. En Naciones Unidas se ha aprobado un marco de gobernanza global de la inteligencia artificial que incluye tres elementos clave: un panel científico internacional independiente, informes periódicos sobre riesgos y oportunidades, y un diálogo político global para avanzar hacia estándares comunes.

El objetivo no es crear una superestructura reguladora, sino acordar unos mínimos universales basados en derechos humanos. Es decir, establecer que la inteligencia artificial no puede vulnerar la dignidad, ni discriminar, ni manipular, ni generar daño.

El riesgo es una juventud
desactivada, atrapada en entornos
diseñados para captar su atención, y,
en última instancia, controlar
su narrativa

España, además, está bien posicionada en este ámbito, con iniciativas pioneras como el laboratorio de gobernanza en Valencia o la agencia nacional de IA.

Para terminar, ¿los Estados realmente pueden actuar o es ya demasiado tarde?

Pueden actuar perfectamente. El problema no es la falta de herramientas, sino la falta de decisión. Las leyes existen: desde la regulación de monopolios hasta normativas específicas de inteligencia artificial. Pero muchas veces no se aplican con firmeza por presión de intereses económicos.

Esto ocurre constantemente. Se retrasan regulaciones, se flexibilizan normas, se cede ante los lobbies. Mientras tanto, las grandes plataformas acumulan poder.

Pero hay algo importante que entender: regular no destruye la innovación. Al contrario, genera confianza. Y la confianza es lo que permite que una tecnología se adopte de forma masiva y segura.

Al final es como cualquier otro ámbito: exigimos controles en la alimentación, en la sanidad, en el medio ambiente. ¿Por qué no en el software? No estamos pidiendo frenar el progreso, sino asegurarnos de que ese progreso esté al servicio de las personas.

Y esa es, precisamente, la gran pregunta que deja la encíclica: no si esto va a ocurrir, sino qué vamos a hacer nosotros ante ello. •

Apoya y cuida Noticias Obreras

Tu aportación hace posible un periodismo comprometido con la dignidad del trabajo, la justicia social y la esperanza. Puedes colaborar también a través de Bizum al 13744. Cualquier aportación, por pequeña que sea, suma y nos ayuda a seguir construyendo, día a día, esta mirada compartida al servicio del bien común

Jose Luis Palacios

Redactor jefe de Noticias Obreras