El Papa y el Mago de Oz

El modo de desarrollo es la forma principal en que una sociedad crea valor –del que deriva la fuente de productividad económica–. Ha habido un modo de desarrollo agrario, desde 1830 se implantó el modo de desarrollo industrial y tras la crisis de 1970 se extendió el modo de desarrollo informacional o digital.

Cuando ChatGPT abrió al uso mundial la inteligencia artificial (IA) generativa el 30 de noviembre de 2022 se inició un nuevo «modo de desarrollo agencial», cuya fuente de valor consiste en que máquinas tomen progresivo gobierno sobre decisiones. Es una progresiva cesión de niveles de decisión no solo sobre contenidos y acciones, sino sobre en qué campos tomar decisiones. No se trata de ejecutar, sino de gobernar, formar cuadros complejos de discernimiento y adoptar decisiones. El metagobierno –el Mago de Oz (o Mago de IA) que programa al agente– permanece más lejano e invisible, y va cediendo a la IA progresivo campo de soberanía que le dan los consumidores.

La encíclica Magnifica humanitas (MH) de León XIV pone a la humanidad ante la responsabilidad de su momento histórico, en unas circunstancias en las que la historia se nos ha ido de las manos. La civilización de los derechos humanos y la democracia ha sido invadida por los bárbaros: la barbarie ultraderechista y la barbarie de una clase hipercapitalista que ha descubierto una nueva mina tecnológica y se halla en plena fiebre del oro. Ambas barbaries están sincronizadas, forman una alianza para la tiranización de las sociedades. Se está produciendo un cruce: una transferencia de decisiones a agentes maquinales y una usurpación de poder social hacia las hiperclases cada vez más desiguales. Eso ha conducido a que León XIV denuncie la plutocracia mundial (el gobierno de unos pocos) que está condenando a la humanidad.

En esta breve reflexión que me propone Noticias Obreras sobre las consecuencias sociopolíticas de Magnifica humanitas, ya emerge una primera conclusión que subyace en el fondo y estilo comunicativo «enciclical». León XIV comunica con serenidad y firmeza, señala al fondo de la cuestión, proporciona criterios de discernimiento, no hay arrogancia ni condescendencia, es humilde para reconocer que la Iglesia en su interior debe ser coherente con lo que recomienda a todos. Pero también hay firmeza en la defensa de la vida y dignidad humana, y llama a la movilización de todas las personas para asumir eficazmente sus responsabilidades en todos los ámbitos. Los pueblos tienen la obligación moral de impedir la plutocracia.

Nuestras vidas personales se han vuelto extremadamente políticas, lo cual significa que nuestros estilos de vida y opciones de consumo están repletos de consecuencias que apuntalan el sistema o lo ponen en cuestión. Esa decisividad de las opciones individuales se ha ido agudizando como resultado del progresivo individualismo y la desaparición de lugares de gestión ciudadana de bienes comunes. La catarata del mundo que cae en manos de los dueños de la IA está muy cerca, pero los individuos no cesamos de remar hacia ella, aunque se sepa, y además con entusiasmo.

Hay que elevar cualitativamente
el nivel reflexivo personal, familiar y
barrial. Y eso requiere una nueva
institucionalidad vecinal (parte
de la cual es la parroquia)

No estamos en la misma situación de 2004 cuando Facebook inventó las redes de microblogs y levantó toda la dinámica de redes sociales que ha envenenado nuestro mundo. En aquel entonces la sociedad mundial recibió la herramienta con entusiasmo porque pensaba que era el medio que hacía posible la conversación mundial de los ciudadanos, generaba una arquitectura democrática de ágora global, permitía procesos de inteligencia multitudinaria y llevaba la lógica de las redes (sinergia, pluralismo, inclusividad, adaptabilidad, etc.) a todos los ámbitos. Más de veinte años después, el grado de decepción es difícilmente comparable al que haya producido cualquier otro invento de la humanidad. Las redes han tenido efectos positivos, pero los dañinos superan sobradamente el saldo. Ese aprendizaje influye en la recepción de la IA de un modo extraño. Se asume que la IA va a producir estragos de escala global, pero no solo reina la impotencia, sino que los galeotes seguimos remando hacia la catarata de una galera cuyos capitanes dirigen el buque desde un paraíso lejano.

La primera consecuencia política es, por tanto, doble. Por un lado una militancia más intensa en el modo de vida de cada persona y, por otro lado, reemprender la socialización de bienes comunes que permitan crear redes de bienes compartidos. Hay que elevar cualitativamente el nivel reflexivo personal, familiar y barrial. Y eso requiere una nueva institucionalidad vecinal (parte de la cual es la parroquia) que recupere a la gestión local los bienes y responsabilidades barriales como el consumo energético o el cuidado de calles y jardines.

Pero la diana de los cambios políticos está en los centros donde se toman las decisiones cruciales obre la IA, el Mago de Oz que está oculto detrás de la máquinas que programan máquinas. Por sus consecuencias globales, por la toma de soberanía popular, por ser resultado del uso de todos nuestros datos, la IA debe ser objeto de gobernanza mundial multilateral y pública. La transparencia y rendimiento de cuentas en todos los niveles debe estar bajo vigilancia pública internacional, tal como indica Magnifica humanitas: «Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas» (MH 105).

En el centro de la propuesta papal se encuentra «el desarme de la IA», que no es solo relativa al armamento militar, sino a las lógicas predatorias en economía, cultura o política. El verbo «desarmar» se ha convertido en el primer gran lema de León XIV: «Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable (…). La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora» (MH 110).

El Papa nos ha mostrado al Mago de Oz que está recreando todo un mundo y nos ha recordado que ese mundo virtual de Oz forma parte también de la Ciudad de Dios y debemos hacernos cargo de esa parte de la Creación para que los bárbaros no hagan de nuestro mundo su paraíso. •

Apoya y cuida Noticias Obreras

Tu aportación hace posible un periodismo comprometido con la dignidad del trabajo, la justicia social y la esperanza. Puedes colaborar también a través de Bizum al 13744. Cualquier aportación, por pequeña que sea, suma y nos ayuda a seguir construyendo, día a día, esta mirada compartida al servicio del bien común

Fernando Vidal

Profesor de Sociología
Universidad de Comillas