Hacer que la técnica crezca sin que se repliegue el corazón

El principal desafío de la revolución tecnológica es qué humanidad queremos construir. Txetxu Ausín propone mirar la inteligencia artificial y el paradigma tecnocrático desde la dignidad humana, el trabajo, la vulnerabilidad, el cuidado y el bien común. Un texto para discernir cómo poner la tecnología al servicio de las personas y fortalecer comunidades capaces de transformar la realidad.

Convivir con la inteligencia artificial (IA)

El título principal de este texto está tomado del parágrafo 126 de la encíclica de León XIV Magnifica humanitas que, muy acertadamente, incluye como subtítulo «Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial».

Y es a ello a lo que voy a dedicar este análisis, tomando como hilo conductor dicha encíclica, pero sin dedicarme a realizar un comentario o reseña de la misma pues ya se ha escrito mucho y bien sobre la misma, también en estas páginas de Noticias Obreras. Sí que anotaremos, al hilo de la reflexión, pasajes de la encíclica que hagan referencia a las cuestiones abordadas.

Mi intención es incidir en el aspecto transformador del significado de lo humano y, por tanto, especialmente disruptivo, de la inteligencia artificial (IA), centrándome en la realidad cognitiva y afectiva de las personas. Como decía el papa Francisco en Laudato si’, nunca la humanidad tuvo tanto poder sobre sí misma:

«Los descubrimientos científicos son un talento entregado a la humanidad para que lo haga fructificar (cf Mt 25, 14-30). La tecnología puede curar, conectar, educar, cuidar la casa común; pero también puede dividir, descartar, generar nuevas injusticias. En abstracto, esta, en sí misma, no es una solución a los problemas de la humanidad, como tampoco es un mal en sí misma; pero, concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza» (Magnifica humanitas, 9).

En este párrafo inicial de la encíclica se expresan dos ideas fundamentales con relación a una tecnología tan íntimamente vinculada a lo esencialmente humano:

• No podemos pretender que la IA sea la solución a todos los problemas que afrontan los seres humanos. Eso es caer en lo que se conoce como «solucionismo tecnológico», esa idea según la cual cualquier problema puede ser resuelto mediante una intervención tecnológica, un pensamiento muy propio de la mentalidad ingenieril.
• La IA, como cualquier otra tecnología, no es neutral. Incorpora valores, presupuestos normativos y formas de poder y autoridad. Su mismo diseño, aparte de su despliegue y utilización, implican un conjunto de preconcepciones más o menos explícitas que condicionan y delimitan el artefacto. La IA no solo contribuye a la eficiencia y la productividad, sino que configura formas de vida, modificando profundamente las relaciones humanas de todo tipo (educativas, laborales, cognitivas, afectivas). «… los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado» (Magnifica humanitas, 102).

En consecuencia, toda reflexión sobre la IA trasciende una mera apreciación que se limite a determinar lo que debería estar prohibido o permitido con relación a su uso o su desarrollo. Es preciso ir más lejos, para analizar cómo reconfigura la IA nuestro modo o forma de vida, nuestra propia autocomprensión, nuestra identidad y nuestra relación con los demás y nuestro entorno.

En este sentido, mantenemos una profunda relación de interdependencia no solo con respecto a otros humanos y el medio ambiente, sino también con relación a tecnologías como la IA. Decíamos en el número 1.665 (2023) de Noticias Obreras que la IA ya está en todas partes: la llevamos en el bolsillo, en nuestros teléfonos móviles y en objetos domésticos como gafas o audífonos; la utilizamos en todos los ámbitos de nuestra vida (personal, educativo, laboral, administrativo, investigador) y está modificando todos ellos.

Constituimos con la IA lo que la antropología llama una «materialidad relacional», un conjunto de objetos, dispositivos y programas que participan y modifican profundamente nuestras prácticas y nuestras relaciones.

Esta relación estrecha e interdependiente abre la posibilidad a situaciones de vulnerabilidad, de riesgos de daño, de susceptibilidad para padecer perjuicios.

Pero esta relación con la IA no es solo muy estrecha, sino que es asimismo tremendamente asimétrica: empresas y organizaciones que diseñan y controlan estos dispositivos, aplicaciones y programas detentan todo el poder y son prácticamente inmunes al control ciudadano y público.

Esta concentración de poder, señalada por el papa León XIV en el parágrafo 95, entre otros, supone que el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los Estados, sino de grandes actores económicos y tecnológicos que determinan de facto las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación, provocando exclusiones, manipulaciones y desigualdades.

No podemos pretender
que la IA sea la solución a
todos los problemas que
afrontan los seres humanos
(«solucionismo tecnológico»)

«En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA» (Magnifica humanitas, 109).

Volviendo a la cuestión del solucionismo tecnológico, dice el papa León XIV que, una cosa es integrar las tecnologías en una visión humana y relacional y otra es dejarse guiar por un imaginario que desprecia el límite y promete una «salvación» puramente técnica (parágrafo 117). Una solución que asume la necesaria superación de todo límite, de toda vulnerabilidad, de todo sufrimiento, que se consideran «defectos» que hay corregir más que espacios en los que el ser humano madura y se abre a la relación: el ser humano no florece «a pesar» del límite sino, a menudo, «a través» del límite (parágrafo 118).

Ya comentamos en el mencionado artículo de Noticias Obreras número 1.665 (2023) el significado e impacto de la IA sobre el mundo del trabajo y lo que supone de explotación laboral (ghost workers), ese tipo de microtrabajos relacionados con la IA (entrenamiento de modelos, filtrado de imágenes, etiquetado, moderación de contenidos), que se realizan en condiciones de semiesclavitud, normalmente en países empobrecidos (Magnifica humanitas, 173).

IA y medioambiente

Pero no solo eso, la IA se construye sobre un inmenso impacto medioambiental en cuatro aspectos fundamentales:

• Extracción de minerales y materias primas. Coltán, litio, cobalto y otros minerales y tierras raras constituyen elementos indispensables y materiales para el desarrollo de la IA (centros de datos, cableados, satélites). Su control y extracción está provocando un nuevo capítulo en la geopolítica mundial y es fuente de conflictos y guerras (República Democrática del Congo, África occidental, Ucrania). Para entender el negocio de la IA, debemos tener en cuenta la guerra, la hambruna y la muerte que la minería trae consigo (véase el impactante libro de Siddarth Kara, Cobalto rojo. El Congo se desangra para que tú te conectes, Capitán Swing).
• Consumo de energía eléctrica. Según se puede leer en el Plan Nacional de Algoritmos verdes, las tecnologías de la información y la comunicación suponen entre un 5% y un 9% del consumo total de electricidad en todo el mundo, y podría llegar al 20% en 2030 según advierte el informe «The Role of Artificial Intelligence in the European Green Deal» del Parlamento Europeo. Desde el punto de vista de la prospectiva, las predicciones varían entre autores. Mientras investigadores como Lotfi Belkhir y Ahmed Elmeligi estiman que para 2040 el sector tecnológico contribuirá con el 14% de las emisiones globales de gases de efecto invernadero, un equipo en Suecia señala que, para 2030, tan solo las demandas eléctricas de los centros de datos habrán aumentado 15 veces.
• Necesidad de grandes cantidades de agua. Los centros de datos también son grandes consumidores de agua dulce. Por ejemplo, los centros de datos propiedad de Google en Estados Unidos consumieron 12.700 millones de litros de agua dulce para la refrigeración in situ en 2021, aproximadamente el 90% de la cual era agua potable. Otros estudios cifran en 25 millones de litros anuales el consumo medio de los centros de datos, pudiendo llegar a los 600 millones en el caso de los llamados hipercentros. El consumo de agua de centros de datos está siendo ya objeto de polémica, tanto por lo que supone, especialmente en un contexto de cambio climático y en zonas especialmente amenazadas por la sequía, como sucede en diversos lugares de España (Aragón, Castilla-la Mancha).
• Generación de residuos y basura electrónica altamente contaminante. Según el Monitor Global de Residuos Electrónicos 2020, en 2019 se generaron 53,6 millones de toneladas métricas de desechos electrónicos, lo que supone un aumento de 9,2 Tm en cinco años. Muchos de esto residuos contienen sustancias tóxicas y peligrosas como el mercurio, los retardantes de llama bromados (BFR) o los clorofluorocarbonos (CFC), lo que supone un grave riesgo ambiental y para la salud humana. En el mismo informe se estima que los desechos electrónicos globales alcanzarán los 74,7 Tm para 2030, casi el doble de la cifra de 2014, impulsados por mayores tasas de consumo eléctrico y electrónico, ciclos de vida más cortos y menores posibilidades de reparación. La creciente contaminación por metales pesados y basura electrónica, provoca la destrucción de hábitats, como los fondos marinos, y el deterioro de la calidad del agua en muchas regiones del planeta.

Kate Crawford y Vladan Joler presentaron una obra artística que reflejaba en un gráfico la «anatomía» de un sistema de inteligencia artificial (Amazon Echo), incluyendo su costo en términos de trabajo humano y de recursos planetarios.

El papa León XIV también es claro y contundente a este respecto: «En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, una extensa red de recursos naturales, infraestructuras energéticas y, sobre todo, personas. Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos empleados en actividades poco visibles pero esenciales… A este arduo trabajo invisible se suma la tarea, aún más brutal, de la extracción de los recursos necesarios para la producción de los dispositivos y microprocesadores en los que se basa la IA. En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras. Cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa… No basta con invocar la eficiencia ni con alabar los beneficios de la innovación, si estos se basan en una cadena de explotación que se mantiene deliberadamente oculta (Magnifica humanitas, 173).

IA y desafíos existenciales

Dicho todo esto, la IA se ha convertido también en un tema de nuestro tiempo porque se alude al riesgo existencial que parece suponer, como han anunciado en estos días, precisamente, algunos de los magnates de las grandes corporaciones tecnológicas que dominan este negocio. Alertan de que la IA podría ejecutar acciones autónomas y que los humanos podríamos perder el control sobre sus acciones. Este tipo de afirmaciones son interesadas e incorrectas. Permítanme un comentario breve.

Para empezar, no hay algo así como una «voluntad» de las máquinas y lo que hacen este tipo de afirmaciones es desviar la atención sobre los verdaderos responsables de los fallos que se mencionan. Cualquier acción de la IA requiere recursos y personal del mundo real: energía, como hemos visto, potencia de cálculo, dinero, derechos de acceso… Y todo esto depende de personas. Un agente de IA no hace nada que no haya sido hecho posible antes por personas, tanto desde el punto de vista técnico como organizativo. El despliegue de agentes con amplios permisos y sin supervisión es un fallo de gobernanza, no una propiedad emergente de la tecnología. Los agentes no se escapan. Están diseñados para optimizar un objetivo y, si no se establecen límites sobre cómo se puede alcanzar ese objetivo, el agente lo seguirá ciegamente.

Como dice la especialista en tecnología Virginia Dignum, no hay pruebas empíricas de que la IA suponga un riesgo existencial. Tampoco hay pruebas de que la IA tenga conciencia, voluntad o intenciones, y las arquitecturas actuales no ofrecen ningún mecanismo que las permita. Estos sistemas generan resultados que se ajustan a los patrones estadísticos de sus datos de entrenamiento y al objetivo que se les ha asignado. Los casos de los que se ha informado en los que los modelos «traman» o «se resisten a ser apagados» provienen de entornos de prueba artificiales en los que se provoca ese comportamiento. En todos y cada uno de esos casos, alguien le dio primero al sistema acceso a la capacidad de cálculo, a la energía, a internet y al dinero. Parafraseando a Nietzsche, la IA es humana, demasiado humana.

Se produce una «transferencia»
de lo humano a la máquina y
una deshumanización creciente
de las personas

Esa idea de que los sistemas de IA nos van a «esclavizar» requiere una entidad con objetivos propios y medios independientes para llevarlos a cabo. No existe tal entidad. La versión realista de ese escenario es un Estado u organización que utiliza la IA para concentrar el poder, vigilar y coaccionar. Como titulaba recientemente la escritora Irene Lozano, «No nos matará la IA, quizá sus dueños» (El País, 15/09/2026, p. 12).

En cambio, estos anuncios apocalípticos, que son recurrentes, tienen más que ver con la posible burbuja que han generado estas grandes compañías, con inversiones billonarias, deudas crecientes y la sospecha de que los avances no son tan rápidos y exitosos como se pensaba. Por no hablar también del cuello de botella que supone el problema del coste energético, al que nos hemos referido antes. Y todo ello en un contexto en el que algunas de estas grandes compañías, como OpenAI (ChatGPT) ha pospuesto su salida a bolsa. OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo.

Lo peor de toda esta estrategia del pánico, que está generando una suerte de «IA ansiedad», es provocar una inquietud angustiosa e impotente que nos impide en muchos casos ver y afrontar los riesgos reales de productos de IA de uso cotidiano. Tal es el caso de las IA afectivas y de compañía a las que me voy a referir.

IA y lenguaje

Sin embargo, el mayor riesgo existencial de nuestra relación con la IA radica precisamente en aquellos aspectos en los que esta tecnología se aproxima más a la esencia de lo humano; esto es, aquello que se refiere a nuestra dimensión cognitiva (pensamiento y lenguaje) y afectiva (emocional y psicológica).

La IA es una tecnología del lenguaje, de la palabra, que genera discurso, que nos habla y que nos «lee». Esta característica, unida al desconocimiento de su verdadero funcionamiento (basado en el establecimiento de patrones y correlaciones entre enormes cantidades de datos), hace que aumentemos nuestra tendencia a antropomorfizar la IA: como la IA simula una suerte de conversación, tendemos a atribuirle otras características humanas como pensamiento, intención y emoción.

Esta concepción de la IA se ha disparado recientemente con la irrupción de los LLM (Large Language Models), modelos de lenguaje o también llamada IA generativa (ChatGPT, Claude, Gemini, Deepseek…), un conjunto de agentes conversacionales o sistemas de diálogo (chatbots) que simulan conversación. Mucho y muy rápidamente han evolucionado este tipo de sistemas desde Eliza, considerado el primer agente conversacional, creado en los años 60 del siglo XX por Joseph Weizenbaum.

De este modo, se produce una «transferencia» de lo humano a la máquina y una deshumanización creciente de las personas. De aquí el reto que plantea el título de este artículo; esto es, impulsar un desarrollo de la IA que promueva nuestra humanidad, que nos haga crecer en aquellos aspectos intrínsecamente humanos, pero sin renunciar ni hacer dejación de ellos (pensamiento y afectos), de modo que la IA no haga parecer justa y normal una visión antihumana según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo (Magnifica humanitas, 112).

¿Cómo se puede producir esta deshumanización en nuestra estrecha relación con la IA?

IA y pensamiento

Desde el punto de vista del pensamiento, las tecnologías de IA tienen potencial para apoyar el aprendizaje autodirigido y servir como andamiaje interesante para el crecimiento cognitivo, si se utilizan con criterio. Esto conduce a un desafío fundamental: las herramientas de IA requieren cada vez más que los usuarios ejerzan habilidades de pensamiento de orden superior para evaluar, monitorear y guiar sus resultados. Pero ¿cómo se desarrollan estas habilidades de orden superior en un contexto donde las tareas cognitivas de primer orden suelen delegarse a las máquinas? ¿Qué tipos de prácticas y habilidades se necesitan para asegurar que las personas, especialmente los niños, niñas y jóvenes, desarrollen las capacidades críticas y reflexivas necesarias para su desarrollo cognitivo y un buen manejo de la IA?

La situación en este momento es preocupante y está desafiando el sentido de la educación a todos los niveles, desde el más básico al universitario. Se producen fenómenos como la «deuda cognitiva», que no es sino la acumulación de oportunidades perdidas para practicar y desarrollar nuestras propias habilidades de pensamiento al depender en exceso de herramientas externas como la IA. Sin duda nos viene a la mente el uso de las herramientas de IA para la movilidad y los desplazamientos, la redacción de textos, el resumen de contenidos, elaboración de diagnósticos e hipótesis, etc.

Otro fenómeno creciente es la llamada «pereza metacognitiva», que implica no reflexionar ni supervisar nuestros propios procesos de pensamiento (sobre-confianza en la IA), lo que a menudo conduce a una dependencia acrítica de la IA.

Una característica
de las IAs afectivas es que
propician un tipo de relaciones
sin fricción («adulación digital»)

Estudios recientes sobre IA generativas dedicadas a la producción de texto muestran que, si bien pueden mejorar la productividad a corto plazo, también pueden reducir el compromiso profundo con el propio razonamiento, debilitando potencialmente el desarrollo metacognitivo. Esto es, se produce un desplazamiento de nuestra capacidad de ser críticos con nuestro propio pensamiento, una delegación en la máquina de una parte cada vez más creciente de nuestra cognición, reducida a una suerte de servicio que se alquila o externaliza a un sistema de IA.

Esta cuestión no es baladí si tenemos en cuenta que casi dos tercios de los jóvenes españoles utilizan herramientas de IA a diario, formando parte de su rutina diaria, para búsqueda de información (63%), estudio (59%), generación de ideas (47%) y trabajo (29%).

Pero más aún, uno de cada cinco jóvenes (20%) utilizan la IA para hablar de cuestiones personales y que no comparte con otras personas, como un amigo o un familiar. Le preguntan sobre cuestiones de salud mental, estrés, ansiedad, problemas de pareja o familiares, cuestiones amorosas y afectivas. Los jóvenes sustituyen los grupos de amigos o la consulta psicológica por la inmediatez, accesibilidad y disponibilidad permanente a la IA.

IA y afectos

Se definen las IA afectivas como los sistemas, dispositivos y aplicaciones de IA que median en la expresión, despliegue, experiencia y comunicación de sentimientos y emociones. Son sistemas de IA específicamente diseñados para interactuar con usuarios de modo y en contextos emocionalmente relevantes.

La IA afectiva se desarrolla y despliega en un contexto marcado por la dificultad contemporánea para crear y mantener vínculos sociales significativos. Es lo que en sociología se conoce como «desafiliación», caracterizada por el auge del individualismo, el declive de las redes de apoyo social y familiar, la atomización de las relaciones sociales, el desmantelamiento de los sistemas de protección social y, en definitiva, las dificultades para afrontar formas de sufrimiento social como la soledad no deseada.

Las IA afectivas ofrecen un entorno «seguro» frente a expectativas, rechazos y dificultades propias de las relaciones emocionales humanas. Ello, unido a la disponibilidad permanente, sin restricciones, hacen estas tecnologías muy atractivas para quienes buscan una conexión social. Así, estos digital companions se ofrecen como amigos, parejas o familia para afrontar situaciones de soledad e incluso problemas mentales como la depresión o la ansiedad.

La ciencia ficción nos ha presentado hace tiempo este tipo de tecnologías, en películas muy conocidas como Her, escrita y dirigida por Spike Jonze en 2013. Pero ya no es una ficción, diez años después. Abundan los sistemas de IA afectiva: Character.AI (Google) es la tercera plataforma conversacional más usada en el mundo, después de ChatGPT y Deepseek.

Character.AI funciona como un bot conversacional y permite a los usuarios chatear con personajes virtuales basados en celebridades, personajes ficticios, figuras históricas o creaciones originales de los propios usuarios. A diferencia de otros chatbots, cada personaje en Character.AI tiene una personalidad, estilo de conversación y trasfondo definidos, lo que hace que la interacción sea más narrativa, interpretativa y entretenida, manteniendo conversaciones contextuales.

Otros sistemas de IA afectiva muy conocidos son Replika («la IA que te cuida y está siempre para escuchar y hablar»), Nomi.AI («una IA que posee inteligencia emocional, creatividad y una memoria que rivaliza con la nuestra, lo que permite establecer relaciones auténticas y duraderas de cualquier tipo») o Friend («un compañero que puedes llevar puesto. Se lleva colgado de un collar y siempre está a la escucha. Cada “Friend” nace con su propia voz y personalidad»).

Una variante de estas IA afectivas, inquietante y que se está convirtiendo también en un floreciente negocio, son los llamados deadbots, desarrollos de IA especializados en la simulación post mortem de los fallecidos. Los deadbots son fruto de la conjunción de registros de vida digital después de la muerte (datos, archivos, imágenes, grabaciones) que se combinan en este momento con la IA generativa, y que puede desarrollar discurso e interacciones a partir de esos datos. Esta combinación se puede asociar asimismo a soportes de realidad virtual (hologramas) o de robótica, dotando al resultado de un gran realismo. Se usan también indistintamente las expresiones thanabots, ghostbots y griefbots. Esta última incide especialmente en la dimensión del duelo y, por tanto, pone el foco en la experiencia de las personas vivas en su relación con la muerte de un ser querido.

Si la IA generativa, los LLM como ChatGPT o Claude son sistemas de propósito general, los deadbots son un subconjunto de este tipo de agentes conversacionales que recrean de modo lingüístico y hasta visual a individuos fallecidos, estableciendo una suerte de puente entre la vida y la muerte. Así, los deadbots pueden manifestarse con la combinación de diferentes modos expresivos: escritura, voz, imágenes y hasta la recreación de cuerpos.

Precisamente, a diferencia de otras tecnologías digitales post mortem, los deadbots establecen una relación «activa» con las recreaciones de los fallecidos; son entidades digitales dinámicas que aprenden y se adaptan continuamente: tienen capacidad de procesar nueva información, responder a preguntas, ofrecer orientación e incluso participar en debates sobre temas de actualidad o asuntos personales, todo ello imitando la voz y los patrones lingüísticos únicos de las personas a las que imitan; no son recuerdos estáticos. La singularidad de los deadbots radica en su imprevisibilidad, lo que puede hacer que nuestras interacciones con ellos resulten extraordinariamente reales. No son solo herramientas pasivas para recordar; son un medio para mantener una conexión activa con aquellos que ya no están aquí e incluso para crear nuevos recuerdos en el proceso.

La industria de la vida digital después de la muerte es uno de los sectores de la IA que más rápidamente se está desarrollando en la actualidad, con el despliegue de deadbots y avatares post mortem, impulsado por el despliegue de la IA generativa, que permite la creación de personas sintéticas altamente realistas e interactivas. Here after ofrecía hasta hace unas semanas recuerdos interactivos con la voz del ser querido. Mywishes envía mensajes preprogramados a los seres queridos tras la muerte del usuario. Hanson Robotics ha creado bustos robóticos que interactúan con las personas utilizando los recuerdos y rasgos de personalidad del difunto. Afterlife permite crear una versión digital de nosotros mismos (intenciones, deseos, consejos, voz) que acompañe a nuestros familiares cuando hayamos fallecido. En España, una empresa pionera en este sector de la vida digital después de la muerte es Soalma (que permite almacenar legados digitales).

Es muy conocido el episodio de la serie Black Mirror titulado «Be Right Back» y emitido en 2013 (hace ya más de diez años). La película narra la historia de una joven mujer, Martha, que se comunica con una réplica basada en IA de su novio fallecido repentinamente. Una situación «inquietante», como se repite en la trama. Este episodio tiene un carácter anticipatorio de algunos interrogantes que se plantean con respecto a los deadbots, como su lugar en la realidad humana, su estatus o su identidad medio humana, medio máquina.

Se aduce a favor del despliegue y uso de deadbots el que pueden ser muy útiles para la elaboración del duelo por la pérdida de un ser querido, especialmente en algunos casos complejos. Este planteamiento es consecuente con un enfoque del duelo basado en la continuidad de los vínculos con la persona fallecida, lo que facilitaría dicho proceso de duelo.

Desarmar no significa
renunciar a la tecnología, sino
impedirle el dominio sobre
lo humano

Sin embargo, frente a ello, otros enfoques conciben el duelo como un proceso de renuncia que necesita, precisamente, de esas sensaciones de dolor y pérdida, de ese conjunto de emociones complejas y entretejidas provocadas por la muerte del ser querido, que es preciso sentir para poder enfrentar el duelo; lo contrario es la negación de la pérdida, que lleva a comportamientos desadaptativos.

Otro aspecto a considerar es el presupuesto de fondo que encierra el desarrollo de los deadbots y, en general, de las IA afectivas, que no es otro que el del solucionismo tecnológico al que nos hemos referido al principio: ante la dificultad para conectar con otras personas, ante la soledad, ante el sufrimiento por la muerte de un ser querido, recurrimos a la tecnología como solución, dentro del vasto movimiento para digitalizar las sociedades, reemplazando gente por IA.

Asimismo, el riesgo de manipulación y engaño que pueden ocasionar los las IA afectivas es muy elevado, debido a la situación de especial vulnerabilidad que se experimenta en un contexto de duelo, de soledad, de falta de compañía. Además, una característica de las IA afectivas es que propician un tipo de relaciones sin fricción, donde la IA tiende a dar la razón en lo que se conoce como «adulación digital» (digital sycophancy), muy atractiva para quienes buscan una conexión social segura y complaciente frente a rechazos o expectativas frustradas, pero que tiene un enorme impacto en una situación de fragilidad emocional.

A lo anterior, cabe añadir el riesgo de pérdida de privacidad por parte de los usuarios de estas IA, la dependencia emocional que se genera con respecto a estos artefactos y, en definitiva, una merma del contacto humano y un deterioro de las relaciones interpersonales, que propician una pérdida de la interacción social significativa.

Por último, hay señalar una cuestión no menor con relación al despliegue masivo de deadbots y otras IA afectivas: habría que preguntarse por el coste energético y el enorme impacto medioambiental consecuente de miles de millones de dispositivos, formando una suerte de mundo paralelo en un planeta que ha superado los límites de su capacidad bioproductiva y avanza hacia un colapso ecológico.

Coda

Volviendo con Virginia Dignum, hay que destacar que las cuestiones más importantes que plantea la IA no tienen que ver con la tecnología, sino con nosotros mismos: qué valoramos, qué estamos dispuestos a exigir y qué estamos dispuestos a aceptar como inevitable. El discurso de la inevitabilidad, ya se presente como una promesa de superinteligencia o como una amenaza de extinción, es en sí mismo un producto y beneficia a quienes lo venden. La paradoja es que, cuanto más se nos dice que el futuro lo deciden las máquinas, más lo decide, de hecho, un pequeño número de empresas y organizaciones.

En una inspiradora expresión de León XIV, se trata de «desarmar» la IA: «Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable y, por tanto, habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es solo ética o técnica; es ecológica en el sentido más radical, pues interpela una nueva dimensión de nuestra casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso no basta con regularla; es necesario desarmarla y hacerla acogedora» (Magnifica humanitas, 110).

La IA debe extender y ampliar nuestra humanidad, no sustituirla, debe servir para edificar esa familia humana universal, con derechos y deberes compartidos, donde la proximidad digital se convierta en una ocasión real de encuentro y de cuidado recíproco (Magnifica humanitas, 187). Debemos hacer que la técnica crezca, con todas sus enormes ventajas y oportunidades, sin que se repliegue el corazón. •

PARTICIPACIÓN Y DIÁLOGO

Con el Tema del mes nos ponemos a la escucha. Le animamos a realizar sus comentarios al final de esta página; a compartir este tema en las redes sociales, con la etiqueta #TécnicaConCorazón o enviando su aportación a participacion@noticiasobreras.es

Apoya y cuida Noticias Obreras

Tu aportación hace posible un periodismo comprometido con la dignidad del trabajo, la justicia social y la esperanza. Puedes colaborar también a través de Bizum al 13744. Cualquier aportación, por pequeña que sea, suma y nos ayuda a seguir construyendo, día a día, esta mirada compartida al servicio del bien común

Txetxu Ausin

Investigador científico
Instituto de Filosofía
CSIC