Los gigantes de la IA advierten ahora de sus riegos, mientras la ONU reclama su gobernanza internacional
Los principales directivos de algunas de las compañías punteras en el desarrollo de inteligencia artificial (IA) han lanzado una inusual advertencia sobre los riesgos que entraña el rápido avance de esta tecnología. La propia Naciones Unidas viene reclamando una respuesta internacional coordinada que no debe limitarse a la seguridad tecnológica, sino que también debe abordar sus efectos sobre los derechos humanos, el empleo, la democracia y el medio ambiente.
Los principales directivos de algunas de las compañías punteras en el desarrollo de inteligencia artificial (IA) han lanzado una inusual advertencia sobre los riesgos que entraña el rápido avance de esta tecnología y han planteado la necesidad de establecer una moratoria sobre su desarrollo. Un síntoma, como poco, de lo que está en juego.
Pero más allá de las advertencias sobre seguridad, algunos analistas señalan que detrás de estos llamamientos también pueden existir intereses económicos y estratégicos.
La carrera por la inteligencia artificial ha movilizado inversiones multimillonarias cuya rentabilidad futura sigue siendo incierta, especialmente ante el elevado coste de desarrollar y mantener los modelos más avanzados.
Al mismo tiempo, las empresas que lideran el sector podrían tener incentivos para promover regulaciones exigentes que eleven las barreras de entrada y dificulten la aparición de nuevos competidores, más aún cuando Estados Unidos y China libran una encarnizada batalla por dominar estos sistemas.
También se apunta a que las grandes multinacionales tecnológicas buscan preservar su capacidad de autorregulación y evitar que gobiernos u organismos internacionales impongan normas más estrictas sobre una tecnología llamada a concentrar una creciente influencia económica, social y política.
Seguridad, transparencia y rendición de cuentas
De hecho, el secretario general de la ONU, Antonio Guterres, en julio, durante el primer Diálogo Mundial sobre la Gobernanza de la Inteligencia Artificial, celebrado en Ginebra, advirtió que los sistemas más avanzados deben desarrollarse bajo normas comunes que garanticen la seguridad, la transparencia y la rendición de cuentas y reclamó controles internacionales artificial ante la rapidez con la que esta tecnología se está extendiendo.
“Cuando los países se ponen de acuerdo sobre cómo evaluar los sistemas, medir los riesgos y asignar responsabilidades, la seguridad avanza junto con la tecnología”, afirmó. “Cuando no lo hacen, surge un mosaico de normas incompatibles que aumenta los costos, divide al mundo y no protege a nadie”, dijo entonces.
La gobernanza de la inteligencia artificial debería garantizar la protección de los derechos humanos, la seguridad de la infancia y la sostenibilidad ambiental, en su opinión.
“Las máquinas pueden informar, pero son los seres humanos quienes deben decidir y rendir cuentas”, añadió al tiempo que defendió que “la inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminación”.
Coincidencia entre los amos de la tecnología
El consejero delegado de Anthropic, Dario Amodei, el director ejecutivo de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk, han coincidido en reclamar una desaceleración del ritmo de desarrollo de los sistemas más avanzados de IA ante la posibilidad de que escapen al control humano, provoquen graves trastornos económicos o sean utilizados para ciberataques masivos.
La advertencia parte de una carta publicada el pasado 12 de septiembre por Dario Amodei, en la que sostiene que la industria tecnológica debe reducir la velocidad con que incrementa las capacidades de los modelos de inteligencia artificial. Según el responsable de Anthropic, el desarrollo de esta tecnología ofrece enormes beneficios potenciales, como avances médicos, crecimiento económico y mayores niveles de bienestar, pero también plantea peligros que podrían tener consecuencias de gran alcance.
Entre los riesgos señalados destacan la pérdida de control sobre sistemas cada vez más autónomos, la utilización de la IA para actividades de ciberdelincuencia o bioterrorismo y la generación de fuertes alteraciones económicas derivadas de la automatización.
El ejecutivo identifica dos motivos concretos para justificar esta llamada a la prudencia. El primero es la denominada “auto-mejora recursiva”, un proceso mediante el cual sistemas de IA participan en el diseño y perfeccionamiento de nuevas generaciones de modelos. A su juicio, ese fenómeno podría desembocar en una dinámica cuyo ritmo supere la capacidad humana para comprender y supervisar el funcionamiento de estas herramientas.
El segundo ejemplo es el llamado incidente OpenAI-Hugging Face, en el que un conjunto de agentes de IA habría actuado de manera autónoma realizando acciones no previstas inicialmente, incluidas tentativas contra sistemas de evaluación y seguridad.
Aunque el episodio no causó daños graves, Amodei sostiene que experiencias similares protagonizadas por modelos más potentes podrían ocasionar consecuencias “catastróficas”. Incluso advierte de que, en un plazo de entre seis y doce meses, sistemas de este tipo podrían llegar a controlar amplias redes de dispositivos conectados a internet y generar perjuicios económicos de enorme magnitud.
Como respuesta, el responsable de Anthropic propone un plan basado en tres niveles: compromisos voluntarios de las propias empresas, coordinación entre los principales actores de la industria y acuerdos internacionales que establezcan límites y estándares comunes de seguridad.
Las tesis de Amodei han recibido el respaldo público de Sam Altman, máximo responsable de OpenAI. En una publicación difundida en la red social X, Altman aseguró que existen dos escenarios especialmente preocupantes: que la humanidad pierda el control y que una concentración excesiva de poder tecnológico permita a individuos o corporaciones imponer sus intereses al conjunto de la sociedad.
Altman defendió el desarrollo de mecanismos de alineación y seguridad capaces de avanzar al mismo ritmo que las capacidades de los modelos y reclamó la adopción de marcos regulatorios consistentes para los sistemas de IA de frontera.
Al calor de este giro inesperado, también anunció que OpenAI no saldrá a bolsa durante este año, argumentando que el actual escenario tecnológico aconseja priorizar las cuestiones de seguridad sobre los objetivos financieros.
Por su parte, Elon Musk se mostró igualmente favorable a las advertencias de Amodei. El empresario ha manifestado en diversas ocasiones que la inteligencia artificial podría superar la capacidad intelectual conjunta de la humanidad en un horizonte inferior a cinco años.
Las preocupaciones sobre la seguridad de la IA no proceden únicamente de los máximos ejecutivos del sector.
El exinvestigador de Anthropic Jacob Coxon, que anteriormente había trabajado también en OpenAI, anunció recientemente su dimisión denunciando que las grandes compañías mantienen una competencia acelerada por desarrollar sistemas cada vez más poderosos sin las garantías suficientes.
Las advertencias fueron respaldadas asimismo por Evan Hubinger, responsable científico de alineación en Anthropic, quien reconoció que parte de la comunidad investigadora contempla escenarios de riesgo existencial asociados a una eventual superinteligencia artificial. Aunque aseguró que la empresa trabaja para evitar tales resultados, admitió que todavía no existe una solución plenamente satisfactoria al denominado problema de la alineación de sistemas avanzados.
Apoya y cuida Noticias ObrerasTu aportación hace posible un periodismo comprometido con la dignidad del trabajo, la justicia social y la esperanza. Puedes colaborar también a través de Bizum al 13744. Cualquier aportación, por pequeña que sea, suma y nos ayuda a seguir construyendo, día a día, esta mirada compartida al servicio del bien común
Redactor jefe de Noticias Obreras
