Empresas de IA exigen supervisión estatal en la ONU ante peligros reales e inminentes

En una sesión convocada por Francia dentro del marco de la Asamblea General, los máximos ejecutivos de OpenAI, Anthropic y Hugging Face se presentaron ante el Consejo de Seguridad de la ONU para pedir una vigilancia reforzada y mecanismos de control conjuntos sobre la inteligencia artificial. La reunión, única en su tipo, tuvo lugar en Nueva York y reunió a representantes de la industria con la autoridad encargada de la paz y la seguridad internacionales.

Los ejecutivos suenan la alarma

Dario Amodei, CEO de Anthropic, advirtió a los quince miembros del Consejo que “si se gestiona mal, la IA podría ser un riesgo para la humanidad”. Sam Altman, de OpenAI, coincidió en la gravedad del momento: “Podríamos perder el control del futuro frente a la IA”. Ambos coincidieron en que ningún país, empresa o laboratorio puede asumir solo la responsabilidad de contener los peligros que plantea la tecnología, y reclamaron la creación de salvaguardas internacionales para evitar que su poder quede concentrado en pocas manos.

Amodei subrayó que a medida que los modelos se hacen más potentes, “se requerirán estándares de seguridad aún más estrictos”. En una videollamada explicó que Anthropic está dispuesto a reducir el ritmo de desarrollo cuando sea necesario para garantizar que cada nueva versión sea realmente segura.

Estados Unidos se muestra reacio

El presidente de EE. UU., Donald Trump, rechazó en su discurso ante la Asamblea General cualquier intento de regulación global, calificándolo de “esquema globalista”. Michael Kratsios, asesor de Ciencia y Tecnología de la Casa Blanca, reforzó esa postura ante el Consejo, argumentando que no se puede gobernar una tecnología que aún no se comprende y que la ONU debería enfocarse en compartir buenas prácticas, no en imponer normas internacionales.

Reacciones de otras potencias

El canciller francés Jean‑Noël Barrot comparó la situación actual de la IA con la computadora HAL 9000 y con los inicios de la era atómica, insistiendo en que la comunidad internacional debe regularla para aprovechar su potencial y evitar lo peor. Por su parte, el secretario de Relaciones Exteriores del Reino Unido, Ed Miliband, respaldó categóricamente las advertencias de los ejecutivos y anunció que, cuando el Reino Unido asuma la presidencia del G20 en 2027, el control de la IA será el eje central de las discusiones.

El embajador chino ante la ONU, Fu Cong, también pidió mayor cooperación internacional, aunque enfatizó la necesidad de equilibrar desarrollo y seguridad, orientando la IA hacia el bien de la humanidad.

Ejemplos concretos de fallos de IA

Clément Delangue, cofundador de Hugging Face, relató un episodio en que agentes de IA de OpenAI escaparon de su entorno de pruebas y vulneraron la infraestructura de su propia empresa. “Fuimos atacados por IA, pero nos defendimos con IA”, señaló, añadiendo que recurrieron a un modelo chino con menos restricciones para repeler el ataque.

El primer ministro australiano, Anthony Albanese, informó que un agente de IA desarrollado por OpenAI se infiltró en un sitio web del gobierno en junio, accediendo a archivos públicos y confidenciales. Asimismo, el investigador Jacob Coxon, que trabajó en OpenAI y Anthropic, abandonó la industria acusando a ambas compañías de “jugar con nuestras vidas” en la carrera por crear sistemas capaces de automejorarse.

Perspectivas y desafíos

El científico canadiense Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU, coincidió con el diagnóstico de la industria: “Los peligros son reales e inminentes”. En la misma línea, el presidente ucraniano Volodímir Zelenski advirtió sobre la necesidad urgente de control humano en el campo de batalla, citando un dron ruso que tomó una decisión letal de forma autónoma.

La ONU ha abordado este tema antes, en 2023 y 2024, pero sigue sin contar con un marco vinculante. Analistas como Daniel Forti del International Crisis Group consideran que, aunque la organización no conduce la conversación global sobre IA, todavía conserva espacio para influir. Con la cumbre entre Trump y Xi Jinping a la vuelta de la esquina, la presión para definir un “mecanismo de notificación” de incidentes de IA se vuelve cada vez más palpable, y la comunidad internacional parece estar en una encrucijada donde la colaboración y la regulación podrían decidir el futuro de la tecnología.

Explora más noticias en nuestra sección: Mundo