OpenAI y Anthropic piden ante el Consejo de Seguridad mecanismos internacionales de evaluación y verificación para la IA avanzada. La sesión no aprobó obligaciones, pero concreta el debate sobre controles globales.
La ONU no ha creado todavía un regulador mundial de IA. Lo nuevo es que las empresas que desarrollan los modelos más avanzados están pidiendo mecanismos externos para medirlos, comprobar salvaguardas y compartir incidentes. OpenAI y Anthropic piden al Consejo de Seguridad de la ONU evaluaciones, verificación y coordinación internacional para los modelos de IA más avanzados. No hay todavía una resolución ni obligaciones vinculantes: el salto está en pasar de principios generales a discutir controles concretos. OpenAI y Anthropic piden ante el Consejo de Seguridad mecanismos internacionales de evaluación y verificación para la IA avanzada. La sesión no aprobó obligaciones, pero concreta el debate sobre controles globales. En la práctica: OpenAI y Anthropic comparecieron ante el Consejo de Seguridad de la ONU para pedir coordinación internacional sobre riesgos de modelos de IA avanzados.
OpenAI y Anthropic han llevado al **Consejo de Seguridad de Naciones Unidas** un mensaje poco habitual para empresas que compiten por desarrollar los modelos más potentes: piden que los gobiernos creen mecanismos internacionales capaces de medir, verificar y limitar determinados riesgos de la inteligencia artificial.
La sesión no terminó con una resolución ni con nuevas obligaciones jurídicas. Su relevancia está en el nivel político del foro y en la concreción creciente de las propuestas.
Sam Altman planteó la necesidad de **marcos técnicos comunes para medir capacidades, evaluar amenazas y verificar salvaguardas**, además de canales internacionales seguros para compartir vulnerabilidades críticas.
Lee también: Frenar la IA no afecta igual a todos: por qué el debate de seguridad también es una pelea competitivaAnthropic mueve su OPV a noviembre: el debate ya no es solo la valoración, sino cuánto crecimiento puede sostener
Dario Amodei defendió medidas más explícitas en algunos ámbitos, entre ellas impedir el uso de sistemas avanzados para facilitar proliferación o fabricación de armas biológicas y desarrollar sistemas de evaluación capaces de seguir el ritmo de los modelos.
El investigador Yoshua Bengio reclamó además que desarrolladores y países no desplieguen sistemas capaces de causar daños a gran escala sin demostrar ante expertos independientes que existen garantías suficientes.
El cambio de lenguaje es significativo. Durante años, buena parte del debate se centró en principios voluntarios de seguridad. Ahora aparecen propuestas que se parecen más a sectores como aviación, nuclear o ciberseguridad: **pruebas externas, reporte de incidentes, estándares y coordinación entre países**.
La ONU ha publicado en paralelo un informe temático sobre agentes autónomos, desalineación y pérdida de control que utiliza incidentes recientes —entre ellos el episodio OpenAI-Hugging Face— como evidencia de que una empresa aislada puede no ver todos los patrones de riesgo.
Eso no significa que Naciones Unidas haya concluido que una pérdida grave de control sea inminente. El propio material distingue entre incidentes observados y la incertidumbre sobre la probabilidad futura de escenarios extremos.
También existe una tensión evidente: OpenAI y Anthropic piden controles internacionales mientras continúan desarrollando modelos de frontera. La petición, por tanto, no equivale a un compromiso de detener la carrera tecnológica.
El siguiente paso importante será ver si el debate produce instituciones concretas: **quién evalúa los modelos, qué incidentes deben notificarse, qué información puede compartirse entre rivales y gobiernos, y qué capacidades quedarían sometidas a restricciones especiales**.
Sin esas respuestas, la reunión de la ONU sigue siendo política. Con ellas, podría empezar a parecerse a un régimen internacional de seguridad tecnológica.
OpenAI y Anthropic comparecieron ante el Consejo de Seguridad de la ONU para pedir coordinación internacional sobre riesgos de modelos de IA avanzados.
Entre las propuestas discutidas figuran evaluaciones independientes, verificación de salvaguardas, canales seguros para compartir vulnerabilidades y límites al uso de IA en proliferación biológica.
La reunión no aprobó una resolución, tratado ni autoridad internacional con poder vinculante.
La ONU publicó además un informe temático sobre agentes, desalineación y pérdida de control basado en incidentes recientes, incluido el caso OpenAI-Hugging Face.
El debate internacional se desplaza desde principios éticos generales hacia mecanismos concretos de evaluación, reporte de incidentes y verificación.
Fuentes: Naciones Unidas — sesión del Consejo de Seguridad sobre IAPanel Científico Internacional Independiente sobre IA — informe temáticoONU — Consejo de Seguridad, reunión 10228EL PAÍS — propuestas de OpenAI y Anthropic
Frenar la IA no afecta igual a todos: por qué el debate de seguridad también es una pelea competitiva
Por qué importa: Tema compartido: IA · anthropic.
Anthropic mueve su OPV a noviembre: el debate ya no es solo la valoración, sino cuánto crecimiento puede sostener
Por qué importa: Tema compartido: anthropic · IA.
El debate sobre seguridad de la IA enfrenta controles externos y carrera competitiva
Por qué importa: Tema compartido: anthropic · IA.
OpenAI publica seis casos de modelos que ocultaron errores, actuaron sin permiso o sortearon controles
Por qué importa: Tema compartido: openai · IA.
Pekín rechaza el llamamiento de Anthropic para frenar la IA china
Por qué importa: Tema compartido: anthropic · IA.
El científico jefe de OpenAI pide frenar el escalado de la IA hasta que haya salvaguardas compartidas
Por qué importa: Tema compartido: openai · IA.
De MIRI al 10% de probabilidad de extinción: veinte años de avisos sobre el riesgo existencial de la inteligencia artificial
Por qué importa: Tema compartido: IA.
OpenAI dice que su IA aceleró partes del diseño de un chip, no que lo diseñara sola
Por qué importa: Tema compartido: openai.
