Altman dice que el mundo tiene motivos para temer a la IA: los dos riesgos que identifica y el límite de su argumento

Sam Altman utilizó su intervención en **Dreamforce 2026** para reconocer que el miedo público ante la inteligencia artificial tiene una base real. La frase más difundida —que el mundo 'tiene razón en tener miedo'— necesita contexto: se refería a dos riesgos concretos, no a una afirmación de que una catástrofe sea inevitable.

El primero es un problema de **pérdida de control**. A medida que los modelos ganan autonomía, capacidad de actuar con herramientas y de ejecutar tareas largas, aumenta la posibilidad de que una instrucción incompleta, un fallo de alineamiento o una vulnerabilidad produzcan consecuencias que el operador no pretendía.

El segundo es político y económico: **demasiado poder concentrado** en unas pocas compañías capaces de desarrollar los modelos más avanzados. Altman planteó que una empresa con suficiente influencia tecnológica podría afectar a la economía o imponer, de forma directa o indirecta, una determinada visión del mundo.

Lee también: OpenAI publica seis casos de modelos que ocultaron errores, actuaron sin permiso o sortearon controles · Frenar la IA no afecta igual a todos: por qué el debate de seguridad también es una pelea competitiva

WIRED publicó un fragmento de la conversación en el que Altman articula ambos riesgos. Axios y otros medios presentes en Dreamforce recogen además su confianza en que la industria puede desarrollar sistemas seguros. Es importante mantener las dos partes juntas: reconoce el riesgo y, al mismo tiempo, pide confianza en la capacidad de los desarrolladores para gestionarlo.

Ahí aparece la principal tensión de gobernanza. Si el problema incluye precisamente que unas pocas empresas acumulen demasiado poder, dejar la supervisión exclusivamente en manos de esas mismas empresas puede parecer circular. La alternativa es añadir evaluadores externos, requisitos públicos, responsabilidad legal o mecanismos de auditoría.

Altman no está solo en la primera mitad del diagnóstico. Dario Amodei, de Anthropic, ha defendido mecanismos para acompasar el avance de los modelos con seguridad; otros líderes tecnológicos aceptan controles internos pero rechazan una ralentización coordinada o nuevas capas regulatorias generales.

Jensen Huang y Mark Zuckerberg han defendido enfoques más centrados en ingeniería y responsabilidad individual de cada laboratorio. Ese desacuerdo muestra que no existe un consenso industrial sobre cuánto control debe salir fuera de las empresas.

La discusión se ha vuelto más concreta porque los modelos ya realizan tareas que antes exigían intervención humana constante: programación, investigación, navegación web y operación de herramientas. El riesgo cambia cuando un sistema no solo genera texto, sino que puede encadenar decisiones y acciones.

Eso no significa que exista hoy una IA autónoma capaz de mejorar indefinidamente sin humanos. Hay avances hacia agentes y automatización de investigación, pero conceptos como auto-mejora recursiva completa siguen siendo una frontera en desarrollo, no un hecho consumado.

Otro elemento es la ciberseguridad. Un modelo más capaz también puede ayudar a descubrir vulnerabilidades, automatizar defensa o analizar grandes volúmenes de señales. Altman ha presentado esa capacidad defensiva como parte de la respuesta, pero la misma tecnología puede reducir el coste de determinados ataques.

El equilibrio entre apertura y control se vuelve difícil. Publicar más detalles facilita escrutinio científico, pero también puede proporcionar capacidades a actores maliciosos. Restringir modelos puede reducir algunos riesgos y a la vez concentrar todavía más poder en quienes tienen acceso.

La regulación europea ya establece obligaciones para determinados usos y modelos, mientras Estados Unidos mantiene un marco distinto y más fragmentado. El debate de Dreamforce no resuelve esa divergencia; muestra que los desarrolladores esperan operar bajo reglas diferentes según jurisdicción.

La frase 'confíen en nosotros' es especialmente relevante porque no constituye un mecanismo verificable. La confianza puede apoyarse en transparencia, evaluaciones independientes, publicación de incidentes, gobernanza y responsabilidad. Sin esas piezas, sigue siendo una promesa corporativa.

También hay incentivos comerciales que deben reconocerse. Las compañías compiten por clientes, talento y capital; la seguridad puede ser una ventaja de producto, pero retrasar un lanzamiento tiene coste. Un sistema robusto de gobernanza intenta que no dependa únicamente de que cada empresa considere voluntariamente rentable ser prudente.

En limpio: Altman ha normalizado públicamente dos riesgos que antes podían presentarse como preocupaciones externas al sector. **El debate pendiente no es si existe riesgo, sino qué controles son suficientes y quién los aplica** cuando las mismas empresas que piden confianza también compiten por avanzar más rápido.