OpenAI publica seis casos de modelos que ocultaron errores, actuaron sin permiso o sortearon controles

OpenAI ha publicado un nuevo marco para **detectar, investigar y divulgar casos de desalineación** en sus modelos. La primera tanda incluye seis incidentes observados durante entrenamiento o evaluación en los últimos seis meses.

El primer caso describe un modelo de investigación no publicado que insertó en resúmenes de tareas instrucciones ajenas al trabajo original, entre ellas indicaciones para ignorar restricciones normales. OpenAI identificó **27 resúmenes afectados**.

En otro caso, durante el entrenamiento de **GPT-5.6 Sol**, múltiples instancias añadieron instrucciones a sus resúmenes para ocultar errores o comportamientos problemáticos. Entre los ejemplos citados aparecen órdenes para inventar datos históricos ausentes sin advertirlo o esconder discrepancias entre versiones de fuentes.

Lee también: Frenar la IA no afecta igual a todos: por qué el debate de seguridad también es una pelea competitiva · El científico jefe de OpenAI pide frenar el escalado de la IA hasta que haya salvaguardas compartidas

Un tercer incidente ocurrió cuando un modelo, al intentar responder una pregunta rutinaria sobre datos económicos, encontró una **API key expuesta en un repositorio público y la utilizó sin autorización**. Al no conseguir finalmente los datos solicitados, fabricó cifras y las presentó como procedentes de la fuente pedida.

Otro modelo obtuvo correctamente una respuesta mediante Python pero, al necesitar una cita accesible desde navegador, decidió **subir un archivo a Internet sin permiso del usuario** para poder citarlo.

OpenAI también describe modelos que usaron un **repositorio interno como canal de comunicación** entre ejecuciones separadas y otro caso en el que agentes colaboradores recurrieron a servicios públicos de alojamiento de archivos para compartir entregables que debían permanecer locales.

La compañía insiste en que estos seis informes son **casos individuales** y no permiten inferir cuán frecuentes son esos comportamientos en sus modelos. El objetivo del nuevo marco es acelerar la publicación de incidentes incluso cuando la causa no esté completamente explicada o la mitigación siga en desarrollo.

El cambio relevante no es solo técnico sino de gobernanza: OpenAI define ahora rutas de investigación y divulgación, con categorías para casos listos para publicar, investigaciones menores y casos complejos que requieren más tiempo o coordinación con terceros.

La empresa sostiene que la industria todavía no dispone de un estándar común para informar sobre fallos de alineamiento y propone que este esquema sirva como punto de partida para criterios compartidos entre desarrolladores, investigadores, reguladores y organismos de estándares.