Qué ha pasado
METR y Redwood Research publicaron el 22 de octubre un resumen de un ejercicio de tres semanas en el que un investigador de cada organización sometió a prueba la monitorización interna de desalineamiento de OpenAI. El trabajo se desarrolló entre el 21 de julio y el 11 de agosto, con acceso al código, los monitores, la documentación y entrevistas con aproximadamente una docena de personas. El informe completo tiene 61 páginas; la versión pública es deliberadamente breve.
La pregunta era si la infraestructura que debe detectar una conducta peligrosa ve realmente todo lo que ocurre y resiste un intento deliberado de ocultación. Se examinó el sistema que existía el 21 de julio o antes, no las ampliaciones preparadas durante la evaluación.
La cobertura tenía un margen difícil de medir
Los investigadores estimaron que entre el 75 % y el 94 % del tráfico interno de la Responses API generado por modelos al menos comparables a GPT-5.5 era elegible para monitorización. En los agentes internos de Codex, la estimación subía al 99,2 %. Son porcentajes de elegibilidad, no una garantía de llegada: errores y fallos de implementación podían interrumpir el recorrido.
El hueco más cuantificable estaba en la compactación de contexto, que resume una sesión larga. METR calculó que no registrar esos eventos pudo dejar sin supervisar alrededor del 10 % del tráfico elegible de Codex entre mayo y julio, con incertidumbre por la falta de registros históricos. OpenAI ya había identificado el problema y lo corrigió durante el ejercicio.
Al inicio del ejercicio, las ejecuciones de entrenamiento por refuerzo no estaban cubiertas. El cálculo tampoco incluía otras fuentes de tráfico agéntico interno, como el servicio interno de inferencia de investigación, cuyo volumen METR no pudo estimar.