OpenAI a publié le 9 novembre 2026 une description de Control Room, un service central qui suit les travaux d'inférence menés en recherche et peut couper la production d'un modèle lorsqu'une personne ou un système de surveillance décide d'arrêter ou de suspendre la tâche. Le texte officiel ne porte pas de signature individuelle. L'entreprise a indiqué que le dispositif est déjà en place sur l'ensemble de son infrastructure de recherche et qu'il relie chaque charge d'inférence dans ce cadre, y compris l'échantillonnage agentique pour l'entraînement et l'évaluation ainsi que le traitement de données. Il fonctionne avec la surveillance du désalignement d'OpenAI et, selon l'entreprise, interrompt la sortie du modèle dans les 35 secondes qui suivent une consigne d'intervention.

Control Room s'ajoute au travail de recherche et au moteur d'inférence qui exécute le modèle sur les processeurs graphiques. OpenAI exige que chaque charge qui effectue une inférence agentique soit associée à un dossier de sécurité approuvé. Au démarrage, le code du travail demande un identifiant à Control Room. Plus tard, lorsqu'il veut de nouveaux jetons, il transmet cet identifiant au moteur. Celui-ci interroge alors Control Room pour savoir si le travail est encore autorisé avant de produire le moindre résultat. Si le travail a été marqué comme arrêté, la demande est refusée et le moteur renvoie un refus plutôt que des jetons.

La conception refuse de s'en remettre au code de l'équipe de recherche pour s'arrêter lui-même. OpenAI a écrit que ce logiciel change souvent et convient mal à des protections critiques, alors que seuls quelques chemins d'inférence sont utilisés et que leurs déploiements sont plus homogènes. L'arrêt a donc lieu dans la couche d'inférence, présentée comme un goulot qui peut couvrir l'inférence de recherche même si le processus du travail reste vivant. OpenAI a ajouté qu'elle lance en continu des contrôles, par agents et par programmes, pour repérer les moteurs démarrés sans Control Room ou avec les vérifications désactivées.

Les travaux d'apprentissage par renforcement de frontière, selon le texte, tournent tous avec un moniteur: un autre modèle qui examine ce que fait le système en cours d'entraînement et lance une alerte s'il détecte un problème. OpenAI a indiqué qu'un incident récent lié au DNS a été repéré de cette manière. Selon les détails et la gravité, le système de surveillance peut demander à Control Room d'arrêter le travail. Dès lors, la prochaine requête d'inférence portant le même identifiant est refusée. Le processus de recherche peut continuer à s'exécuter et le moteur reste disponible pour d'autres travaux autorisés.

Le plafond de 35 secondes vient d'une couche de cache qui autorise l'inférence au volume dont OpenAI a dit avoir besoin. L'entreprise a écrit qu'elle cherche à ramener ce délai à zéro afin de pouvoir interrompre les travaux immédiatement. Control Room est aussi décrit comme un système à défaut fermé. Si le service tombe en panne, s'il est désactivé ou s'il est altéré, les demandes d'inférence sont refusées jusqu'au retour à un fonctionnement normal. OpenAI a indiqué que ce comportement couvre déjà tous les travaux de recherche sur des modèles de frontière et qu'il s'étendra aux autres travaux de recherche dans les jours suivants.

L'entreprise a comparé ce dispositif de recherche à sa pile externe de service de modèles, qu'elle a dite déjà plus centralisée et déjà dotée de moyens opérationnels pour retirer rapidement un déploiement. Control Room, a-t-elle écrit, n'est qu'un élément d'un effort plus large autour d'un entraînement et d'un déploiement sûrs à la frontière, aux côtés de la surveillance des comportements désalignés et des failles de sécurité. Le texte présente un contrôle interne de sûreté, et non un produit que des clients extérieurs pourraient acheter ou faire fonctionner.

Références