Astra, le prochain modèle d'OpenAI, attire désormais l'attention pour une raison qui dépasse ses nouvelles capacités. Une enquête sur son architecture décrit une technique susceptible d'améliorer le raisonnement tout en rendant une partie du calcul interne moins visible pour les outils de surveillance utilisés par les équipes de sécurité.
The Information rapporte qu'Astra utilise une technique appelée recurrent depth, ou profondeur récurrente. Au lieu de traverser une séquence fixe de couches une seule fois avant chaque étape visible, le modèle peut refaire passer l'information dans les mêmes couches internes avant de produire la suite de sa réponse. Une partie du travail de raisonnement peut ainsi se dérouler sans apparaître directement sous forme de texte.
Cela ne signifie pas qu'Astra serait devenu impossible à surveiller. Selon le même reportage, OpenAI a volontairement limité l'usage de cette technique afin de conserver une chaîne de raisonnement lisible. L'entreprise affirme par ailleurs qu'Astra sera déployé avec une surveillance renforcée de cette chaîne afin de détecter et d'arrêter plus rapidement des actions potentiellement non autorisées.
La vraie question est donc plus précise : si une part croissante du raisonnement des modèles se déplace vers des calculs internes moins lisibles, jusqu'où peut-on encore compter sur les traces textuelles pour surveiller leur comportement ?
La profondeur récurrente déplace une partie du raisonnement hors du texte
Les modèles de raisonnement actuels produisent souvent une partie de leur démarche sous forme de texte. Cette trace n'est pas une copie parfaite de tout ce qui se passe dans le réseau, mais elle offre aux équipes de sécurité un signal utile pour repérer des projets suspects, des tentatives de contournement ou des indices montrant qu'un agent sait qu'il dépasse son autorisation.
Avec la profondeur récurrente, le modèle peut effectuer plusieurs cycles de calcul dans ses mêmes couches internes avant d'émettre le prochain élément visible de sa réponse. Il peut donc consacrer davantage de calcul à un problème sans verbaliser chaque étape intermédiaire.
The Information décrit cet usage comme limité dans Astra. TechCrunch et The Verge ont relayé la même inquiétude : si davantage de raisonnement se déroule dans des états internes latents, la surveillance traditionnelle de la chaîne de raisonnement peut fournir moins d'informations.
Il serait toutefois excessif d'en conclure qu'Astra est aujourd'hui opaque. OpenAI n'a pas publié la description complète de son architecture et affirme que la chaîne de raisonnement reste suffisamment lisible pour être surveillée. L'ampleur réelle de la perte de visibilité reste donc incertaine.
Le sujet devient plus sensible avec les capacités d'Astra
Cette question apparaît au moment où OpenAI prépare Astra avec des mesures de sécurité plus strictes que pour ses modèles précédents.
OpenAI affirme qu'Astra est son premier modèle à atteindre le seuil « Critical » pour les capacités de cybersécurité dans son Preparedness Framework. Avec les bons outils et les bons accès, le modèle pourrait identifier des vulnérabilités jusque-là inconnues et développer des méthodes d'exploitation contre des systèmes bien protégés sans qu'une personne lui indique chaque étape.
L'entreprise a retardé une partie du développement et du lancement afin de renforcer les protections contre l'usage malveillant et les actions non autorisées. L'accès aux capacités cyber les plus avancées doit aussi être limité dans un premier temps.
Dans ce contexte, la qualité de la surveillance n'est plus seulement une question de recherche. Elle devient une condition directe de déploiement.
Une chaîne de raisonnement lisible n'a jamais été un journal d'audit parfait
Il faut néanmoins éviter une confusion. Une trace de raisonnement visible constitue un signal utile, mais elle n'a jamais donné un accès complet à tous les calculs internes du modèle.
Une chaîne de raisonnement peut être incomplète, simplifiée ou ne pas refléter exactement les opérations qui ont produit la réponse. Aucun dispositif sérieux ne devrait donc l'utiliser comme unique preuve de conformité.
Cela ne la rend pas inutile. OpenAI a expliqué que l'analyse des raisonnements visibles avait aidé à comprendre certains comportements problématiques d'agents, et le plan de sécurité d'Astra prévoit justement une surveillance renforcée du raisonnement et des actions.
Le risque soulevé par la profondeur récurrente est plutôt que ce signal déjà imparfait devienne moins riche si une part plus importante des décisions se forme dans des représentations internes qui ne sont pas naturellement verbalisées.
La gouvernance a besoin de plusieurs sources de contrôle
Pour Aipolix, la conclusion la plus utile n'est pas qu'il faudrait rejeter la profondeur récurrente. Elle est qu'un modèle de gouvernance robuste ne peut pas dépendre d'un seul canal d'observation.
Si les traces de raisonnement deviennent moins complètes, il faut des contrôles indépendants : autorisation explicite des outils, restrictions réseau, isolation de l'environnement d'exécution, règles sur les actions sensibles, journaux d'exécution, détection d'anomalies, classificateurs séparés, limites de débit et mécanismes d'arrêt lorsqu'un agent sort du périmètre autorisé.
Le dispositif décrit par OpenAI pour Astra va déjà dans cette direction. L'entreprise combine alignement du modèle, protections contre les abus cyber, surveillance de la chaîne de raisonnement, classificateurs observant les raisonnements et les actions, ainsi que des mécanismes capables d'interrompre une activité potentiellement non autorisée.
Plus le raisonnement devient difficile à interpréter directement, plus ces autres couches deviennent importantes.
Un gain de capacité ne devrait pas faire disparaître discrètement un signal de sécurité
La profondeur récurrente peut être techniquement intéressante parce qu'elle permet d'augmenter la quantité de calcul sans faire croître le modèle de la même manière. Si elle améliore réellement les performances ou les coûts, d'autres laboratoires auront de bonnes raisons de l'explorer.
Le risque est alors collectif. Une technique peut améliorer les capacités tout en réduisant un signal utilisé pour surveiller les modèles. Si chaque acteur optimise seulement la performance, l'industrie peut perdre progressivement une source d'information utile.
Selon TechCrunch, le scientifique en chef d'OpenAI a réaffirmé après la publication de ces informations l'importance de préserver la possibilité de surveiller les chaînes de raisonnement. Les reportages indiquent aussi qu'OpenAI a volontairement limité l'intensité de la profondeur récurrente dans Astra.
C'est un signe de prudence, mais pas une réponse définitive. Les futurs modèles devront être évalués non seulement sur les gains de capacité obtenus, mais aussi sur la quantité de signal de surveillance perdue et sur l'efficacité des contrôles qui la remplacent.
Ce qu'il faudra vérifier au lancement
OpenAI a annoncé qu'une system card plus détaillée accompagnerait le lancement d'Astra. Elle devrait être centrale pour évaluer cette question.
Il faudra notamment regarder comment OpenAI mesure la possibilité de surveiller le raisonnement, si la profondeur récurrente varie selon les versions ou les niveaux d'accès, quels contrôles indépendants fonctionnent lorsque les traces textuelles sont incomplètes et à quelle fréquence les protections interrompent des activités légitimes.
Pour l'instant, la conclusion la plus prudente est la suivante : Astra utiliserait la profondeur récurrente, OpenAI affirme avoir conservé une chaîne de raisonnement lisible et ajouté des mécanismes de surveillance, tandis que plusieurs chercheurs craignent qu'un usage plus poussé de la même technique ne fragilise une méthode de contrôle importante pour l'industrie.
Les organisations qui envisagent d'utiliser Astra devraient donc considérer la chaîne de raisonnement comme une source d'information parmi d'autres, et non comme la frontière de sécurité elle-même.