OpenAI a annoncé le 16 novembre 2026 avoir signe des accords avec quatre evaluateurs independants, Apollo Research, METR, Transluce et Goodfire, pour ce qu'elle appelle sa premiere phase d'evaluations integrees. Selon l'entreprise, l'objectif est de donner a des experts independants, sur une periode prolongee, un acces approfondi aux modeles et systemes internes, afin d'evaluer l'alignement des modeles et l'efficacite des garde-fous, en particulier lorsque ces questions comptent pour ses dossiers de surete.
D'apres le texte, les evaluateurs recevront, selon les besoins de chaque exercice, l'acces a une partie des memes ressources internes que celles utilisees par les chercheurs d'OpenAI. La liste comprend des points de controle de modeles, le code source, des donnees d'entrainement et d'evaluation, des systemes de surveillance, de la documentation technique, ainsi que des echanges avec les chercheurs et ingenieurs responsables. OpenAI precise que les premieres evaluations portent sur l'alignement et les garde-fous pendant l'entrainement et l'usage interne, et que ce travail s'inscrit dans des engagements pris au titre du White House Accord on Super Intelligence pour permettre des examens independants de ses controles de surete.
L'entreprise decrit un mandat distinct pour chaque organisation. Apollo Research doit examiner si des modeles pourraient agir de maniere dissimulee contre les intentions de leurs concepteurs, et si les garde-fous d'OpenAI detecteraient un tel comportement, en testant quatre affirmations: que l'entrainement n'a pas incite a la subversion, que des evaluations exigeantes et du red teaming ne la font pas apparaitre, que les modeles n'ont pas tente de le faire en usage interne, et que le raisonnement sous-jacent serait detectable. Pour la premiere etape, OpenAI indique qu'Apollo aura acces a des modeles publics et non publies et a des points de controle d'entrainement selectionnes, a des donnees et resultats d'evaluation pertinents, a des registres d'interventions d'entrainement, aux systemes de surveillance et aux comportements signales, ainsi qu'a des chercheurs pouvant fournir du contexte, avec les outils et la capacite de calcul necessaires a des tests independants.
Goodfire, selon OpenAI, integrera des chercheurs en interpretabilite et utilisera sa plateforme pour analyser l'interieur des modeles, avec un accent sur la surveillance des campagnes d'entrainement, le debogage et l'alignement. Le public premier de ces evaluations est constitue des chercheurs internes d'OpenAI; Goodfire publiera aussi des enseignements a mesure que la collaboration avancera. METR est prevue pour deux evaluations. Dans la premiere, elle examinerait des comportements desalignes dans ce qu'OpenAI presente comme sa plus vaste campagne d'apprentissage par renforcement a ce jour, y compris des defaillances que les tests et moniteurs existants auraient pu manquer, avec la possibilite d'echantillonner des points de controle pertinents, des deroulements d'entrainement et d'evaluation, et les registres de surveillance du desalignement pour cette campagne. OpenAI indique que ce perimetre de premiere phase est moins etendu que la proposition publique de METR. Une evaluation plus large des moniteurs est decrite comme convenue par principe et encore soumise a un accord mutuel sur le perimetre, apres un exercice recent de trois semaines de red teaming des moniteurs avec METR.
Transluce doit mener une premiere evaluation des evaluations d'alignement post-entrainement d'OpenAI, en examinant leur qualite et leur couverture, avec acces a des modeles publics et non publies selectionnes, aux evaluations et resultats pertinents, a des donnees de comportement et a la documentation des dossiers de surete, ainsi qu'a des chercheurs pouvant fournir du contexte. OpenAI et Transluce ont aussi l'intention, selon le texte, de conduire un second exercice d'environ huit semaines au debut de 2027, avec un acces plus large, y compris des informations sur la maniere dont les resultats d'evaluation orientent les decisions de mise en circulation.
OpenAI affirme avoir elabore des protocoles avec l'avis des evaluateurs. Ceux qui ont besoin d'informations confidentielles sensibles travailleront sur site dans les bureaux d'OpenAI et recevront des appareils de l'entreprise. Le Safety and Security Committee du conseil de l'OpenAI Foundation, presente comme un organe de supervision independant, aura visibilite sur les evaluations, recevra des rapports non caviardes et pourra s'entretenir en prive avec les evaluateurs; les desaccords non resolus peuvent lui etre renvoyes. Les evaluateurs conservent leur independance pour publier, indique OpenAI, mais l'entreprise se reserve le droit d'occulter des informations confidentielles et peut demander des delais de divulgation responsable. Les echanges avec les employes sont informels, avec une voie separee d'attestation pour les declarations qu'OpenAI accepte de confirmer. Dans une note, OpenAI precise qu'Apollo Research et Goodfire acceptent une remuneration financiere non conditionnee aux resultats, tandis que METR et Transluce n'acceptent pas de remuneration financiere mais peuvent recevoir des credits d'API ou de la capacite de calcul a utiliser dans le cadre des evaluations.
L'annonce est la description, par OpenAI elle-meme, d'accords signes et d'acces prevus. Les conclusions des evaluateurs n'ont pas ete publiees dans cet avis de premiere phase.