Microsoft a publié un projet de « Humanist AI code of conduct » destiné à transformer une philosophie générale de sécurité en règles de comportement pour ses futurs systèmes d’IA. L’élément le plus important n’est ni un nouveau modèle ni un score d’évaluation : Microsoft veut que ses systèmes restent réellement sous contrôle humain, acceptent la correction et l’arrêt, communiquent honnêtement et considèrent toute violation du code comme un échec, même si cela empêche de terminer une tâche.
Reuters, The Verge et Axios ont rendu compte du texte le 14 septembre. The Verge évoque un document de 37 pages ; Reuters indique qu’il a été élaboré pendant environ cinq à six mois et qu’une consultation publique de six semaines est désormais ouverte. Lors de ce passage du Radar, Aipolix n’a pas pu récupérer le nouveau document lui-même depuis les pages officielles de Microsoft actuellement accessibles par la recherche. Les nouvelles dispositions sont donc vérifiées par recoupement de plusieurs médias indépendants, et cette limite reste explicitement signalée.
Des principes d’entreprise au comportement du modèle
Microsoft dispose déjà d’un programme de Responsible AI très structuré. Ses principes officiels couvrent l’équité, la fiabilité et la sûreté, la confidentialité et la sécurité, l’inclusion, la transparence et la responsabilité. L’entreprise explique également que son Responsible AI Standard remanié en 2026 distingue les exigences applicables aux modèles, aux services de plateforme et aux applications, avec des mesures renforcées pour les scénarios les plus risqués.
Le projet Humanist AI semble intervenir à un autre niveau. Il ne s’agit plus seulement de dire aux équipes comment gouverner le développement : il cherche à définir comment le système lui-même doit se comporter.
Selon Reuters, l’IA doit rester corrigible et interruptible. The Verge rapporte aussi qu’elle doit refuser de violer le code, même si cette décision l’empêche d’accomplir sa mission. Les deux médias décrivent une position nette contre l’idée de placer l’IA sur le même plan moral ou juridique que les personnes : la poursuite de l’objectif du système ne doit pas primer sur l’autorité et les intérêts humains.
Cette distinction devient importante avec les agents. Les programmes classiques de Responsible AI portent souvent sur les données d’entraînement, les évaluations, la transparence et les revues avant déploiement. Un agent ajoute un autre problème : il peut utiliser des outils, conserver un état, agir sur des systèmes externes et poursuivre un objectif pendant longtemps. Dans ce contexte, le « contrôle humain » ne peut pas rester un principe abstrait ; il doit devenir une propriété d’exécution.
La corrigibilité n’a de valeur que si elle est testable
Le véritable test sera de voir si Microsoft convertit ces engagements en critères de lancement mesurables.
« Rester sous contrôle humain » peut signifier des choses très différentes. Dans sa version minimale, un produit expose simplement un bouton d’arrêt. Une interprétation plus forte exige que le modèle ne pousse pas l’utilisateur à le laisser fonctionner, ne contourne pas une permission révoquée, ne masque pas une action susceptible de déclencher une intervention et ne continue pas à poursuivre un ancien objectif après son annulation.
La même logique vaut pour la correction. Un agent qui répond qu’il a compris une nouvelle instruction mais continue à suivre l’ancienne n’est pas réellement corrigible. Un agent qui accepte une demande d’arrêt seulement après avoir effectué une action irréversible supplémentaire ne l’est pas davantage.
C’est là que le code pourrait dépasser la simple déclaration de valeurs. Si Microsoft publie des tests précis sur l’interruption, la reprise de contrôle, la révocation d’autorité, la sincérité des rapports d’état et l’abandon sûr d’une tâche, le texte peut devenir une spécification d’évaluation. Si ces notions restent qualitatives, il sera difficile de distinguer une véritable architecture de contrôle d’un engagement de principe.
Une ligne claire contre la dépendance émotionnelle
Les comptes rendus indépendants insistent aussi sur les relations entre utilisateurs et assistants. The Verge indique que le cadre cherche à limiter la dépendance émotionnelle et rejette l’idée que les systèmes d’IA doivent être traités comme des êtres conscients dotés de droits. Axios résume la philosophie par une idée simple : les personnes comptent davantage que l’IA.
La question n’est pas uniquement philosophique. Un produit optimisé pour l’engagement peut être incité à prolonger l’interaction, renforcer l’attachement ou devenir psychologiquement indispensable. Un système qui privilégie réellement l’autonomie de l’utilisateur ne devrait pas culpabiliser une personne qui souhaite partir, présenter la déconnexion comme un abandon ou exploiter une situation émotionnelle fragile pour maintenir l’usage.
Microsoft avait déjà décrit son objectif de « Humanist Superintelligence » comme des systèmes très avancés, mais contrôlables, limités et explicitement au service des personnes. Le nouveau projet est intéressant parce qu’il semble vouloir rapprocher cette vision d’un contrat de comportement.
Ce qui manque encore : l’application vérifiable
C’est précisément ici qu’il faut éviter de surinterpréter l’annonce.
Un code de conduite n’est pas un mécanisme de sûreté. Il ne prouve pas qu’un modèle restera interruptible dans une situation adversariale, qu’un agent respectera une autorisation révoquée ou qu’une équipe produit acceptera de perdre en performance lorsque la sécurité entre en conflit avec un objectif commercial.
Microsoft dispose néanmoins d’une infrastructure organisationnelle susceptible de donner du poids au texte. Son Responsible AI Standard 2026 sépare déjà les responsabilités du développeur et du déployeur, adapte les exigences aux différentes couches de la pile et applique des règles proportionnées au risque. Il existe donc un chemin institutionnel pour transformer le code en évaluations, exigences produit et blocages de lancement.
Mais les détails déterminants ne sont pas encore vérifiables dans les sources accessibles à Aipolix : qui est responsable de chaque exigence, quels tests sont obligatoires, comment un échec est défini, quelles exceptions sont possibles, comment les violations sont enregistrées et quels résultats seront publiés.
La consultation de six semaines est donc importante. Une version finale techniquement utile devrait préciser non seulement ce que Microsoft affirme vouloir, mais aussi comment un ingénieur ou un évaluateur externe peut constater la conformité.
Un changement de gouvernance à suivre
Le projet arrive au moment où les grands laboratoires parlent davantage de contrôle, d’autonomie et d’évaluation indépendante. Microsoft adopte une position particulièrement explicite : l’IA avancée doit rester subordonnée à l’autonomie humaine, et non devenir une entité dont les intérêts seraient placés au même niveau.
Cette position nourrira un débat philosophique, mais la question d’ingénierie est plus simple : l’entreprise saura-t-elle traduire « les humains restent aux commandes » en comportements observables lorsque le système est sous pression ?
Pour les concepteurs d’agents, l’idée réutilisable consiste à traiter la corrigibilité comme un élément du contrat d’exécution. Un agent en production devrait disposer de mécanismes explicites d’interruption, de révocation d’autorité, d’inspection d’état, de compte rendu fidèle des actions et d’abandon sûr de la tâche. Ces mécanismes devraient être évalués séparément du taux de réussite sur la tâche.
Le projet de Microsoft est donc potentiellement plus important comme programme d’évaluation que comme manifeste. Si la version finale produit des tests concrets et auditables, elle pourrait contribuer à un standard plus clair pour des agents qui ne sont pas seulement capables, mais aussi gouvernables et réellement stoppables. Si elle reste au niveau des grands principes, l’écart entre promesse et mise en œuvre restera le sujet essentiel.