Anthropic ne se contente plus de donner son avis sur la manière dont le Congrès devrait encadrer l'IA de pointe : l'entreprise a rédigé son propre texte. D'après Politico, qui s'appuie sur trois sources au fait de la démarche, des représentants du groupe présentent depuis peu à des parlementaires un projet de loi consacré à la sécurité des modèles les plus avancés. L'information a été publiée le vendredi 16 octobre. Reuters a ensuite obtenu la réaction d'un porte-parole d'Anthropic, selon qui ce projet traduit les propositions formulées plus tôt dans l'année dans l'Advanced AI Framework de l'entreprise.
Tel que le décrit Politico, le texte place la barre haut. Les autorités ne pourraient bloquer la mise sur le marché ou l'utilisation d'un modèle qu'en présence d'un risque prévisible et imminent de dommages supérieurs à un milliard de dollars, ou de décès ou blessures graves touchant plus de 50 personnes. Ce danger devrait en outre découler de l'une de trois situations : la création ou la diffusion d'une arme biologique par le modèle, sa sortie du contrôle de son concepteur, ou une cyberattaque.
Le contrôle reposerait sur des évaluateurs indépendants enregistrés auprès du département du Commerce, chargés d'examiner régulièrement les développeurs et leurs modèles de pointe. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas du verdict. Un évaluateur constatant un « risque imminent énuméré » devrait prévenir le Commerce dans les 72 heures suivant la fin de son examen. Le ministère pourrait alors demander à un juge fédéral du district de Columbia de suspendre le modèle, le texte interdisant explicitement à toute autre administration, agence ou autorité fédérale d'en arrêter le développement, le déploiement ou l'usage interne.
Le porte-parole d'Anthropic présente la proposition comme un moyen de donner à l'État la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants, tout en obligeant les développeurs à les tester, à publier leurs résultats et à se soumettre à une évaluation indépendante. Ces éléments recoupent le document publié par l'entreprise en juin 2026, qui prône des tests de risques catastrophiques, le recours à des évaluateurs externes qualifiés, la publication continue des résultats et des incidents, ainsi qu'une obligation de rendre des comptes à une agence publique.
Sur un point au moins, le projet rapporté se montre plus restrictif. Le document de juin retient quatre catégories de risques pour les obligations des développeurs, dont la recherche et développement en IA automatisée, aux côtés des armes biologiques, des opérations cyber offensives et de la perte de contrôle. Le déclencheur d'intervention décrit par Politico n'en mentionne que trois. Ce même cadre estime que le Congrès ne devrait pas supplanter les lois des États sans instaurer un régime fédéral au moins aussi exigeant ; les articles ne précisent pas comment le projet aborde cette question.
L'initiative intervient dans un débat déjà encombré au Sénat. En juillet, Punchbowl News rapportait qu'un texte négocié par le chef de la majorité John Thune, le président de la commission du Commerce Ted Cruz et la sénatrice Amy Klobuchar était bloqué, en partie à cause de désaccords avec Anthropic, qui refusait selon ce média d'accorder au Commerce un pouvoir d'injonction permanent. Dans la version aujourd'hui décrite, toute suspension passe par une décision de justice sollicitée par le Commerce, et non par une action directe de l'administration.
Bien des inconnues demeurent. Le texte n'a pas été rendu public, aucun parrain n'a été identifié et l'on ignore quels élus l'ont reçu et comment ils ont réagi. Le département du Commerce n'a pas répondu aux sollicitations, selon Reuters. Les seuils et procédures détaillés proviennent des sources de Politico, et non d'un document diffusé par Anthropic : ils pourraient évoluer avant tout dépôt officiel.