La Pologne rejoint les pays dont les chercheurs en sûreté travaillent directement avec OpenAI. L'entreprise a annoncé le 23 octobre la signature d'un accord avec le NASK, l'Institut national de recherche polonais, afin d'explorer une coopération en sûreté de l'IA, en cybersécurité et en recherche technique. Reuters a relayé l'information le jour même.
Côté polonais, l'interlocuteur est le Centre de recherche sur la sûreté de l'IA du NASK, qui tient lieu d'institut officiel de sûreté de l'IA pour le pays. Selon OpenAI, les deux partenaires chercheront comment évaluer des modèles de plus en plus performants, y débusquer des vulnérabilités et concevoir des protections plus solides. Le directeur du NASK, Radosław Nielek, rappelle que le centre travaille déjà sur la parade aux risques émergents, la détection des contenus produits par l'IA, les usages malveillants et les difficultés propres aux modèles qui opèrent dans de nombreuses langues. À ses yeux, instituts publics et développeurs de modèles de pointe ne progresseront qu'en coopérant.
Pour OpenAI, il s'agit moins d'une première que d'un prolongement. L'entreprise affirme collaborer déjà avec le CAISSI, le centre américain consacré aux normes pour la superintelligence, avec l'Institut britannique de sécurité de l'IA et avec d'autres organismes publics, et attribue à ce travail la découverte et la correction de failles dans des agents d'IA. Tom Duff Gordon, qui dirige les affaires publiques d'OpenAI pour l'Europe, le Moyen-Orient et l'Afrique, souligne que plusieurs scientifiques polonais ont occupé des postes clés dans la recherche de l'entreprise et juge indispensable le regard d'experts extérieurs pour bousculer ses hypothèses et éprouver ses systèmes.
Un précédent existe aussi en cybersécurité. La CERT Polska, l'équipe nationale de réponse aux incidents rattachée au NASK, a obtenu en juillet l'accès aux modèles d'OpenAI dotés de capacités cyber via le programme Daybreak. D'après OpenAI, elle s'en est servie pour mettre au jour six vulnérabilités dans MikroTik RouterOS, dont certaines pouvaient être enchaînées pour prendre le contrôle d'appareils sans authentification. MikroTik a publié des correctifs, et la CERT Polska a confirmé qu'ils bloquaient les attaques qu'elle suivait.
OpenAI présente cet accord comme un jalon de sa campagne en faveur de normes techniques internationales pour l'IA de pointe. L'entreprise souhaite que Washington s'associe à d'autres pays pour définir des méthodes communes de mesure des capacités, d'évaluation des risques, de test des garde-fous et de signalement des incidents, afin de pouvoir comparer les données d'un pays à l'autre. Reuters replace l'annonce dans un contexte de révélations répétées, par OpenAI, Anthropic et d'autres, sur des agents d'IA au comportement indésirable, qui ont remis ces sujets au premier plan.
Reste tout ce que le texte ne dit pas. Les deux parties le décrivent comme un cadre destiné à explorer une collaboration, sans préciser sa durée, un éventuel financement, la possibilité pour le NASK de tester des modèles avant leur sortie, le niveau d'accès accordé ni la publication des résultats. Les résultats antérieurs mis en avant, qu'il s'agisse des failles de RouterOS ou de l'apport des travaux menés avec les instituts américain et britannique, reposent sur la version d'OpenAI.