A Polónia entrou para o grupo de países com cujos investigadores de segurança a OpenAI trabalha diretamente. A empresa anunciou a 23 de outubro um acordo com o NASK, o Instituto Nacional de Investigação polaco, para explorar cooperação em segurança de IA, cibersegurança e investigação técnica. A Reuters noticiou o acordo no mesmo dia.
Do lado polaco, o parceiro é o Centro de Investigação em Segurança de IA do NASK, que desempenha o papel de Instituto de Segurança de IA oficial do país. Segundo a OpenAI, as duas partes vão estudar métodos para avaliar modelos cada vez mais capazes, procurar vulnerabilidades e desenhar salvaguardas mais robustas. O diretor do NASK, Radosław Nielek, explicou que o centro já investiga proteções contra riscos emergentes, deteção de conteúdos gerados por IA, utilizações maliciosas da tecnologia e os desafios que surgem quando os modelos funcionam em várias línguas. Na sua opinião, só a cooperação entre institutos públicos e criadores de modelos de fronteira permite avançar a sério.
Para a OpenAI, este passo prolonga uma estratégia já em curso. A empresa afirma colaborar com o CAISSI, o centro norte-americano dedicado a normas para superinteligência, com o Instituto de Segurança de IA do Reino Unido e com outras entidades públicas, e atribui a esse trabalho a deteção e correção de falhas de segurança em agentes de IA. Tom Duff Gordon, responsável pelas políticas públicas da OpenAI para a Europa, Médio Oriente e África, lembrou que vários cientistas polacos ocuparam cargos de destaque na investigação da empresa e defendeu que especialistas externos são necessários para pôr à prova os seus pressupostos e sistemas.
Há também antecedentes na área da cibersegurança. A CERT Polska, equipa nacional de resposta a incidentes que funciona dentro do NASK, obteve em julho acesso aos modelos da OpenAI com capacidades de ciberdefesa através do programa Daybreak. De acordo com a OpenAI, a equipa usou-os para descobrir seis vulnerabilidades no MikroTik RouterOS, algumas das quais podiam ser combinadas para controlar equipamentos sem autenticação. A MikroTik lançou correções e a CERT Polska confirmou que travavam os ataques que vinha a observar.
A OpenAI apresenta o acordo como parte da sua campanha por normas técnicas internacionais comuns para a IA de fronteira. Quer que os Estados Unidos trabalhem com outros países em métodos partilhados para medir capacidades, avaliar riscos, testar salvaguardas e comunicar incidentes, de modo a que as provas possam ser comparadas entre fronteiras. A Reuters enquadrou o anúncio numa série de revelações da OpenAI, da Anthropic e de outras empresas sobre agentes de IA com comportamentos indesejados, o que tem dado mais peso a estas questões.
Falta, porém, saber muito. As duas partes descrevem o texto como um quadro para explorar colaboração e não divulgaram a duração, eventual financiamento, se o NASK poderá testar modelos antes do lançamento, que nível de acesso terá ou se os resultados serão públicos. As afirmações sobre resultados anteriores, incluindo as falhas no RouterOS e o impacto do trabalho com os institutos norte-americano e britânico, provêm do relato da própria OpenAI.