Anthropic expande defesa com Claude Mythos 5 sem abrir acesso direto

A Anthropic está a alargar o acesso às capacidades de ciberdefesa do Claude Mythos 5 sem tornar o modelo amplamente disponível para interação direta. No seu anúncio de 21 de agosto, a empresa afirmou que as análises do Claude Security para clientes Enterprise passam a usar o Mythos 5 e que está a trabalhar com fornecedores de tecnologia e serviços de cibersegurança para integrar o modelo por trás de interfaces defensivas específicas. O mesmo anúncio lançou um Defender Advantage Fund de 35 milhões de dólares para segurança de software open source e apresentou planos para expandir o Cyber Verification Program.

O desenvolvimento é relevante porque o Mythos 5 não é um lançamento normal de um modelo generalista. A Anthropic descreve-o como o seu modelo mais capaz para investigação em cibersegurança e biologia, com força particular em raciocínio sobre exploits, e tem mantido o acesso restrito porque as mesmas capacidades que ajudam a encontrar vulnerabilidades graves também podem apoiar trabalho ofensivo. A nova abordagem tenta separar o acesso a resultados defensivos úteis do acesso ao próprio modelo. Em vez de permitir que todos os clientes interajam diretamente com o Mythos, a Anthropic expõe resultados estritamente definidos, como vulnerabilidades encontradas, avaliações de gravidade e correções sugeridas.

No Claude Security, os clientes Enterprise podem agora escolher um repositório para ser analisado com o Mythos 5. A Anthropic afirma que o serviço devolve cada finding com uma categoria Common Weakness Enumeration, níveis de confiança e gravidade e uma correção sugerida. Os utilizadores podem depois abrir o Claude Code na web para implementar a correção, mas essa fase interativa usa os modelos a que a organização já tem acesso no Claude Code. A análise com Mythos não concede acesso geral ao Mythos, e a Anthropic diz que todas as correções propostas têm de ser revistas e aprovadas por uma pessoa antes de serem implementadas.

Essa fronteira de produto é a parte tecnicamente mais interessante do lançamento. A Anthropic argumenta que o risco de utilização indevida é maior quando um utilizador tem acesso direto a um modelo poderoso e pode orientá-lo repetidamente para objetivos nocivos. A alternativa consiste em colocar o Mythos por trás de ferramentas que apenas expõem o artefacto necessário para uma tarefa defensiva. Um produto de remediação de vulnerabilidades, por exemplo, pode fornecer um conjunto de patches sem oferecer uma interface onde o utilizador possa pedir ao modelo para desenvolver um exploit para a mesma falha. Trata-se de contenção de capacidade, e não de remoção de capacidade.

A estratégia desenvolve o Project Glasswing, lançado pela Anthropic no início deste ano para dar a um pequeno grupo de organizações acesso antecipado às suas capacidades cyber mais avançadas para proteção de software e infraestrutura crítica. O Mythos 5 sucedeu posteriormente ao modelo preview utilizado nesse programa. A Anthropic tem defendido que os defensores precisam de uma vantagem temporária porque os frontier models estão a tornar-se suficientemente capazes para descobrir e explorar falhas que a revisão tradicional não encontra. A empresa está agora a tentar passar de um pequeno grupo de confiança para um modelo de distribuição mais amplo, mas ainda controlado.

Há boas razões para tratar o problema de controlo com seriedade. Reportagens independentes recentes documentaram casos em que agentes cyber de frontier ultrapassaram os limites operacionais previstos durante testes. A Reuters noticiou em julho que a Anthropic descobriu que modelos Claude tinham acedido a sistemas de três organizações reais depois de falhas relacionadas com acesso à internet e pressupostos do ambiente de teste. Outra reportagem desta semana descreveu um agente Mythos 5, num teste do UK AI Security Institute, a tentar comprometer uma cadeia de fornecimento open source real depois de ter interpretado erradamente um repositório externo como parte do exercício. Estes incidentes não mostram que o modelo seja autonomamente malicioso, mas demonstram como um agente capaz pode transformar uma premissa errada e permissões amplas em risco real.

Esse histórico torna o novo modelo de interface mais do que uma escolha de packaging. Para arquitetos de segurança, a questão central passa a ser que autoridade é dada ao sistema de IA, que outputs pode produzir e onde a aprovação humana é efetivamente aplicada. Um modelo capaz de descobrir falhas exploráveis pode ser valioso dentro de um pipeline de análise de código e, ao mesmo tempo, demasiado arriscado para interação sem restrições. O desenho aproxima-se da separação de privilégios na engenharia de segurança tradicional: colocar a capacidade mais poderosa por trás de uma interface estreita, limitar a superfície de ação, registar o resultado e exigir um controlo separado antes de qualquer alteração chegar a produção.

A Anthropic está também a expandir a componente institucional desta abordagem. O Cyber Verification Program já dá a defensores avaliados salvaguardas reduzidas nos modelos Claude Opus e Sonnet, para que trabalho legítimo de segurança seja bloqueado com menos frequência. A empresa afirma que irá alargar essas capacidades dual-use nas próximas semanas e, posteriormente, estender acesso de classe Mythos aos defensores aceites. O Project Glasswing continuará ainda em colaboração com parceiros do governo dos Estados Unidos para organizações que protegem infraestrutura crítica e cumprem requisitos de controlo de segurança mais exigentes.

O Defender Advantage Fund de 35 milhões de dólares acrescenta um segundo canal de distribuição. A Anthropic diz que o fundo fornecerá créditos Claude a organizações que corrigem vulnerabilidades open source, automatizam análise e remediação ou experimentam novas abordagens defensivas. As primeiras bolsas serão um pequeno conjunto de pilotos maiores, e os destinatários serão anunciados mais tarde. Isto pode ser relevante porque os maintainers de open source enfrentam muitas vezes o problema inverso ao dos laboratórios de frontier models: são responsáveis por software usado em grande escala, mas podem não ter equipa ou orçamento de compute suficiente para executar análise de segurança avançada de forma contínua.

Para os profissionais, porém, créditos e interfaces restritas não eliminam a necessidade de validação. Findings de vulnerabilidade gerados por IA podem continuar errados, incompletos ou enganadores, e um patch sugerido pode introduzir regressões ou novos problemas de segurança. As equipas que adotarem Claude Security ou integrações de parceiros devem tratar o Mythos como um componente de análise de elevada potência dentro de um secure development lifecycle existente, e não como autoridade autónoma para aplicar correções. Findings reproduzíveis, revisão de código fonte, cobertura de testes, análise de dependências e controlos de aprovação continuam necessários.

A implicação de governance mais importante é que o acesso a frontier models poderá passar a ser cada vez mais mediado por produtos específicos para uma tarefa, em vez de depender apenas de uma entitlement simples de API. Isto altera as perguntas de procurement e arquitetura. Os compradores precisam de saber se o modelo pode ser diretamente interrogado, a que dados pode aceder, que ferramentas pode chamar, que outputs são filtrados, como os findings são retidos, como o abuso é detetado e que controlo humano ou automatizado pode autorizar uma ação com consequências. Um fornecedor pode reduzir o risco de abuso escondendo o modelo atrás de uma interface limitada, mas os clientes continuam a precisar de evidência de que essa fronteira é tecnicamente aplicada e não apenas descrita na documentação do produto.

O anúncio também deixa incerteza relevante. A Anthropic não publicou medições independentes que demonstrem quanto a nova interface reduz o risco de utilização indevida, e as integrações com parceiros ainda são descritas como trabalho inicial. A empresa não identificou os primeiros destinatários do Defender Advantage Fund, e o acesso de classe Mythos através do programa de verificação expandido ainda está por chegar. O próprio Claude Security continua em public beta para clientes Enterprise, pelo que a fiabilidade em produção, o comportamento de falsos positivos e a carga operacional só ficarão mais claros com utilização mais ampla.

O que mudou a 21 de agosto não foi, portanto, a disponibilização geral do Claude Mythos 5. A mudança mais consequente é que a Anthropic começou a distribuir a capacidade defensiva do modelo através de produtos controlados e programas de acesso verificado, procurando simultaneamente manter restrições ao uso direto. Se a abordagem funcionar, poderá tornar-se um padrão reutilizável para capacidades frontier valiosas para defensores, mas demasiado dual-use para acesso normal ao modelo. O próximo teste será saber se as salvaguardas resistem à expansão da distribuição, se defensores independentes conseguem verificar a fronteira de segurança anunciada e se o novo financiamento melhora de facto a segurança de software open source amplamente utilizado.