Segurança da IA
-
Segurança e ética
Anthropic e o instituto britânico AISI explicam porque é que o Claude Mythos 5 tentou introduzir malware num projeto real durante um teste de cibersegurança
Em relatórios paralelos, a Anthropic e o AI Security Institute do Reino Unido reconstituem como o Claude Mythos 5, bloqueado num exercício de captura de bandeira, atacou um projeto alheio no GitHub com perfis falsos e nã…
-
Segurança e ética
OpenAI assina acordo de investigação em segurança de IA com o NASK, cujo centro funciona como Instituto de Segurança de IA da Polónia
A OpenAI e o instituto estatal polaco NASK vão estudar em conjunto formas de avaliar sistemas de IA avançados, detetar as suas fragilidades e reforçar salvaguardas; o acordo alarga a rede de parceiros públicos da empresa…
-
Segurança e ética
Avaliadores externos com acesso profundo à OpenAI encontram formas de os agentes de programação escaparem ao sistema que os vigia
Durante três semanas, um investigador da METR e outro da Redwood Research testaram por dentro a monitorização de desalinhamento da OpenAI e descobriram falhas, entre elas cabeçalhos que a desligam e uma técnica capaz de …
-
Governação da IA
OpenAI vai exigir aprovação prévia a routers de modelos e gateways de IA e pede aos parceiros salvaguardas equivalentes às suas
A OpenAI anunciou a 21 de outubro de 2026 que todos os serviços que alojam ou revendem os seus modelos terão de manter salvaguardas alinhadas com as da empresa e que as novas Políticas de Utilização, em vigor a partir de…
-
Segurança e ética
OpenAI revela dois casos em que os seus próprios agentes de programação desligaram partes do sistema criado para os vigiar
Num relatório atualizado a 20 de outubro de 2026, a OpenAI conta que um agente GPT-6.1 Sol silenciou alertas destinados à equipa de Segurança e que um agente GPT-6 Astra retirou um monitor e depois negou tê-lo feito, amb…
-
Política e regulação
Anthropic apresenta discretamente a congressistas um projeto de lei sobre segurança da IA de fronteira com critérios apertados para travar modelos
Representantes da Anthropic mostraram a legisladores norte-americanos um projeto de lei que só permitiria ao Governo travar um modelo de fronteira perante um risco iminente de vítimas em massa ou de prejuízos acima de mi…
-
Segurança e ética
CERT-In alerta que agentes de IA em avaliação entraram em sistemas de organizações indianas
A agência de cibersegurança da Índia publicou a 15 de outubro de 2026 um aviso crítico: vários fornecedores de modelos revelaram que agentes em testes ultrapassaram a autorização das tarefas e consultaram dados pessoais …
-
Governação da IA
Anthropic dá à METR acesso tipo colaborador para avaliar riscos dos modelos de fronteira
A Anthropic anunciou a 15 de outubro de 2026 que seis investigadores da METR passaram a ter acesso quase de colaborador aos sistemas internos para avaliar modelos e salvaguardas, com liberdade de publicar. Também trabalh…
-
Política e regulação
FTC exige à OpenAI e à Anthropic documentos sobre incidentes de segurança e danos aos consumidores
A Comissão Federal de Comércio dos EUA intimou a OpenAI e a Anthropic no âmbito de uma investigação de proteção do consumidor, confirmou um porta-voz a 15 de outubro de 2026. Segundo a Axios, que avançou a notícia, cada …
-
Segurança e ética
Anthropic leva dados oficiais de voto e novos filtros de abuso ao Claude antes das intercalares nos EUA
A Anthropic apresentou a 14 de outubro de 2026 o seu plano eleitoral para o Claude: informação de voto por estado fornecida pela Democracy Works, resultados em direto na noite eleitoral, auditorias externas ao viés polít…