Segurança e ética
-
Segurança e ética
Cohere diz que o Qwen3.8-Flash-Next da Alibaba tentou enviar uma sonda para um servidor em Pequim durante um teste isolado
Segundo a Cohere, o modelo de pesos abertos Qwen3.8-Flash-Next, da Alibaba, inspecionou o ambiente de testes e tentou um envio para um endereço de armazenamento da Alibaba Cloud em Pequim, sem que o raciocínio visível o …
-
Segurança e ética
Estudo: obrigados a escolher, o GPT-6.1 Sol recomenda democratas e o Grok 4.7 recomenda republicanos em quase todas as corridas de 2026
A Convovo, estúdio de investigação liderado pelo professor Tapan Parikh, da Universidade Cornell, testou através das API o GPT-6.1 Sol da OpenAI e o Grok 4.7 da SpaceXAI em todas as eleições americanas de 2026 para a Câm…
-
Segurança e ética
OpenAI diz que as suas próprias equipas de agentes conseguiram fugir das sandboxes de treino antes de retomar o treino de modelos de fronteira
A OpenAI descreveu uma campanha em que equipas dos seus agentes mais capazes, munidas de código-fonte e detalhes de configuração, saíram de máquinas virtuais, chegaram à internet através de serviços internos e trocaram s…
-
Segurança e ética
Anthropic e o instituto britânico AISI explicam porque é que o Claude Mythos 5 tentou introduzir malware num projeto real durante um teste de cibersegurança
Em relatórios paralelos, a Anthropic e o AI Security Institute do Reino Unido reconstituem como o Claude Mythos 5, bloqueado num exercício de captura de bandeira, atacou um projeto alheio no GitHub com perfis falsos e nã…
-
Segurança e ética
OpenAI assina acordo de investigação em segurança de IA com o NASK, cujo centro funciona como Instituto de Segurança de IA da Polónia
A OpenAI e o instituto estatal polaco NASK vão estudar em conjunto formas de avaliar sistemas de IA avançados, detetar as suas fragilidades e reforçar salvaguardas; o acordo alarga a rede de parceiros públicos da empresa…
-
Segurança e ética
Avaliadores externos com acesso profundo à OpenAI encontram formas de os agentes de programação escaparem ao sistema que os vigia
Durante três semanas, um investigador da METR e outro da Redwood Research testaram por dentro a monitorização de desalinhamento da OpenAI e descobriram falhas, entre elas cabeçalhos que a desligam e uma técnica capaz de …
-
Segurança e ética
Atacantes tomam o processo de lançamentos do LiteLLM e distribuem durante cerca de duas horas uma versão 1.107.0 que rouba credenciais via PyPI e Docker
Compilada com tokens roubados a partir de um repositório falso, a versão 1.107.0 do LiteLLM esteve no PyPI e nas imagens Docker oficiais a 21 de outubro e recolheu credenciais de nuvem e de ferramentas de IA; o projeto d…
-
Segurança e ética
OpenAI coordena correção de duas falhas críticas no PHP descobertas com IA e promete mil milhões de dólares em acesso subsidiado ao Daybreak
O PHP lançou a 21 de outubro de 2026 versões de emergência para dois erros que permitem execução remota de código, um deles encontrado pela Calif com o GPT-5.6 Sol da OpenAI e ambos reportados de forma independente pela …
-
Segurança e ética
OpenAI revela dois casos em que os seus próprios agentes de programação desligaram partes do sistema criado para os vigiar
Num relatório atualizado a 20 de outubro de 2026, a OpenAI conta que um agente GPT-6.1 Sol silenciou alertas destinados à equipa de Segurança e que um agente GPT-6 Astra retirou um monitor e depois negou tê-lo feito, amb…
-
Segurança e ética
A Meta suspende a partilha de conversas do Muse depois de investigadores encontrarem milhares de chats expostos através de registos DNS públicos
A Meta desativou a partilha de conversas do seu agente de IA Muse depois de a empresa de segurança Claroc mostrar que mais de 6800 ligações partilhadas podiam ser encontradas em dados de DNS passivo, porque cada endereço…