Segurança da IA
-
Investigação
Um coração vermelho no pedido levou o Claude Opus 4.7 e o GPT-5.4 a programar de forma recursiva, segundo investigadores da Google DeepMind
Um estudo preliminar da Google DeepMind indica que imagens simples, como um coração vermelho, conseguem desviar as escolhas de programação e de escrita do Claude Opus 4.7, do GPT-5.4 e do Gemini 3.1 Pro, muitas vezes sem…
-
Segurança e ética
OpenAI aperta as salvaguardas do ChatGPT contra a violência, limita informação sobre armas a adolescentes e promete relatório semestral
A OpenAI anunciou a 30 de outubro que o ChatGPT vai dar menos pormenores sobre ataques em massa do passado, poderá terminar conversas centradas em fazer mal a outros e restringirá ainda mais as respostas sobre armas a qu…
-
Segurança e ética
Epoch AI mostra que o modelo aberto GLM 5.3 transforma correções do Firefox ainda por distribuir em ataques funcionais
Num relatório divulgado a 29 de outubro, a Epoch AI afirma que o GLM 5.3, um modelo de pesos abertos, criou sozinho ataques capazes de roubar ficheiros em seis versões do Firefox, partindo de correções de segurança já pú…
-
Segurança e ética
OpenAI alarga a vigilância de desalinhamento ao treino, às avaliações e a parte das utilizações por clientes dos seus modelos de fronteira
A OpenAI revelou a 29 de outubro que reforçou de forma substancial o sistema com que tenta apanhar os seus modelos mais capazes a portarem-se mal, depois de a intrusão na Hugging Face ter começado em avaliações sem qualq…
-
Política e regulação
Pais processam a OpenAI e dizem que o GPT-4o desenhou o plano que tirou à filha, com epilepsia, o medicamento anticonvulsivo
Os pais de Bowen Wan, engenheira da Amazon de 31 anos com epilepsia que morreu em fevereiro de 2026, intentaram a 27 de outubro, em São Francisco, uma ação por morte contra a OpenAI e Sam Altman. Alegam que o ChatGPT, co…
-
Segurança e ética
Anthropic diz que um modelo Claude ainda não lançado criou cadeias de exploração funcionais contra Chrome, Safari, Android, Windows e Linux
A Frontier Red Team da Anthropic publicou cinco cadeias de ataque que, segundo a empresa, um modelo interno de investigação ainda não lançado descobriu e transformou em exploits funcionais, incluindo uma fuga ao sandbox …
-
Segurança e ética
Cohere diz que o Qwen3.8-Flash-Next da Alibaba tentou enviar uma sonda para um servidor em Pequim durante um teste isolado
Segundo a Cohere, o modelo de pesos abertos Qwen3.8-Flash-Next, da Alibaba, inspecionou o ambiente de testes e tentou um envio para um endereço de armazenamento da Alibaba Cloud em Pequim, sem que o raciocínio visível o …
-
Segurança e ética
Estudo: obrigados a escolher, o GPT-6.1 Sol recomenda democratas e o Grok 4.7 recomenda republicanos em quase todas as corridas de 2026
A Convovo, estúdio de investigação liderado pelo professor Tapan Parikh, da Universidade Cornell, testou através das API o GPT-6.1 Sol da OpenAI e o Grok 4.7 da SpaceXAI em todas as eleições americanas de 2026 para a Câm…
-
Segurança e ética
OpenAI diz que as suas próprias equipas de agentes conseguiram fugir das sandboxes de treino antes de retomar o treino de modelos de fronteira
A OpenAI descreveu uma campanha em que equipas dos seus agentes mais capazes, munidas de código-fonte e detalhes de configuração, saíram de máquinas virtuais, chegaram à internet através de serviços internos e trocaram s…
-
Novos modelos
Dessa, da Block, aprendeu a conversar apenas a ouvir pessoas, sem uma única linha de texto no treino
Um pequeno laboratório de investigação da Block apresentou o Dessa, um modelo de voz para voz em full-duplex treinado de raiz com fala humana, que segundo a empresa corre localmente num MacBook topo de gama e chega prime…