Segurança e ética
-
Segurança e ética
METR conclui que a I&D de IA da Anthropic acelera cerca de 2x, sobretudo por causa da propria IA, apos 11 semanas de acesso interno
A METR publicou a 5 de novembro de 2026 uma avaliacao independente da aceleracao da I&D de IA na Anthropic apos 11 semanas de acesso elevado. Estima cerca de 1,9x de progresso AECI mais rapido desde outubro de 2025, sobr…
-
Segurança e ética
A OpenAI diz que o seu sistema de agentes gerou 948 explorações funcionais do kernel Linux com acesso root, acompanhadas de correções
Segundo a OpenAI, um sistema de agentes assente num modelo de cibersegurança ainda não lançado encontrou, confirmou e explorou 948 falhas distintas de escalada de privilégios no kernel Linux numa única execução em outubr…
-
Segurança e ética
Apple vai classificar como 18+ as apps com encontros ou companheiros de IA românticos
A partir de 16 de novembro de 2026, o App Store Connect pergunta aos programadores se as suas apps têm funções de encontros ou relações, incluindo companheiros virtuais com conteúdo sexual ou romântico; quem responder qu…
-
Segurança e ética
OpenAI aumenta as recompensas do programa de caça a falhas: até 30 mil dólares por vulnerabilidades críticas no ChatGPT, no Codex e na API, e cerca de 172 mil com bónus
A OpenAI diz que vai mais do que quadruplicar, em média, o valor intermédio das recompensas para falhas de gravidade média, alta e crítica, e junta multiplicadores pela qualidade do relatório, pela fidelidade dos investi…
-
Segurança e ética
Prospeto revisto da Anthropic admite que a empresa pode estar perto do seu próprio limiar de investigação acelerada por IA, com receitas de 17 mil milhões no trimestre
Na primeira alteração ao S-1, entregue a 2 de novembro, a Anthropic admite que os seus modelos futuros poderão atingir em breve o patamar de progresso drasticamente acelerado pela IA previsto na Responsible Scaling Polic…
-
Segurança e ética
OpenAI aperta as salvaguardas do ChatGPT contra a violência, limita informação sobre armas a adolescentes e promete relatório semestral
A OpenAI anunciou a 30 de outubro que o ChatGPT vai dar menos pormenores sobre ataques em massa do passado, poderá terminar conversas centradas em fazer mal a outros e restringirá ainda mais as respostas sobre armas a qu…
-
Segurança e ética
Epoch AI mostra que o modelo aberto GLM 5.3 transforma correções do Firefox ainda por distribuir em ataques funcionais
Num relatório divulgado a 29 de outubro, a Epoch AI afirma que o GLM 5.3, um modelo de pesos abertos, criou sozinho ataques capazes de roubar ficheiros em seis versões do Firefox, partindo de correções de segurança já pú…
-
Segurança e ética
Extensão adulterada do Claude Code no marketplace do Cursor tentou instalar uma porta das traseiras SSH e atingiu até 5000 utilizadores
O Cursor revelou que uma versão maliciosa da extensão Claude Code, a 2.1.313, esteve disponível no seu marketplace de extensões para VS Code durante cerca de onze horas a 29 de outubro. O pacote recolhia dados da máquina…
-
Segurança e ética
OpenAI alarga a vigilância de desalinhamento ao treino, às avaliações e a parte das utilizações por clientes dos seus modelos de fronteira
A OpenAI revelou a 29 de outubro que reforçou de forma substancial o sistema com que tenta apanhar os seus modelos mais capazes a portarem-se mal, depois de a intrusão na Hugging Face ter começado em avaliações sem qualq…
-
Segurança e ética
Anthropic diz que um modelo Claude ainda não lançado criou cadeias de exploração funcionais contra Chrome, Safari, Android, Windows e Linux
A Frontier Red Team da Anthropic publicou cinco cadeias de ataque que, segundo a empresa, um modelo interno de investigação ainda não lançado descobriu e transformou em exploits funcionais, incluindo uma fuga ao sandbox …