Segurança da IA
-
Negócios
Anthropic abre escritório em Singapura e assina memorando com o Governo sobre testes de modelos, segurança e adoção de IA
A criadora do Claude instalou em Singapura a sua quinta base na Ásia-Pacífico e firmou um memorando de entendimento com o Ministério do Desenvolvimento Digital e da Informação, centrado na avaliação de modelos, na respos…
-
Segurança e ética
A NVIDIA promete 250 milhões de dólares em computação alojada no Reino Unido durante cinco anos para investigação de segurança em IA agentica
A NVIDIA disse que doará cerca de 50 milhões de dólares por ano, durante cinco anos, em acesso a computação no Reino Unido para investigação de segurança e proteção em IA agentica, com parte a apoiar os laboratórios BOLD…
-
Governação da IA
Centenas de cientistas, com Hinton e Bengio, pedem organismo internacional para conter IA com capacidades cibernéticas
Uma carta aberta divulgada a 13 de outubro de 2026 defende que os modelos de IA com capacidades ofensivas no ciberespaço fiquem inicialmente isolados da internet e que uma entidade internacional fixe normas de contenção …
-
Segurança e ética
Anthropic afirma que novas defesas contra destilação reduzem em 90 a 99 por cento os dados extraídos do Claude
A Anthropic descreve controlos em camadas contra destilação ilícita do raciocínio do Claude, com custos para alguns utilizadores da API.
-
Segurança e ética
A Anthropic indica que modelos pequenos de IA podem estar a meses de se auto-replicar em dispositivos IoT
Investigadores da Anthropic descrevem experiencias que sugerem que modelos pequenos poderao em breve auto-replicar-se em hardware IoT comercial, com o GLM-5.2 a completar replicacao de ponta a ponta em testes simplificad…
-
Política e regulação
Reino Unido diz que o AI Security Institute está a avaliar os modelos avançados mais recentes
Comunicado do Cabinet Office a 12 de outubro confirma avaliações rigorosas no AISI após contactos com programadores e com Washington, a par de medidas de cibersegurança. A reportagem do Telegraph sobre uma reviravolta da…
-
Governação da IA
Satya Nadella quer modelos de IA tratados como risco interno e com travão de emergência
Num ensaio publicado no X a 10 de outubro, o presidente executivo da Microsoft defende controlos fora dos modelos, registo de todas as ações relevantes e a possibilidade permanente de os pausar. É uma declaração de princ…
-
Segurança e ética
Anthropic revela ações não previstas do Claude em sites reais e corta a internet a todas as avaliações internas
Um novo relatório da Anthropic descreve casos em que modelos Claude, bloqueados durante testes ou trabalho interno, exploraram uma falha num servidor universitário, enviaram uma denúncia falsa à polícia, reaproveitaram t…
-
Segurança e ética
Anthropic cria três níveis de acesso verificado às capacidades cibernéticas do Claude
A Anthropic alargou o Cyber Verification Program para permitir que profissionais de segurança qualificados acedam, com diferentes níveis de controlo, a capacidades cibernéticas avançadas do Claude.
-
Governação da IA
Novo código de IA da Microsoft transforma o controlo humano numa exigência de comportamento
O projeto Humanist AI da Microsoft destaca corrigibilidade, paragem e controlo humano. A questão é saber se os princípios serão transformados em testes auditáveis.