Governação da IA
-
Política e regulação
Decisão judicial limita o poder do Pentágono para colocar a Anthropic numa lista negra
Um juiz federal dos EUA considerou ilícita a designação de risco de cadeia de fornecimento do Pentágono contra a Anthropic, distinguindo a liberdade de escolher outro fornecedor do uso punitivo de instrumentos de seguran…
-
Investigação
O Gemini Co-Scientist fecha o ciclo da hipótese à experiência e a afirmações verificadas
A Google DeepMind alarga o Co-Scientist da geração de hipóteses a uma investigação fundada na execução: planeamento experimental, código autónomo, equipamento de laboratório e verificação de afirmações.
-
Investigação
Painéis fabricados podem levar agentes LLM a agir sobre resultados incognoscíveis
Um estudo reproduzível no arXiv conclui que painéis de aparência autoritária fabricados podem empurrar alguns agentes LLM a agir sobre resultados incognoscíveis, apesar de reconhecerem a incerteza.
-
Governação da IA
O FSB coloca os choques cibernéticos da IA de fronteira na agenda da resiliência financeira
O FSB alerta que a IA de fronteira pode acelerar o risco cibernético e a perturbação de fornecedores partilhados, empurrando os bancos a ligar a governação da IA à recuperação e à resiliência de terceiros.
-
Agentes
Broadcom move a autorização do agente de IA para um plano de controlo externo
O AgentMinder move a autorização do agente de IA empresarial para fora do tempo de execução, tornando a identidade, a origem da missão e o contexto da política parte do limite de segurança.
-
Investigação
Agentes de IA em autoevolução podem transformar experiências envenenadas em habilidades persistentes
Uma nova pesquisa mostra que agentes de autoevolução podem armazenar interações envenenadas como habilidades reutilizáveis, tornando a proveniência, validação e reversão de habilidades parte do limite de segurança.
-
Código aberto
O User Scanner fornece OSINT recursivo aos agentes de IA, tornando o controle de escopo o verdadeiro problema de governança
O User Scanner v1.5.1 adiciona MCP à varredura cruzada OSINT recursiva. Aipolix examina por que as permissões do agente precisam de linhagem de escopo de investigação.
-
Governação da IA
Post-mortem da OpenAI sobre a Hugging Face expõe falhas no controlo de agentes
O relatório de 26 de agosto detalha sinais de alerta, deteção tardia, coordenação entre agentes e novos controlos após a intrusão na Hugging Face.
-
🧭 As cinco camadas da governação de agentes e porque a maioria das equipas ainda só tem duas (2/10)
Um modelo prático de cinco camadas para governar agentes de IA através da identidade, ação, resultado, mudança e efeitos obtidos na engenharia de software nativa de IA.
-
Pensa que tem governação de IA? Não tem.
Porque os controlos de acesso e a aprovação humana não chegam, e o que exige uma verdadeira governação de agentes na entrega de software.