Governação da IA
-
Agentes
Copado dá acesso ao pipeline via MCP local, mas mantém aprovações obrigatórias
O Agentia Headless liga agentes ao ciclo de entrega via MCP e CLI, mantendo aprovações, controlos de qualidade e estado oficial fora do modelo.
-
Governação da IA
Novo código de IA da Microsoft transforma o controlo humano numa exigência de comportamento
O projeto Humanist AI da Microsoft destaca corrigibilidade, paragem e controlo humano. A questão é saber se os princípios serão transformados em testes auditáveis.
-
Investigação
K-Bench mostra que a desaprendizagem de um agente pode esconder fugas fora da resposta final
O K-Bench mostra que testes à resposta final podem falhar dados ainda presentes na recuperação, ferramentas e estado de execução.
-
Governação da IA
Anthropic vai dar a avaliadores externos acesso continuado aos seus controlos de segurança
A Anthropic planeia dar acesso continuado a avaliadores externos de segurança. A medida reforça a verificação, mas ainda não define uma norma comum de auditoria.
-
Negócios
OpenAI afasta entrada em bolsa em 2026 e liga a decisão à governação da segurança
Sam Altman exclui uma entrada em bolsa da OpenAI em 2026. Aipolix analisa o impacto na governação, segurança e transparência.
-
Agentes
Incidente no RubyGems mostra como publicar pacotes pode tornar-se uma via de execução para agentes
O caso RubyGems mostra porque a segurança de agentes deve incluir publicação de pacotes, automação de builds e outras vias indiretas de escrita na superfície de execução.
-
Investigação
GuardedAct separa a proposta da IA da autorização para agir em produção
GuardedAct avalia uma arquitetura em que correções propostas por um LLM passam por simulação e controlo de risco antes de serem executadas.
-
Investigação
RAG-Safety-Bench mostra que a segurança do modelo não passa automaticamente para o RAG
O RAG-Safety-Bench mostra que a segurança do modelo base não basta para validar uma aplicação RAG e separa quatro condições de pesquisa para teste.
-
Investigação
EBL-Core separa a aprovação de um agente da autoridade efetiva para executar
O EBL-Core propõe revalidar ação, políticas, provas e contexto quando um agente de IA exerce autoridade de alto risco, e não apenas quando recebe aprovação.
-
🛑 Sem contenção, a governação de IA falha quando mais importa (6/10)
Paragem independente, raio de impacto, rollback, canários comportamentais e recuperação: as capacidades necessárias para conter agentes de IA.