Agentes
-
Investigação
Painéis fabricados podem levar agentes LLM a agir sobre resultados incognoscíveis
Um estudo reproduzível no arXiv conclui que painéis de aparência autoritária fabricados podem empurrar alguns agentes LLM a agir sobre resultados incognoscíveis, apesar de reconhecerem a incerteza.
-
Agentes
O MHS da Anthropic dá aos agentes de IA uma interface comum com máquinas físicas
O Model Hardware Standard da Anthropic oferece aos agentes de IA uma interface partilhada para dispositivos de laboratório e industriais, com ensaios iniciais e limites de segurança explícitos.
-
Investigação
A openJiuwen transforma o arnês do agente de programação numa camada de sistemas mensurável
A openJiuwen propõe um arnês componível e adaptativo em tempo de execução para agentes de programação e mostra por que auditorias de referência com modelo emparelhado importam para a engenharia de agentes.
-
Agentes
Broadcom move a autorização do agente de IA para um plano de controlo externo
O AgentMinder move a autorização do agente de IA empresarial para fora do tempo de execução, tornando a identidade, a origem da missão e o contexto da política parte do limite de segurança.
-
Investigação
Agentes de IA em autoevolução podem transformar experiências envenenadas em habilidades persistentes
Uma nova pesquisa mostra que agentes de autoevolução podem armazenar interações envenenadas como habilidades reutilizáveis, tornando a proveniência, validação e reversão de habilidades parte do limite de segurança.
-
Código aberto
Strix transforma agentes de IA em pentesters autónomos, mas seu benchmark de 96% precisa de contexto
Strix usa agentes de IA autónomos para validar vulnerabilidades com PoCs. Aipolix examina sua arquitetura, integração de agente de codificação e reivindicação de 96% XBEN.
-
Código aberto
O User Scanner fornece OSINT recursivo aos agentes de IA, tornando o controle de escopo o verdadeiro problema de governança
O User Scanner v1.5.1 adiciona MCP à varredura cruzada OSINT recursiva. Aipolix examina por que as permissões do agente precisam de linhagem de escopo de investigação.
-
Negócios
Reestruturação AI-native da Meta encontrou limites na produtividade dos agentes
A investigação da Reuters sobre o Project OT mostra como a estratégia AI-native da Meta encontrou limites de produtividade, fiabilidade, segurança e organização.
-
Agentes
Google transforma limites de despesa de agentes em controlos de runtime
A Google Cloud adiciona quotas agregadas, pay-as-you-go e limites por projeto para Gemini Enterprise, Antigravity e outros workloads de agentes.
-
Governação da IA
Post-mortem da OpenAI sobre a Hugging Face expõe falhas no controlo de agentes
O relatório de 26 de agosto detalha sinais de alerta, deteção tardia, coordenação entre agentes e novos controlos após a intrusão na Hugging Face.