Segurança de agentes
-
Investigação
A elevação de privilégios do contexto revela uma nova fronteira de segurança dos agentes
Um estudo de 12 estruturas de agentes mostra como o contexto pode ganhar autoridade e porque a proveniência precisa de controlo determinístico em execução.
-
Investigação
Agentes de IA em autoevolução podem transformar experiências envenenadas em habilidades persistentes
Uma nova pesquisa mostra que agentes de autoevolução podem armazenar interações envenenadas como habilidades reutilizáveis, tornando a proveniência, validação e reversão de habilidades parte do limite de segurança.
-
Governação da IA
Post-mortem da OpenAI sobre a Hugging Face expõe falhas no controlo de agentes
O relatório de 26 de agosto detalha sinais de alerta, deteção tardia, coordenação entre agentes e novos controlos após a intrusão na Hugging Face.