A LangChain acrescentou ao LangSmith, a sua plataforma de monitorização e avaliação de agentes de IA, uma funcionalidade chamada AI Search, que permite localizar sessões de agentes descrevendo um comportamento em linguagem natural, sem ter de criar filtros ou avaliadores. O anúncio foi feito a 13 de outubro de 2026 e a ferramenta está em beta pública no LangSmith Cloud, sem custos adicionais.
O problema é conhecido de quem tem agentes em produção. Os rastos guardam cada mensagem, chamada ao modelo, chamada a ferramentas e resultado, mas perguntas como se houve fuga de dados pessoais, se o utilizador desistiu irritado ou se o agente disse ter concluído uma tarefa que não fez dificilmente se respondem com etiquetas, metadados ou pesquisa por palavras. Até agora, segundo a LangChain, isso obrigava a escrever um avaliador antecipadamente ou a ler os rastos um a um.
A empresa optou por não depender da pesquisa vetorial, argumentando que comprimir um rasto longo num único vetor apaga os pormenores de que a consulta precisa. O AI Search recorre antes a um modelo de decisão rápido, treinado para responder de forma barata a uma pergunta concreta, aplicado a cada sessão candidata. Os filtros estruturados habituais, como execuções com erro ou uma etiqueta específica, reduzem primeiro o universo, e os resultados vão chegando enquanto a análise prossegue.
A análise incide sobre trajetórias e não sobre rastos em bruto. A base de dados de rastos do LangSmith, a SmithDB, converte o que chega dos SDK da OpenAI e da Anthropic, do LangChain, do LangGraph, do Vercel AI SDK, do OpenTelemetry e de outras origens numa vista por sessão em que cada mensagem, chamada e resultado aparece uma só vez. Como os agentes costumam reenviar toda a conversa a cada chamada, eliminar essas repetições encurta o material e permite que uma única pesquisa funcione com agentes feitos em diferentes estruturas.
Mesmo assim, as sessões podem ser enormes. A LangChain analisou 150 conversas do Open SWE, o agente de programação de código aberto que usa internamente, e encontrou algumas acima de um milhão de tokens; na sessão mediana, apenas cerca de 2 mil dos 72 mil tokens vinham do utilizador e das respostas do agente, e perto de 85% eram resultados de ferramentas. Por isso, o AI Search usa um orçamento fixo de 8 mil tokens por trajetória, dando prioridade às mensagens do utilizador e às respostas do agente.
A empresa reconhece os limites desta escolha. Perguntas cuja resposta está nos resultados das ferramentas, como um agente que ignora um erro, podem escapar com o orçamento atual, e distinções subtis, como um utilizador que sai satisfeito ou que desiste, continuam difíceis. A LangChain diz estar a estudar a seleção de contexto em função da pergunta, sinais de incerteza e o agrupamento de resultados semelhantes.
Os administradores podem ativar o AI Search nas definições, ficando a funcionalidade disponível na página de rastos; a beta abrange as regiões GCP dos EUA, da UE e da Ásia-Pacífico. A LangChain não publicou dados de precisão, pelo que só a utilização mostrará se o modelo distingue bem as correspondências reais dos casos próximos.