Investigação
MIT Han Lab disponibiliza em código aberto o Evolving Infra, um sistema de serviço de LLM que se adapta aos agentes e que, segundo os autores, reduz a latência até 4,1 vezes face ao NVIDIA Dynamo
Uma equipa liderada por Hao Kang e Song Han publicou o Evolving Infra no GitHub a 10 de novembro de 2026, juntamente com o artigo arXiv 2611.12304. O sistema permite que os nós alternem entre prefill e decode sem reiníci…