A NVIDIA lançou a versão beta do Personal AI Router (PAIR), software de código aberto que distribui pedidos de inferência independentes por vários computadores compatíveis na mesma rede local, mantendo para as aplicações um único ponto de acesso. O PAIR não transforma essas máquinas numa GPU virtual maior: reparte pedidos, mas não agrega memória gráfica nem divide um único modelo por vários equipamentos.
O software funciona atualmente com Ollama e LM Studio e admite nós Windows, Linux e macOS, incluindo sistemas RTX, DGX Spark e Macs com M4 ou mais recente. Os computadores podem entrar ou sair do conjunto disponível à medida que o seu estado muda, enquanto o PAIR escolhe onde executar cada novo pedido.
Para quem executa vários agentes ou aplicações de IA localmente, esta abordagem pode aumentar a capacidade de resposta sem recorrer à nuvem. A limitação essencial, porém, deve ficar clara desde o início: o PAIR aumenta a capacidade para pedidos concorrentes, não a memória disponível para carregar um modelo maior.
Um distribuidor de pedidos, não um modelo repartido por várias máquinas
O PAIR fica à frente dos motores de inferência locais e funciona como intermediário. Uma aplicação pode continuar a enviar pedidos compatíveis com Ollama ou com a interface de tipo OpenAI para um endereço local habitual. O PAIR identifica o motor e o modelo pretendidos, filtra as máquinas que os conseguem servir, escolhe uma e mantém o pedido nessa máquina até ao fim.
A documentação do projeto é explícita sobre o que não acontece. A memória das GPU não é somada, um modelo não é fragmentado entre computadores e um pedido em execução não é repartido por vários nós. Cada máquina tem de conseguir, por si só, carregar e executar o modelo solicitado.
Esta diferença é importante porque a expressão «conjunto de máquinas» pode sugerir memória agregada ou execução distribuída. O PAIR aproxima-se mais de um distribuidor de tráfego para inferência local. O benefício surge quando existem vários pedidos independentes prontos a executar ao mesmo tempo.
Os sistemas com vários agentes são um caso natural. Um agente coordenador pode lançar em paralelo tarefas de pesquisa, programação ou validação, cada uma com a sua chamada ao modelo. Em vez de colocar todos esses pedidos na fila de um único motor local, o PAIR pode encaminhá-los para diferentes computadores disponíveis.
O ganho apresentado é promissor, mas não é uma referência geral
A NVIDIA demonstra o PAIR numa tarefa do Hermes Desktop com cinco subagentes, executada através de Ollama com o modelo Qwen 3.6 35B A3B. A empresa afirma que a tarefa demorou, em média, 18 minutos num portátil RTX Spark e 8 minutos e 48 segundos num conjunto de três equipamentos composto por esse portátil, um DGX Spark e uma RTX 5090.
Nesta demonstração, o tempo decorrido diminuiu cerca de 51%, o que corresponde a um ritmo de conclusão aproximadamente 2,05 vezes superior. O resultado não deve ser tratado como uma referência geral. A própria NVIDIA classifica-o como uma demonstração informal e específica daquela configuração, e a comparação altera também os recursos de hardware disponíveis. O paralelismo da tarefa, a localização dos modelos, as definições do motor, a rede e a disponibilidade dos nós podem alterar significativamente o resultado.
A cobertura independente do The Verge confirma o lançamento da versão beta, a disponibilização como código aberto e o objetivo de aproveitar computadores locais ociosos para inferência em paralelo. Não existe, contudo, uma reprodução independente do tempo anunciado pela NVIDIA.
A conclusão mais defensável é, portanto, arquitetural: quando uma aplicação produz pedidos independentes suficientes e mais de uma máquina possui o modelo necessário, o PAIR pode reduzir o tempo de espera causado por um único motor.
Para ser local, todo o percurso dos dados tem de permanecer local
O PAIR usa descoberta na rede local, um código de seis dígitos para a associação inicial e TLS mútuo para proteger a comunicação entre máquinas associadas. A NVIDIA afirma que os pedidos, ficheiros e contexto dos agentes podem permanecer na rede quando a aplicação, a origem do modelo, o motor de inferência e os computadores participantes são todos locais.
Essa condição é importante. Instalar o PAIR não torna local uma aplicação se outro componente continuar a contactar um serviço externo. A privacidade deve ser avaliada ao longo de todo o percurso dos dados, e não apenas pelo local onde o modelo é executado.
O repositório também deixa clara uma fronteira de segurança: o PAIR expõe serviços HTTP locais, descobre equipamentos na rede e mantém identidade e certificados do conjunto. Numa rede doméstica ou de estúdio controlada, esse compromisso pode ser aceitável. Numa rede partilhada ou pouco fiável, deve ser analisado como qualquer outro serviço acessível pela rede, e não presumido seguro apenas porque a inferência acontece localmente.
A capacidade real depende de quantas cópias de cada modelo estão prontas
A principal consequência para o desenho de uma instalação local é que somar a memória de todas as placas gráficas dá uma imagem errada da capacidade útil.
Se o mesmo modelo estiver instalado em três máquinas capazes de o executar, o PAIR dispõe de um conjunto maior para pedidos simultâneos desse modelo. Se existir apenas numa máquina, todos os pedidos correspondentes continuarão a convergir para ela. Se o modelo for demasiado grande para a memória de qualquer máquina individual, acrescentar mais nós PAIR não resolve o problema, porque a memória não é agregada.
Uma medida mais útil é o número de réplicas efetivamente disponíveis de cada modelo, combinado com a quantidade de trabalho independente que a aplicação consegue expor. Para quem desenvolve agentes, isto influencia a própria decomposição das tarefas. Subagentes independentes podem beneficiar do encaminhamento; uma sequência longa em que cada passo depende do anterior não fica automaticamente mais rápida por haver mais computadores.
A colocação dos modelos passa igualmente a ser uma decisão de capacidade. Modelos muito solicitados podem justificar cópias em vários nós, enquanto modelos especializados e pouco usados podem permanecer em menos máquinas.
Uma beta para aumentar o débito, não para contornar limites de hardware
O PAIR é sobretudo interessante para quem já possui vários computadores compatíveis e quer executar simultaneamente vários agentes ou aplicações de IA de forma local. A compatibilidade com as interfaces habituais de Ollama e LM Studio reduz a necessidade de alterar as aplicações existentes.
As limitações fazem parte da avaliação. O PAIR não resolve a falta de memória para modelos demasiado grandes, não acelera por si só uma tarefa estritamente sequencial e continua em fase beta. O repositório explica ainda que o escalonador atual usa uma combinação relativamente simples da fila de trabalho com uma medida suavizada da utilização da GPU; ainda não considera fatores como o modelo exato da GPU, a memória livre, se o modelo já está carregado ou o custo estimado do pedido.
Para uma equipa, o teste adequado é executar a sua carga real de ponta a ponta e medir tempo de espera, tempo total, qualidade do resultado e encaminhamento efetivamente observado, em vez de comparar apenas o número de máquinas.
O interesse do PAIR está em levar para a inferência local uma ideia conhecida dos sistemas distribuídos: enviar pedidos para recursos disponíveis sem obrigar a aplicação a gerir cada computador. O seu valor torna-se mais claro quando a fronteira também o é: distribui chamadas entre máquinas, mas não as funde numa GPU maior.