A organização Granite da IBM publicou a 15 de outubro de 2026 o Granite Switch 4.1, alargando a abordagem modular Switch introduzida no início do ano. O lançamento centra-se nas configurações Granite-Switch-4.1-8B e Granite-Switch-4.1-30B, que mantêm um modelo base congelado e ligam adaptadores Activated LoRA para decisão e um encoder de fala colocada para transcrição.
Segundo o artigo no Hugging Face Blog assinado por investigadores Granite da IBM, as builds 4.1 incluem um aLoRA Decision de uso geral para tarefas de decisão estilo sistema, um aLoRA Guardian especializado em decisões ligadas à segurança, e o Granite-Speech-5.0-Turbo-CTC, descrito como o modelo de reconhecimento automático de fala mais rápido no OpenASR Leaderboard no momento da publicação. Os adaptadores e a pilha de fala são compostos de forma a manter o consumo de VRAM próximo do modelo base isolado.
A reutilização de cache é a reivindicação de sistemas. Como os adaptadores Switch são Activated LoRAs eficientes em cache, um KV cache produzido durante a geração do modelo base pode ser reutilizado em decisões posteriores baseadas em adaptadores. A IBM também cita contribuições recentes ao vLLM que aceleram a inferência de adaptadores de baixo posto. Junto com o encoder ASR colocada, a empresa diz que o mesmo endpoint pode passar de um pedido de chat para um pedido de decisão e para um pedido falado sem carregar modelos completos separados.
A IBM posiciona as Granite Libraries como o repositório de adaptadores especializados de decisão e de tarefa que os utilizadores podem misturar em composições Switch personalizadas, em vez de depender apenas dos pacotes 4.1 com tudo incluído. O artigo contrasta adaptadores granitelib especializados com modelos de decisão generalistas em tarefas de classificação especializadas e apresenta uma narrativa de corrida de fluxo em que uma base Granite congelada com vários aLoRAs especializados completa um caminho RAG de vários passos mais depressa do que uma configuração generalista concorrente. Essas comparações são demonstrações apresentadas pelo fornecedor, incluindo um episódio de um Switch 3B a jogar Doom com 60 a 100 decisões por segundo frente a cerca de 10 citadas para um concorrente.
É oferecido um Space Speech-to-Decisions no Hugging Face como demonstração em direto onde o granite-switch-4.1-8b transcreve áudio, resume, rastreia conteúdo nocivo e avalia sinalizadores definidos pelo utilizador num só endpoint. A IBM afirma planear um Adapter SDK para treinar adaptadores no Mellea, com mais tutoriais a seguir. O anúncio não publica tabelas completas de pontuação OpenASR nem replicação independente da alegada superioridade média do Guardian face a modelos de decisão fechados nomeados.
Na prática, isso significa que uma equipa de operações pode avaliar se os sinalizadores Guardian e as transcrições ASR partilham o mesmo processo de serviço que já aloja compleções de chat, em vez de ligar três implantações de modelo separadas. O artigo deixa em aberto como se comportam o alojamento multi-inquilino e os limites de ritmo quando a codificação de fala e os adaptadores de decisão correm no mesmo caminho de pedido.
Para profissionais, o Granite Switch 4.1 lê-se melhor como um lançamento de empacotamento e sistemas: um endpoint que multiplexa chat, decisões de segurança e fala enquanto preserva o KV cache entre saltos de adaptadores. Os compradores devem tratar as reivindicações de leaderboard e de corrida como reportadas pela IBM até surgirem medições de terceiros, e notar que compor adaptadores personalizados ainda depende das ferramentas SDK anunciadas.