L'organisation Granite d'IBM a publié le 15 octobre 2026 Granite Switch 4.1, prolongeant l'approche modulaire Switch introduite plus tôt dans l'année. La version s'articule autour des configurations Granite-Switch-4.1-8B et Granite-Switch-4.1-30B, qui conservent un modèle de base figé tout en rattachant des adaptateurs Activated LoRA pour la décision et un encodeur de parole colocalisé pour la transcription.
Selon le billet Hugging Face Blog signé par des chercheurs Granite d'IBM, les builds 4.1 incluent un aLoRA Decision généraliste pour des décisions de type système, un aLoRA Guardian spécialisé dans les décisions liées à la sécurité, et Granite-Speech-5.0-Turbo-CTC, présenté comme le modèle de reconnaissance automatique de la parole le plus rapide du classement OpenASR au moment de la publication. Les adaptateurs et la pile parole sont composés pour garder une empreinte VRAM proche de celle du modèle de base seul.
La réutilisation du cache est la promesse système. Parce que les adaptateurs Switch sont des Activated LoRA efficaces en cache, un cache KV produit pendant la génération du modèle de base peut servir aux décisions suivantes basées sur des adaptateurs. IBM cite aussi de récentes contributions à vLLM qui accélèrent l'inférence d'adaptateurs de bas rang. Avec l'encodeur ASR colocalisé, l'entreprise affirme qu'un même endpoint peut enchaîner une requête chat, une requête de décision et une requête vocale sans charger de modèles complets séparés.
IBM positionne Granite Libraries comme le dépôt d'adaptateurs spécialisés de décision et de tâche que les utilisateurs peuvent assembler en compositions Switch sur mesure, plutôt que de s'en tenir uniquement aux lots 4.1 prêts à l'emploi. Le billet oppose les adaptateurs granitelib spécialisés aux modèles de décision généralistes sur des tâches de classification spécialisées et raconte une course de workflow où une base Granite figée avec plusieurs aLoRA spécialisés termine un chemin RAG en plusieurs étapes plus vite qu'une configuration généraliste concurrente. Ces comparaisons sont des démonstrations présentées par l'éditeur, y compris une anecdote de Switch 3B jouant à Doom à 60 à 100 décisions par seconde contre environ 10 citées pour un concurrent.
Un Space Speech-to-Decisions sur Hugging Face sert de démo en direct où granite-switch-4.1-8b transcrit l'audio, résume, filtre le contenu nuisible et évalue des indicateurs définis par l'utilisateur sur un seul endpoint. IBM dit prévoir un Adapter SDK pour entraîner des adaptateurs dans Mellea, avec d'autres tutoriels à venir. L'annonce ne publie ni tables de scores OpenASR complètes ni réplication indépendante de la prétendue surperformance moyenne de Guardian face à des modèles de décision fermés nommés.
En pratique, une équipe d'exploitation peut évaluer si les indicateurs Guardian et les transcriptions ASR partagent le même processus de service que celui qui héberge déjà les complétions de chat, au lieu de coudre trois déploiements de modèles séparés. Le billet laisse ouverte la question du comportement de l'hébergement multi-locataires et des limites de débit lorsque l'encodage de parole et les adaptateurs de décision empruntent le même chemin de requête.
Pour les praticiens, Granite Switch 4.1 se lit surtout comme une publication de packaging et de systèmes : un endpoint qui multiplexe chat, décisions de sécurité et parole en préservant le cache KV entre sauts d'adaptateurs. Les acheteurs doivent traiter classements et courses comme des chiffres rapportés par IBM jusqu'à des mesures tierces, et noter que composer des adaptateurs personnalisés dépend encore des outils SDK annoncés.