Inférence IA locale

Colibrì exécute DeepSeek V4.1 Flash depuis le stockage, au prix d’un nouveau goulot d’étranglement

14 septembre 2026

Colibrì 1.11.0 prend en charge DeepSeek V4.1 Flash et montre comment l’inférence depuis le stockage échange une contrainte de capacité contre une contrainte d’I/O.

Nouveaux produits
NVIDIA PAIR répartit l’inférence locale entre plusieurs machines

5 septembre 2026

PAIR distribue des requêtes d’IA locales entre plusieurs PC et Mac, sans mutualiser la mémoire GPU ni répartir un même modèle entre machines.
Open source
FreeToken exécute des modèles MoE géants sur des GPU grand public

23 août 2026

FreeToken combine exécution CPU-GPU adaptative et cache sémantique pour servir des modèles MoE de 35B à 753B sur du matériel local.