Le Computing Systems Lab (CSL) de Huawei, l'équipe de recherche du groupe installée en Suisse, a rendu public MACaQ, un outil de quantification qu'elle dit utiliser en interne depuis plusieurs mois. Le dépôt huawei-csl/MACaQ est apparu sur GitHub le 10 novembre 2026 sous licence Apache-2.0, en même temps qu'une page de présentation et l'article « MACaQ: Fast, Model Agnostic Calibrated Quantization for Low-Precision Weights and Activations » (arXiv 2611.10649). Ses auteurs sont Lorenz K. Muller, Philippe Bich, Chiara Boretti, Hyun-Min Chang, Jiawei Zhuang et Lukas Cavigelli.
Derrière l'acronyme se cache une quantification calibrée et agnostique vis-à-vis du modèle, dont l'atout principal tient à un principe simple : ne jamais sortir d'une couche linéaire. Beaucoup de méthodes récentes en basse précision font pivoter ou remettent à l'échelle les activations, puis reportent les transformations inverses sur les couches voisines, ce qui lie la recette à une architecture donnée. MACaQ applique plutôt, au moment de l'inférence, une mise à l'échelle par canal et une petite transformée de Hadamard par blocs aux activations de chaque couche, et intègre l'inverse correspondante dans les poids de cette même couche. Aucune autre couche n'étant modifiée, le modèle peut être calibré et quantifié en flux, une seule couche résidant en mémoire à la fois.
L'article y ajoute Flip-Refinement, une descente par coordonnées guidée par la hessienne qui déplace des codes FP4 isolés vers des valeurs représentables voisines, à la place des mises à jour à la GPTQ. Le format visé en priorité est le MXFP4 avec poids et activations sur 4 bits (W4A4). D'après les auteurs, exécuter les transformations d'activation à la volée n'alourdit le traitement que de 2,3 % de bout en bout par rapport au MXFP4 brut, sur Qwen3-32B avec vLLM.
Le dépôt s'organise par moteur d'exécution. La branche llama.cpp génère des fichiers GGUF de 2, 3 et 4 bits pour des modèles de texte denses ou à mélange d'experts, issus notamment de la famille Qwen3 ou d'OLMoE, tandis que la branche vLLM sert des checkpoints W4A4 ou quantifiés sur les seuls poids. Une branche Diffusers couvre des générateurs d'images, de vidéos et de sons comme FLUX.2-klein-4B et Wan2.2, et une branche PyTorch s'occupe des modèles vocaux. Une section Ascend renvoie à des pull requests de noyaux CANN encore en attente : le dépôt reconnaît que l'exécution de modèles complets sur les accélérateurs maison de Huawei réclame encore une intégration avec un moteur d'inférence Ascend.
Un mode distinct, MACaQ-R, affine les codes de poids à l'intérieur d'un GGUF existant tout en conservant ses formats natifs et ses échelles par bloc, si bien que le fichier obtenu tourne sur une version standard de llama.cpp. Pour Qwen3.6-35B-A3B, à taille identique de 22,36 Go, le CSL annonce une divergence KL par rapport au FP16 de 0,013367 pour son fichier Q4_K_XL, contre 0,015731 pour la quantification UD-Q4_K_XL d'Unsloth, très répandue.
Les chiffres phares de l'article proviennent eux aussi des auteurs. Ils font état d'une perplexité inférieure à celle de DuQuant++ et de MR-GPTQ, d'une perplexité équivalente à la meilleure obtenue par ces méthodes sur Llama-3-8B en un temps de quantification divisé par 11, et d'un modèle Qwen3.5 de 122 milliards de paramètres quantifié en 64 minutes avec 32,5 Go de mémoire GPU. La perplexité de ce modèle sur WikiText-2 passe de 5,06 à 5,14, et la version MXFP4 de 74 Go loge sur un seul GPU de 96 Go, incapable d'accueillir les poids d'origine.
La sortie a vite trouvé son public parmi les adeptes de l'inférence locale. Un fil Hacker News intitulé « Huawei releases MACaQ, its internal quantizer for local inference » a dépassé les 100 points en moins d'une journée, et des commentateurs signalaient déjà des utilisateurs en train de produire leurs propres GGUF avec MACaQ. Aucune évaluation indépendante n'a encore été publiée : les promesses de qualité et de vitesse reposent pour l'instant sur l'article, la page de présentation et le dépôt du CSL. Les résultats dépendront aussi des données de calibration, de la famille de modèles et du matériel, ce que les auteurs admettent en exigeant un texte de calibration représentatif dans chaque procédure.