NVIDIA ajoute un client à son offensive sur les processeurs généralistes. Modal, qui loue de la puissance de calcul aux développeurs d'IA, a annoncé le lundi 19 octobre 2026 qu'il allait utiliser le nouveau CPU Vera de NVIDIA pour héberger ses Sandboxes, ces environnements isolés dans lesquels les agents d'IA exécutent le code qu'ils produisent. Jusqu'ici, l'entreprise s'appuyait uniquement sur des puces x86 d'Intel et d'AMD pour ce travail. Reuters y voit un premier signe que l'arrivée de NVIDIA sur un marché longtemps tenu par ces deux concurrents commence à porter ses fruits.
Modal a détaillé son raisonnement dans un long billet technique. Ces charges sont difficiles à ordonnancer : un conteneur peut rester presque inactif en attendant la réponse d'un modèle de langage, puis grimper à environ dix fois sa consommation habituelle de processeur pendant l'installation d'un paquet ou une recherche massive dans des fichiers. Des centaines de conteneurs se partagent chaque serveur, si bien qu'un pic chez un client peut ralentir ses voisins. Modal permet de réserver de la capacité pour l'usage courant plutôt que pour le maximum, et absorbe les à-coups grâce à une marge sur chaque machine, une méthode qui, selon lui, a fait économiser de l'argent aux utilisateurs mais accroît le risque de contention.
Pour éprouver Vera, l'entreprise a mis au point l'Agentless Agent Bench : 50 solutions de référence et vérificateurs issus de Terminal-Bench, débarrassés de tout appel réseau et préchargés dans des conteneurs Docker exécutés en parallèle, afin de ne garder que le travail processeur réellement effectué par un agent ou par une boucle d'apprentissage par renforcement, comme la compilation, la recherche dans des fichiers, les opérations git ou l'émulation de périphériques. Tâche par tâche, sur une machine au repos, Vera s'est souvent montré plus rapide que les autres processeurs, mais pas systématiquement et sans écart marqué. D'après TNW, ce comparatif portait sur des puces d'Intel, d'AMD et d'Amazon.
Tout a changé une fois la machine chargée. À mesure que Modal empilait les conteneurs simultanés, Vera a atteint, selon l'entreprise, jusqu'au double du débit de tâches d'un serveur x86 Granite Rapids équivalent, avec une latence par tâche identique, voire légèrement inférieure, car il ne ralentissait pas quand le travail s'accumulait. Modal attribue ce comportement à la large bande passante mémoire de la puce, qui permet de loger davantage de charges par cœur sans bridage. L'équipe Vera de NVIDIA a assuré à Modal que ces résultats n'avaient rien de surprenant ; aucune des deux sociétés n'a publié les données brutes, et le test n'a fait l'objet d'aucune vérification indépendante.
Le débit compte surtout dans deux usages. Les agents de programmation qui tournent en arrière-plan bouclent plus vite leur travail, ce qui réduit les délais de réponse et la facture de calcul. En apprentissage par renforcement, des GPU coûteux restent souvent inactifs tant que les exécutions dans les bacs à sable ne sont pas terminées : chaque seconde de processeur gagnée libère donc aussi du temps de GPU. NVIDIA a conçu Vera pour sa plateforme Vera Rubin, mais le vend également sous forme de serveur autonome ; TNW rappelle que la puce, dotée de 88 cœurs, a été présentée en mars. Selon Reuters, le groupe a indiqué aux investisseurs tabler sur au moins 20 milliards de dollars de ventes de Vera cet exercice, sur un marché des processeurs qu'il évalue à environ 200 milliards, et cite OpenAI, Anthropic, Oracle et Perplexity parmi ses futurs utilisateurs.
Pour Modal, le changement n'est pas anodin. Vera repose sur une architecture compatible Arm, ce qui impose d'adapter l'infrastructure et le système de construction des images de conteneurs à un second type de processeur. Son directeur général, Erik Bernhardsson, a précisé à Reuters que l'entreprise ne tournait pas le dos à ses fournisseurs : Vera rejoindra un parc mixte aux côtés d'Intel et d'AMD, chaque tâche étant envoyée sur le matériel le plus adapté. Il a ajouté que les essais avaient été menés avec des puces déjà commercialisées et que Modal testerait les nouvelles générations concurrentes dès leur sortie.
L'annonce intervient juste après une levée de fonds importante. D'après Reuters, Modal a obtenu 750 millions de dollars la semaine dernière lors d'un tour mené par Accel, qui le valorise à 15,75 milliards, et dit viser un milliard de dollars de ventes sur les douze prochains mois ; TNW rapporte que l'activité Sandboxes génère 300 millions de dollars par an selon l'entreprise. Plusieurs inconnues demeurent : tous les chiffres de performance proviennent des premiers essais de Modal sur un seul serveur, la comparaison porte sur la génération x86 actuelle, et aucune date n'a été donnée pour l'ouverture de Vera aux clients.