Cohere veut que les entreprises cessent de croire leur fournisseur cloud sur parole. Le 22 octobre, la société canadienne d'IA pour les entreprises a ouvert une bêta publique de Confidential Computing sur Model Vault, son service d'inférence dédié et entièrement géré. La fonction vise des données que beaucoup d'organisations tiennent encore à l'écart des modèles hébergés : dossiers financiers, données cliniques, pièces juridiques couvertes par le secret, code propriétaire ou plans d'ingénierie.
Le problème visé, c'est le troisième état des données. Le chiffrement protège d'ordinaire l'information stockée sur disque et celle qui circule sur le réseau, mais requêtes, documents et réponses sont exposés en mémoire pendant que le modèle les traite. Chez Cohere, la pile de service tourne dans une machine virtuelle confidentielle dont la mémoire est isolée matériellement de l'hôte, y compris des logiciels privilégiés et des opérateurs. NVIDIA Confidential Computing étend cette frontière au GPU, protège sa mémoire et chiffre les échanges entre processeur et accélérateur. La bêta repose sur des puces NVIDIA H100 dans Microsoft Azure, qui fournit l'infrastructure confidentielle sous-jacente.
Deuxième élément : la vérification. Avant l'envoi, un logiciel côté client compare des preuves signées décrivant le matériel, le micrologiciel et le logiciel de l'environnement distant à une politique approuvée. Si elles ne concordent pas, le client n'envoie tout simplement rien. Cohere résume ce changement par le passage de faites-nous confiance à vérifiez par vous-même. Son directeur technique, Phil Blunsom, affirme que les clients peuvent s'assurer que leurs données sont protégées de tout accès non autorisé, y compris de Cohere.
Troisième élément : le trajet. Le TLS classique sécurise la connexion mais peut laisser le contenu lisible par les intermédiaires qui exploitent un service géré. Model Vault recourt donc à Oblivious HTTP pour chiffrer chaque requête avec une clé détenue uniquement par une passerelle située dans l'environnement attesté ; les couches de routage ne voient que du texte chiffré, et les réponses reviennent protégées. Les développeurs conservent la même API Cohere et les mêmes formats de requête.
Des responsables de l'équipe d'informatique confidentielle d'Azure chez Microsoft et de la division logiciels d'entreprise de NVIDIA ont salué le lancement dans l'annonce de Cohere. L'entreprise a aussi publié un billet technique détaillant la frontière de confiance et le modèle de menace. Il précise que le logiciel de service est verrouillé par une politique : seul du code approuvé peut s'exécuter et les opérateurs n'ont aucun accès interactif à la charge de travail.
Cohere reste prudente sur les limites. L'informatique confidentielle n'élimine pas tous les risques, souligne-t-elle, et ne remplace ni la sécurité applicative, ni la conformité, ni les contrats, ni les règles de résidence des données. La bêta se limite à une génération de GPU sur un seul cloud, sans tarif, sans mesure du surcoût en latence ni audit externe publiés. Elle place malgré tout un fournisseur de modèles de pointe dans la même course que les géants du cloud pour faire de la confidentialité vérifiable un argument auprès des clients réglementés.