A NVIDIA tem um produto novo para quem mantém a funcionar os gigantescos agregados de GPU. A 22 de outubro, a empresa lançou o Minerva, uma plataforma de AIOps pensada para detetar problemas naquilo a que chama fábricas de IA antes que atrasem o treino ou a inferência. O argumento é que, a esta escala, uma GPU um pouco mais quente do que as vizinhas ou um disco a perder velocidade sob carga podem arrastar uma tarefa inteira, e os sinais de alerta passam facilmente despercebidos.
A ideia central é um modelo único de toda a instalação. Segundo a NVIDIA, as equipas de operações costumam dividir o centro de dados em vistas separadas para rede, computação, fiabilidade e aprendizagem automática. O Minerva recolhe telemetria das GPU da NVIDIA, da rede, do armazenamento, dos escalonadores e das próprias cargas e constrói um grafo de conhecimento dinâmico que liga componentes físicos, como GPU, SuperNIC, comutadores e cabos, às tarefas que neles correm. É esse mapa que permite, diz a empresa, seguir um treino lento até à peça responsável, mesmo num centro com centenas de milhares de GPU.
A análise recorre a aprendizagem automática em vez de limiares fixos. A NVIDIA afirma que o Minerva processa milhares de milhões de dados por hora com métodos supervisionados e não supervisionados para aprender o comportamento normal, apanhar anomalias inéditas, antecipar avarias e relacionar eventos através da topologia. Em vez de reencaminhar cada sintoma, foi concebido para condensar uma avalanche de alertas num só incidente com a causa provável.
Há também uma camada de conversa. A plataforma inclui um assistente de IA próprio e liga-se a ferramentas de agentes externas, para que os operadores perguntem pelo estado do agregado em linguagem natural e recebam sugestões de correção baseadas em telemetria ao vivo. As correções podem ser aplicadas à mão ou automatizadas através das APIs da infraestrutura. A NVIDIA resume o objetivo naquilo a que chama rendimento da fábrica de IA, uma combinação de horas de GPU, trabalho útil, disponibilidade e produção de tokens. Ou seja, quer que os compradores avaliem o software pelo trabalho útil adicional que o hardware existente passa a entregar, e não pelo número de painéis que substitui.
Os primeiros clientes são sobretudo operadores de nuvem de GPU. A IREN, cujo diretor de tecnologia, Denis Skrinnikoff, é citado no anúncio, já usa o Minerva. A Aolani, a Bitdeer AI, a IBM, a Jio, a Lambda, a Quake AI e a Tesla tencionam implementá-lo, e a Dell Technologies, a Lenovo e a Supermicro vão incluí-lo nas suas ofertas de operação de fábricas de IA.
O lançamento alarga o alcance da NVIDIA do hardware e da rede ao software que gere as instalações construídas com eles. A empresa não divulgou preços, ganhos de disponibilidade medidos nem pormenores dos modelos usados, e as vantagens que enumera, mais tempo entre interrupções e reparações mais rápidas, não vêm quantificadas. Também fica por esclarecer se a plataforma funciona tão bem em parques com hardware misto como em instalações só com NVIDIA.