A NVIDIA e a Oracle aproveitaram a Oracle AI World, a 27 de outubro, para pôr o hardware mais recente da NVIDIA para centros de dados em disponibilidade geral na Oracle Cloud Infrastructure. Segundo as empresas, os sistemas Vera Rubin NVL72, montados à escala do rack, e os processadores NVIDIA Vera já podem ser contratados na OCI, e a Oracle tenciona fazer crescer os seus Superclusters baseados em Vera Rubin até vários gigawatts para responder à procura de treino, inferência e agentes.
Do lado das GPU, o modelo é conhecido. Cada rack NVL72 liga 72 GPU por NVLink, e os Superclusters da OCI juntam racks através da rede Acceleron da Oracle, assente em Ethernet NVIDIA Spectrum-X com comutadores Spectrum-6 e DPU BlueField-4, em campus que, segundo a Oracle, chegam a potências da ordem do gigawatt. A Oracle repete os números da NVIDIA, segundo os quais o Vera Rubin oferece até 30 vezes mais débito de inferência por watt e quatro vezes mais desempenho de treino do que o Blackwell; trata-se de valores do fabricante. A expansão soma-se aos sistemas GB200 e GB300 que a OCI já explora.
A parte mais invulgar é a dos processadores. O Vera é o primeiro CPU totalmente desenhado pela NVIDIA, com 88 núcleos Olympus e até 1,2 TB/s de largura de banda de memória por chip, e a Oracle apresenta-se como o primeiro grande fornecedor de cloud a disponibilizá-lo. As instâncias da OCI juntam dois chips Vera, num total de 176 núcleos, 1 TB de memória LPDDR5X, 7,68 TB de armazenamento NVMe local e rede de 200 Gbps, em bare metal ou em máquinas virtuais flexíveis. A Oracle fala numa primeira instalação de 150 mil processadores Vera nas suas regiões, embora o blogue de produto indique que as instâncias chegam a regiões selecionadas durante o trimestre em curso.
O argumento a favor do Vera tem mais a ver com agentes do que com cálculo de modelos. Os agentes passam boa parte do tempo a executar ferramentas, testar código e ir buscar dados entre chamadas ao modelo, e processadores lentos deixam GPU caras paradas. Os clientes podem dimensionar separadamente CPU e GPU através do OCI Kubernetes Engine, e a Acceleron acrescenta isolamento por hardware para correr código não fiável escrito por modelos. A OpenAI é apontada como cliente inicial do Vera: o seu responsável de computação afirma que a empresa está a pôr o Vera em produção na OCI para as suas cargas de sandbox de agentes, em forte crescimento.
A Oracle prepara ainda o HGX Rubin NVL8, um servidor x86 com oito GPU Rubin ligadas por NVLink, dois processadores Intel Xeon 6 de 64 núcleos, 4 TB de DDR5 e 6,4 Tbps de rede RDMA, pensado para quem quer o Rubin num formato mais pequeno e compatível com software x86 existente. Não foi indicada data para esta configuração nem para a expansão a vários gigawatts.
O comunicado recorda que a OpenAI usou um Supercluster da OCI em Abilene, no Texas, com mais de 100 mil GPU Blackwell, para treinar e servir o GPT-6 Astra, e um responsável de engenharia da OpenAI diz que o Vera Rubin na OCI a ajudará a acompanhar o crescimento dos modelos. O anúncio coincidiu com a notícia de que as TPU da Google chegarão à OCI em 2027, parte de um esforço mais amplo da Oracle para oferecer várias famílias de aceleradores. No início de outubro, a Google Cloud anunciou as suas próprias instâncias Vera Rubin NVL72 e a Modal disse que vai correr sandboxes de agentes em CPU Vera.
Há várias questões em aberto. Nenhuma das empresas disse quantos racks Vera Rubin estão hoje a funcionar, a que ritmo a OCI chegará aos vários gigawatts ou quanto custam as novas instâncias. Os ganhos de desempenho são números da própria NVIDIA, e as afirmações sobre a OpenAI vêm de citações incluídas no comunicado das empresas e não de reportagem independente.