NVIDIA و Oracle از رویداد Oracle AI World در روز ۲۷ اکتبر استفاده کردند تا جدیدترین سخت‌افزار مرکز داده انویدیا را به‌طور عمومی روی Oracle Cloud Infrastructure عرضه کنند. به گفته دو شرکت، سامانه‌های Vera Rubin NVL72 در مقیاس رک و پردازنده‌های NVIDIA Vera اکنون روی OCI قابل سفارش‌اند و اوراکل قصد دارد ابرخوشه‌های مبتنی بر Vera Rubin را تا مقیاس چند گیگاوات گسترش دهد تا پاسخگوی تقاضا برای آموزش، استنتاج و بارهای کاری عامل‌ها باشد.

در بخش پردازنده‌های گرافیکی، الگو آشناست. هر رک NVL72 هفتادودو پردازنده گرافیکی را با NVLink به هم وصل می‌کند و ابرخوشه‌های OCI رک‌ها را از طریق شبکه Acceleron اوراکل به هم می‌پیوندند؛ شبکه‌ای که بر پایه اترنت NVIDIA Spectrum-X با سوئیچ‌های Spectrum-6 و پردازنده‌های داده BlueField-4 ساخته شده و به گفته اوراکل در پردیس‌هایی با توان در حد گیگاوات کار می‌کند. اوراکل ارقام انویدیا را تکرار می‌کند که بر اساس آن Vera Rubin تا سی برابر توان عملیاتی استنتاج به ازای هر وات و چهار برابر عملکرد آموزشی نسبت به Blackwell دارد؛ این‌ها ارقام سازنده‌اند. این گسترش بر پایه سامانه‌های GB200 و GB300 است که OCI از پیش در اختیار دارد.

بخش غیرمعمول‌تر خبر به پردازنده مرکزی مربوط است. Vera نخستین پردازنده کاملاً سفارشی انویدیاست که ۸۸ هسته Olympus و تا ۱٫۲ ترابایت بر ثانیه پهنای باند حافظه در هر تراشه دارد و اوراکل خود را نخستین ابرارائه‌دهنده‌ای می‌داند که آن را عرضه می‌کند. نمونه‌های OCI دو تراشه Vera را کنار هم می‌گذارند و ۱۷۶ هسته، یک ترابایت حافظه LPDDR5X، ۷٫۶۸ ترابایت فضای NVMe محلی و شبکه ۲۰۰ گیگابیتی فراهم می‌کنند و به شکل سرور اختصاصی یا ماشین مجازی انعطاف‌پذیر فروخته می‌شوند. اوراکل از استقرار اولیه ۱۵۰ هزار پردازنده Vera در مناطق خود خبر می‌دهد، هرچند وبلاگ محصول آن می‌گوید این نمونه‌ها در سه‌ماهه جاری در برخی مناطق منتخب عرضه می‌شوند.

استدلال اصلی برای Vera بیشتر به عامل‌ها مربوط است تا محاسبات مدل. عامل‌ها بخش زیادی از زمان خود را صرف اجرای ابزار، آزمودن کد و واکشی داده میان فراخوانی‌های مدل می‌کنند و پردازنده‌های کند باعث می‌شوند پردازنده‌های گرافیکی گران بیکار بمانند. مشتریان می‌توانند ظرفیت پردازنده مرکزی و گرافیکی را جداگانه از طریق OCI Kubernetes Engine تنظیم کنند و Acceleron برای اجرای کدهای نامطمئنی که مدل‌ها نوشته‌اند جداسازی سخت‌افزاری فراهم می‌کند. OpenAI یکی از مشتریان اولیه Vera معرفی شده است: مدیر ارشد فنی محاسبات آن می‌گوید شرکت Vera را برای بارهای کاری رو به رشد محیط‌های ایزوله عامل‌ها روی OCI وارد تولید می‌کند.

اوراکل همچنین HGX Rubin NVL8 را در برنامه دارد؛ سروری x86 با هشت پردازنده گرافیکی Rubin متصل با NVLink، دو پردازنده ۶۴ هسته‌ای Intel Xeon 6، چهار ترابایت حافظه DDR5 و شبکه RDMA با سرعت ۶٫۴ ترابیت بر ثانیه، برای مشتریانی که Rubin را در قالبی کوچک‌تر و سازگار با نرم‌افزارهای x86 موجود می‌خواهند. برای این پیکربندی و برای گسترش چندگیگاواتی تاریخی اعلام نشد.

در بیانیه به استفاده OpenAI از یک ابرخوشه OCI در ابیلین تگزاس با بیش از صد هزار پردازنده گرافیکی Blackwell برای آموزش و ارائه GPT-6 Astra اشاره شده و یکی از مدیران مهندسی OpenAI می‌گوید Vera Rubin روی OCI به این شرکت کمک می‌کند با بزرگ‌تر شدن مدل‌ها هم‌گام بماند. این خبر در همان روزی منتشر شد که اوراکل و گوگل اعلام کردند TPUهای گوگل در ۲۰۲۷ به OCI می‌آیند؛ بخشی از تلاش گسترده‌تر اوراکل برای ارائه چند خانواده شتاب‌دهنده. اوایل اکتبر هم Google Cloud نمونه‌های Vera Rubin NVL72 خود را معرفی کرده بود و شرکت Modal گفته بود محیط‌های ایزوله عامل‌ها را روی پردازنده‌های Vera اجرا می‌کند.

چند پرسش همچنان بی‌پاسخ مانده است. هیچ‌یک از دو شرکت نگفته‌اند امروز چند رک Vera Rubin فعال است، OCI با چه سرعتی به مقیاس چند گیگاوات می‌رسد یا نمونه‌های تازه چه قیمتی دارند. افزایش عملکرد بر اساس ارقام خود انویدیاست و گفته‌های مربوط به OpenAI از نقل‌قول‌های درج‌شده در بیانیه شرکت‌ها آمده است، نه از گزارش مستقل.

منابع