NVIDIA، استارتاپ کرهای تراشههای هوش مصنوعی Rebellions و اپراتور مخابراتی SK Telecom در ۸ نوامبر ۲۰۲۶ از همکاری مشترکی خبر دادند که هدفش ساخت زیرساخت استنتاج برای برنامه هوش مصنوعی حاکمیتی کره جنوبی است. بر اساس این طرح، Rebellions پردازندههای عصبی نسل بعدی Rebel R200 خود را از طریق NVLink Fusion به پلتفرم NVIDIA وصل میکند؛ برنامهای که به سازندگان تراشه اجازه میدهد پردازندههای اختصاصی خود را به شبکه مقیاسپذیر NVIDIA متصل کنند.
این سامانهها بر معماری رک MGX شرکت NVIDIA بنا میشوند. این معماری طرحهای مشترکی برای ابعاد رک، تأمین برق و خنکسازی در اختیار شرکا میگذارد و دسترسی به زنجیره تأمین جاافتادهای از سازندگان سرور و تأمینکنندگان قطعه را فراهم میکند. SK Telecom قصد دارد رکهای حاصل را در مرکز داده هوش مصنوعی خود نصب کند و آنها را به مدلهای بنیادین خودش، از جمله A.X K2، و به خدمات عمومی پروژه AI for All کره وصل کند. وزارت علوم و فناوری اطلاعات و ارتباطات کره (MSIT) از این ابتکار پشتیبانی میکند.
این شرکتها همچنین میخواهند رویکردی برای استنتاج تفکیکشده بسازند، یعنی مراحل تولید پاسخ را میان پردازندههایی تقسیم کنند که برای هر مرحله مناسبترند. طبق برنامه، GPUهای NVIDIA مرحله prefill را انجام میدهند و NPUهای Rebellions مرحله decode را؛ هدف اعلامشده بهبود توان عملیاتی و بهرهوری انرژی است. Rebellions میگوید R200 برای استنتاج کمتأخیر و کممصرف روی مدلهای پیشرو، از جمله معماریهای mixture-of-experts با چندین تریلیون پارامتر، بهینه شده است.
زمانبندی طولانی است. در اعلامیه آمده سامانههای R200 قرار است در سال ۲۰۲۸ برای استقرار آماده شوند و سراسر متن از زبان برنامه و هدف استفاده میکند، نه محصولی که هماکنون عرضه شده باشد. از مبلغ قرارداد، تعداد رکها یا ظرفیت نیز اطلاعاتی منتشر نشده است.
یک نوشته مکمل در وبلاگ NVIDIA به قلم Jesse Clayton این توافق را در چارچوب همکاری گستردهتری با MSIT قرار میدهد که نیمههادیها، مراکز داده، نیروی انسانی، استارتاپها، مدلها، عاملها و امنیت را در بر میگیرد. در این نوشته آمده این کار زمینه را برای آن فراهم میکند که سایر شرکتهای کرهای فعال در NPU و XPU هم اکوسیستم NVLink Fusion را بررسی کنند. برنامههای آموزش، گواهینامه و هکاتون هم اضافه شده و NVIDIA میگوید در چارچوب AI for All با سه کنسرسیوم منتخب و چهار سازنده مدل بنیادین کرهای کار میکند و از نرمافزار NVIDIA Dynamo برای مقیاسدهی استنتاج بهره میگیرد.
Jensen Huang، بنیانگذار و مدیرعامل NVIDIA، گفت NVLink Fusion به تراشهسازان کرهای امکان میدهد ASICهای سفارشی خود را به پلتفرم کارخانههای هوش مصنوعی NVIDIA وصل کنند. Bae Kyung-hoon، معاون نخستوزیر و وزیر علوم و فناوری اطلاعات و ارتباطات کره، گفت این ترتیب به NPUهای ساخت داخل کره اجازه میدهد کنار NVIDIA وارد بازار زیرساخت محاسباتی شوند و دولت از آن حمایت میکند، از جمله در همکاری برای هوش مصنوعی فیزیکی و تأمین GPU.
همه این اطلاعات از اعلامیه خود NVIDIA و بیانیه شرکای آن آمده است. مزایای بهرهوری و تأخیر هنوز هدف طراحیاند و نتیجه اندازهگیریشده نیستند، و آزمون مستقلی از سختافزار R200 یا از تفکیک prefill و decode منتشر نشده است.