NVIDIA برای چهار مدل باز برجسته کره‌ای دستورهای استقرار مبتنی بر نرم‌افزار استنتاج Dynamo منتشر کرده است. این نوشته که ۸ نوامبر ۲۰۲۶ به قلم Amr Elmeleegy از NVIDIA منتشر شد، چهار مدل را پوشش می‌دهد: A.X K2 از SK Telecom، K-EXAONE 2.0 از LG AI Research، Solar Open 2 از Upstage و Motif-3 از Motif Technologies.

منطق این انتشار کاملاً عملی است. وقتی مدلی بزرگ‌تر از ظرفیت یک GPU می‌شود، باید میان چند GPU تقسیم شود و برای حفظ کارایی، مسیریابی درخواست‌ها و ارتباط میان GPUها باید با دقت هماهنگ شود. NVIDIA، Dynamo را چارچوبی متن‌باز برای ارائه استنتاج توزیع‌شده معرفی می‌کند که این مسیریابی و ارتباط را در استقرارهای چندگره‌ای در مقیاس مرکز داده مدیریت می‌کند.

این دستورها برای GPUهای NVIDIA B200 بهینه شده‌اند. به گفته NVIDIA، بخش بزرگی از آزمون‌وخطا در استقرار را حذف می‌کنند و تا دو برابر کارایی را همان ابتدا فراهم می‌آورند، و باید به توسعه‌دهندگان کمک کنند مدل‌های باز کره‌ای را سریع‌تر وارد تولید کنند و در چارچوب ابتکار AI for All کره به خدماتی در دسترس همگان تبدیل کنند. نوشته کوتاه است و نه نحوه آزمون، نه مبنای مقایسه عدد دو برابر و نه نتایج هر مدل را منتشر نکرده است؛ بنابراین این رقم ادعای خود NVIDIA است و سقف آن مشخص نیست.

این انتشار در میان مجموعه‌ای از اعلان‌های NVIDIA درباره کره قرار دارد. نوشته مکملی از Jesse Clayton درباره گسترش همکاری با وزارت علوم و فناوری اطلاعات و ارتباطات کره می‌گوید NVIDIA در AI for All با سه کنسرسیوم منتخب و چهار سازنده برجسته مدل بنیادین کره‌ای کار می‌کند و از Dynamo برای بهینه‌سازی و مقیاس‌دهی استنتاج استفاده می‌کند. این نوشته آن چهار سازنده را نام نمی‌برد و این گزارش فرض نمی‌کند آن‌ها همان چهار مدلِ ذکرشده در نوشته دستورهای استقرار باشند.

نوشته سوم NVIDIA به قلم Nicola Sessions جزئیاتی از سمت مدل‌ها می‌افزاید: LG AI Research دسترسی API به K-EXAONE-2.5 را باز می‌کند که با مجموعه‌داده‌های NVIDIA Nemotron، از جمله Nemotron-Personas-Korea، ساخته شده است؛ مجموعه‌داده‌ای باز شامل ۷ میلیون شخصیت کاملاً مصنوعی کره‌ای که بر آمار رسمی این کشور تکیه دارد. این نسخه جدیدتر از K-EXAONE 2.0 در دستورهای Dynamo است و پس این دو خبر به انتشارهای متفاوتی مربوط‌اند.

برای تیم‌هایی که مدل‌های کره‌ای‌زبان یا کره‌محور را اجرا می‌کنند، ارزش عملی کار یک نقطه شروع نگهداری‌شده توسط سازنده برای ارائه مدل روی چند GPU است، نه مدل تازه و نه موتور ارائه جدید. این دستورها فقط سخت‌افزار NVIDIA را هدف می‌گیرند و نوشته برای جزئیات به مطالب عمومی Dynamo ارجاع می‌دهد.

همه این مطالب از نوشته‌های خود NVIDIA گرفته شده است. برای این بسته خبری، آزمون مستقل کارایی دستورها یا بیانیه‌ای از SK Telecom، LG AI Research، Upstage و Motif Technologies درباره آن‌ها بررسی نشد.

منابع