انویدیا نسخه بتای NVIDIA Personal AI Router یا PAIR را منتشر کرده است؛ نرمافزاری متنباز که چند رایانه سازگار در یک شبکه محلی را پشت یک نشانی واحد قرار میدهد و درخواستهای مستقل هوش مصنوعی را میان آنها پخش میکند. نکته مهم این است که PAIR رایانهها را به یک GPU بزرگتر تبدیل نمیکند. کار آن تقسیم درخواستهاست، نه تجمیع حافظه یا اجرای یک مدل روی چند دستگاه.
PAIR در حال حاضر با Ollama و LM Studio کار میکند و میتواند رایانههای ویندوزی، لینوکسی و مک را در یک مجموعه محلی کنار هم قرار دهد. سیستمهای RTX، دستگاه DGX Spark و مکهای مجهز به تراشه M4 یا جدیدتر در فهرست پشتیبانی قرار دارند. هر دستگاه بسته به وضعیت خود میتواند وارد مجموعه آمادهبهکار شود یا از آن خارج شود و PAIR برای هر درخواست تازه، یکی از دستگاههای مناسب را انتخاب میکند.
برای توسعهدهندگانی که میخواهند چند عامل یا چند برنامه هوش مصنوعی را همزمان و در داخل شبکه خود اجرا کنند، این روش میتواند زمان انتظار را کم کند. اما باید محدودیت اصلی آن را از ابتدا روشن دانست: PAIR ظرفیت پاسخگویی به درخواستهای همزمان را افزایش میدهد، نه ظرفیت حافظه برای اجرای یک مدل بزرگتر.
پشت نشانی واحد، یک زمانبند درخواست قرار دارد
PAIR جلوی موتورهای استنتاج محلی مینشیند و نقش واسط را بازی میکند. برنامه میتواند همچنان درخواست سازگار با Ollama یا رابط OpenAI را به همان نشانی محلی بفرستد. PAIR مدل و موتور مورد نیاز را تشخیص میدهد، دستگاههای آماده و واجد شرایط را پیدا میکند و یک دستگاه را برای اجرای آن درخواست برمیگزیند. همان دستگاه درخواست را از ابتدا تا انتها اجرا میکند.
مستندات پروژه درباره آنچه اتفاق نمیافتد صریح است. حافظه کارتهای گرافیکی با هم جمع نمیشود، مدل میان رایانهها تکهتکه نمیشود و یک درخواست در حال اجرا بین چند دستگاه تقسیم نمیشود. هر دستگاه باید بهتنهایی حافظه و توان لازم برای بارگذاری مدل مورد نظر را داشته باشد.
این تفاوت مهم است، چون واژه «کلاستر» ممکن است این تصور را ایجاد کند که مجموع حافظه دستگاهها در اختیار یک مدل قرار میگیرد. در PAIR چنین چیزی وجود ندارد. این نرمافزار بیشتر شبیه یک هدایتکننده ترافیک برای استنتاج محلی است و زمانی بیشترین فایده را دارد که چند درخواست مستقل بتوانند همزمان اجرا شوند.
برای سامانههای چندعاملی، چنین الگویی طبیعی است. وقتی یک عامل هماهنگکننده چند عامل فرعی برای پژوهش، برنامهنویسی یا بررسی نتیجه راه میاندازد، بسیاری از فراخوانیهای مدل میتوانند مستقل از هم اجرا شوند. PAIR بهجای آنکه همه این کارها را پشت یک موتور محلی صف کند، میتواند هر درخواست را به رایانه آماده دیگری بفرستد.
عدد عملکرد امیدوارکننده است، اما معیار عمومی نیست
انویدیا نمایشی با پنج عامل فرعی در Hermes Desktop ارائه کرده که از Ollama و مدل Qwen 3.6 35B A3B استفاده میکند. طبق گزارش خود شرکت، این کار روی یک لپتاپ RTX Spark بهطور متوسط ۱۸ دقیقه طول کشیده و روی مجموعهای سهدستگاهی شامل همان لپتاپ، یک DGX Spark و یک RTX 5090 به ۸ دقیقه و ۴۸ ثانیه رسیده است.
در همین آزمایش، زمان سپریشده حدود ۵۱ درصد کمتر شده و سرعت تکمیل کار نزدیک به ۲٫۰۵ برابر بوده است. این نتیجه را نباید بهعنوان یک معیار عمومی پذیرفت. خود انویدیا آن را نمایشی غیررسمی و وابسته به پیکربندی میداند و در مقایسه، سختافزار در دسترس نیز تغییر کرده است. میزان موازیبودن کار، محل نصب مدل، تنظیمات موتور، شبکه و آمادهبودن دستگاهها میتواند نتیجه را تغییر دهد.
گزارش مستقل The Verge عرضه نسخه بتا، متنبازبودن پروژه و هدف آن برای استفاده از توان بلااستفاده رایانههای محلی را تأیید میکند، اما عدد زمانی انویدیا را مستقلاً بازتولید نکرده است.
بنابراین ادعای قابل اتکاتر درباره معماری است: اگر برنامه چند درخواست مستقل داشته باشد و بیش از یک دستگاه بتواند همان مدل را اجرا کند، PAIR میتواند صف انتظار را کوتاهتر کند.
محلیبودن باید در کل مسیر اجرا حفظ شود
PAIR برای پیدا کردن دستگاههای شبکه از سازوکارهای محلی استفاده میکند، جفتسازی را با یک کد ششرقمی آغاز میکند و ارتباط میان دستگاههای جفتشده را با TLS دوجانبه رمزنگاری میکند. انویدیا میگوید وقتی خود برنامه، منبع مدل، موتور استنتاج و همه دستگاهها محلی باشند، متن درخواستها، فایلها و اطلاعات کاری عامل نیز در همان شبکه باقی میمانند.
این شرط اهمیت دارد. نصب PAIR بهتنهایی نمیتواند بخشی از برنامه را که هنوز به یک سرویس بیرونی متصل میشود، محلی کند. برای ارزیابی حریم خصوصی باید کل مسیر داده را دید، نه فقط محل اجرای مدل.
مخزن پروژه همچنین نشان میدهد PAIR یک مرز امنیتی واقعی ایجاد میکند: درگاههای HTTP محلی دارد، دستگاههای شبکه را کشف میکند و برای مجموعه، هویت و گواهی میسازد. در یک شبکه خانگی یا استودیویی مورد اعتماد، این طراحی میتواند مناسب باشد. در شبکه مشترک یا نامطمئن، باید آن را مانند هر سرویس شبکهای دیگری ارزیابی کرد و صرفاً به دلیل اجرای محلی مدل، امن فرضش نکرد.
ظرفیت واقعی به تعداد نسخههای آماده هر مدل بستگی دارد
نتیجه عملی برای معماری سامانههای محلی این است که ظرفیت را نباید با جمعزدن حافظه همه کارتهای گرافیکی سنجید.
اگر یک مدل روی سه دستگاه توانمند نصب شده باشد، PAIR برای درخواستهای همزمان آن مدل سه مقصد بالقوه دارد. اگر همان مدل فقط روی یک دستگاه باشد، همه درخواستهای مربوط به آن همچنان به همان دستگاه میرسند. اگر مدل برای حافظه هر دستگاه بیش از حد بزرگ باشد، افزودن دستگاههای بیشتر مشکل را حل نمیکند، چون حافظه آنها با هم ترکیب نمیشود.
پس معیار مفیدتر این است که برای هر مدل چند دستگاه واقعاً آماده اجرای آن هستند و برنامه چه مقدار کار مستقل میتواند همزمان تولید کند. برای سازندگان عامل، این موضوع روی طراحی اثر میگذارد. کارهای مستقل عاملهای فرعی میتوانند از توزیع درخواست سود ببرند، اما یک زنجیره طولانی که مرحله بعدی آن منتظر پایان مرحله قبلی است، با اضافهشدن رایانه لزوماً سریعتر نمیشود.
محل نصب مدل هم بخشی از راهبرد ظرفیت میشود. مدلهای پرتکرار ممکن است لازم باشد روی چند دستگاه تکرار شوند، در حالی که مدلهای تخصصی کممصرف میتوانند فقط روی یک یا دو دستگاه باقی بمانند.
نسخه بتایی برای افزایش توان پاسخگویی، نه دورزدن محدودیت سختافزار
PAIR بیش از همه برای کسی جذاب است که از قبل چند رایانه سازگار دارد و میخواهد چند عامل یا برنامه هوش مصنوعی را بهطور همزمان و محلی اجرا کند. سازگاری با رابطهای رایج Ollama و LM Studio نیز هزینه تغییر برنامههای موجود را پایین میآورد.
در مقابل، محدودیتهایش بخشی از اصل خبر است. PAIR مشکل حافظه مدلهای بسیار بزرگ را حل نمیکند، کارهای کاملاً ترتیبی را بهخودیخود سریع نمیکند و هنوز در مرحله بتاست. در مخزن پروژه نیز آمده که زمانبند فعلی از ترکیبی نسبتاً ساده از صف کار و میزان استفاده هموارشده GPU بهره میگیرد و هنوز عواملی مانند مدل دقیق GPU، حافظه آزاد، گرمبودن مدل یا هزینه برآوردی درخواست را در تصمیمگیری لحاظ نمیکند.
بنابراین آزمایش درست برای یک تیم، مقایسه تعداد رایانهها نیست. باید همان کار واقعی خود را اجرا کند و زمان انتظار، زمان پایان، کیفیت خروجی و مسیر واقعی توزیع درخواستها را بسنجد.
اهمیت PAIR در این است که یک روش کماصطکاک برای افزایش توان پاسخگویی استنتاج محلی در کارهای موازی فراهم میکند. ارزش آن زمانی درست فهمیده میشود که مرزش هم روشن باشد: درخواستها را میان رایانهها پخش میکند، اما از آنها یک GPU بزرگتر نمیسازد.