زیرساخت و تراشه
-
متنباز
SwarmLLM اجرای یک مدل ۲۷ میلیارد پارامتری را میان چند مرورگر تقسیم میکند
نسخه 0.2.0 پروژه SwarmLLM استنتاج مدل را با WebGPU و WebRTC میان چند مرورگر تقسیم میکند و محدودیت حافظه را با تأخیر شبکه و اعتماد به اعضا مبادله میکند.
-
پژوهش
کاهش دقت وزنها اثر حافظه نهان بر مسیر اجرای عامل را بیشتر میکند
پژوهشی تازه نشان میدهد وضعیت حافظه نهان میتواند حتی با دمای صفر مسیر اجرای عامل را تغییر دهد و کاهش دقت وزنها این اثر را بیشتر کند.
-
محصولات جدید
PAIR انویدیا درخواستهای هوش مصنوعی را میان چند رایانه محلی پخش میکند
PAIR انویدیا درخواستهای مستقل هوش مصنوعی را میان رایانههای محلی پخش میکند، اما حافظه گرافیکی را تجمیع نمیکند و مدل را تقسیم نمیکند.
-
متنباز
Soup 0.74 بارگذاری پنهان fp32 را اصلاح کرد و مصرف حافظه LoRA را پایین آورد
Soup 0.74.0 بارگذاری غیرضروری مدل پایه با fp32 را اصلاح کرده و در یک آزمایش H100 کاهش چشمگیر حافظه گزارش میکند.
-
پژوهش
Uno تولید توکن را موازی میکند، بدون اینکه توزیع مدل پایه عوض شود
Uno آداپتورهای انتشار و Ψ-Spec را به مدل خودرگرسیو اضافه میکند تا چند توکن بهصورت موازی و با حفظ توزیع مدل پایه تولید شوند.
-
عاملهای هوشمند
کاتالیست ۳.۰ زوهـو اجرای عاملها روی زیرساخت ابری را کنترلپذیر میکند
کاتالیست ۳.۰ عاملهای برنامهنویسی را از طریق MCP به زیرساخت متصل میکند و برای دسترسی، ثبت اجرا و بازگردانی تغییرات کنترل ارائه میدهد.
-
متنباز
نقشهٔ راه FreeToken پشتیبانی از AMD، Apple Silicon و چند GPU را هدف میگیرد
نقشهٔ راه ۲۰۲۶ پروژهٔ FreeToken، موتور ROCm برای AMD، Metal برای Apple Silicon، DGX Spark، چند GPU، مدلهای چندرسانهای و رمزگشایی گمانی را فراتر از پشتیبانی فعلی صرفاً NVIDIA هدف گرفته است.
-
زیرساخت و تراشه
EuroHPC ظرفیت عمومی LUMI-AI را با قرارداد 387.8 میلیون یورویی قطعی کرد
LUMI-AI ظرفیت عمومی محاسبات هوش مصنوعی اروپا را با شتابدهندههای AMD، معماری چندمستأجری و دسترسی مبتنی بر API برای استارتاپها، شرکتهای کوچک و متوسط و پژوهشگران گسترش میدهد؛ بهرهبرداری برای نیمهٔ دوم 2027 برنامهریزی…
-
محصولات جدید
پرپلکسیتی عامل Computer را به سختافزار محلی NVIDIA میآورد
Portable Computer پرپلکسیتی مدل، orchestration، search و ابزارهای sandboxed را روی NVIDIA DGX Spark با cloud escalation اختیاری اجرا میکند.
-
مراکز داده هوش مصنوعی بهسوی منابع برق میروند، نه فقط کاربران
دادههای JLL نشان میدهد پروژههای فوقمقیاس جدید اروپا با پررنگشدن نقش برق، زمین و دسترسی به شبکه از قطبهای اصلی دورتر میشوند.