زیرساخت و تراشه
-
محصولات جدید
PAIR انویدیا درخواست‌های هوش مصنوعی را میان چند رایانه محلی پخش می‌کند
PAIR انویدیا درخواست‌های مستقل هوش مصنوعی را میان رایانه‌های محلی پخش می‌کند، اما حافظه گرافیکی را تجمیع نمی‌کند و مدل را تقسیم نمی‌کند.
-
متن‌باز
Soup 0.74 بارگذاری پنهان fp32 را اصلاح کرد و مصرف حافظه LoRA را پایین آورد
Soup 0.74.0 بارگذاری غیرضروری مدل پایه با fp32 را اصلاح کرده و در یک آزمایش H100 کاهش چشمگیر حافظه گزارش می‌کند.
-
پژوهش
Uno تولید توکن را موازی می‌کند، بدون اینکه توزیع مدل پایه عوض شود
Uno آداپتورهای انتشار و Ψ-Spec را به مدل خودرگرسیو اضافه می‌کند تا چند توکن به‌صورت موازی و با حفظ توزیع مدل پایه تولید شوند.
-
عامل‌های هوشمند
کاتالیست ۳.۰ زوهـو اجرای عامل‌ها روی زیرساخت ابری را کنترل‌پذیر می‌کند
کاتالیست ۳.۰ عامل‌های برنامه‌نویسی را از طریق MCP به زیرساخت متصل می‌کند و برای دسترسی، ثبت اجرا و بازگردانی تغییرات کنترل ارائه می‌دهد.
-
متن‌باز
نقشهٔ راه FreeToken پشتیبانی از AMD، Apple Silicon و چند GPU را هدف می‌گیرد
نقشهٔ راه ۲۰۲۶ پروژهٔ FreeToken، موتور ROCm برای AMD، Metal برای Apple Silicon، DGX Spark، چند GPU، مدل‌های چندرسانه‌ای و رمزگشایی گمانی را فراتر از پشتیبانی فعلی صرفاً NVIDIA هدف گرفته است.
-
زیرساخت و تراشه
EuroHPC ظرفیت عمومی LUMI-AI را با قرارداد 387.8 میلیون یورویی قطعی کرد
LUMI-AI ظرفیت عمومی محاسبات هوش مصنوعی اروپا را با شتاب‌دهنده‌های AMD، معماری چندمستأجری و دسترسی مبتنی بر API برای استارتاپ‌ها، شرکت‌های کوچک و متوسط و پژوهشگران گسترش می‌دهد؛ بهره‌برداری برای نیمهٔ دوم 2027 برنامه‌ریزی…
-
محصولات جدید
پرپلکسیتی عامل Computer را به سخت‌افزار محلی NVIDIA می‌آورد
Portable Computer پرپلکسیتی مدل، orchestration، search و ابزارهای sandboxed را روی NVIDIA DGX Spark با cloud escalation اختیاری اجرا می‌کند.
-
زیرساخت و تراشه
OpenAI تراشه Jalapeño را با نخستین benchmarkهای عمومی وارد رقابت inference کرد
OpenAI نخستین benchmarkهای Jalapeño را منتشر کرد؛ نتایج از throughput به ازای توان بالاتر و latency کمتر در برابر Nvidia Blackwell خبر می‌دهند.
-
متن‌باز
FreeToken مدل‌های عظیم MoE را روی GPUهای مصرفی اجرا می‌کند
FreeToken با اجرای تطبیقی CPU-GPU و caching معنایی، مدل‌های MoE از 35B تا 753B را روی سخت‌افزار مصرفی و workstation سرو می‌کند.
-
مراکز داده هوش مصنوعی به‌سوی منابع برق می‌روند، نه فقط کاربران
داده‌های JLL نشان می‌دهد پروژه‌های فوق‌مقیاس جدید اروپا با پررنگ‌شدن نقش برق، زمین و دسترسی به شبکه از قطب‌های اصلی دورتر می‌شوند.