انویدیا روز ۱۳ اکتبر ۲۰۲۶ از Nemotron 3.5 Bolt 74B رونمایی کرد؛ مدل زبانی بازی که برای اجرای محلی عامل‌های هوش مصنوعی روی لپ‌تاپ‌های جدید RTX Spark ساخته شده است. این خبر بخشی از مجموعه‌ای از به‌روزرسانی‌های نرم‌افزاری است که پیش از عرضه سخت‌افزار منتشر شد: مدل روز پنجشنبه ۱۵ اکتبر، یک روز پیش از آغاز فروش لپ‌تاپ‌ها در ۱۶ اکتبر، عرضه می‌شود.

معماری این مدل از نوع ترکیب متخصصان است و ۷۴ میلیارد پارامتر دارد که حدود ۹ میلیارد از آن‌ها برای هر توکن فعال می‌شوند؛ نام کامل آن Nemotron 3.5 Bolt 74B-A9B 24GB است. انویدیا برای جا دادن مدل در ۲۴ گیگابایت حافظه، آن را به ۲ بیت کوانتیزه کرده و می‌گوید با آموزش آگاه از کوانتیزاسیون کیفیت را حفظ کرده است. به ادعای شرکت، این مدل از بیشتر مدل‌های متراکم محبوب سریع‌تر و از بیشتر مدل‌های ترکیب متخصصان هم‌اندازه هوشمندتر است، اما نتیجه آزمونی برای پشتیبانی از این ادعا منتشر نشده است.

باز بودن، محور اصلی معرفی است. به گفته انویدیا، Bolt 74B مانند دیگر مدل‌های Nemotron همراه با وزن‌ها، داده‌های آموزشی و دستورالعمل‌های آموزش منتشر می‌شود تا توسعه‌دهندگان بتوانند آن را برای عامل‌های خود تنظیم کنند. انتظار می‌رود از روز اول با llama.cpp، vLLM، Ollama، Unsloth و LM Studio اجرا شود و مستقیماً در برنامه‌های عامل مانند Hermes Agent و OpenClaw در دسترس باشد.

همراه مدل، ابزارهایی برای ساده‌تر و امن‌تر کردن عامل‌های محلی هم عرضه شده است. NVIDIA PAIR، نرم‌افزاری رایگان و متن‌باز که توان پردازشی چند رایانه را در شبکه خانگی یا اداری یکجا می‌کند، از نسخه آزمایشی خارج شد و پشتیبانی از llama.cpp و دانلود مستقیم از Hugging Face را افزود. برنامه‌هایی مانند GitHub Copilot، Hermes، OpenClaw، Perplexity، Pi و WorkBuddy راه‌اندازی مدل محلی را با چند کلیک ممکن می‌کنند و لایه OpenShell در کنار Microsoft Execution Containers عامل‌ها را در سطح سیستم‌عامل ایزوله می‌کند. کتابخانه متن‌باز NVIDIA Switchyard نیز درخواست‌ها را میان مدل‌های محلی و ابری تقسیم می‌کند.

خود RTX Spark هفته پیش از سوی انویدیا و مایکروسافت معرفی شده بود. انویدیا آن را ابرتراشه‌ای با حداکثر ۱۲۸ گیگابایت حافظه یکپارچه و یک پتافلاپ توان پردازش هوش مصنوعی توصیف می‌کند؛ مشخصاتی که اجرای مدلی ۲۴ گیگابایتی و ابزارهای عامل را روی لپ‌تاپ عملی می‌سازد. در همین نوشته از NVIDIA Broadcast 2.3 با سرور MCP برای کنترل برنامه توسط عامل‌ها و مدل کوچک‌تر Nemotron 3.5 Bolt E4B برای شخصیت‌های بازی که ۲۳ اکتبر عرضه می‌شود نیز یاد شده است.

برای توسعه‌دهندگان، این عرضه شرطی است بر اینکه عامل‌های توانمند می‌توانند به جای ابر روی سخت‌افزار شخصی اجرا شوند. مدلی باز با داده‌های آموزشی منتشرشده همچنین آسان‌تر بازبینی و سفارشی می‌شود و این برای تیم‌هایی که می‌خواهند کد و اسناد را روی دستگاه خود نگه دارند اهمیت دارد.

چند نکته هنوز اثبات نشده است. Bolt 74B هنگام اعلام هنوز قابل دانلود نبود، مقایسه‌های سرعت و کیفیت را خود انویدیا مطرح کرده و عملکرد واقعی مدلی ۲ بیتی در کارهای طولانی عامل‌ها باید با آزمون‌های مستقل سنجیده شود. شرایط مجوز استفاده نیز در این نوشته روشن نشده است.

منابع