مدل‌های زبانی انتشاری در عمر کوتاه خود بیشتر به شکل سامانه‌های کوچک پژوهشی یا محصولات تجاری بسته دیده شده‌اند. DiffuSpace می‌خواهد این وضع را تغییر دهد. این استارتاپ روز ۳۰ اکتبر مدل Clover-35B-A3B-Preview را عرضه کرد؛ مدلی وزن‌باز با معماری ترکیب خبرگان که در مجموع ۳۵ میلیارد پارامتر دارد و برای هر توکن حدود ۳ میلیارد پارامتر آن فعال می‌شود. وزن‌ها در Hugging Face و ModelScope و کد در GitHub با مجوز Apache-2.0 در دسترس قرار گرفته‌اند.

این تیم در این حوزه سابقه دارد. به گفته DiffuSpace، چند نفر از اعضایش در گروه پردازش زبان طبیعی دانشگاه هنگ‌کنگ مدل Dream 7B را ساخته بودند؛ مدلی انتشاری که آوریل ۲۰۲۵ معرفی شد و خانواده آن تاکنون بیش از ۲٫۷ میلیون بار در Hugging Face دانلود شده است. Clover نخستین مدل این گروه در شرکت تازه است و یادداشت معرفی آن پرسش اصلی را صریح مطرح می‌کند: آیا مدل‌های انتشاری با بزرگ‌تر شدن همچنان رقابتی می‌مانند و مزیت سرعت خود را حفظ می‌کنند؟

Clover از صفر آموزش ندیده است. کارت مدل می‌گوید این مدل نسخه‌ای فقط‌متنی است که از Qwen3.6-35B-A3B ساخت Alibaba مشتق شده و ستون فقرات ترکیبی آن را، شامل لایه‌های Gated DeltaNet و توجه کامل، نگه داشته است: ۴۰ لایه، ۲۵۶ خبره مسیریابی‌شده، هشت خبره برای هر توکن و یک خبره مشترک. تغییرات DiffuSpace بر انتشار بلوکی متمرکز است؛ روشی که در آن مدل یک بلوک از توکن‌های پوشانده‌شده را به‌طور موازی پر می‌کند و سپس بلوک کامل‌شده را زمینه ثابت بلوک بعدی قرار می‌دهد. متن قبلی در حالت بازگشتی لایه‌های DeltaNet فشرده می‌شود، توکن‌های بلوک جاری در هر دو جهت به هم توجه می‌کنند و خروجی این حافظه فشرده در همان سافت‌مکس با توکن‌های بلوک رقابت می‌کند. شرکت از تنظیم آموخته‌شده اندازه بلوک و شاخه کانولوشنی جداگانه برای زمینه سمت راست نیز خبر داده است. پنجره زمینه به ۱۲۸ هزار توکن می‌رسد و حالت تفکر هم پشتیبانی می‌شود.

اعداد اصلی را خود DiffuSpace گزارش کرده است. این شرکت امتیاز ۷۳٫۶ در SWE-bench Verified، ۵۱٫۷ در Terminal-Bench 2.1 و ۶۵٫۳ در آزمون عامل τ³ را اعلام می‌کند و در مقایسه خود، Clover را جلوتر از مدل‌های انتشاری LLaDA2.2 flash و Mercury 2.5 ساخت Inception و همچنین Qwen3.6-35B-A3B و Qwen3.5-35B-A3B قرار می‌دهد. در آزمون‌های عمومی نیز امتیاز ۸۳٫۸ در GPQA Diamond، ۹۵٫۸ در ZebraLogic و ۷۲٫۰ در AA-LCR را ذکر کرده است. درباره سرعت، شرکت می‌گوید Clover روی بارهای کاری داخلی عامل‌ها با یک پردازنده NVIDIA GB300، دقت BF16 و اندازه دسته یک، به‌طور میانگین ۶۸۰ توکن در ثانیه تولید کرده و روی H200 به ۵۱۵ توکن در ثانیه رسیده است، در برابر ۳۶۵ توکن برای پیکربندی هم‌اندازه Qwen که با DFlash2 شتاب گرفته بود.

گزینه‌های استقرار به پردازنده‌های مراکز داده محدود نمی‌شود. DiffuSpace می‌گوید نسخه INT4 روی کارت RTX 5070 Ti با ۱۶ گیگابایت حافظه اجرا شده و در MATH-500 به ۱۰۱٫۸ توکن در ثانیه رسیده، در حالی که مدل‌های هم‌اندازه در آزمون‌های این شرکت ۴۸٫۵ توکن داشتند. فایل‌های رسمی GGUF برای llama.cpp از ۱۸٫۲۴ تا ۳۵٫۲۶ گیبی‌بایت حجم دارند و از خروجی انتشاری خود مدل به‌عنوان پیش‌نویس برای رمزگشایی خودپیش‌بین استفاده می‌کنند، بنابراین به مدل کمکی جداگانه نیازی نیست. وزن‌های کامل BF16 حدود ۶۹ گیگابایت حافظه گرافیکی لازم دارند. مخزن GitHub تصریح می‌کند که کد و راهنمای راه‌اندازی SGLang و llama.cpp هنوز اضافه نشده است.

این اعلامیه از برنامه‌های بعدی هم خبر می‌دهد. DiffuSpace یک مدل تصمیم‌گیری بر پایه Clover را توصیف می‌کند که با قابلیت Joint Mode تا هشت پرسش مرتبط را در یک گذر حذف نویز پاسخ می‌دهد و ادعا می‌کند این مدل روی مجموعه‌ای داخلی از داوری‌های حقوقی به‌هم‌وابسته از Jev ساخت TypeSafe بهتر عمل کرده است؛ این مدل هنوز منتشر نشده است. شرکت همچنین می‌گوید ابزاری برای اجرای عامل‌ها و یک برنامه دسکتاپ برای کدنویسی در دست ساخت دارد و از SigmaZ به‌عنوان شریک آموزشی نام برده که نسخه آزمایشی بسته‌ای را اجرا می‌کند.

استقبال اولیه دیده می‌شود اما محدود است: صفحه اصلی مدل در ۳۰ اکتبر حدود ۱۵۰۰ دانلود و ۱۶۴ پسند داشت. هیچ‌یک از ارقام عملکرد و سرعت به‌طور مستقل بررسی نشده، چند مورد بر بارهای کاری داخلی تکیه دارد و برچسب Preview نشان می‌دهد DiffuSpace انتظار تغییرات بیشتری دارد. با این حال، Clover مدلی انتشاری با مجوز باز را در مقیاسی در اختیار توسعه‌دهندگان می‌گذارد که تا امروز بیشتر فقط از راه API‌های بسته در دسترس بود و از این رو محک عملی خوبی است برای اینکه ببینیم رمزگشایی موازی در چرخه‌های کاری عامل‌ها واقعاً سودمند است یا نه.

منابع