تنسنت Hy4 preview را برای کدنویسی و agentهای با context یک‌میلیون توکنی باز کرد

تنسنت در ۲۸ اوت Hy4 preview را به‌عنوان یک مدل زبانی بزرگ با دسترسی باز برای مهندسی نرم‌افزار، کارهای اداری و پژوهش علمی منتشر کرد. اهمیت این عرضه فقط در ادعای تنسنت درباره قرار گرفتن مدل در سطح مدل‌های پیشرو نیست. نکته مهم‌تر این است که شرکت یک سطح کامل برای توسعه‌دهندگان ارائه کرده است: وزن‌های قابل دانلود با مجوز Apache 2.0، پنجره زمینه یک‌میلیون توکنی، مسیرهای مستند برای استقرار با vLLM و SGLang، ابزارهای finetuning و quantization و دسترسی پولی از طریق API.

این ترکیب Hy4 preview را به یک گزینه عملی برای تیم‌هایی تبدیل می‌کند که مدل‌های بزرگ باز را برای کارهای agentic با زمینه طولانی ارزیابی می‌کنند. طبق اعلام رسمی تنسنت، مدل ۷۷۰ میلیارد پارامتر کل دارد اما در هر توکن ۴۹ میلیارد پارامتر را فعال می‌کند. مخزن رسمی معماری Mixture-of-Experts را با ۲۵۶ expert مسیریابی‌شده، فعال شدن هشت expert در هر توکن، یک expert مشترک، sparse attention و یک لایه بومی speculative decoding توضیح می‌دهد. رویترز نیز انتشار ۲۸ اوت و تمرکز آن بر کدنویسی، پژوهش و کار تحلیلی را مستقلاً گزارش کرده است.

مدلی بسیار بزرگ با مسیر فعال کوچک‌تر

Hy4 preview حتی با معیار مدل‌های باز امروزی هم بزرگ است. تنسنت برای backbone مدل ۷۷۰ میلیارد پارامتر، ۴۹ میلیارد پارامتر فعال و طول زمینه یک میلیون توکن اعلام می‌کند. طراحی Mixture-of-Experts باعث می‌شود بیشتر پارامترها برای هر توکن فعال نباشند. این موضوع استقرار را سبک نمی‌کند، اما الگوی مصرف محاسباتی را در مقایسه با یک مدل dense با اندازه کل مشابه تغییر می‌دهد.

مخزن جزئیات معماری را در اختیار تیم‌های زیرساخت قرار می‌دهد و عرضه به یک endpoint میزبانی‌شده محدود نیست. backbone دارای ۷۸ لایه است. تنسنت می‌گوید مسیر attention از Gated DeepSeek Sparse Attention همراه با IndexCache برای استفاده مجدد از indexهای sparse میان لایه‌ها استفاده می‌کند. یک لایه بومی multi-token prediction نیز برای پشتیبانی از speculative decoding وجود دارد. راهنمای استقرار برای vLLM و SGLang و همچنین مسیرهای finetuning و quantization در مخزن ارائه شده‌اند.

برای معماران، نتیجه این است که Hy4 preview را می‌توان به‌عنوان مدلی ارزیابی کرد که سازمان قادر به اجرا و تغییر آن است، نه فقط مدلی که پشت یک رابط میزبانی‌شده مصرف می‌شود. مجوز Apache 2.0 برای شرکت‌هایی که به حقوق روشن‌تر برای سازگارسازی داخلی و توزیع مجدد نیاز دارند اهمیت ویژه‌ای دارد. هر تیم همچنان باید متن کامل مجوز و الزامات حقوقی خود را بررسی کند، اما انتخاب این مجوز یکی از موانع رایج پذیرش مدل‌های باز را کاهش می‌دهد.

تمرکز تنسنت روی خروجی کار است، نه فقط چت

تنسنت Hy4 preview را برای workloadهای بهره‌وری معرفی می‌کند، نه فقط benchmarkهای مکالمه‌ای. شرکت می‌گوید داده آموزشی را با مشارکت مهندسان نرم‌افزار، توسعه‌دهندگان بازی، تحلیلگران مالی و متخصصان امنیت داخلی خود ساخته است. هدف اعلام‌شده کارهای بلندمدتی است که برنامه‌ریزی، debugging، validation، تحلیل چندسندی و تولید artifactهایی مانند سند، spreadsheet و presentation را در بر می‌گیرد.

مدل همچنین با محصولاتی مانند CodeBuddy و WorkBuddy یکپارچه شده و تنسنت می‌گوید از طریق Tencent Cloud TokenHub و OpenRouter نیز در دسترس است. بنابراین preview را می‌توان از چند مسیر سنجید: self-host کردن وزن‌ها، استفاده از API مدیریت‌شده یا آزمایش در محصولاتی که workflowهای agentic را اطراف مدل بسته‌بندی می‌کنند.

تنسنت از یک ارزیابی blind داخلی با ۱۶۳ متخصص و ۲۰۳ وظیفه مهندسی خبر می‌دهد که در آن Hy4 preview امتیاز ۲.۹۹ از ۴ گرفته و اندکی بالاتر از مدل‌های مقایسه‌ای مورد اشاره شرکت قرار گرفته است. این اعداد باید به‌عنوان شواهد گزارش‌شده توسط فروشنده در نظر گرفته شوند، نه رتبه‌بندی مستقل. طراحی وظایف، جمعیت ارزیاب و شرایط مقایسه مهم‌اند و هنوز بازتولید مستقل این نتایج در دسترس نیست.

ادعای بهینه‌سازی خودکار جالب است، اما باید محتاط ماند

یکی از ادعاهای غیرمعمول تنسنت این است که Hy4 preview در بخش‌هایی از فرایند توسعه خودش مشارکت کرده است. شرکت می‌گوید مدل برای روش‌های آموزش، راهبردهای داده، چارچوب‌های ارزیابی و operatorهای سطح پایین پیشنهاد تولید کرده، آزمایش اجرا کرده و بر اساس نتیجه تکرار انجام داده است. تنسنت همچنین می‌گوید مدل bottleneckهای inference را تحلیل کرده و به بهینه‌سازی operator fusion و ارتباطات کمک کرده است؛ این تغییرات طبق گزارش شرکت throughput انتها‌به‌انتها را نسبت به baseline آن ۳۱.۸ درصد افزایش داده‌اند.

برای تیم‌هایی که model engineering خودکار یا زیرساخت agentic می‌سازند، این الگو بالقوه مهم است. در چنین چرخه‌ای مدل فقط workload مورد بهینه‌سازی نیست، بلکه در تشخیص و تغییر سیستمی که خودش روی آن اجرا می‌شود نیز نقش فعال می‌گیرد.

با این حال، شواهد فعلی از خود تنسنت می‌آیند. این عرضه ثابت نمی‌کند که همان فرایند در stack مدل، سخت‌افزار یا تیم مهندسی دیگری نیز نتیجه مشابه می‌دهد و بهبود throughput به baseline و شرایط پیاده‌سازی تنسنت وابسته است. بهتر است این موضوع را یک use case داخلی مشخص و قابل تکرار دانست، نه اثبات «خودبهبودی بازگشتی» عمومی.

توسعه‌دهندگان بعداً چه چیزهایی را باید اندازه‌گیری کنند

برای مهندسی نرم‌افزار، پرسش‌های عملی از تعداد پارامترها مهم‌ترند. تیم‌ها باید تکمیل وظایف در مقیاس repository، قابلیت اعتماد toolها، کیفیت patch، انضباط اجرای test، حفظ context و هزینه را در harnessهای خودشان اندازه‌گیری کنند. پنجره زمینه یک‌میلیون توکنی می‌تواند بخشی از فشار retrieval را کم کند، اما context طولانی به‌طور خودکار به تصمیم بهتر یا هزینه inference پایین‌تر منجر نمی‌شود.

تیم‌های زیرساخت نیز باید رفتار serving را زیر concurrency واقعی آزمایش کنند. مسیر فعال ۴۹ میلیارد پارامتری همچنان سنگین است و footprint کل ۷۷۰ میلیارد پارامتری ملاحظات storage، memory placement و expert routing ایجاد می‌کند. quantization و speculative decoding می‌توانند کمک کنند، اما اقتصاد production به topology سخت‌افزار، طول درخواست و utilization بستگی خواهد داشت.

تنسنت قیمت API را ۰.۸۳۴ دلار برای هر یک میلیون توکن ورودی، ۲.۵۰۱ دلار برای هر یک میلیون توکن خروجی و ۰.۰۴۲ دلار برای هر یک میلیون توکن cache hit اعلام کرده است. این قیمت میزبانی‌شده یک baseline مفید برای مقایسه self-hosting با دسترسی مدیریت‌شده فراهم می‌کند، هرچند به‌تنهایی هزینه نهایی یک agent بلندمدت را مشخص نمی‌کند.

Hy4 preview در نتیجه به این دلیل مهم است که سه جزء را همزمان کنار هم می‌گذارد: یک مدل باز بسیار بزرگ، stack قابل‌استفاده برای استقرار توسط توسعه‌دهنده و تمرکز روشن بر تولید خروجی واقعی کار. ادعاهای عملکردی هنوز به اعتبارسنجی مستقل نیاز دارند و محصول صراحتاً preview است. با این وجود، برای تیم‌هایی که مدل‌های باز را برای کدنویسی و سیستم‌های agent با context طولانی بررسی می‌کنند، این عرضه به اندازه کافی عملی است که همین حالا آزمایش شود، نه اینکه فقط در فهرست انتظار قرار بگیرد.

Sources
- Tencent Releases and Open-Sources Tencent Hy4 preview
- Tencent-Hunyuan/Hy4-preview
- Reuters: China's Tencent releases new open-source AI model for coding, research tasks