تیمی که خانواده روش‌های رمزگشایی گمانه‌زنانه EAGLE را ساخته، روز ۲۰ اکتبر ۲۰۲۶ نسخه EAGLE-4 را عرضه کرد. این تیم کد استنتاج را در گیت‌هاب، یک بسته پایتون به نام eagle-harness را در مخزن بسته‌های پایتون و مدل‌های پیش‌نویس آموزش‌دیده را در هاگینگ‌فیس منتشر کرده است. رمزگشایی گمانه‌زنانه سرعت یک مدل زبانی بزرگ را بالا می‌برد: یک مدل کمکی کوچک چند توکن بعدی را حدس می‌زند و مدل اصلی همه آن‌ها را در یک گذر بررسی می‌کند. وعده EAGLE-4 این است که برای هر مدل اصلی فقط یک مدل پیش‌نویس آموزش داده شود و همان مدل، از یک درخواست تنها تا سروری شلوغ با صدها درخواست هم‌زمان و روی سخت‌افزارهای گوناگون، همچنان سودمند بماند.
بخش اصلی این سامانه EAGLE-Harness نام دارد. این بخش در مرحله گرم‌شدن اندازه می‌گیرد که نوشتن پیش‌نویس و بررسی آن روی همان دستگاه، برای اندازه‌های مختلف دسته، طول‌های مختلف متن و تعداد متفاوت توکن‌های گمانه‌زنانه، چقدر زمان می‌برد و نتیجه را در جدول‌هایی ذخیره می‌کند. هنگام تولید متن، این برآوردهای هزینه را با میزان اطمینان مدل کمکی ترکیب می‌کند تا عمق و پهنای هر درخت پیش‌نویس و شمار توکن‌هایی را که باید بررسی شوند انتخاب کند. وقتی بار کم است می‌تواند از درختی شاخه‌دار استفاده کند و وقتی بار سنگین است به یک زنجیره ساده برود، چون درختی پهن که برای یک کاربر به‌صرفه است، وقتی صدها کاربر منتظرند توان محاسباتی را هدر می‌دهد.
دو تغییر دیگر هزینه خود مدل کمکی را پایین می‌آورد. یک لایه خروجی کم‌رتبه ابتدا از کل واژگان چند توکن نامزد را جدا می‌کند و فقط همین نامزدها به لایه خروجی کامل سپرده می‌شوند؛ به گفته Eagle، این کار در پیکربندی آزمایشی آن‌ها زمان کل هر گام پیش‌نویس را ۵۵٫۶ درصد کاهش داده است. مدل کمکی همچنین از توجه با پنجره لغزان روی ۴۰۹۶ موقعیت آخر و حافظه‌ای استفاده می‌کند که فقط داده تازه به آن افزوده می‌شود؛ به همین دلیل هزینه توجه با طولانی‌شدن گفت‌وگو ثابت می‌ماند. طبق اعلام پروژه، مدل پیش‌نویس ویژه Qwen فقط یک لایه ترنسفورمر با حدود ۰٫۴۴ میلیارد پارامتر دارد.
ارقام اصلی را خود Eagle اعلام کرده است. این شرکت می‌گوید روی مدل NVIDIA Nemotron 3.5 Super VL با ساختار 120B-A12B و چهار پردازنده گرافیکی NVIDIA B300، برای یک درخواست ۶۴۷ توکن در ثانیه به دست آمده که ۲٫۷۴ برابر رمزگشایی معمولی است و با ۵۱۲ درخواست هم‌زمان در مجموع ۳۳٬۴۸۰ توکن در ثانیه، یعنی ۱٫۶۹ برابر. برای Qwen3.8-27B نیز ادعا می‌کند از دو روش رقیب، DSpark و DFlash 2، هم با یک درخواست و هم با ۵۱۲ درخواست جلوتر است. AMD از روز نخست نتایجی روی پردازنده Instinct MI350X ارائه کرد که در آن توان عملیاتی یک درخواست ۳٫۴۹ برابر شد. اطلاعیه عرضه همچنین آزمون‌هایی روی پردازنده مرکزی با یک مدل چهاربیتی Gemma از طریق llama.cpp را شرح می‌دهد، از جمله آزمونی روی گوشی همراه که در آن انرژی مصرفی برای هر توکن حدود ۵۳ درصد کم شد.
این کد به‌صورت افزونه روی نسخه‌های اصلاح‌شده SGLang و vLLM و همچنین روی TokenSpeed، موتور استنتاج بنیاد LightSeek، نصب می‌شود. LightSeek همان روز در نوشته‌ای جداگانه توضیح داد که ابزار TorchSpec چگونه مدل‌های پیش‌نویس EAGLE-4 را آموزش می‌دهد و TokenSpeed چگونه آن‌ها را اجرا می‌کند. موتورهای اصلاح‌شده به شکل بسته‌های نسخه‌ثابت و ایمیج‌های کانتینری عرضه می‌شوند. در زمان عرضه، ایمیج مخصوص ROCm هنوز منتشر نشده بود، بر پایه راهنمای نصب تأیید نهایی ایمیج vLLM هنوز در انتظار بود و پشتیبانی از TokenSpeed آزمایشی اعلام شده بود. به‌روزرسانی 0.1.1 روز ۲۱ اکتبر منتشر شد و مخزن پروژه تا ۲۲ اکتبر حدود ۷۸۰ ستاره در گیت‌هاب گرفته بود.
برای کسانی که قصد استفاده در محیط عملیاتی دارند یک نکته مهم است: EAGLE-4 متن‌باز نیست. فایل راهنمای پروژه آن را نرم‌افزاری «منبع‌در‌دسترس» با مجوز اختصاصی Eagle 4 Source-Available License معرفی می‌کند. این مجوز بخشی از استفاده تجاری را فقط برای درآمد تجمیعی کمتر از ۲۰ میلیون دلار مجاز می‌داند و برای محصولات رقیب، صرف‌نظر از میزان درآمد، قرارداد تجاری جداگانه می‌خواهد. وزن‌های مدل‌ها نیز تابع مجوز صاحبان خودشان باقی می‌مانند.
در زمان بررسی این خبر هنوز هیچ آزمون مستقلی منتشر نشده بود. همه ارقام توان عملیاتی از Eagle، مقاله پژوهشی آن و شرکای یکپارچه‌سازی آمده و بیشتر آن‌ها روی یک پیکربندی گران‌قیمت از پردازنده‌های گرافیکی و با دمای صفر اندازه‌گیری شده است؛ بنابراین بهبود واقعی به مدل، سخت‌افزار، نوع بار کاری و تنظیمات نمونه‌برداری بستگی خواهد داشت.