سازمان Granite شرکت IBM در ۱۵ اکتبر ۲۰۲۶ نسخه Granite Switch 4.1 را منتشر کرد و رویکرد ماژولار Switch را که پیشتر در سال معرفی شده بود گسترش داد. کانون انتشار، پیکربندیهای Granite-Switch-4.1-8B و Granite-Switch-4.1-30B است که مدل پایه را ثابت نگه میدارند و آداپترهای Activated LoRA برای تصمیمگیری و یک رمزگذار گفتار هممکان برای رونویسی را وصل میکنند.
طبق مطلب وبلاگ Hugging Face با نویسندگی پژوهشگران Granite در IBM، ساختهای ۴٫۱ شامل یک aLoRA تصمیم عمومی برای وظایف تصمیمگیری سیستمی، یک aLoRA نگهبان (Guardian) ویژه تصمیمهای مرتبط با ایمنی، و Granite-Speech-5.0-Turbo-CTC است که در زمان انتشار بهعنوان سریعترین مدل بازشناسی خودکار گفتار در جدول OpenASR توصیف شده است. آداپترها و پشته گفتار طوری ترکیب میشوند که ردپای VRAM نزدیک به خود مدل پایه بماند.
بازاستفاده از کش ادعای سامانهای است. چون آداپترهای Switch بهصورت Activated LoRA کمهزینه برای کش ساخته شدهاند، کش KV تولیدشده هنگام تولید مدل پایه میتواند برای تصمیمهای بعدی مبتنی بر آداپتر بازاستفاده شود. IBM همچنین به مشارکتهای اخیر در vLLM برای تسریع استنتاج آداپتر رتبه پایین اشاره میکند. همراه با رمزگذار ASR هممکان، شرکت میگوید همان نقطه پایانی میتواند از درخواست گفتگو به درخواست تصمیم و سپس درخواست گفتاری برود بدون بارگذاری مدلهای کامل جداگانه.
IBM مجموعه Granite Libraries را مخزن آداپترهای تخصصی تصمیم و وظیفه میداند که کاربران میتوانند در ترکیبهای Switch سفارشی مخلوط کنند، نه اینکه فقط به بستههای ۴٫۱ آمادهاتکا کنند. مطلب آداپترهای تخصصی granitelib را با مدلهای تصمیم عمومی در وظایف طبقهبندی تخصصی مقایسه میکند و روایتی از مسابقه جریان کار نشان میدهد که در آن پایه ثابت Granite با چند aLoRA تخصصی مسیر RAG چندمرحلهای را سریعتر از یک رقیب عمومی طی میکند. این مقایسهها دموهای ارائهشده فروشنده هستند، از جمله حکایت Switch سهمیلیاردی که Doom بازی میکند با ۶۰ تا ۱۰۰ تصمیم در ثانیه در برابر حدود ۱۰ مورد نقلشده برای رقیب.
یک Space با عنوان Speech-to-Decisions در Hugging Face بهعنوان نمایش زنده عرضه شده که در آن granite-switch-4.1-8b صدا را رونویسی میکند، خلاصه میسازد، محتوای زیانبار را غربال میکند و پرچمهای تعریفشده کاربر را روی یک نقطه پایانی میسنجد. IBM میگوید قصد دارد Adapter SDK برای آموزش آداپترها در Mellea منتشر کند و آموزشهای بیشتری در راه است. اعلامیه جدول کامل امتیاز OpenASR یا تکرار مستقل ادعای میانگین برتری Guardian در برابر مدلهای تصمیم بسته نامبرده را منتشر نمیکند.
در عمل یعنی تیم عملیات میتواند بسنجد آیا پرچمهای Guardian و رونوشتهای ASR همان فرایند خدمتی را که از قبل تکمیل گفتگو را میزبانی میکند شریک میشوند، بهجای اتصال سه استقرار مدل جداگانه. مطلب رفتار میزبانی چندمستأجری و محدودیت نرخ را وقتی رمزگذاری گفتار و آداپترهای تصمیم در یک مسیر درخواست اجرا میشوند باز میگذارد.
برای متخصصان، بهتر است Granite Switch 4.1 را انتشار بستهبندی و سامانه بخوانند: یک نقطه پایانی که گفتگو، تصمیم ایمنی و گفتار را چندگانه میکند و کش KV را میان پرشهای آداپتر حفظ میکند. خریداران باید ادعاهای جدول و مسابقه را تا زمان اندازهگیری ثالث بهعنوان گزارش IBM در نظر بگیرند و بدانند ترکیب آداپتر سفارشی هنوز به ابزار SDK اعلامشده وابسته است.