Mistral مدل پرچم‌دار جدید خود با نام Mistral Large 4 و لقب «Le Chonk» را معرفی کرده است؛ مدلی که طبق برنامه قرار است وزن‌های کامل آن در ۲۷ اکتبر به‌صورت عمومی منتشر شود. این شرکت فرانسوی مدل را ۶ اکتبر در کنفرانسی در ابوظبی معرفی کرد و تا پیش از انتشار عمومی، دسترسی زودهنگام محدودی را در اختیار متخصصان امنیت سایبری و برخی نهادهای دولتی قرار می‌دهد؛ موضوعی که Reuters و The Wall Street Journal گزارش کرده‌اند.

این زمان‌بندی مهم است، چون Large 4 هنوز یک انتشار عمومی معمول محسوب نمی‌شود. توسعه‌دهندگان فعلاً نمی‌توانند وزن‌های نهایی را دریافت کنند، کارت مدل قطعی را بررسی کنند یا ادعاهای Mistral درباره عملکرد و ایمنی را به‌صورت مستقل بازتولید کنند. بنابراین رویداد امروز را باید «معرفی و دسترسی کنترل‌شده» دانست؛ نقطه عطف اصلی برای مدل وزن‌باز، در صورت اجرای برنامه، ۲۷ اکتبر خواهد بود.

گزارش‌های مستقل Large 4 را یک مدل چندوجهی با معماری «ترکیب متخصص‌ها» معرفی می‌کنند که حدود یک تریلیون پارامتر در مجموع دارد و نزدیک به ۴۹ میلیارد پارامتر آن برای هر توکن فعال می‌شود. Axios گزارش می‌دهد که Mistral این مدل را طی حدود دو ماه با ۴٬۰۰۰ شتاب‌دهنده Nvidia Grace Blackwell در مراکز داده اروپایی خود آموزش داده است. The Wall Street Journal نیز به همین مقیاس ۴٬۰۰۰ شتاب‌دهنده اشاره می‌کند. چنین طراحی‌ای می‌تواند ظرفیت کلی مدل را بالا ببرد، بدون آن‌که هزینه محاسباتی یک مدل چگال یک‌تریلیون‌پارامتری برای هر توکن پرداخت شود.

Mistral این مدل را به‌عنوان یک گزینه وزن‌باز رده‌بالا در برابر سامانه‌های بسته آمریکایی و مدل‌های وزن‌باز قدرتمند چینی معرفی می‌کند. Reuters گزارش داده که شرکت برای Large 4 توانایی بالایی در امنیت سایبری و همچنین کاربردهایی در برنامه‌نویسی، امور مالی، تحلیل جغرافیایی و طراحی تراشه مطرح کرده است. Mistral همچنین می‌گوید سازوکارهای مهار آن در آزمایش‌هایی که تلاش می‌کردند مدل از محیط آزمایش خارج شود، مقاومت کرده‌اند. این موارد هنوز ادعاهای خود شرکت هستند که رسانه‌ها نقل کرده‌اند و نباید با نتایج مستقل آزمون‌های معیار یا آزمون امنیتی اشتباه گرفته شوند.

برای سازمان‌هایی که به استقرار داخلی یا هوش مصنوعی حاکمیتی فکر می‌کنند، پیامد عملی می‌تواند مهم باشد. یک مدل اروپایی قدرتمند با وزن‌های قابل‌دریافت می‌تواند کنترل بیشتری بر محل اجرا، بررسی مدل و انتخاب زیرساخت به شرکت‌ها و نهادهای عمومی بدهد. با این حال «وزن‌باز» به معنی ارزان‌بودن اجرا نیست؛ ۴۹ میلیارد پارامتر فعال همچنان به حافظه زیاد شتاب‌دهنده، ارتباط پرسرعت میان سخت‌افزارها و مهندسی دقیق استنتاج برای محیط عملیاتی نیاز دارد.

دلیل اصلی برای دنبال‌کردن Large 4 فعلاً یک رتبه ادعایی در آزمون‌های معیار نیست، بلکه تغییری است که ممکن است در مرز کنترل ایجاد کند. اگر Mistral در ۲۷ اکتبر وزن‌ها را با شرایطی مناسب برای استقرار واقعی منتشر کند، تیم‌ها خواهند توانست مدل را روی کد، داده و سناریوهای امنیتی خودشان آزمایش کنند و به نمایش‌های فروشنده وابسته نباشند. تا آن زمان، مقایسه آن با سایر مدل‌های وزن‌باز مرزی باید موقت تلقی شود.

در زمان بررسی برای انتشار این خبر، صفحه رسمی اخبار Mistral هنوز مقاله یا کارت مدل اختصاصی برای Large 4 نداشت. با این حال Reuters، The Wall Street Journal و Axios به‌طور مستقل اصل معرفی و جزئیات اصلی زمان انتشار را با اطلاعاتی تا حد زیادی هم‌خوان گزارش کرده‌اند. مجوز دقیق، فایل‌های قابل‌دریافت و بسته آزمون معیار قابل‌بازتولید باید پس از انتشار عمومی وزن‌ها دوباره بررسی شوند.

منابع