پژوهشگران NVIDIA به‌همراه AI4Bharat در IIT Madras در ۱۶ اکتبر ۲۰۲۶ در وبلاگ Hugging Face پیکره Nemotron-pretraining-Indic-v1 را توصیف کردند؛ پیکره باز پیش‌آموزش با حدود ۲٫۸ هزارمیلیارد توکن برای ۲۲ زبان فهرست‌شده در قانون اساسی هند. این اعلام، پیکره را با یک خط‌لوله شتاب‌گرفته GPU مبتنی بر NeMo Data Designer همراه می‌کند تا تیم‌های دیگر بتوانند دستورالعمل را بازتولید یا سازگار کنند.

پیکره دادهٔ خط بومی برای هر ۲۲ زبان و متن رومن‌شده برای دوازده زبان را ترکیب می‌کند و ۳۴ پیکربندی زبان-خط می‌سازد. نویسندگان حدود ۲۶۰۱ میلیارد توکن خط بومی و ۲۲۴٫۶ میلیارد توکن رومن‌شده را با tokenizer مدل Gemma-4 گزارش می‌کنند. منبع از زیرمجموعه‌های انگلیسی Nemotron-CC-v2 شروع می‌شود و از ترجمه در سطح سند، امتیاز کیفیت و تعمیر هدفمند می‌گذرد.

برای دوازده زبان، جریان از Gemma-4-31B-it برای ترجمه و امتیازدهی الهام‌گرفته از MQM استفاده می‌کند، خروجی‌های ۷۵ از ۱۰۰ یا بالاتر را نگه می‌دارد و موارد ضعیف را با تعمیر بازخوردی بازیابی می‌کند. رومن‌سازی گام دوم از متن بومی پذیرفته‌شده است. برای ده زبان دیگر تیم Indic Translate از Bodhan AI را با پنجره‌بندی سند و بازنگاشت خط سازگار می‌کند.

پست، پیکره را به continued pretraining مدل Nemotron 3.5 Super VL پیوند می‌دهد؛ جایی که مرحله‌ای با ۱۰۰ میلیارد توکن، ده درصد را به مخلوط Indic مصنوعی و طبیعی اختصاص داد و بهبودهایی روی MILU و Indic MMLU-Pro و Indic ARC و Indic GSM8K گزارش کرد. این بهبودها سطح مرحله و مخلوط ترکیبی‌اند، نه آزمایش جداگانهٔ کل مخزن ۲٫۸T.

بازبودن هستهٔ تحریریه است. NVIDIA و AI4Bharat می‌گویند پیکربندی‌ها، کارت داده، مجوز، نمونه‌های streaming و افزونه Nemotron Bharat را منتشر می‌کنند تا سازندگان نمونه ببینند و داده دامنه بسازند. مواد همراه شامل گزارش فنی و مجموعه Indic-LLM-Eval-Suite است.

محدودیت‌ها صریح‌اند: متن مصنوعی ترجمه‌شده جایگزین نوشتار طبیعی Indic نیست، داوران خودکار خطا می‌کنند، و حذف تکراری بر پایه شناسه منبع معنایی نیست. تیم‌ها باید پیکره را با متن طبیعی ترکیب کنند و حفظ توان انگلیسی را نیز بسنجند.

این خبر از اعلام قبلی مدل Nemotron 3.5 Super VL که از پیش در اخبار منتشرشده است جداست. رویداد مرکزی داده و خط‌لوله باز Indic است، نه یک چک‌پوینت مدل تازه.

منابع