انویدیا یک مدل گفتاری تازه با وزنهای باز را روی Hugging Face و ModelScope قرار داده که میخواهد جای چند ابزار جداگانه را با یک checkpoint بگیرد. Nemotron 3.5 Transcribe که ۲۸ اکتبر معرفی شد، فایل صوتی ضبطشده را میگیرد و بسته به دستوری که به زبان ساده نوشته میشود، متن پیادهشده، ترجمه، متنی با برچسب گویندهها یا پاسخ یک پرسش درباره محتوای ضبط را تحویل میدهد. این شرکت همزمان Granary v2 را هم منتشر کرد؛ یعنی خط لوله پالایش داده و فهرستهای عمومیای که بخشی از دادههای آموزشی مدل از آنها آمده است.
بر پایه کارت مدل، رونویسی ۴۰ زبان را پوشش میدهد، ترجمه از انگلیسی یا به انگلیسی برای ۳۱ زبان در دسترس است و تشخیص گوینده در ۱۳ زبان کار میکند. هر فایل میتواند تا یک ساعت طول بکشد و مدل تا هشت صدا را از هم جدا میکند. در معماری آن یک رمزگذار گفتار به یک مدل زبانی ترکیبی Mamba و Transformer از نوع آمیزه متخصصان وصل است که حدود ۳۰ میلیارد پارامتر دارد، اما برای هر توکن فقط نزدیک به ۴ میلیارد پارامتر فعال میشود. نسخههای BF16، FP8 و NVFP4 با مجوز OpenMDW-1.1 عرضه شدهاند که به گفته کارت مدل، استفاده تجاری و غیرتجاری را مجاز میداند.
ایده اصلی، هدایت مدل با دستور است. کاربر میتواند متن کلمهبهکلمه یا ویرایششده بخواهد، ترجمه درخواست کند یا فهرست کوتاهی از اصطلاحات احتمالی، مثلاً نام داروها در یک گفتوگوی پزشکی، بدهد و بگوید فقط وقتی صدا آنها را تأیید میکند به کار روند. پاسخ به پرسش درباره صوت تنها به زبان انگلیسی آموزش دیده و خود انویدیا توصیه میکند نامها، تغییر گوینده و پاسخها با فایل اصلی مقایسه شوند. مدل برای فایلهای ضبطشده ساخته شده و پخش زنده را پشتیبانی نمیکند؛ نکتهای که TechCrunch آن را مهمترین ضعف این عرضه دانست.
انویدیا فهرست بلندی از رتبهبندیها را هم ارائه کرده که همه آنها را خودش اندازه گرفته است. به گفته این شرکت، مدل در بخش انگلیسی Open ASR Leaderboard متعلق به Hugging Face با میانگین نرخ خطای واژه ۵٫۳۳ درصد در صدر مدلهای باز قرار دارد، در شاخص AA-WER مؤسسه Artificial Analysis با ۲٫۸ درصد در میان مدلهای باز در رتبه نخست مشترک است و در آزمون ۲۱ زبانه David AI کمترین نرخ خطای تفکیک گوینده، یعنی ۱۸٫۲۶ درصد، را میان ۱۴ سامانه به دست آورده است. کارت مدل میافزاید که بخشی از دادههای آموزشی از David AI خریداری شده، هرچند تأکید میکند مجموعه ارزیابی آن کنار گذاشته شده است.
ادعاهای سختافزاری هم همین الگو را دارند. انویدیا میگوید یک پردازنده گرافیکی کافی است، از ماژول Jetson AGX Thor و DGX Spark تا تراشههای Blackwell مراکز داده، و یک کارت RTX PRO 6000 Blackwell Server Edition با دقت NVFP4 میتواند ۱۰۰ ساعت قطعه صوتی ۳۰ ثانیهای را با درخواستهای همزمان فراوان در کمتر از سه دقیقه پردازش کند. توسعهدهندگان میتوانند checkpoint را با vLLM اجرا کنند، آن را بهصورت محلی با NeMo-Speech.cpp به کار بگیرند یا از نسخههای میزبانیشده Baseten، DeepInfra و Simplismart استفاده کنند.
Granary v2 برای تیمهایی است که باید مدل را با نیاز خود تطبیق دهند. این خط لوله که با NeMo Curator ساخته شده، صوت را بخشبندی میکند، هر زبان را به تشخیصدهندههای اصلی و پشتیبان میسپارد، چند شکل نوشتاری از هر متن میسازد و قطعههای پرنویز یا دارای صداهای همپوشان را حذف میکند. فهرست عمومی آن ۴۶۳٬۰۶۲ ساعت صوت در ۴۸ زبان از ۱۶ پیکره را توصیف میکند، در حالی که نسخه نخست Granary تنها ۲۵ زبان داشت. خود فایلهای صوتی همراه آن نیست و باید جداگانه و طبق مجوز هر پیکره تهیه شود.
انویدیا برای نشان دادن اثر تطبیق، یک مطالعه موردی پزشکی روی مجموعه Eka Care، شامل ضبط صدای پزشکان و دانشجویان پزشکی هندی، انجام داده است. روی گویندههایی که در تنظیم مدل حضور نداشتند، آموزش تکمیلی نرخ خطا را از ۲۲٫۴۴ درصد با بهترین دستور به ۱۲٫۱۷ درصد رساند؛ کاهشی نسبی برابر ۴۵٫۸ درصد، با حدود ۱۴ ساعت کار روی یک GB300. در مقابل، دقت در انگلیسی عمومی اندکی افت کرد و خطا در LibriSpeech test-clean از ۱٫۵۴ به ۱٫۶۹ درصد رسید.
این عرضه در ماهی شلوغ برای هوش مصنوعی صوتی رخ میدهد. TechCrunch یادآوری کرد که Mistral اوایل اکتبر Voxtral 3 را عرضه کرد و ElevenLabs و Salesforce هم مدلهای صوتی تازهای معرفی کردند. Nemotron 3.5 Transcribe به مدلهای کوچکتر Parakeet انویدیا میپیوندد. اینکه برتری آن در جدولها پابرجا بماند به آزمونهای مستقل بستگی دارد، چون همه ارقام فعلی از اسناد خود انویدیا آمدهاند.