آمازون می‌کوشد یکی از دلایل اصلی وابستگی توسعه‌دهندگان به انویدیا را از میان بردارد. این شرکت روز دوشنبه ۱۹ اکتبر ۲۰۲۶ نرم‌افزار TorchNeuron را که لایه‌ای بومی برای اتصال PyTorch به تراشه‌های AWS Trainium است، به‌صورت آزمایشی عمومی برای همه باز کرد و اعلام کرد کد آن را ۲۰ اکتبر در کنفرانس PyTorch آمریکای شمالی با مجوز متن‌باز Apache 2.0 منتشر می‌کند. رویترز و گیک‌وایر پس از گفت‌وگو با واحد تراشه‌سازی آمازون این خبر را گزارش کردند.
وعده اصلی ساده است: کدی که برای PyTorch، رایج‌ترین چارچوب ساخت مدل‌های هوش مصنوعی، نوشته شده باید با یک تغییر تنظیمات و بدون بازنویسی روی Trainium اجرا شود. به گزارش گیک‌وایر، تا پیش از این توسعه‌دهندگان ناچار بودند کد خود را برای فراخوانی رابط‌های اختصاصی تراشه‌های آمازون تغییر دهند. آمازون می‌گوید TorchNeuron به سازوکار استانداردی متصل می‌شود که PyTorch برای معرفی سخت‌افزار تازه در نظر گرفته، بنابراین ابزارهای معمول آزمون، اشکال‌زدایی و مقیاس‌دهی بدون تغییر کار می‌کنند. این نرم‌افزار از Trainium2 و Trainium3 پشتیبانی می‌کند.
آمازون فراتر از لایه اختصاصی خود هم کار می‌کند. به گفته شرکت، تغییراتی را به پروژه اصلی PyTorch پیشنهاد داده تا کدهایی که این چارچوب را به تراشه‌های خاص گره می‌زنند حذف شوند، مجموعه کامل هسته‌های بهینه‌سازی‌شده خود را متن‌باز کرده و سهم بزرگی در پروژه استنتاج vLLM داشته است. TorchNeuron با TorchTitan، چارچوب بومی PyTorch برای آموزش توزیع‌شده، یکپارچه می‌شود تا کارها با روش موازی‌سازی داده کاملاً تکه‌شده میان چند نمونه Trainium پخش شوند. به گفته آمازون، Hugging Face نیز پشتیبانی بومی از Trainium را به ابزارهای توسعه خود افزوده است.
این نرم‌افزار برای برخی مشتریان تازگی ندارد. گیک‌وایر نوشت TorchNeuron از اواخر سال گذشته در مرحله آزمایشی خصوصی بوده و کالین بریس، معاون رئیس در Annapurna Labs، واحد تراشه‌سازی آمازون، به رویترز گفت بیش از ۳۰ مشتری اولیه در حوزه‌های رباتیک، مدل‌های جهان و هوش مصنوعی صوتی از آن استفاده می‌کنند. استارتاپ صوتی Deepgram می‌گوید آزمون‌هایش نشان داده Trainium به ازای هر دلار حدود ۶۰ درصد صدای بیشتری نسبت به سامانه قبلی مبتنی بر پردازنده گرافیکی پردازش می‌کند و تیم Prime Video با این ابزار سامانه‌ای برای بازپخش سه‌بعدی صحنه‌های مسابقات NBA ساخته است. بریس به گیک‌وایر گفت: «اگر PyTorch را بلدید، Trainium را هم بلدید.»
هدف راهبردی، برتری نرم‌افزاری انویدیاست. بخش بزرگی از کدهای هوش مصنوعی صنعت حول پلتفرم CUDA انویدیا ساخته شده و انتقال آن به تراشه‌های دیگر ممکن است ماه‌ها طول بکشد؛ همین موضوع بسیاری از شرکت‌ها را از جابه‌جایی بازمی‌دارد، حتی در حالی که ارائه‌دهندگان ابری شتاب‌دهنده‌های خود را می‌سازند. گوگل هم پروژه مشابهی به نام TorchTPU برای تراشه‌های TPU خود دنبال می‌کند. به نوشته گیک‌وایر، بزرگ‌ترین کاربران Trainium تاکنون آزمایشگاه‌هایی با پیوندهای مالی نزدیک با آمازون بوده‌اند، از جمله Anthropic و OpenAI که در فوریه پذیرفت از ۲ گیگاوات ظرفیت Trainium استفاده کند.
تضمین کیفیت تعیین می‌کند وعده بی‌نیازی از بازنویسی تا چه حد پابرجا می‌ماند. آمازون می‌گوید TorchNeuron را در هر نسخه با صدها هزار مدل آزمایش می‌کند؛ بریس به گیک‌وایر گفت آزمون‌های شبانه بیش از ۱۰۰ هزار مدل از Hugging Face را پوشش می‌دهد. هیچ‌یک از این ارقام به‌طور مستقل بررسی نشده و هر دو درباره سازگاری است، نه عملکرد.
پرسش‌های باقی‌مانده جنبه عملی دارند. ارقام صرفه‌جویی مشتریانی مانند Deepgram را خودشان اعلام کرده‌اند و آمازون مقایسه مستقلی با سخت‌افزار انویدیا در کارهای رایج آموزش یا استنتاج منتشر نکرده است. هسته‌های سفارشی و تنظیمات ویژه هر مدل شاید همچنان برای رسیدن به بیشترین سرعت لازم باشد. انتشار کد در ۲۰ اکتبر به توسعه‌دهندگان بیرونی امکان می‌دهد بسنجند بارهای کاری PyTorch بدون تغییر واقعاً تا کجا روی Trainium پیش می‌روند.