گوگل نرم‌افزار TorchTPU را به‌صورت متن‌باز در گیت‌هاب منتشر کرده است. این خبر روز سه‌شنبه ۲۰ اکتبر ۲۰۲۶ در کنفرانس PyTorch و در نوشته‌ای از مارک لومایر و بیل جیا در وبلاگ گوگل کلاد اعلام شد. TorchTPU لایه‌ای بومی از PyTorch برای واحدهای پردازش تنسور یا TPU است؛ شتاب‌دهنده‌های اختصاصی که گوگل برای مدل‌های جمینای خود به کار می‌برد. هدف این است که TPU هم مانند پردازنده‌های گرافیکی و مرکزی، یک دستگاه معمولی در PyTorch باشد.
تا پیش از این چنین نبود. به توضیح Hugging Face در نوشته خودش، کاربران PyTorch برای کار با TPU باید از PyTorch/XLA استفاده می‌کردند که تنسورها را با تأخیر اجرا می‌کرد و گاهی گراف را به‌طور غیرمنتظره دوباره کامپایل می‌کرد، یا ناچار به سراغ JAX می‌رفتند. TorchTPU برای اشکال‌زدایی در حالت اجرای فوری کار می‌کند و برای سرعت در محیط عملیاتی از torch.compile بهره می‌گیرد. به گفته گوگل، این نرم‌افزار با همکاری تیم مهندسی PyTorch در متا توسعه یافته و یانا فان خرونن از متا گفته است که اجرای بارهای کاری مدل‌های زبانی بزرگ، تبلیغات و سامانه‌های توصیه‌گر را روی TPU ممکن می‌کند.
این انتشار با فهرست بلندی از یکپارچه‌سازی‌ها همراه است. در نسخه پنجم کتابخانه Transformers کافی است مقدار tpu را برای device_map تعیین کنید تا مدل روی TPU بارگذاری شود و کتابخانه Diffusers هم از اجرای فوری، کامپایل و موازی‌سازی تنسوری پشتیبانی می‌کند. به گفته Hugging Face، دیگر نیازی به کتابخانه جداگانه Optimum TPU نیست. برای سرویس‌دهی، گوگل با شرکت Inferact یک بک‌اند برای vLLM و با RadixArk یک بک‌اند برای SGLang ساخته و هر دو را به llm-d متصل کرده است؛ پروژه استنتاج توزیع‌شده‌ای که همان روز به نسخه ۱٫۰ رسید.
در بخش آموزش، چارچوب TorchTitan دستورالعمل‌هایی برای مدل‌های متراکم مانند Llama 3 و Qwen 3، مدل‌های ترکیب خبرگان و ترنسفورمرهای انتشاری دارد. گوگل گزارش می‌دهد که آموزش با TorchTitan روی TorchTPU تا ۵۲ درصد بهره‌وری محاسباتی روی مدل Qwen 3 8B رسیده و تا ۸۱۹۲ تراشه Ironwood تقریباً به‌صورت خطی مقیاس‌پذیر بوده است. بک‌اند TPU برای چارچوب یادگیری تقویتی VeRL در مرحله پیش‌نمایش است و Ray اکنون می‌تواند مراحل یک خط لوله را میان پردازنده‌های مرکزی، گرافیکی و TPU تقسیم کند. گوگل همچنین اعلام کرد LiteRT، که پیش‌تر TensorFlow Lite نام داشت، با مبدلی به نام litert-torch به اکوسیستم PyTorch می‌پیوندد و مجموعه‌ای از عامل‌ها برای راه‌اندازی و بهینه‌سازی روی TPU را در حالت پیش‌نمایش عرضه کرد.
زمینه تجاری این خبر، رقابت بر سر وابستگی نرم‌افزاری به انویدیا است. TechCrunch یادآوری می‌کند که بیشتر برنامه‌های هوش مصنوعی به‌طور پیش‌فرض برای پردازنده‌های گرافیکی انویدیا نوشته می‌شوند و آمازون یک روز پیش‌تر بک‌اند مشابهی به نام TorchNeuron برای تراشه‌های Trainium خود منتشر کرده بود. گوگل با آسان کردن انتقال کدهای موجود PyTorch به TPU بدون بازنویسی گسترده، آزمودن سخت‌افزار ابری خود را برای مشتریان ساده‌تر می‌کند.
چند پرسش همچنان بی‌پاسخ است. آمار بهره‌وری و مقیاس‌پذیری را خود گوگل منتشر کرده و هنوز به‌طور مستقل تکرار نشده است و شرکایی که در اطلاعیه نقل قول کرده‌اند، همکاران تجاری گوگل هستند. جدول کامل سازگاری عملگرهای PyTorch منتشر نشده و روشن نیست کرنل‌های سفارشی CUDA که بسیاری از تیم‌ها به آن متکی‌اند با چه سرعتی قابل جایگزینی هستند. متن‌باز شدن این لایه مانع جابه‌جایی را کمتر می‌کند، اما هزینه هر توکن در بارهای کاری واقعی تعیین خواهد کرد که توسعه‌دهندگان واقعاً مهاجرت می‌کنند یا نه.