A Google publicou o TorchTPU no GitHub como projeto de código aberto. O anúncio foi feito na terça-feira, 20 de outubro de 2026, na PyTorch Conference, num artigo de Mark Lohmeyer e Bill Jia no blogue da Google Cloud. Trata-se de uma camada nativa de PyTorch para as Tensor Processing Units, os aceleradores próprios que a Google usa nos seus modelos Gemini. A ideia é que as TPUs passem a funcionar como qualquer outro dispositivo PyTorch, ao lado de GPUs e CPUs.
Até agora não era assim. Como explica a Hugging Face na sua publicação de lançamento, quem usava PyTorch em TPUs tinha de recorrer ao PyTorch/XLA, com tensores de execução diferida e recompilações inesperadas do grafo, ou mudar para JAX. O TorchTPU funciona em modo imediato para depuração e recorre ao torch.compile quando se pretende velocidade de produção. Segundo a Google, foi desenvolvido em conjunto com a equipa de engenharia de PyTorch da Meta, e Jana van Greunen, da Meta, afirmou que permite correr em TPUs cargas de modelos de linguagem, publicidade e recomendação.
O lançamento traz muitas integrações. No Transformers v5 da Hugging Face, basta indicar "tpu" no parâmetro device_map para colocar um modelo numa TPU, e o Diffusers suporta modo imediato, compilação e paralelismo de tensores. A Hugging Face diz que a biblioteca Optimum TPU deixa de ser necessária nestes casos. Para inferência, a Google criou um backend para vLLM com a Inferact e outro para SGLang com a RadixArk, ligando ambos ao llm-d, o projeto de inferência distribuída que chegou à versão 1.0 no mesmo dia.
No treino, o TorchTitan oferece receitas para modelos densos como Llama 3 e Qwen 3, modelos de mistura de especialistas e transformadores de difusão. A Google indica que o treino com TorchTitan sobre TorchTPU atingiu até 52% de utilização de FLOPs no Qwen 3 8B, com escalabilidade quase linear até 8192 TPUs Ironwood. Um backend TPU para a framework de aprendizagem por reforço VeRL está em pré-visualização, e o Ray já distribui etapas de um pipeline entre CPUs, GPUs e TPUs. A empresa anunciou ainda que o LiteRT, antigo TensorFlow Lite, passa a integrar o ecossistema PyTorch através do conversor litert-torch, e lançou em pré-visualização um conjunto de agentes para ajudar na migração e otimização em TPUs.
O pano de fundo é a dependência do software da Nvidia. O TechCrunch lembra que a maioria das aplicações de IA é escrita por omissão para GPUs Nvidia e que a Amazon lançou na véspera um backend semelhante para os seus chips Trainium, o TorchNeuron. Ao facilitar a passagem de código PyTorch para TPUs sem grandes reescritas, a Google torna mais simples experimentar o seu hardware na nuvem sem abandonar ferramentas conhecidas.
Ficam várias dúvidas. Os números de utilização e escalabilidade são da própria Google e ainda não foram reproduzidos por terceiros, e os parceiros citados no anúncio são colaboradores comerciais. Não foi publicada uma tabela completa de compatibilidade com os operadores PyTorch, nem é claro com que rapidez será possível substituir kernels CUDA personalizados. Abrir o código reduz a barreira à mudança, mas será o custo por token em cargas reais a decidir se os programadores mudam de facto.