TorchTPU je otvoren: PyTorch modeli mogu nativno da rade na Google TPU čipovima

PyTorch na TPU infrastrukturi

Google je objavio TorchTPU kao projekat otvorenog koda za nativno pokretanje PyTorch radnih opterećenja na TPU akceleratorima. Rešenje je razvijeno zajedno sa PyTorch timom u kompaniji Meta i zamišljeno je tako da postojeći PyTorch kod zahteva minimalne izmene uz zadržavanje poznatih programskih interfejsa.

TorchTPU podržava standardne PyTorch API-je, naprednu dijagnostiku i ugrađene primitive za distribuirani rad. Google tvrdi da ta kombinacija treba da donese bolje performanse i jednostavnije operativno upravljanje od prvog dana korišćenja.

Od otklanjanja grešaka do produkcije

Razvojni timovi mogu da proveravaju modele u eager režimu, a zatim da pređu na torch.compile kada žele produkcijske optimizacije, veću iskorišćenost TPU-a i manju memorijsku potrošnju. To nudi postepen prelaz između preglednog razvoja i optimizovanog izvršavanja.

Najava je predstavljena na PyTorch Conference 2026 kao deo šireg niza proizvoda i integracija za rad na Google Cloud infrastrukturi ili u sopstvenim sistemima korisnika.

Širi izbor hardvera

Google TorchTPU predstavlja kao deo otvorenog softverskog modela koji korisnicima omogućava izbor između TPU, GPU i CPU infrastrukture. Otvaranje koda može olakšati proveru i doprinos zajednice, ali stvarne performanse i trošak i dalje zavise od konkretnog modela, skupa podataka i okruženja.