Google predstavio TPU 8tx i 8i Max: sigurniji AI agenti i dvostruka memorijska propusnost
Google je prikazao dve nove konfiguracije svojih akceleratora osme generacije. TPU 8tx namenjen je poverljivoj obradi podataka, dok 8i Max spaja dva čipa radi većeg kapaciteta i bržeg rada sa dugim AI kontekstom.

Dva nova sistema za različite AI zadatke
Google je predstavio TPU 8tx i TPU 8i Max, dve konfiguracije akceleratora namenjenih velikim sistemima veštačke inteligencije. Iako oba pripadaju osmoj generaciji TPU tehnologije, ne rešavaju isti problem. Prvi je usmeren na zaštitu podataka tokom obrade, dok drugi povećava računarsku i memorijsku propusnost. Takva podela važna je zato što AI agenti imaju različite zahteve: nekima je presudna bezbednost podataka, a drugima mogućnost rada sa veoma dugim dokumentima.
U objavi kompanija podseća da već ima TPU 8t za velike treninge i TPU 8i za brzo zaključivanje. Dve nove verzije proširuju tu porodicu, umesto da automatski zamene sve postojeće sisteme. Ova oprema namenjena je pre svega velikim serverskim okruženjima i cloud infrastrukturi. Nije reč o čipovima koji bi se direktno ugrađivali u običan kućni telefon ili laptop.
TPU 8tx čuva podatke dok se obrađuju
Glavna novost TPU 8tx jeste podrška poverljivom računanju na nivou hardvera. Uobičajeno šifrovanje štiti podatke dok su sačuvani ili putuju mrežom, ali osetljive informacije tokom izvršavanja moraju biti dostupne procesoru. Google tvrdi da nova konfiguracija obezbeđuje dodatnu izolaciju i zaštitu modela i podataka baš u toj fazi. Zato je sistem namenjen organizacijama koje obrađuju poslovne tajne ili druge posebno osetljive informacije.
TPU 8tx zasniva se na silicijumu sistema 8t i koristi serverske procesore AMD EPYC pete generacije. Google navodi i mrežnu tehnologiju Boardfly, sa latencijom do dva puta manjom nego kod TPU 8t u odgovarajućem poređenju. Takve brojke treba razumeti kao rezultat kompanijinog tehničkog opisa, a ne kao garanciju jednakog ubrzanja svake poslovne aplikacije. Stvaran dobitak zavisi od mreže, modela i načina izvršavanja.
TPU 8i Max donosi veću memoriju u istom prostoru
Drugo rešenje, TPU 8i Max, spaja dva TPU 8i čipa u jedno pakovanje. Prema Googleu, time se udvostručuju računarska snaga, količina SRAM memorije i propusnost HBM memorije u odnosu na pojedinačni TPU 8i. Takav pristup je posebno koristan kada agent istovremeno obrađuje mnogo dokumenata, čitav repozitorijum izvornog koda ili obimnu video-građu, zbog čega običan sistem može da ostane bez slobodne brze memorije.
Kombinovanjem dva čipa u okviru postojećeg serverskog prostora Google želi da poveća gustinu računanja po ormanu i po vatu potrošene energije. To ne znači automatski da je svaki posao dvostruko brži: ukupne performanse zavise od protoka podataka, raspodele zadataka i karakteristika modela. Zato je pravilnije govoriti o novom kapacitetu memorije i računanja nego o univerzalnom ubrzanju svih AI servisa.
Softver treba da olakša korišćenje TPU-a
Google je saopštio da uz hardver razvija i pristupačniji softver. TorchTPU omogućava lakše povezivanje sa programima pisanim za PyTorch i modelima iz Hugging Face okruženja. Najavljen je i paket TPU agent suite, koji treba da pomogne pri prvom podešavanju, pronalaženju uskih grla i optimizaciji. Kompanija time pokušava da smanji potrebu da svaki razvojni tim iznova ručno prilagođava sav kod određenom tipu akceleratora.
Pomenut je i Agent Compute Engine, softver za smanjivanje nepotrebnog rada serverske infrastrukture. Kada autonomni agent čeka odgovor baze podataka, drugog alata ili čoveka, sistem može privremeno da obustavi sesiju i kasnije je nastavi. Takvo ponašanje potencijalno štedi kapacitet, ali zahtev za pouzdanim vraćanjem stanja znači da se rešenje mora pažljivo proveriti u stvarnoj upotrebi.
Za koga je ovo važno i šta još ne znamo
Najviše koristi od ovih najava mogli bi da imaju veliki cloud provajderi, istraživački centri i kompanije koje razvijaju dugotrajne AI agente. Organizacije sa poverljivim podacima mogu da prate TPU 8tx, dok sistemi sa ogromnim kontekstom imaju razlog da prouče 8i Max. Za korisnika telefona vest je indirektno važna jer infrastruktura može da utiče na brzinu i pouzdanost AI usluga u budućnosti.
Googleove tehničke tvrdnje predstavljaju opis proizvođača, a ne nezavisan test svih zadataka i cena. Kompanija nije ovom objavom potvrdila jedinstvenu maloprodajnu cenu za privatne kupce u Srbiji. Uz članak je Google Cloud logotip iz Wikimedia Commons kao prepoznatljiva ilustracija izvora, a ne fotografija samog TPU čipa. Glavni izvor informacija je zvanični Googleov tekst o sistemima 8tx i 8i Max.
Izvori
Podeli vest
Pošaljite ovu vest prijateljima. Link prikazuje naslov i fotografiju članka.
Komentari
Prikaz odobrenih komentara je dostupan. Slanje novih komentara biće uključeno kada se završe zaštita od zloupotreba i urednička moderacija.





Učitavanje komentara...