Kod distribuiranih AI agenata najveći trošak pravi dodatna inferencija
Agentic-eCAL proširuje merenje energetskog troška na višestruke AI agente i pokazuje da sam transport njihovih tekstualnih poruka čini oko 0,25% energije workflowa; veći trošak nastaje kada komunikacija izaziva novo procesiranje konteksta i inferenciju.
Klasične AI metrike ne vide ceo execution graph
Kako 5G-Advanced i buduće 6G mreže uvode agentic AI kroz edge-cloud kontinuum, jedan zadatak više nije nužno jedna inferencija. Agenti mogu da rezoniraju u više koraka, pozivaju alate, preuzimaju znanje i međusobno komuniciraju, pa ukupni energetski trošak zavisi od čitavog execution graph-a.
Postojeće lifecycle metrike često mere izolovanu inferenciju jednog modela ili uopšte ne predstavljaju raspored više agenata. Zbog toga operator teško može da proceni da li je bolje agente smestiti na edge, u centralni cloud ili ih podeliti između više slojeva infrastrukture.
Agentic-eCAL spaja compute i mrežni transport
Autori uvode agentic-eCAL kao proširenje Energy Cost of AI Lifecycle metrike. Model kombinuje zatvorenu dvoratnu procenu energije jednog poziva — compute-bound prefill i memory-bound decode — sa sedmoslojnim OSI modelom transporta podataka između agenata.
Validacija se oslanja na stotine GPU benchmark konfiguracija na NVIDIA A100 i H100, 16 open-weight modela i osam orchestration topologija. Time se pokušava pokriti dovoljno različitih modelskih i infrastrukturnih režima da zaključak ne zavisi od jedne konkretne konfiguracije.
Transport poruka je mali deo ukupne energije
Najupadljiviji rezultat je da inter-agent transport teksta kroz 5G RAN, metro i optičke linkove čini oko 0,25% ukupne energije workflowa. Sama činjenica da su agenti fizički razdvojeni zato ne znači automatski da mrežni prenos postaje dominantan trošak.
Mnogo važniji efekat komunikacije je indirektan: svaka poruka može da poveća kontekst, pokrene novu inferenciju ili izazove dodatni reasoning korak. U edge-cloud rasporedu dominantni energetski trošak distribucije zato često nije slanje teksta, već compute koji je potreban da se taj tekst obradi.
Gde agent „živi“ zavisi od compute-memory profila
Ovakav rezultat menja intuiciju o placement-u. Ako je transport relativno jeftin, odluka između edge-a i cloud-a više zavisi od modela, memorije, prefill/decode odnosa, dostupnosti akceleratora i broja dodatnih poziva nego od veličine same tekstualne poruke.
To je posebno važno za agent teams koji često razmenjuju kratke poruke, ali svaka poruka otvara novi veliki kontekst. Energetski optimizovan sistem zato treba da smanjuje nepotrebne inferencije i ponovljeno procesiranje konteksta, a ne samo broj bajtova koji prelaze mrežu.
Poređenje sa ljudskim mozgom služi kao skala, ne cilj
Rad podseća da ljudski mozak obavlja složenu kogniciju uz metabolički budžet od približno 20 W, dok savremeni LLM sistemi traže daleko više energije i memorije. To poređenje ne znači da su biološki i digitalni sistemi direktno uporedivi, već daje skalu zašto održivost lifecycle-a postaje operativno pitanje.
Za operatore je praktična vrednost metrike u tome što može da odvoji trošak modela, transporta i orchestration-a. Tek kada se ti delovi mere zajedno moguće je racionalno odlučiti gde postaviti agente i koje interakcije skratiti bez pretpostavke da je mreža automatski najveći potrošač.
Šta rezultat znači u praksi
Merenje zato menja intuiciju o tome gde treba tražiti energetsku optimizaciju. Ako transport tekstualnih poruka čini samo mali deo ukupne potrošnje, smanjenje broja mrežnih bajtova neće mnogo pomoći ukoliko ista poruka pokreće novu veliku inferenciju ili ponovno procesiranje dugog konteksta kod drugog agenta.
Za dizajn multi-agent sistema važnije postaje koliko često agenti aktiviraju jedni druge, koliko konteksta ponovo obrađuju i da li se isti zadatak nepotrebno rešava više puta. Agentic-eCAL upravo pokušava da tu dodatnu inferenciju pripiše konkretnim komunikacionim događajima umesto da energiju meri samo po jednom izolovanom modelskom pozivu.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.