NVIDIA i CoreWeave ubrzali AI agente novom infrastrukturom

CoreWeave je u testiranju NVIDIA Vera procesora zabeležio više od tri puta brže pokretanje sandbox okruženja namenjenih radu AI agenata, evaluaciji modela i izvršavanju koda u izolovanim sredinama.

Kompanija navodi da je na Terminal-Bench testu ostvarila 1,7 puta bolje performanse na Vera CPU platformi kroz zadatke koji su uspešno završeni.

Jedan rack sistema zasnovanog na Veri može da sadrži 128 procesora i 11.264 jezgra, što prema CoreWeaveu omogućava više od 11.000 istovremenih okruženja ako svako koristi po jedno jezgro.

CoreWeave je takođe pokrenuo Forge, povezano okruženje namenjeno treniranju, evaluaciji i unapređivanju modela i agenata na NVIDIA akcelerisanom računarstvu.

Za agentic AI, jedan od ključnih pokazatelja nije samo brzina pojedinačnog modela već koliko izolovanih agentskih okruženja može stabilno da radi paralelno dok opterećenje raste.

CoreWeave navodi da je njegova infrastruktura već skalirana na hiljade NVIDIA GPU-ova za inference radna opterećenja kompanije Cognition.