TehnologijaGN News Redakcija11.11.2026. 18:13pre 7 h

Google Cloud za 2027. izdvaja bezbednost odluka autonomnih AI agenata

Google Cloud i Mandiant u analizi „Security 2027“ očekuju da će bezbednost autonomnih agenata postati centralno pitanje za preduzeća. Među prioritetima su proverljivost odluka, nulto poverenje prema AI alatima i povezivanje više modela sa internim kontekstom organizacije.

Google logotip iz javnog domena kao opšta ilustracija zvanične Google objave; nije fotografija učesnika, proizvoda ili događaja. — Google LLC / Wikimedia Commons. Public domain. Izvor: https://commons.wikimedia.org/wiki/File:Google_2015_logo.svg. Obrada: slika konvertovana u WebP.

Autonomni agenti menjaju model rizika

Google Cloud je u analizi „Security 2027“ izdvojio bezbednosne teme koje očekuje u narednoj godini. Kompanija polazi od pretpostavke da poslovni softver prelazi sa statičnih aplikacija na autonomne agente koji mogu da obavljaju višekoračne zadatke i upravljaju važnim operacijama. To je prognoza stručnjaka iz Googlea, Google Clouda i Mandianta, a ne izveštaj o već završenoj 2027. godini.

Veći stepen autonomije menja posledice greške: agent može da pristupi podacima, pokrene alat ili promeni poslovni proces bez svakog pojedinačnog ljudskog koraka. Organizacije zato moraju da povežu ovlašćenja sa jasnim identitetom, evidencijom aktivnosti i ograničenjima radnje. Kratka objava ne propisuje jedan obavezan tehnički standard za sva preduzeća.

Integritet i objašnjivost odluka

Prvi istaknuti prioritet je zaštita integriteta odluka. Google traži da svaka posledična autonomna radnja bude bezbedna i objašnjiva. U praksi to znači da organizacija treba da zna zašto je agent doneo odluku, na koje podatke se oslonio, koje je alate pozvao i ko je odobrio njegove dozvole. Sama izjava o objašnjivosti ne dokazuje da je svaki model potpuno transparentan.

Za kritične procese važni su kontrolne tačke, mogućnost zaustavljanja i trag revizije. Nivo kontrole zavisi od rizika: preporuka dokumenta nema iste posledice kao promena konfiguracije, isplata ili pristup osetljivim podacima. Googleova analiza ukazuje na pravac, dok svaka organizacija mora da sprovede sopstvenu procenu pre uvođenja autonomnog sistema.

Nulto poverenje prema AI alatima

Drugi prioritet glasi da se nijednom AI alatu ne veruje naslepo. Organizacije bi trebalo da imaju vidljivost u podatke kojima alat može da pristupi i radnje koje preduzima. To proširuje princip najmanjih privilegija na agente: dozvole treba da budu ograničene na konkretan zadatak, vremenski opseg i provereni skup sistema.

Takav pristup ne uklanja sve rizike. Model može pogrešno protumačiti instrukciju, korisnik može uneti zlonameran sadržaj, a spoljni alat može promeniti ponašanje. Zato su uz kontrolu pristupa potrebni nadzor, beleženje radnji, testiranje i plan povratka u bezbedno stanje. Ove mere su uredničko objašnjenje implikacija Googleovih prioriteta, ne tvrdnja da je jedna platforma dovoljna.

Više modela i interni kontekst

Google Cloud kao treći pravac navodi korišćenje skupova više AI modela koji povezuju interne podatke i pokušavaju da otkriju i otklone rizike mašinskom brzinom. Više modela može da pruži različite procene istog signala, ali broj modela nije automatska garancija tačnosti. Ako dele pogrešne podatke ili iste slabosti, mogu ponoviti isti propust.

Primarni izvor je zvanični Google blog i zato su predviđanja jasno pripisana Googleu i Mandiantu. Uz članak je Google logotip iz javnog domena, a ne fotografija napada ili bezbednosnog incidenta. Rezultate prognoze biće moguće ocenjivati tek tokom 2027, na osnovu stvarnih incidenata, merenja i nezavisnih analiza.

Izvori

https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/cybersecurity-2027/

Komentari

Prikaz odobrenih komentara je dostupan. Slanje novih komentara biće uključeno kada se završe zaštita od zloupotreba i urednička moderacija.