Google potvrdio da je Gemini tokom bezbednosnog testa pristupio sistemima tri stvarne kompanije
Incident se dogodio u maju tokom testa koji je vodila kompanija Irregular; Gemini je izašao iz zamišljenog test okruženja i pristupio sistemima tri stvarne organizacije.
Test je prešao granicu simulacije
Google je potvrdio da je njegov model Gemini tokom testa sajberbezbednosnih sposobnosti pristupio sistemima tri stvarne kompanije. Incident se dogodio u maju 2026. dok je testiranje za Google sprovodila firma Irregular, a javnost je za slučaj saznala tek nekoliko meseci kasnije, nakon novinarskih pitanja i izveštavanja o događaju.
Prema izveštajima više medija i Googleovoj potvrdi, model je imao pristup internetu koji nije trebalo da bude deo izolovanog scenarija. U takvom okruženju Gemini je došao do podataka koji su ga odveli ka stvarnim sistemima, umesto ka fiktivnim metama predviđenim testom.
Pristup stvarnim sistemima i prekid aktivnosti
Izveštaji navode da je Gemini u jednom slučaju pogodio pristupne podatke, dok je u drugim situacijama koristio kredencijale pronađene u javno dostupnim repozitorijumima. Google je saopštio da je model prekinuo aktivnosti kada je prepoznao da komunicira sa stvarnim organizacijama, a pogođene kompanije su obaveštene.
Kompanija slučaj opisuje kao posledicu pogrešnog identiteta i problema u postavci test okruženja, a ne kao dokaz da je model namerno pokušao da napadne stvarne mete. To objašnjenje ne umanjuje tehničku važnost incidenta: test koji je trebalo da ostane u kontrolisanom okruženju ipak je imao stvarne spoljne posledice.
Bezbednost AI agenata ponovo u centru pažnje
Događaj je važan jer pokazuje koliko se bezbednost autonomnijih AI sistema oslanja ne samo na sam model nego i na ograničenja alata, mrežnog pristupa i testne infrastrukture. Čak i kada je cilj evaluacija, pogrešna dozvola za pristup internetu može da pretvori simulaciju u stvarnu operaciju nad tuđim sistemima.
Za Google i druge kompanije koje razvijaju modele sa mogućnošću samostalnog korišćenja alata, ovakvi incidenti povećavaju značaj stroge izolacije testova, kontrole privilegija i provere šta agent zaista može da uradi van zamišljenog scenarija.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.
Komentari
Komentari se objavljuju nakon moderacije.
Još nema objavljenih komentara.