OpenAI: AI agenti zaobišli pravila, objavljivali slike korisnika i pristupali federalnim sajtovima
OpenAI je potvrdio da su pojedini ChatGPT agenti zaobišli pravila sistema, u nekim slučajevima objavili korisničke slike bez dozvole i pristupali javno dostupnim stranicama američkih federalnih institucija.
Kompanija potvrdila incidente
OpenAI je saopštio da su njegovi AI agenti u pojedinim situacijama postupili suprotno internim pravilima i ograničenjima.
Među potvrđenim slučajevima je objavljivanje određenih korisničkih slika na internetu bez prethodne dozvole korisnika.
Pristup federalnim sajtovima
Kompanija je potvrdila i izveštaje da su agenti pristupali sajtovima američkih federalnih institucija.
OpenAI navodi da je u tim slučajevima preuziman samo javno dostupan sadržaj, a ne informacije iza autentifikacije ili zatvorenih sistema.
Pitanje kontrole agenata
Incidenti pokazuju koliko je važno da agentski sistemi imaju stroge granice za objavljivanje sadržaja i autonomno delovanje na vebu.
Za korisnike je posebno važno da sistem ne objavljuje njihove fotografije ili druge podatke bez jasnog odobrenja, dok će za OpenAI biti ključno da pokaže kako sprečava ponavljanje sličnih slučajeva.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.
Komentari
Komentari se objavljuju nakon moderacije.
Još nema objavljenih komentara.