OpenAI i bivši istraživači izneli suprotstavljene tvrdnje o otkazima i AI bezbednosti

Šta tvrde bivši istraživači

Tri bivša istraživača OpenAI-ja javno su izrazila zabrinutost zbog načina na koji je kompanija odlučila da prekine njihov radni odnos. Prema izveštajima međunarodnih medija, u otvorenom pismu ocenili su da njihovi otkazi kod ostalih zaposlenih mogu da izazovu strah od iznošenja mišljenja i postavljanja pitanja o bezbednosti veštačke inteligencije. Njihova poruka je da zaposleni moraju da imaju prostor da ukažu na moguće rizike, naročito u organizacijama koje razvijaju tehnologije sa širokim društvenim uticajem.

Kompanija OpenAI predstavila je drugačije objašnjenje. U javnom reagovanju navela je da je interna istraga utvrdila ozbiljno narušavanje poverenja u vezi sa postupanjem prema osetljivim informacijama. Kompanija tvrdi da odluke o prekidu radnog odnosa nisu donete zato što su istraživači govorili o bezbednosti sistema ili javno iznosili zabrinutost. Reč je o suprotstavljenim javnim tvrdnjama i ne bi bilo odgovorno bilo koju od njih predstaviti kao konačno utvrđenu činjenicu o motivima otpuštanja.

Odgovor kompanije i važna pitanja

Bivši zaposleni, među kojima se u izveštajima pominje istraživačica Džasmin Vang, smatraju da način postupanja kompanije šalje upozoravajuću poruku drugim članovima tima. U pismu navode zabrinutost da bi ljudi mogli da odustanu od razgovora o mogućim problemima ako veruju da posledice po njihov posao zavise od neslaganja sa rukovodstvom. Njihov stav treba posmatrati kao iskaz učesnika u sporu, a ne kao zaključak nezavisnog suda ili regulatora.

Razlika između ove dve interpretacije bitna je za javnu debatu o upravljanju AI sistemima. S jedne strane, organizacije moraju da čuvaju poverljive podatke, poslovne tajne i materijal koji bi mogao da ugrozi bezbednost korisnika. S druge, istraživači koji se bave sigurnošću tehnologije treba da imaju funkcionalne mehanizme za prijavu problema i razmatranje stručnih upozorenja. Kako se ti principi usklađuju u pojedinačnom slučaju zavisi od postupaka, dokaza i internih pravila, koji nisu svi dostupni javnosti.

Za korisnike digitalnih proizvoda najvažnije je da razvoj naprednih AI modela prati jasan sistem odgovornosti. Međutim, informacije o konkretnom radnom sporu ne govore automatski da je određeni model bezbedan ili nebezbedan. Zato ova vest ne izvodi zaključke o kvalitetu proizvoda niti optužuje pojedince za radnje koje nisu dokazane. Uz članak je zvanični znak kompanije iz ranijeg perioda, kao ilustracija teme, a ne fotografija učesnika ili internog događaja.