Rukovodilac za bezbednost napustio OpenAI i upozorio na „slomljenu“ kulturu
David Robinson napustio je OpenAI uz javno upozorenje da kompanije koje razvijaju najnaprednije AI sisteme nisu ni približno dovoljno oprezne. Njegova poruka usmerena je na bezbednosne procese i način na koji industrija upravlja rizikom.
Odlazak uz ozbiljno upozorenje
David Robinson, rukovodilac povezan sa bezbednošću u OpenAI-ju, napustio je kompaniju uz upozorenje da je njena bezbednosna kultura „slomljena“, čime je svoj odlazak pretvorio u javnu kritiku načina na koji se u industriji upravlja rizicima razvoja veštačke inteligencije.
Robinson je poručio da AI kompanije nisu ni približno dovoljno pažljive kada razvijaju ovu tehnologiju, pa je fokus njegovog upozorenja na brzini razvoja, procedurama kontrole i nivou opreza koji prati sisteme na granici trenutnih mogućnosti.
Poređenje sa nuklearnim elektranama i aerodromima
U svom obrazloženju Robinson je naveo da bi laboratorije koje razvijaju najnaprednije modele morale da funkcionišu poput nuklearnih elektrana ili velikih aerodroma: sa više slojeva zaštite, rezervnim mehanizmima i sporijim, pažljivo planiranim procedurama koje sprečavaju da ljudska greška preraste u ozbiljan incident.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.
Komentari
Komentari se objavljuju nakon moderacije.
Još nema objavljenih komentara.