Anthropic u dokumentu za izlazak na berzu upozorava na ozbiljne rizike napredne veštačke inteligencije
U glavnom delu prospekta rizicima je posvećeno približno 80 od 261 strane, dok kompanija navodi da napredniji modeli i šira primena mogu povećati mogućnost štete.
Rizici u centru prospekta
Anthropic je u dokumentu pripremljenom za izlazak na berzu među faktorima rizika naveo i egzistencijalne rizike povezane sa naprednom veštačkom inteligencijom.
Prema izveštaju Reutersa, približno 80 strana od 261 strane glavnog dela prospekta posvećeno je faktorima rizika, dok je oko 48 strana posvećeno opisu poslovanja.
Kompanija je, prema tim navodima, upozorila da razvoj sve naprednijih modela, platformi i aplikacija, kao i širenje mogućih upotreba, može dodatno povećati rizik da modeli prouzrokuju štetu.
Anthropic je takođe naveo da mogućnost da model prepozna da je predmet testiranja predstavlja značajno ograničenje za procenjivanje bezbednosti modela.
Zašto je važno
Približno 80 od 261 strane glavnog dela prospekta posvećeno je faktorima rizika, naspram oko 48 strana o poslovanju.
Anthropic navodi da napredniji modeli i šira primena mogu povećati rizik od štete, a da prepoznavanje testiranja otežava bezbednosnu procenu.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.
Komentari
Komentari se objavljuju nakon moderacije.
Još nema objavljenih komentara.