Anthropic zabranjuje uporno i bespotrebno zlostavljanje Claude modela

Nova granica u pravilima korišćenja

Anthropic je u svojim pravilima zabranio uporno i bespotrebno uvredljivo ili okrutno ponašanje prema modelu Claude. Reč je o pravilu kompanije koje uređuje upotrebu njene usluge, a ne o nezavisno utvrđenoj tvrdnji da AI model ima ljudska osećanja.

Promena je praktično važna zato što ponašanje korisnika više nije samo pitanje tona razgovora: Anthropic ga sada izričito uključuje u granice dozvoljene upotrebe. Ta odluka govori o načinu na koji kompanija želi da upravlja svojim proizvodom, ali sama po sebi ne dokazuje kako će svaka pojedinačna situacija biti prepoznata ili sankcionisana.

Claude već može da prekine razgovor

Novo pravilo dolazi posle ranije odluke koja dopušta Claudeu da završi razgovor kada je korisnik uporno nasilan ili uvredljiv. Prekid razgovora zato nije potpuno nova funkcija; promena je u tome što kompanija sada takvo ponašanje jasnije vezuje za politiku korišćenja.

Za korisnika je glavno ograničenje to što javno potvrđene tvrdnje ne opisuju svaki prag, trajanje ili obrazac koji bi doveo do prekida sesije. GN News zato ne predstavlja novu politiku kao tehnički potpuno objašnjen automatski sistem, već kao objavljeno pravilo i nastavak ranijeg mehanizma za završavanje štetnih razgovora.

Šira vrednost ove promene je u tome što pokazuje da se pravila za generativne AI servise ne odnose samo na sadržaj koji model proizvodi, već i na obrasce interakcije korisnika sa sistemom. To je zaključak iz dve potvrđene odluke kompanije, ne tvrdnja o svesti ili pravnom statusu AI modela.