Spectral Feedback vraća odabrane tokene u difuzioni proces da bi popravio proteinske sekvence
Novi rad predlaže test-time metod koji bira koje pozicije u diskretnom difuzionom modelu treba ponovo maskirati i uzorkovati, umesto da menja samo vrednosti tokena u jednom prolazu.
Koje tokene ponovo otvoriti za izmenu
Autori primećuju da postojeći alignment pristupi za diskretne difuzione modele uglavnom vode reverse proces u jednom smeru i nemaju mehanizam da se vrate na ranije loš izbor tokena.
Spectral Feedback zato tretira izbor pozicija za ponovno uređivanje kao centralni problem i definiše edit-set kao skup token pozicija koje se ponovo maskiraju i uzorkuju.
Algoritam zatim bira te pozicije u feedback petlji kako bi model iterativno korigovao sopstvene generacije.
Sparse Fourier struktura za izbor edit-seta
Autori empirijski nalaze da value funkcije edit-setova za protein inverse folding imaju retke Fourier reprezentacije.
Tu strukturu koriste da efikasnije nauče i optimizuju vrednost različitih izbora pozicija za ponovno uređivanje.
Metod koristi prirodnu mask strukturu diskretnih difuzionih modela tako što vraća odabrane pozicije u stanje za ponovno uzorkovanje.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.