BadQubits koristi LLM za proveru štetnih kvantnih kola pre izvršavanja

Ključne činjenice

Autori razliku pripisuju tome što LLM ulaz zadržava sekvencijalnu strukturu tokena, dok je histogram-bazirani pristupi odbacuju.

Po njihovom tumačenju, redosled operacija nosi informaciju koju jednostavniji histogram kapija ne može da sačuva.

Korelaciona analiza autora pokazuje da odluke modela više prate karakteristike povezane sa pretnjom, poput gustine SWAP operacija i vremena merenja, nego artefakte generatora kao što su nazivi registara.

To je važno za tvrdnju autora da detektor ne uči samo slučajne oznake specifične za način na koji je skup podataka napravljen.

Da bi proverili šta detektor zaista uči, autori ga porede sa bag-of-gates CNN pristupom uz postepeno uklanjanje smetajućih faktora i adversarijalne sintaksičke izmene.

Cilj poređenja je da se razdvoji stvarno učenje bezbednosno važnih obrazaca od oslanjanja na površinske karakteristike zapisa kola.

Autori ovaj rezultat predstavljaju kao glavni pokazatelj da kodni LLM može da razlikuje štetne obrasce pre izvršavanja.

Autori navode da dva od četiri ocenjena osnovna modela nisu uspela da generalizuju pod ograničenim LoRA podešavanjem, pa izbor arhitekture predstavljaju kao važan deo dizajna sistema.

Rezultat sugeriše da isti postupak finog podešavanja ne daje podjednako pouzdano ponašanje na svakoj osnovnoj arhitekturi.

Okvir cilja pretnje na fizičkom sloju izvršavanja analizom poslatih kola pre pokretanja, jer su dinamička inspekcija ograničena ireverzibilnošću merenja i eksponencijalnim troškom klasične simulacije kvantnog stanja.

Autori zato bezbednosnu proveru pomeraju ispred izvršavanja, umesto da se oslanjaju na naknadno posmatranje ponašanja sistema.

Autori arXiv rada predstavljaju BadQubits kao LLM okvir za statičku proveru strukturno štetnih kvantnih kola pre izvršavanja.

Rad opisuje pristup u kome se kod kvantnog kola proverava pre nego što stigne do samog izvršavanja na kvantnom sistemu.

Autori navode da su procenili četiri LLM arhitekture za razumevanje koda na skupu od 1.500 kola: 1.000 benignih programa iz MQTBench[33] i 500 sintetičkih napadačkih kola izvedenih iz dokumentovanih fizičkih pretnji.

Skup je napravljen tako da model mora da razlikuje normalne kvantne programe od primera konstruisanih da predstavljaju štetne obrasce.

U testu autora odziv CNN-a za štetna kola pada sa 100% na 17%, dok fino podešeni LLM pada sa 96.1% na 91.2%.

Autori taj pad koriste kao pokazatelj da je CNN mnogo osetljiviji na izmene koje uklanjaju površinske tragove iz podataka.