Aktivna verifikacija ograničava kaskadne posledice lažnih tvrdnji u multi-robot sistemu
Novi rad posmatra šta se dešava nakon uspešne manipulacije informacijom u LLM-powered floti robota i predlaže Verify-Adapt-Hold plan za ograničavanje fizičkih posledica.
Zaštita nakon što je manipulacija već prošla
Autori polaze od scenarija u kojem je obmanjujuća tvrdnja već uspešno uticala na sistem i predlažu aktivni verification okvir koji pokušava da zaustavi širenje posledica kroz flotu.
Poseban modul generiše strukturisani Verify-Adapt-Hold plan: deo robota proverava kritične regione, mali podskup privremeno prilagođava plan ako je potrebno, a ostali zadržavaju prethodno proverene planove.
Test sa lažnim tvrdnjama o preprekama
Okvir je evaluiran u multi-robot transportnom okruženju sa ubačenim lažnim tvrdnjama o preprekama, kroz različite nivoe uticaja i veličine tima.
Mere evaluacije uključuju containment kaskade, sum-of-costs, makespan i coverage ratio.
Autori zaključuju da tretiranje post-compromise verifikacije kao problema timskog planiranja bolje ograničava kaskadne fizičke posledice nego prosta binarna odluka o poverenju.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.