Istraživači predlažu izviđanje kao deo pentestiranja AI agenata
Autori formalizuju izviđanje AI agenata i opisuju koje informacije napadač pokušava da izvuče, kako se one koriste i koje slabosti mogu dati prednost u indirektnim prompt-injection napadima.
Ključne činjenice
Autori su predstavili pristup „Reconnaissance-Driven Pentesting of AI Agents“.
Rad „Know Your Agent“ fokusiran je na bezbednosno testiranje AI agenata uz izviđanje sistema.
Autori pristup predstavljaju kao pentestiranje AI agenata vođeno prethodnim prikupljanjem informacija.
Rad je objavljen kao istraživački preprint na arXiv-u.
U radu se izviđanje modeluje kao proces prikupljanja znanja o agentu koje može pomoći napadaču da pronađe slabe tačke za indirektni prompt injection.
Izvori
Prikazani su izvorni linkovi korišćeni za proveru objavljenih činjenica.
Komentari
Komentari se objavljuju nakon moderacije.
Još nema objavljenih komentara.