Un audit in tre livelli verifica quando gli indizi di sicurezza influenzano i guard

Quando un guard viene valutato su esempi etichettati, come possono i valutatori capire se riconosce azioni non sicure o reagisce a indizi nel modo in cui gli esempi sono scritti?

Un indizio che predice le etichette può riflettere il modo in cui i dati sono stati costruiti, informazioni di sicurezza legittime o entrambe le cose; la sola capacità predittiva, quindi, non basta a stabilire se il guard faccia affidamento su quell’indizio.

Lo shortcut auditing passa dal verificare se un indizio predice le etichette pubblicate al testare se modificarlo cambia la decisione di un guard di sicurezza degli agenti.

Gli autori hanno prima verificato se indizi semplici predicessero le etichette pubblicate, poi se gli schemi osservati reggessero tra domini e unità di valutazione.

Hanno rilevato che la previsione delle etichette poteva indebolirsi escludendo un intero dominio e che, in AgentHarm-Traj, dare lo stesso peso alle interazioni invece che ai singoli passi cambiava i risultati delle metriche.

Per una verifica più diretta, hanno modificato la formulazione dei marcatori e i nomi degli strumenti nei dati fissi di AgentDojo-Traj, confrontando le decisioni dei guard con quelle sugli input originali e correggendo per una modifica della sola formattazione.

Il blocco da parte di Claude Haiku 4.5 è cambiato: ciò sostiene la sensibilità a queste rappresentazioni in quel campione. Variazioni di entità simile non si sono riprodotte con Luna.

Il test appaiato ha usato un campione fisso e non probabilistico di 64 passi tratti da 58 interazioni; revisori all’oscuro delle condizioni non hanno verificato che le modifiche preservassero il giudizio di sicurezza.

Gli effetti mostrano sensibilità a queste precise modifiche in una configurazione di guard testata, ma non dimostrano che gli indizi siano in generale irrilevanti per la sicurezza.