Un nuovo test distingue tra vedere un attacco e metterlo in atto

Quando un agente lavora tra file e messaggi condivisi, un attaccante potrebbe controllare solo alcune risorse, che l'agente potrebbe non aprire mai. Se invece incontra un'istruzione malevola, la ignora o la interpreta come autorizzata?

Misurare soltanto il completamento del lavoro richiesto non può rispondere a questa domanda di sicurezza.

APEX-Harm verifica come le istruzioni nello spazio di lavoro raggiungono agenti impegnati in attività lunghe e misura sia l'esposizione agli attacchi sia le azioni non autorizzate in sei categorie.

Gli autori hanno creato 180 casi di attacco a partire da 15 attività professionali, variando il modo in cui istruzioni o script malevoli raggiungono un agente.

I valutatori hanno misurato separatamente se le risposte degli strumenti contenessero istruzioni inserite, se le azioni non autorizzate riuscissero e se gli agenti soddisfacessero i criteri di valutazione dell'attività.

Tra 12 modelli, la sostituzione di script di supporto specifici per l'attività ha avuto un tasso medio di successo dell'84% per gli attacchi ad azione diretta e dell'81% quando servivano informazioni disponibili durante l'esecuzione.

Opus 5 ha incontrato istruzioni inserite in modo statico nel 97% delle esecuzioni, ma gli attacchi sono riusciti nel 7%: esposizione e azione sono esiti distinti.

I risultati riguardano 15 attività nei settori dell'investment banking, del diritto e della consulenza, alcuni tipi di attacco e scenari sintetici di autorizzazione.

Ogni combinazione di modello e attacco è stata eseguita una sola volta: i risultati non mostrano la variabilità tra un'esecuzione e l'altra né stabiliscono come si comporterebbero gli agenti in altri ambiti.