Chiosa
AI Security & Safety

Gli audit rivelano rischi nelle regole manuali per il controllo degli accessi

2 min
Aggiornato

In parole semplici

I sistemi di controllo degli accessi basati su apprendimento usano software per aiutare a decidere quali richieste autorizzare. Questo paper controlla due componenti costruiti manualmente che possono influire su quelle decisioni: le clausole che fanno sì che uno shield fidato neghi le richieste e le regole che stabiliscono quali richieste vengono affidate a un learner.

Gli autori hanno confrontato le clausole di negazione con tutte le richieste di cinque policy pubbliche. Nelle due policy con restrizioni esplicite, molte clausole scritte da un autore e da tre modelli linguistici avrebbero negato richieste che le policy autorizzano.

Il paper ha anche rilevato che i metodi testati per scegliere le regole di instradamento spesso mantenevano regole di una sola classe, cosa che non consente la suddivisione prevista.

La ricerca

Quando i sistemi di controllo degli accessi basati su apprendimento combinano una policy a regole con un learner, che cosa convalida le clausole scritte a mano che provocano negazioni immediate e la mappa che decide quale componente riceve ciascuna richiesta?

Uno shield corretto e un learner sottoposto a misurazione non rispondono a questa domanda, perché nessuno dei due controlla quegli input.

Il paper verifica clausole di negazione e regole di instradamento per mostrare come input costruiti a mano possano rappresentare in modo errato quali richieste un sistema di controllo degli accessi basato su apprendimento respinge o valuta.

Gli autori hanno confrontato le clausole di negazione candidate con l’insieme completo delle richieste autorizzate da ciascuna policy, senza affidarsi a un campione. In due policy con restrizioni esplicite, molte clausole dell’autore e di tre modelli linguistici indipendenti avrebbero negato richieste autorizzate.

Il tracciamento dei controesempi ha mostrato che la maggior parte proveniva da altre regole, coerentemente con l’ipotesi che le restrizioni espresse in prosa fossero più strette della policy completa.

Per l’instradamento, le selezioni cap-and-rank testate spesso mantenevano regole di una sola classe. Gli autori hanno anche confrontato l’instradamento basato sulle regole con un learner usando due tassi di errore.

Su E-Document, con soglia predefinita, le regole consapevoli della classe hanno registrato tassi inferiori per entrambi gli errori rispetto a un learner bilanciato per classe, con etichette di training alterate da rumore pari a 0.15.

La regolazione della soglia ha però cambiato il confronto sulle autorizzazioni indebite; su Workforce i due tassi di errore si sono mossi in direzioni opposte.

I tassi relativi alle clausole di negazione provengono da cinque policy pubbliche, solo due delle quali contengono restrizioni esplicite, e da un autore e tre modelli linguistici usati per formulare le clausole.

Anche i risultati sul routing dipendono dalla policy e dalla configurazione del learner: la regolazione della soglia ha cambiato il verdetto su E-Document e il risultato non si è replicato su Workforce.

Analisi

Dettagli

Paper successivoPerché alcune violazioni di finalità richiedono di confrontare le esecuzioni degli agenti