Entraîner des garde-fous sur plusieurs formats améliore les jugements de sécurité
En termes simples
Un garde-fou de sécurité peut bien évaluer une requête ou une réponse, mais avoir du mal lorsque la même situation est présentée sous forme de conversation ou de trace d’un agent qui utilise des outils. Son niveau de confiance peut aussi devenir peu fiable quand le format change.
UniGuard entraîne un garde-fou à partir de plusieurs versions de chaque cas de sécurité, afin qu’il reconnaisse le même cas sous différents formats et que son niveau de confiance corresponde mieux à sa précision. Dans trois tests portant sur des formats inédits d’agents ou de règles, le modèle entraîné a amélioré à la fois la classification et la fiabilité de la confiance par rapport à son modèle de base préentraîné.
La recherche
Un garde-fou peut fonctionner sur des requêtes ou des réponses, mais peiner lorsque le même cas de sécurité apparaît dans une conversation, une trace d’utilisation d’outils par un agent ou sous une règle qui change.
L’entraînement sur plusieurs formats d’un même cas peut-il l’aider à maintenir des jugements de sécurité et un niveau de confiance fiables ?
UniGuard entraîne un garde-fou sur des représentations alignées d’un même cas de sécurité afin d’améliorer ses jugements et son niveau de confiance lorsque l’interface change.
Un garde-fou peut-il continuer à porter des jugements de sécurité fiables lorsque le même cas est présenté sous un autre format ou qu’une règle de sécurité change ?
UniGuard aborde cette question en entraînant le modèle sur plusieurs représentations alignées de chaque cas et en utilisant leur accord pour façonner à la fois la classification et le niveau de confiance.
Dans trois tests portant sur des formats inédits de traces d’agent et des règles définies de l’extérieur, UniGuard-0.6B a amélioré la qualité moyenne de la classification binaire et la fiabilité de la confiance par rapport à son garde-fou de base préentraîné. Ces résultats étayent l’approche pour les changements d’interface évalués.
Les résultats portent sur trois changements d’interface étudiés, et non sur de nouveaux domaines de sécurité, outils, politiques ou défaillances d’agents.
UniGuard-FT utilise des représentations générées à partir de 1 000 cas de départ, qui peuvent ne pas rendre compte de la diversité des systèmes réels.
Analyse
Détails
- Auteurs de l’article original
- Viet-Thanh Pham, Thuy-Trang Vu, Junae Kim, Rollin Omari, Dinh Phung
- Soumis à arXiv
- Licence
- CC BY 4.0