Supprimer un enregistrement peut laisser un secret récupérable par un agent
En termes simples
Supprimer un enregistrement de la mémoire d’un agent peut laisser un résumé qui contient toujours la même information. AfterDeleteBench est un test contrôlé qui vérifie si un agent peut encore révéler un secret synthétique après la suppression de son enregistrement source.
Le test a comparé des agents qui avaient vu le secret à des agents comparables qui ne l’avaient jamais vu. Dans le test principal avec Qwen, une seule question a permis de retrouver le secret exact dans environ deux tiers des profils exposés ; aucun témoin qui n’avait jamais vu le secret ne l’a retrouvé. Ce résultat concerne les secrets et la configuration de mémoire testés.
La recherche
Si quelqu’un supprime un enregistrement de la mémoire d’un agent, celui-ci cesse-t-il de révéler ce qu’il contenait ? Un résumé ou un autre enregistrement dérivé peut subsister après la disparition de la source. La question comportementale est donc de savoir si l’agent peut encore retrouver l’information.
AfterDeleteBench compare des agents exposés puis soumis à la suppression à des témoins qui n’ont jamais vu le secret, afin de vérifier si une mémoire persistante en révèle encore un exemplaire synthétique.
Après la suppression d’un enregistrement, un agent peut-il encore révéler une information qu’il a vue ?
AfterDeleteBench examine cette question avec des agents à poids fixes dotés d’une mémoire externe persistante, où des résumés ou d’autres enregistrements dérivés peuvent rester après le retrait de l’entrée d’origine.
Le benchmark compare des agents exposés puis soumis à la suppression à des témoins comparables qui n’ont jamais vu le secret. Dans la configuration principale avec Qwen, une question directe a produit des écarts de reconstruction exacte de 0.680 et 0.640 dans deux groupes de profils synthétiques, tandis que les témoins n’ont rien retrouvé.
Cela montre une récupération attribuable à l’exposition dans cette configuration, y compris pour le groupe issu du générateur laissé de côté.
Ces résultats portent sur des cibles synthétiques à chaîne exacte, des configurations contrôlées de mémoire externe, un nombre limité de stratégies de requête et des formats de réponse définis.
La comparaison par paires attribue la récupération à l’exposition dans cette configuration, mais ne mesure pas la quantité d’information conservée après suppression par rapport à un rappel normal et ne permet pas d’établir le comportement de systèmes de mémoire conçus indépendamment.
Analyse
Détails
- Auteurs de l’article original
- Ehsan Saleh, Roozbeh Nahavandi, Sama Salarian, Raef Bassily, Andrew Perrault
- Soumis à arXiv
- Licence
- arXiv non-exclusive