Chiosa
AI Security & Safety

Un cadre teste les fuites de fichiers des outils locaux

2 min
Publié sur Chiosa Mis à jour

En termes simples

Un serveur d’outils local peut lire plus de fichiers que ne le laisse entendre la description de l’outil, même après l’approbation d’un appel. MCP-FSD est un cadre qui examine le code des serveurs, estime quels fichiers chaque outil devrait pouvoir consulter, puis teste si l’outil peut révéler un identifiant placé en dehors de cette zone.

Dans 150 paires outil-politique sélectionnées, les trois vérifications ont réussi : une tentative malveillante sans bac à sable, une opération inoffensive réussie avec le bac à sable et le blocage de la tentative malveillante avec ce bac à sable.

La correspondance exacte avec le marqueur d’identifiants a étayé 136 cas ; les 14 autres ont été évalués à partir d’autres indices dans les traces d’exécution, comme des effets d’écriture ou des changements dans la forme des réponses. Ces résultats concernent les cas testés et des limites déduites.

La recherche

Quand un appel à un outil local est approuvé, cette approbation limite-t-elle réellement les fichiers auxquels le serveur peut accéder ? Si des arguments influencés par un attaquant peuvent détourner l’outil au-delà de son périmètre prévu, le contenu de fichiers risque d’être exposé dans une réponse ordinaire de l’outil. L’article cherche comment repérer et contenir cette faille.

MCP-FSD examine des serveurs d’outils locaux, déduit leurs limites d’accès aux fichiers et teste si des fichiers hors périmètre sont divulgués et si le bac à sable bloque ces tentatives.

MCP-FSD sélectionne des serveurs locaux, déduit une limite provisoire d’accès aux fichiers pour chaque outil, puis teste si un identifiant placé au-delà de cette limite est divulgué et si un bac à sable bloque la tentative. Les vérifications évaluent également si une opération inoffensive dans le périmètre reste possible.

Sur 150 paires uniques outil-politique, les trois vérifications ont réussi. La correspondance exacte avec le marqueur d’identifiants étayait 136 cas ; les 14 autres ont été évalués à partir d’autres indices dans les traces d’exécution, notamment des effets d’écriture, des changements dans la forme des réponses ou des sorties d’outils externes en ligne de commande.

Ensemble, ces résultats étayent le constat que les cas sélectionnés présentaient un détournement des capacités d’accès au système de fichiers et que les politiques de bac à sable testées ont contenu les tentatives tout en préservant les opérations inoffensives.

Les résultats portent sur des serveurs qui ont pu être installés et exécutés. Les limites d’accès aux fichiers sont déduites, et non vérifiées indépendamment à partir des règles d’autorisation réelles.

Les tests centrés sur les réponses peuvent manquer des effets sur le système de fichiers qui n’y apparaissent pas ou qui exigent des conditions non reproduites.

Analyse

Détails

Article suivantProfiling reveals capabilities that threat labels miss in agent skills