Les agents de programmation acquièrent des compétences de réparation réutilisables sans modifier leur modèle
Hierarchical Skill Evolution for Coding Agent · arXiv:2610.35616
En termes simples
Les agents de programmation résolvent des problèmes en explorant le code, en le modifiant et en testant leurs changements. Ces étapes peuvent resservir, mais chaque tentative contient aussi des détails propres à un problème ou à un dépôt de code.
Hierarchical Skill Evolution rassemble les étapes de réparation qui reviennent dans plusieurs tâches et dépôts, sans modifier le modèle de programmation. Dans deux ensembles de tâches de réparation de dépôts, les agents utilisant ces compétences ont résolu en moyenne davantage de tâches que ceux qui n’avaient pas de compétences supplémentaires. Le résultat concerne les modèles et outils d’agent testés ; il ne signifie pas que chaque tâche s’est améliorée.
La recherche
Une trajectoire de programmation contient à la fois des étapes de réparation réutilisables et des détails propres à un problème et à un dépôt. Comment un agent peut-il apprendre de ces tentatives sans transposer une solution dans un dépôt où elle pourrait ne pas convenir ?
Hierarchical Skill Evolution transforme les résultats des tâches en consignes partagées de réparation et de récupération en regroupant les éléments au sein des dépôts et entre eux.
Pour tester si des consignes de réparation peuvent être transférées au-delà du dépôt où elles ont été apprises, les auteurs ont fourni aux agents GLM-5.2 une bibliothèque figée de dix compétences élaborées à partir de trajectoires SWE-Gym.
Ils l’ont comparée à l’absence de compétences supplémentaires et à d’autres méthodes de compétences sur SWE-bench Verified et DeepSWE. Une tâche est considérée comme résolue lorsque son correctif réussit la vérification propre à l’ensemble de test.
Sur les deux ensembles de test et avec les environnements d’agent Pi et Claude Code, HSE a obtenu le taux moyen de résolution le plus élevé parmi les méthodes comparées.
Ces résultats étayent l’idée que les compétences apprises sur SWE-Gym se transfèrent à ces ensembles de test sans adaptation sur les ensembles cibles : en moyenne, les agents qui les utilisaient ont résolu une plus grande part des tâches.
La comparaison statique a testé GLM-5.2 avec Pi et Claude Code, en faisant la moyenne de trois exécutions ; les gains moyens ne signifient pas que chaque tâche s’est améliorée. L’adaptation aux tâches cibles a utilisé des trajectoires issues des mêmes ensembles complets de tâches que ceux évalués ensuite : elle n’établit donc pas les performances sur des tâches cibles inédites.
Ce que montrent les preuves
- Des cas aux procédures
La trajectoire d’un agent de programmation consigne comment il a exploré le code, l’a modifié et a testé un correctif. Mais le chemin suivi, les fichiers concernés et le correctif peuvent ne convenir qu’au problème et au dépôt d’origine.
La recherche demande comment conserver les procédures de réparation utiles sans traiter la solution d’une tâche comme une consigne réutilisable. Cette distinction compte, car le récit d’une tentative ne fournit pas automatiquement une procédure applicable à un autre dépôt.
- Comment HSE construit ses compétences
Hierarchical Skill Evolution (HSE) transforme l’expérience d’un agent de programmation en compétences réutilisables sans modifier le modèle de programmation. La méthode extrait d’abord des éléments des trajectoires individuelles, recherche ensuite des motifs récurrents dans chaque dépôt, puis rassemble ceux qui sont étayés dans plusieurs dépôts.
Un rédacteur externe propose des compétences possibles ; un évaluateur externe vérifie si elles sont étayées, leur portée et leur sûreté. Les motifs associés à des réussites peuvent devenir des procédures de réparation ; ceux associés à des échecs récurrents peuvent fournir des consignes de récupération.
- Tester le transfert
Les auteurs ont testé le transfert sur SWE-bench Verified et DeepSWE, deux ensembles de tâches de réparation de dépôts. Une tâche est résolue lorsque son correctif réussit la vérification propre à l’ensemble ; le taux de résolution est le pourcentage de tâches qui passent cette vérification.
Avec GLM-5.2 sous les environnements d’agent Pi et Claude Code, la bibliothèque figée, apprise sur SWE-Gym, a obtenu le taux moyen de résolution le plus élevé parmi les méthodes comparées dans les quatre configurations et a dépassé l’absence de compétences supplémentaires.
- Les compétences n’ont pas le même rôle
Le retrait des compétences procédurales ou des compétences de récupération a fait baisser le taux moyen de résolution dans chaque configuration testée, mais leur contribution relative variait selon l’ensemble de tâches. Le retrait des compétences procédurales entraînait la plus forte baisse sur SWE-bench Verified ; celui des compétences de récupération avait l’effet le plus marqué sur DeepSWE.
Sur DeepSWE, le pack sans compétences de récupération dépassait No Skills de peu. La comparaison suggère que les consignes de récupération expliquent une grande partie de l’avantage mesuré de HSE sur cet ensemble.
- Ce que les éléments étayent
Des contrôles ont aussi examiné comment HSE construit sa bibliothèque. Mélanger entre dépôts les mêmes trajectoires d’entraînement a fait baisser les taux, tout comme conserver la hiérarchie des éléments tout en figeant les règles initiales du rédacteur et de l’évaluateur.
Ces comparaisons étayent le rôle du regroupement hiérarchique et de la mise à jour des règles dans la procédure testée. La mise à jour de la bibliothèque transférée avec des trajectoires de tâches cibles a encore augmenté les taux mesurés, mais l’évaluation a utilisé les mêmes ensembles complets de tâches que ceux ayant fourni ces trajectoires : les performances sur des tâches cibles inédites restent donc inconnues.
Détails
- Auteurs de l’article original
- Jun Gao, Yun Peng, Changhai Zhou, Yuhan Zhu, Xiangyu Zeng
- Soumis à arXiv
- Licence
- CC BY 4.0