FR
La mémoire externe aide les modèles à trouver de meilleures solutions mathématiques
Can Test-Time Memory Evolution Outperform Test-Time Training for Scientific Discovery? · arXiv:2610.32046
En termes simples
Quand un ordinateur cherche une construction mathématique, il peut tirer des leçons de chaque tentative. Une méthode met à jour le modèle lui-même pendant la recherche, ce qui demande du calcul supplémentaire.
Cet article présente Test-Time Memory Evolution : la méthode enregistre plutôt des leçons pratiques et des idées utiles dans une mémoire, sans modifier le modèle. Dans les tâches mathématiques évaluées, la méthode a trouvé des candidats valides mieux notés que les résultats rapportés pour la méthode qui met à jour les paramètres du modèle.
Les mesures de coût favorisent aussi la mémoire sur trois tâches avec un seul modèle, mais elles ne couvrent pas toutes les expériences de l’article.
La recherche
Lorsqu’un modèle cherche une construction mathématique, les retours sur les candidats évalués peuvent guider ses tentatives suivantes. L’entraînement au moment du test utilise ces retours pour mettre à jour les paramètres du modèle, mais ces mises à jour en ligne demandent du calcul supplémentaire.
Une autre façon de conserver l’expérience de recherche peut-elle produire des candidats plus solides avec moins de calcul mesuré ?
TTME conserve des leçons et des stratégies de recherche utiles dans une mémoire externe pour guider un modèle à paramètres fixes vers des candidats mieux notés que les résultats rapportés de TTT dans les cas évalués.
L’entraînement au moment du test apprend des candidats évalués en mettant à jour les paramètres du modèle, mais ces mises à jour en ligne demandent du calcul supplémentaire.
Une recherche peut-elle plutôt conserver l’expérience utile hors du modèle et continuer à trouver de bonnes constructions mathématiques ?
Les auteurs comparent TTME aux résultats rapportés de TTT dans deux cadres de découverte ; le vérificateur de chaque tâche attribue un score aux candidats.
Dans les cinq tâches, TTME obtient le meilleur score dans tous les cas rapportés. Ces résultats étayent l’utilisation de la mémoire comme solution de remplacement dans ces cas ; un contrôle distinct montre aussi de meilleurs scores que la recherche à paramètres fixes sans adaptation.
Les éléments étudiés portent sur deux cadres de découverte, trois modèles et cinq tâches de construction mathématique. Les scores de TTT proviennent des articles d’origine, et la source ne permet pas d’établir que les versions des modèles ou les conditions d’utilisation étaient identiques dans toutes les comparaisons. Les mesures de coût concernent uniquement Qwen3-8B sur trois tâches de TTT-Discover.
Ce que montrent les preuves
- Une autre façon d’adapter le modèle
Test-Time Memory Evolution (TTME) adapte un modèle pendant une recherche scientifique sans modifier ses paramètres.
L’article examine si un modèle peut exploiter les retours des solutions candidates évaluées aussi efficacement que l’entraînement au moment du test (TTT), qui met à jour les paramètres pendant la recherche, tout en réduisant une partie du calcul nécessaire.
- Deux mémoires pour guider les candidats
TTME conserve deux types de mémoire externe. La mémoire de consignes transforme les résultats et les échecs en leçons pratiques de mise en œuvre.
La mémoire de stratégies extrait des idées algorithmiques de changements valides qui améliorent le score d’une tâche, regroupe les idées apparentées et transforme certaines stratégies en consignes pour les candidats suivants. Le modèle utilise ces éléments pendant la génération, sans modifier ses paramètres.
- Les scores dans les cas évalués
Des vérificateurs propres à chaque tâche attribuent un score aux candidats générés. Les auteurs comparent le meilleur score valide dans chaque cas rapporté, en tenant compte du sens de l’objectif de la tâche. Sur deux cadres de découverte, trois modèles et cinq tâches de construction mathématique, TTME obtient de meilleurs scores que les résultats rapportés pour TTT.
Ces résultats de TTT viennent des articles d’origine ; la source n’établit pas que les versions des modèles et les conditions d’utilisation étaient identiques dans toutes les comparaisons.
- La mémoire comparée à l’absence d’adaptation
Un contrôle distinct compare TTME à la recherche sous-jacente avec des paramètres de modèle fixes, sans TTT ni TTME. Dans chaque cadre, le modèle, l’initialisation de la tâche, l’évaluateur, le budget principal de candidats et les règles de recherche restent constants.
Dans les cas évalués, TTME obtient de meilleurs scores, ce qui étaye l’interprétation selon laquelle l’ajout de mémoire est bénéfique dans ces recherches à paramètres fixes.
- Efficacité mesurée sur un sous-ensemble
Dans TTT-Discover, les auteurs comparent aussi le calcul avec TTT pour Qwen3-8B sur AC1, AC2 et la tâche Erdős. Hors temps d’évaluation, TTME réduit la durée de 47,7 à 58,4 % et le nombre d’opérations en virgule flottante de 82,8 à 84,6 %. Associées aux résultats sur les scores, ces plages propres à chaque tâche étayent un gain d’efficacité dans ce sous-ensemble ; elles ne permettent pas de l’établir pour tous les cas évalués.
Détails
- Auteurs de l’article original
- Yepeng Liu, Shengmai Chen, Xuandong Zhao, Chengzhi Liu, Dawn Song
- Soumis à arXiv
- Licence
- CC BY-SA 4.0