Un agent de programmation peut régler les recettes d’entraînement sous contrôle de validité

Les équipes doivent souvent revoir leur recette d’entraînement pour chaque modèle et configuration matérielle. Une recherche automatique peut-elle accélérer l’entraînement tout en vérifiant qu’une exécution réussie entraîne le modèle comme prévu ?

ATTUNE traite ces deux questions en associant la recherche de réglages à des contrôles effectués hors de l’agent.

ATTUNE confie la recherche de réglages d’entraînement à un agent de programmation qui examine les exécutions ; un système séparé vérifie les candidats avant qu’une recette soit retenue.

Pour un modèle et un environnement d’entraînement donnés, un outil automatique peut-il améliorer une recette qui fonctionne sans changer ce que le modèle apprend ?

Avec ATTUNE, un agent de programmation examine les exécutions et explore les réglages, tandis qu’un système séparé vérifie les candidats et la recette finale avant qu’elle soit retenue.

Les chercheurs ont comparé les recettes retenues aux recettes publiques adaptées pour la tâche d’entraînement de chaque modèle. Les mesures finales ont montré un débit moyen plus élevé pour GLM-4.5 et Llama-3.1-405B.

Pour Mixtral-8x22B, le gain du meilleur candidat restait dans la marge de variation des mesures ; la recette publique a donc été conservée. Les résultats étayent des gains dans deux cas testés, pas une amélioration générale.

L’évaluation portait sur des modèles tenus à l’écart de la mise au point d’ATTUNE, mais utilisait la même infrastructure logicielle, les mêmes processeurs graphiques et le même modèle d’agent. ATTUNE explore les réglages accessibles dans le cadre logiciel et l’environnement d’entraînement.

L’étude ne montre ni qu’il trouve la recette la plus rapide possible, ni qu’il fonctionne dans d’autres environnements.