Un agente de programación puede ajustar recetas de entrenamiento con controles de validez
En palabras sencillas
ATTUNE usa un agente de programación para cambiar los ajustes con los que se entrena un gran modelo de lenguaje. Busca que cada paso de entrenamiento procese más tokens por segundo.
Un sistema de control separado verifica los ajustes propuestos y compara una medida del error durante el entrenamiento con la de la receta inicial antes de aprobar una receta final. En tres campañas de GLM-4.5, las recetas finales procesaron, en promedio, un 33.9% más de tokens por segundo y por GPU que la receta pública de ese modelo, con la carga de trabajo del estudio y 128 GPU B200.
En Mixtral-8x22B, ATTUNE conservó la receta pública porque la mejora medida de su mejor candidata quedó dentro del margen de variación de las mediciones.
La investigación
Los equipos de entrenamiento suelen tener que reajustar una receta para cada modelo y configuración de hardware. ¿Puede una búsqueda automática aumentar la velocidad y comprobar que una ejecución terminada entrena el modelo según lo previsto?
ATTUNE aborda ambas cuestiones al combinar la búsqueda de recetas con controles independientes del agente.
ATTUNE usa un agente de programación que analiza las ejecuciones para buscar mejores ajustes de entrenamiento, mientras un sistema de control separado verifica las candidatas antes de aprobar una receta final.
Para un modelo y un entorno de entrenamiento concretos, ¿puede un método automático mejorar una receta que funciona sin cambiar lo que aprende el modelo?
ATTUNE hace que un agente de programación analice las ejecuciones y busque ajustes, mientras un sistema de control separado verifica las candidatas y la receta final antes de aprobarla.
Los investigadores compararon las recetas finales con recetas públicas adaptadas, usando la carga de trabajo de cada modelo. Las mediciones finales mostraron un mayor rendimiento medio en GLM-4.5 y Llama-3.1-405B.
En Mixtral-8x22B, la mejora de la mejor candidata quedó dentro del margen de variación de las mediciones, por lo que se conservó la receta pública. Los datos respaldan mejoras en dos casos evaluados, no una mejora universal.
La evaluación usó modelos excluidos del desarrollo de ATTUNE, pero mantuvo el mismo entorno de software, los mismos aceleradores y el mismo modelo de agente. ATTUNE busca entre los ajustes disponibles en el sistema de entrenamiento y su imagen de software.
El estudio no demuestra que encuentre la receta más rápida posible ni que funcione en otros entornos.
Análisis
Detalles
- Autores del paper original
- Leo Fan, Hongyang Wang, Wenbo Chen, Jingguo Liu, Xian Li
- Enviado a arXiv
- Licencia
- arXiv non-exclusive