ES
Un supervisor ayuda a los equipos de programación a replantear los kernels de GPU
En palabras sencillas
El artículo presenta Evolving Agent Teams, una forma de organizar agentes de programación que escriben programas para GPU. Un supervisor observa su progreso y puede cambiar qué trabajo hace cada agente y cómo comparten información. Un sistema de archivos compartido transmite aprendizajes y materiales de una organización del equipo a la siguiente.
Los autores probaron el sistema en cuatro tareas de kernels de GPU. Con el mismo presupuesto de tokens, los equipos adaptables superaron a un único agente de programación en cada tarea, aunque eso no significa que fueran más rápidos en todas las cargas de trabajo individuales.
La investigación
Cuando los agentes de programación trabajan en un kernel de GPU difícil, pueden conformarse con un diseño más sencillo y dejar de explorar alternativas más difíciles. ¿Cambiar el equipo a medida que avanza el trabajo puede ayudarlo a superar ese estancamiento? El artículo examina esta pregunta en cuatro tareas de optimización de kernels.
Evolving Agent Teams usa un supervisor para reorganizar los roles y la coordinación de agentes de programación a medida que avanza el trabajo en kernels de GPU, y conserva registros para orientar cada nuevo equipo.
Los autores compararon Evolving Agent Teams con Claude Code, un único agente de programación, en cuatro tareas de kernels de GPU. Ambos recibieron la misma descripción de la tarea, el kernel de referencia, el entorno de pruebas y el presupuesto de tokens; el resultado informado para cada configuración fue el mejor de dos ejecuciones.
El equipo adaptable superó a Claude Code en las cuatro tareas. En MLA paged decode, una ejecución con presupuesto adicional alcanzó una aceleración media geométrica de 1.21x frente a FlashInfer de producción en 47 cargas de trabajo de producción. La medida combina las proporciones entre la latencia de referencia y la del kernel candidato, así que un valor superior a 1 indica un rendimiento agregado más rápido.
Esto respalda una conclusión acotada: según esa medida, el equipo produjo un kernel más rápido, pero no en todas las cargas de trabajo.
Los ajustes principales se ejecutaron dos veces y el artículo informa del mejor resultado de cada par. Algunas cargas de trabajo pueden seguir siendo más lentas que su referencia de producción, y el número de ejecuciones limita las conclusiones estadísticas.
Qué muestran las pruebas
- El problema de conformarse
Evolving Agent Teams es un marco para optimizar kernels de GPU con agentes de programación. El artículo pregunta si un equipo que puede cambiar su organización durante una tarea puede abordar una dificultad recurrente: los agentes pueden conformarse con un diseño más sencillo y dejar de explorar alternativas más difíciles.
Los autores ilustran este patrón en la optimización de kernels, por lo que los resultados se refieren a esas tareas y no a los agentes de programación en general.
- Un equipo que se adapta
El marco asigna a un supervisor la tarea de observar el progreso del equipo y diagnosticar posibles estancamientos. Después, puede modificar los roles, la coordinación entre agentes o la forma en que registran y comparten conocimientos.
Un sistema de archivos persistente lleva las observaciones y los materiales previos a las configuraciones posteriores del equipo, vinculando los cambios con el trabajo ya realizado.
- La comparación principal
La evaluación principal abarcó cuatro tareas de optimización de kernels de GPU en GPU B200 y H100.
Con el mismo presupuesto de tokens, Evolving Agent Teams superó en cada tarea a Claude Code, un único agente de programación. Para cada configuración, los autores informan del mejor resultado de dos ejecuciones; por eso, la comparación aporta pruebas sobre las tareas evaluadas, pero no garantiza resultados en otras cargas de trabajo ni en nuevas ejecuciones.
- Un resultado frente a producción
En MLA paged decode, una ejecución con presupuesto adicional alcanzó una aceleración media geométrica de 1.21x frente a FlashInfer de producción en 47 cargas de trabajo de producción. Esta medida combina las proporciones entre la latencia de referencia y la del kernel candidato en distintas cargas; un valor superior a 1 indica un rendimiento agregado más rápido.
El resultado muestra que, según esa medida, el kernel del equipo superó la referencia de producción, aunque algunas cargas individuales podrían ser más lentas.
- Límites de las pruebas
En MLA decode, un equipo fijo de cuatro roles alcanzó una aceleración de 0.31x, frente a 0.74x del equipo adaptable, lo que sugiere que adaptarse puede ayudar.
Sin embargo, los pasajes de la fuente no coinciden en la versión del modelo y no establecen que los presupuestos de tokens fueran iguales para esta ablación. Además, en la mejor ejecución con presupuesto controlado, 43 de 100 cargas de trabajo de Gated Delta Net fueron más lentas que la referencia, y cada configuración principal se ejecutó solo dos veces.
Detalles
- Autores del paper original
- Shiyi Cao, Ziming Mao, Dacheng Li, Joseph E. Gonzalez, Ion Stoica
- Enviado a arXiv
- Licencia
- arXiv non-exclusive