Un método para modificar arneses mejora la transferencia a tareas nuevas

Cuando se modifica repetidamente un agente a partir de los resultados de un conjunto finito de tareas, ¿aprende cambios que ayudan en tareas nuevas o simplemente se ajusta al conjunto usado para mejorarlo?

La respuesta importa para saber si las mejoras medidas se extienden más allá de las tareas que guían cada ronda de cambios.

RRSI mantiene fijo el modelo de lenguaje mientras regula cómo se modifican y conservan las instrucciones, herramientas y otras partes del arnés de un agente.

Los investigadores hicieron evolucionar un arnés de agente con una suite de tareas en cada dominio y luego lo probaron sin cambios en pruebas reservadas, manteniendo fijo el modelo base.

En la configuración de tareas de espacios de trabajo para agentes, la puntuación media en tres pruebas nuevas fue 43.6 con RRSI y 39.7 con el arnés sin evolucionar.

Como el promedio combina puntuaciones de esas pruebas, respalda una mejora de transferencia para ese conjunto, no una mejora en cada tarea. La comparación evalúa si el arnés evolucionado ayuda más allá de las tareas usadas para modificarlo.

El estudio modifica los arneses y mantiene fijo el modelo base. Depende de un conjunto finito de tareas para la evolución y de ciertos ajustes de regularización; aún falta probar si los resultados se transfieren a arquitecturas de agentes, ecosistemas de herramientas y ejecuciones más prolongadas sustancialmente distintos.