ES
Select-TTT dirige las actualizaciones de memoria al texto relevante
En palabras sencillas
Cuando un modelo de lenguaje lee una conversación larga, puede actualizar una memoria temporal a medida que avanza. Select-TTT es un método que hace actualizaciones más intensas en las partes de la conversación que parecen relacionadas con la pregunta del usuario y más débiles en las demás. En pruebas con conversaciones largas, Select-TTT obtuvo puntuaciones medias más altas que el método que daba la misma intensidad de actualización a cada parte, en los dos modelos evaluados.
Los resultados corresponden a esos modelos y pruebas; no abarcan todos los modelos ni todas las conversaciones.
La investigación
Cuando un modelo lee una conversación larga, actualizar la memoria temporal por igual a partir de cada fragmento puede dar a los detalles irrelevantes tanta influencia como a la información que responde la pregunta del usuario.
¿Puede intensificar las actualizaciones de los fragmentos útiles sin saber de antemano cuáles contienen la respuesta?
Select-TTT estima qué fragmentos del contexto se relacionan con una pregunta y ajusta la actualización de memoria de cada fragmento antes de que el modelo responda.
LongMemEval-S evalúa si un modelo de chat puede responder preguntas usando información repartida entre conversaciones anteriores; la exactitud informada se promedia entre preguntas. Los investigadores compararon Select-TTT con In-Place TTT uniforme usando la misma versión del modelo mejorada con TTT para cada modelo.
Select-TTT obtuvo promedios de 37,4% frente a 33,6% para Llama-3.1-8B-Instruct, y de 28,8% frente a 25,4% para Qwen3-4B.
Como cada comparación usó la misma versión del modelo y la misma prueba, los resultados respaldan el valor de las actualizaciones guiadas por la pregunta en este escenario de inferencia.
Una segunda prueba de razonamiento sobre conversaciones largas también mostró puntuaciones globales más altas para Select-TTT en ambos modelos.
El primer punto de control de entrenamiento continuo del que se informa es una excepción: allí Select-TTT obtuvo una puntuación inferior a In-Place TTT uniforme; en los puntos posteriores igualó o superó ese método. La puntuación de relevancia es una heurística y la evaluación abarca solo dos modelos base y dos pruebas en inglés.
Qué muestran las pruebas
- Por qué importa la intensidad de actualización
Select-TTT es un método de actualización guiado por la pregunta para In-Place test-time training: cambia con qué intensidad cada fragmento del contexto actualiza los parámetros temporales del modelo. La pregunta es si esta asignación selectiva ayuda cuando un modelo responde a partir de historiales de conversación largos.
LongMemEval-S evalúa la capacidad de los modelos de chat para responder preguntas sobre información de conversaciones anteriores e informa la exactitud media entre preguntas. En una de las configuraciones evaluadas, las actualizaciones uniformes apenas cambiaron el promedio, lo que motivó examinar más de cerca cómo se incorporaban los fragmentos.
- Diagnóstico con etiquetas de respuesta
Los investigadores usaron anotaciones de fragmentos con respuestas en las sesiones de LongMemEval-S para variar por separado la intensidad de actualización de esos fragmentos y la de los demás. Al mantener fija la intensidad de los otros fragmentos, aumentar la de los fragmentos con respuestas elevó la exactitud de 33,6% a 37,8%.
En otra serie de pruebas, aumentar la intensidad de los fragmentos irrelevantes redujo la exactitud de 34,8% a 29,6%, mientras la intensidad de los fragmentos con respuestas permanecía fija. Como las etiquetas de respuesta procedían de las sesiones, estos resultados diagnostican el efecto de las actualizaciones selectivas; no muestran que el método pueda encontrar por sí mismo los fragmentos con respuestas.
- De la relevancia a las actualizaciones
Select-TTT estima la relevancia de cada fragmento según qué tan bien las representaciones internas del modelo predicen las palabras de la pregunta del usuario. Luego usa esas puntuaciones para intensificar o reducir la actualización de la memoria temporal de cada fragmento.
La puntuación es una estimación heurística, no una prueba directa de que el fragmento contenga una respuesta. Así, el método puede distribuir las actualizaciones según la relevancia para la pregunta sin depender de las etiquetas de respuesta usadas en el experimento de diagnóstico.
- Resultados en dos pruebas
En la evaluación solo durante la inferencia, los investigadores compararon Select-TTT con In-Place TTT uniforme usando la misma versión guardada del modelo con TTT para cada modelo base. En LongMemEval-S, Select-TTT tuvo mayor exactitud media entre preguntas tanto para Llama-3.1-8B-Instruct como para Qwen3-4B.
También obtuvo una puntuación global mayor para ambos modelos en LoCoMo, una prueba de razonamiento sobre conversaciones muy largas. Los resultados respaldan la regla de actualización guiada por la pregunta en estas dos pruebas y con estos dos modelos base.
- El resultado de entrenamiento cambia con el tiempo
Los investigadores también entrenaron Qwen3-4B con Select-TTT activo durante el entrenamiento continuo y la evaluación. A los 5.000 pasos, su exactitud media en LongMemEval-S fue de 37,4%, frente a 35,6% con In-Place TTT uniforme.
Sin embargo, en el punto de control de 1.000 pasos Select-TTT obtuvo 32,0%, por debajo de In-Place TTT uniforme, con 33,2%, y del preentrenamiento continuo estándar, con 32,4%. Por tanto, la ventaja posterior no describe el primer punto de control informado.
Detalles
- Autores del paper original
- Yue Wu, Yang Zhang, Weinan Gan, Chongming Gao, Xinsen Guo
- Enviado a arXiv
- Licencia
- arXiv non-exclusive