Extraer estadísticas de atención sin guardar matrices completas

Puede ser necesario inspeccionar un modelo distinto del que redactó una respuesta para detectar si carece de respaldo, porque el modelo autor quizá no revele su funcionamiento interno.

¿Puede otro modelo usar pistas de atención para comprobar si una respuesta encaja con el contexto proporcionado, y se pueden recopilar esas pistas sin guardar una enorme matriz de atención?

El artículo presenta un método y un backend Triton para extraer estadísticas de atención sin guardar matrices completas, y prueba detectores proxy de respaldo contextual.

¿Puede un detector comprobar si una respuesta encaja con el contexto proporcionado cuando no se puede inspeccionar el modelo que la redactó?

El artículo prueba un modelo proxy Qwen3 congelado e independiente, que lee el contexto, la pregunta y la respuesta, y usa un clasificador entrenado para predecir si el contexto la respalda.

En tres conjuntos de datos, los autores comparan clasificadores con y sin características de atención y comparan detectores proxy con evaluadores guiados. Un modelo proxy de 4B superó en F1 de prueba al evaluador más sólido entre los evaluados en dos conjuntos de datos; uno de 0.6B lo hizo en el tercero. F1 equilibra las respuestas sin respaldo detectadas con las falsas alarmas.

Estos resultados se limitan a los conjuntos de datos, los modelos proxy Qwen3, los evaluadores y la implementación probados. El modelo proxy evalúa si el contexto proporcionado respalda la respuesta, y dos estadísticas implementadas difieren de sus definiciones publicadas; esas versiones no se compararon en las pruebas de detección.