ES
Un método nuevo sigue cómo los objetivos de entrenamiento cambian las predicciones
Influence Is the Target-Response Jacobian Times Residuals · arXiv:2610.27689
En palabras sencillas
Este artículo presenta un método para estimar cómo cambiarían las predicciones de un modelo si se modificaran respuestas o etiquetas individuales de sus datos de entrenamiento. Calcula esa respuesta en el modelo ya ajustado, sin volver a entrenarlo.
Los autores comparan sus estimaciones con los cambios obtenidos al volver a ajustar modelos después de modificar objetivos. En tres conjuntos de datos tabulares, el nuevo método coincidió estrechamente con esos nuevos ajustes; un método común basado en cambiar el peso de los ejemplos predijo peor que usar el cambio promedio tras el nuevo ajuste. El resultado se limita a los modelos y cambios probados.
La investigación
Si cambiar una etiqueta o un valor de entrenamiento puede alterar las predicciones de un modelo, ¿cómo podemos estimar ese cambio sin volver a entrenarlo? Los métodos de atribución existentes miden cómo responden las predicciones cuando los ejemplos reciben distintos pesos en la función de pérdida.
La cuestión pendiente es si esa respuesta al peso puede sustituir de forma fiable el cambio en los propios objetivos.
El Jacobiano de respuesta a los objetivos estima cómo afecta cada objetivo de entrenamiento a las predicciones del modelo, una pregunta que la atribución basada en el peso no mide.
Los investigadores entrenaron modelos, modificaron objetivos de entrenamiento de formas muestreadas y volvieron a ajustar cada modelo desde sus parámetros originales. Compararon el cambio que predecía cada método con el cambio correspondiente tras el nuevo ajuste.
Calcularon una puntuación para cada predicción a través de los cambios de objetivos y luego tomaron la mediana entre las predicciones de evaluación. Una puntuación negativa significa que las estimaciones fueron peores que predecir el cambio promedio tras el nuevo ajuste.
En tres conjuntos de datos tabulares, el Jacobiano de respuesta a los objetivos coincidió estrechamente con los cambios tras el nuevo ajuste, mientras que la influencia obtuvo puntuaciones por debajo de cero.
Esto respalda la afirmación de que, en estas pruebas, la sensibilidad al peso fue un sustituto deficiente de la sensibilidad a los objetivos.
El Jacobiano de respuesta a los objetivos estima una respuesta de primer orden en un punto estacionario ajustado, por lo que la precisión ante cambios mayores depende de cuán no lineal sea el nuevo ajuste. El método requiere acceso a las derivadas del modelo y resolver sistemas con la Hessiana.
Los resultados comunicados abarcan modelos, cambios de objetivos y condiciones de evaluación específicos.
Qué muestran las pruebas
- Dos tipos de sensibilidad
El artículo presenta el Jacobiano de respuesta a los objetivos, un método que estima cómo cambian las predicciones de un modelo cuando se modifican objetivos individuales de entrenamiento, sin volver a entrenarlo. Esto responde a una pregunta distinta de la atribución común de datos de entrenamiento, que mide la sensibilidad al peso que recibe un ejemplo en la función de pérdida.
El artículo pregunta si esa sensibilidad al peso puede sustituir de forma fiable la sensibilidad a los propios valores objetivo.
- Cómo se relacionan las medidas
En un modelo ajustado, el Jacobiano de respuesta a los objetivos combina gradientes de las predicciones, la resolución de un sistema con la Hessiana inversa y derivadas del gradiente de la función de pérdida de entrenamiento con respecto a los objetivos.
Los autores también derivan una identidad que lo relaciona con la influencia del peso de una muestra: en funciones de pérdida comunes con enlace canónico, la influencia equivale al Jacobiano multiplicado por el residuo de cada ejemplo de entrenamiento.
Esto explica por qué la influencia puede reducir el cambio estimado o perder su dirección cuando se usa para estimar cambios en los objetivos.
- Los nuevos ajustes ponen a prueba las estimaciones
Para poner a prueba las estimaciones directamente, los investigadores modificaron los objetivos de entrenamiento, volvieron a ajustar cada modelo desde sus parámetros originales y compararon los cambios resultantes en las predicciones con los que anticipaba cada método.
En tres conjuntos de datos tabulares, el Jacobiano coincidió estrechamente con los nuevos ajustes, mientras que las estimaciones de la influencia rindieron peor que predecir el cambio promedio tras el nuevo ajuste. Esto respalda el uso del Jacobiano frente a la influencia en los modelos y las perturbaciones probados.
- Una prueba con etiquetas multiclase
En un clasificador softmax de MNIST, los investigadores cambiaron las etiquetas de entrenamiento hacia otras clases elegidas al azar y midieron los cambios en las predicciones para imágenes de prueba. De nuevo, el Jacobiano siguió los nuevos ajustes mucho mejor que la influencia.
Los autores relacionan la diferencia con que la influencia da la misma estimación sin importar cuál sea la clase de destino, por lo que el resultado se limita al clasificador y a los cambios de etiqueta probados.
- Un escenario hipotético con datos de vivienda
Un escenario hipotético con California Housing puso a prueba aumentos finitos en objetivos de entrenamiento que estaban limitados por arriba en el rango registrado. En los grupos de manzanas censales reservados para evaluación, las estimaciones del Jacobiano siguieron de cerca los nuevos ajustes para cada aumento probado, mientras que la influencia fue menos precisa.
Esto aporta evidencia sobre un cambio estructurado en los objetivos, pero se basa en una sola división de datos y no elimina la limitación de primer orden del método.
Detalles
- Autores del paper original
- Paul Geertsema, Simon Geertsema
- Enviado a arXiv
- Licencia
- CC BY 4.0