Un método compara acciones de búsqueda para repartir el crédito compartido
En palabras sencillas
Los sistemas de búsqueda pueden reescribir una consulta de varias maneras y combinar los resultados, pero a menudo reciben una sola puntuación para todo el grupo. Así es difícil saber qué reescritura ayudó en combinación con las demás. El artículo presenta CASI, un método que reutiliza un conjunto de acciones generadas y sus resultados de búsqueda para puntuar distintos grupos de acciones.
Promedia el valor añadido por cada acción entre esos grupos y usa ese crédito para orientar el entrenamiento. En el escenario descrito de cinco acciones, los sistemas entrenados con CASI obtuvieron un valor medio mayor en la reproducción de subastas sin conexión que los entrenados con dos reglas de comparación.
La investigación
Cuando un sistema de búsqueda combina varias reescrituras y recibe un único resultado para todo el conjunto, ¿cómo puede el entrenamiento tener en cuenta el valor de una acción en el contexto de las demás?
El resultado puede orientar el conjunto completo, pero no resuelve cómo varían las contribuciones de cada acción según ese contexto.
CASI puntúa grupos alternativos de acciones de búsqueda ya generadas y promedia la contribución de cada acción en distintos contextos para ajustar el crédito durante el entrenamiento.
Para cada conjunto de cinco acciones, CASI reutiliza resultados de recuperación guardados en caché para puntuar grupos alternativos con un evaluador congelado. La ponderación de Shapley promedia el valor añadido por cada acción en esos contextos, y los ajustes acotados proporcionan señales relativas de entrenamiento por acción.
En 1,000 solicitudes reservadas, las políticas entrenadas con CASI alcanzaron un valor medio de reproducción de subastas de 66.70 ± 3.40 en cinco ejecuciones, por encima de los 55.00 ± 4.00 de Singleton. Esto evalúa los resultados de políticas completas mediante reproducción; no establece que la reproducción mida el valor contrafactual en producción.
El resultado de alineación cambió según el evaluador, y no se ha validado la referencia basada en reproducción como valor contrafactual en producción. CASI asigna crédito dentro de un conjunto generado fijo; no determina cómo una acción anterior cambia las acciones posteriores que genera el sistema.
Análisis
Detalles
- Autores del paper original
- Xinyi Cheng, Tianfu Zhang, Jiwen Li, Xuesen Zhang, Shihao Yu
- Enviado a arXiv
- Licencia
- arXiv non-exclusive