FR
Un modèle de langage classe les pages à partir des clics
Octen-WebGR: Scaling Generative Retrieval to 200 Million Web Pages · arXiv:2610.35256
En termes simples
Certaines recherches visent une page précise. Une table de clics peut ne pas connaître une nouvelle façon de demander cette page, tandis qu’un système fondé sur la ressemblance peut placer une page proche en première position.
Octen-WebGR entraîne un modèle de langage à produire un identifiant court pour la page sur laquelle les gens ont cliqué, puis retrouve son URL dans une table. Sur du trafic ultérieur, son modèle 4B a placé la cible en première position pour 59,6 % des clics de navigation, contre 46,5 % pour un système fondé sur la ressemblance et ajusté selon le nombre de clics. Il s’agissait d’un test hors ligne, pas d’une expérience sur un service de recherche en direct.
La recherche
Quand une personne cherche une page précise avec des mots absents des recherches passées, une table de clics ne peut pas répondre directement, et un système fondé sur la ressemblance peut placer une page proche en première position.
Une méthode de recherche peut-elle apprendre quelle destination la personne vise, tout en limitant ses réponses aux pages qui existent ?
Octen-WebGR entraîne un modèle de langage à générer des identifiants de pages à partir des clics, puis les retrouve pour classer les URL existantes dans les recherches visant une page précise.
Octen-WebGR apprend à générer un identifiant unique pour la page associée à une requête, puis relie cet identifiant à une URL existante. Les auteurs vérifient si la méthode place en première position la cible la plus cliquée sur le trafic de septembre, après un entraînement sur des données allant jusqu’en août.
Le modèle 4B a placé la cible en première position pour 59,6 % des clics de navigation, contre 46,5 % pour une recherche dense ajustée selon le nombre de clics d’entraînement.
Cette comparaison hors ligne, pondérée par les clics, appuie la méthode dans les conditions évaluées ; les résultats varient selon la quantité d’exemples d’entraînement associés à la page cible.
Ces résultats proviennent d’évaluations hors ligne sur les échantillons de trafic et les données d’entraînement de l’article.
La comparaison à échelle comparable porte sur 8 millions et 32 millions d’URL, et le test de répartition porte sur des pages associées à au moins 16 exemples d’entraînement ; aucun des deux n’exclut des limites de capacité à plus grande échelle.
Ce que montrent les preuves
- Placer la page visée en tête
La recherche de navigation a un objectif précis : placer la page visée en première position. Une table de clics peut renvoyer une page pour une requête déjà vue, mais ne contient pas d’entrée pour une nouvelle requête.
La recherche dense peut traiter de nouvelles formulations en comparant des représentations de la requête et des pages, mais une page similaire risque de passer devant celle qui est visée. L’article demande si un modèle de langage peut apprendre, à partir des clics, le lien entre les requêtes et les pages de destination.
- Générer l’identifiant d’une page
Octen-WebGR est une méthode de recherche générative : elle entraîne un modèle de langage à produire une paire de codes unique pour la page associée à une requête. Une table relie chaque paire valide à une URL, et le décodage contraint limite les réponses aux identifiants de cette table.
Le modèle 4B publié couvre environ 201 millions d’URL. L’évaluation vérifie si les systèmes placent en première position la page qui a reçu le plus de clics, sur du trafic de septembre postérieur aux données d’entraînement du modèle.
- Comparer sur du trafic ultérieur
Sur ce trafic ultérieur, le modèle 4B a placé la cible en première position pour 59,6 % des clics de navigation, contre 46,5 % pour une recherche dense dont le classement a été réordonné à l’aide du nombre de clics d’entraînement.
La comparaison utilise le même trafic, le même ensemble d’URL et la même mesure pondérée par les clics. Le résultat indique un meilleur classement hors ligne que cette méthode de référence, mais la cible est définie à partir des clics et l’expérience ne teste pas un service de recherche en direct.
- Un avantage qui a ses limites
L’avantage dépend de la quantité de données d’entraînement associées à une page. Pour les nouvelles requêtes visant des pages familières, avec au moins 11 paires d’entraînement, Octen-WebGR a fait mieux que la recherche dense avec son ajustement fondé sur le nombre de clics.
Pour les pages peu documentées, avec 1 à 10 paires, la recherche dense sans cet ajustement a placé les cibles en première position plus souvent. D’autres analyses d’entraînement menées par les auteurs relient la rétention au moment où les exemples apparaissent et au taux d’apprentissage à ce moment-là.
Dans un test distinct portant sur les pages ayant au moins 16 paires d’entraînement, répartir les exemples entre plusieurs requêtes a amélioré le hit@1 sur des requêtes mises de côté, par rapport à la répétition de deux requêtes.
Ce résultat appuie une meilleure généralisation aux requêtes mises de côté dans le groupe testé ; il ne démontre pas une meilleure rétention.
Détails
- Auteurs de l’article original
- Guangwei Xu, Wenkai Zhang, Yawen Liu, Dongxu Zhang, Xijie Xu
- Soumis à arXiv
- Licence
- arXiv non-exclusive