ECHO mantiene consultabili le cronologie utente lunghe
ECHO: Efficient Cascade with Homogeneous Operators for Distillation-Guided 100K-Sequence Modeling · arXiv:2610.28569
In parole semplici
I sistemi di raccomandazione usano le azioni passate di una persona per decidere quali elementi mostrarle. Quando la cronologia è molto lunga, cercare ogni azione per ogni elemento costa molto; un riepilogo, invece, può nascondere azioni specifiche.
ECHO conserva per ogni persona un insieme più piccolo di azioni originali, poi cerca in quell’insieme quelle pertinenti a ciascun elemento. Nei test offline ha ottenuto i migliori risultati di ordinamento tra i metodi confrontati in otto attività; inoltre, un test produttivo ha riportato un aumento dell’uso dell’app in un singolo scenario.
La ricerca
Come può un sistema di raccomandazione usare una cronologia molto lunga senza cercare ogni azione passata per ogni elemento candidato o perdere azioni specifiche in un riepilogo compresso?
ECHO affronta il problema conservando registrazioni originali che possono essere cercate per ogni candidato e usando la guida di un modello insegnante per decidere quali mantenere.
ECHO seleziona registrazioni originali della cronologia utente con la guida di un modello insegnante, poi recupera da un insieme ridotto quelle pertinenti a ciascun obiettivo di ordinamento.
ECHO seleziona 10,000 registrazioni originali dalla cronologia di un utente, guidato da un modello insegnante addestrato a individuare i comportamenti pertinenti all’obiettivo. Per ogni elemento candidato, un recuperatore cerca tra quelle registrazioni.
In questo modo le azioni passate specifiche restano disponibili, limitando al tempo stesso la parte di cronologia esaminata durante l’ordinamento.
Nelle otto attività offline su due dataset, ECHO ha ottenuto il GAUC più alto tra sei metodi di confronto.
Il risultato sostiene l’uso del sistema per ordinare elementi sulla base di cronologie lunghe nelle valutazioni considerate; un’analisi separata stima un calcolo inferiore nel ramo sequenziale rispetto a STCA con 100,000 eventi.
Le evidenze provengono dalle attività offline riportate, da stime analitiche del calcolo e da un test di sette giorni in un unico scenario produttivo di raccomandazione.
ECHO può comunque scartare eventi necessari per elementi obiettivo estremamente rari; il selettore si adatta tramite l’addestramento e gli aggiornamenti delle selezioni, non a ogni obiettivo online.
Cosa mostrano le prove
- Il problema delle cronologie lunghe
ECHO è un framework per sistemi di raccomandazione che devono modellare cronologie fino a 100,000 eventi. Valutare molti elementi candidati rispetto a ogni evento può essere costoso, mentre comprimere la cronologia in un riepilogo può rendere inaccessibili le singole azioni.
ECHO affronta entrambi i problemi selezionando prima le registrazioni originali per ogni utente e cercando poi, tra quelle conservate, le registrazioni pertinenti all’obiettivo da classificare.
- Prima la selezione, poi il recupero
Durante l’addestramento, il Distilled Selector (DS) di ECHO impara da un modello insegnante che assegna un punteggio agli eventi dell’intera cronologia per ogni elemento candidato. Il DS seleziona le registrazioni usando le caratteristiche dell’utente, così lo stesso insieme conservato può essere riutilizzato per diversi candidati e richieste.
Per ciascun candidato, il Target-aware Fine-grained Retriever (TFR) cerca in quell’insieme. Conservare le registrazioni originali mantiene disponibili le identità e le caratteristiche degli elementi.
- Verifica degli eventi conservati
Per verificare se la selezione conserva eventi utili, i ricercatori hanno confrontato il DS con la selezione basata sulla recenza e quella casuale, usando come riferimento i 100 comportamenti ritenuti più pertinenti dal modello insegnante.
Con un limite di 10,000 registrazioni, il DS ha conservato in media il 99.976% di quei comportamenti nelle cronologie valutate, contro il 57.905% della recenza e il 49.443% della selezione casuale. Questa misura indica l’accordo con il modello insegnante, non la correttezza dei suoi giudizi.
- Risultati dell’ordinamento offline
KuaiRand-1K contiene attività di raccomandazione come prevedere clic, «mi piace», commenti e visualizzazioni lunghe; il GAUC riportato misura quanto bene gli elementi vengono ordinati per queste attività. Su KuaiRand-1K e su un dataset industriale di brevi video, ECHO ha ottenuto il GAUC più alto tra sei metodi di confronto in tutte e otto le attività.
I miglioramenti relativi rispetto alla baseline più forte per ciascuna attività vanno dallo 0.227% all’1.520% su KuaiRand-1K e dallo 0.113% allo 0.345% sul dataset industriale.
- Stime del calcolo ed evidenze online
Il paper ha anche stimato il calcolo del ramo sequenziale per obiettivo con 100,000 eventi e un limite di 10,000 registrazioni: i FLOPs stimati di ECHO erano circa 160 volte inferiori a quelli di STCA durante l’addestramento e 159 volte inferiori durante l’inference.
In un test online separato di sette giorni, un sistema produttivo con ECHO ha riportato aumenti del tempo totale di utilizzo dell’app e del tempo di utilizzo per utente rispetto al sistema esistente. I valori sul calcolo sono stime; i risultati sull’uso dell’app valgono per quello scenario di test.
Dettagli
- Autori del paper originale
- Wenhao Li, Qinglin Jia, Chenghou Jin, Zihong Xian, Jiezhou Ji
- Inviato ad arXiv
- Licenza
- arXiv non-exclusive