TransX separa lo scaling dei recommender dall’erogazione

I modelli di raccomandazione possono basarsi su cronologie comportamentali lunghe, ma elaborare quella cronologia per ogni richiesta fa crescere il calcolo online con la domanda.

Non è chiaro se un modello possa aggiungere capacità per migliorare le raccomandazioni senza richiedere in proporzione più lavoro di erogazione online.

TransX separa l’elaborazione riutilizzabile della cronologia comportamentale dal calcolo dei punteggi dei candidati, quindi misura come scalano le diverse componenti e la memoria che conservano.

La domanda centrale è se migliorare la qualità delle raccomandazioni aumentando la capacità del modello debba far crescere in proporzione i costi di erogazione online.

TransX permette di misurarlo separando la codifica della cronologia, la memoria comportamentale di dimensione limitata e la previsione condizionata dal candidato.

Negli esperimenti di scaling, a risoluzione della memoria e capacità di fusione invariate, più calcolo per il codificatore ha migliorato l’AUC dei clic su dati non usati per l’addestramento, che misura quanto bene le previsioni ordinano gli esempi con clic sopra quelli senza clic; i guadagni si sono ridotti oltre circa quattro livelli.

All’aumentare del budget di supervisione a singolo passaggio, i rendimenti relativi si sono spostati verso la fusione, ma ciò comportava anche più aggiornamenti dell’ottimizzatore: il confronto quindi non separa la quantità di supervisione dalla durata dell’addestramento.

I modelli più grandi non hanno richiesto sistematicamente una memoria più dettagliata. Questi andamenti supportano un’allocazione condizionata tra componenti nei regimi testati.

Questi andamenti emergono con l’architettura TransX, i dati, i regimi di supervisione e le condizioni di deployment testati; non definiscono una regola universale di scaling.

Il calcolo dei costi di produzione è normalizzato ed esclude alcuni costi assoluti, quindi non costituisce un’analisi completa dei costi lungo l’intero ciclo di vita.