Auteur
Mingcong Song
Articles qui citent Mingcong Song parmi les auteurs de la source. Un même nom peut désigner des chercheurs différents.
1 résultats
QUILT accélère le prefill des longs contextes en partageant le travail des requêtes
QUILT réutilise les entrées clé-valeur qui se chevauchent pour réduire la latence mesurée du prefill, avec de faibles écarts de score.