Autore
Gerald Q. Maguire
Paper che riportano Gerald Q. Maguire tra gli autori della fonte. Lo stesso nome può riferirsi a ricercatori diversi.
1 risultati
Un tokenizer su GPU accelera le richieste con cache
GraphTok preserva gli ID di riferimento e riduce la durata mediana delle chiamate al tokenizer nelle condizioni testate con vLLM e quasi tutti i token dei prompt in cache.