Autore
Pascal Schwinte
Paper che riportano Pascal Schwinte tra gli autori della fonte. Lo stesso nome può riferirsi a ricercatori diversi.
1 risultati
Un tokenizer su GPU accelera le richieste con cache
GraphTok preserva gli ID di riferimento e riduce la durata mediana delle chiamate al tokenizer nelle condizioni testate con vLLM e quasi tutti i token dei prompt in cache.