Autor
Gerald Q. Maguire
Papers que incluyen a Gerald Q. Maguire entre los autores de la fuente. Un mismo nombre puede corresponder a investigadores distintos.
1 resultados
Un tokenizador para GPU conserva los identificadores y acelera solicitudes con caché
GraphTok conserva los identificadores de tokens de referencia y acorta las llamadas medianas al tokenizador en condiciones probadas de vLLM con casi todos los tokens de entrada en caché.