Autor
Yifei Zou
Papers que incluyen a Yifei Zou entre los autores de la fuente. Un mismo nombre puede corresponder a investigadores distintos.
1 resultados
CRISP coordina la poda y la planificación para MoE en dispositivos periféricos
Con Mixtral-8x7B y un 10% del tamaño total de los expertos en caché, CRISP generó 8.3 tokens/s frente a 3.9 de MoE-Offload.
