Autore
Mengqi Guo
Paper che riportano Mengqi Guo tra gli autori della fonte. Lo stesso nome può riferirsi a ricercatori diversi.
1 risultati
DuoRate permette ai modelli MoE di memorizzare e leggere i pesi a misure diverse
Su un modello MoE, DuoRate ha mantenuto un’accuratezza vicina a un formato a quattro bit leggendo meno bit a ogni passo di decodifica.