Collection de recherches
#2-4-sparsity
Recherche avec le tag 2-4-sparsity: explications, preuves, limites et liens entre articles.
1 résultats
En inférence LLM, la précision réduite bat 2:4 au-dessus du seuil minimal
Dans deux modèles 8B, une comparaison de la sparsité 2:4 et de la quantification trouve les formats denses plus précis au-dessus du seuil minimal pris en charge.