Des tests contrôlés montrent que le décodage contraint ne nuit pas forcément à la précision
Constrained Decoding: Harmful or Beneficial? Revisiting Its Impact on LLM Performance · arXiv:2610.35328
En termes simples
Les modèles de langage ne respectent parfois pas la forme exigée pour une réponse, par exemple un objet JSON. Cet article examine si les règles qui limitent les mots qu’un modèle peut produire rendent aussi son raisonnement moins précis.
Les auteurs comparent les réponses en gardant la même consigne et le même format demandé. Dans ces comparaisons, imposer le format et écarter les réponses incompatibles avec la tâche a généralement maintenu ou amélioré la précision.
Ce résultat concerne les modèles et les tâches évalués ; il ne signifie pas que toute restriction est utile.
La recherche
Lorsqu’un modèle de langage doit renvoyer une réponse structurée, il peut ne pas respecter le format demandé. Des comparaisons antérieures ont aussi relevé une précision moindre pour le raisonnement dans des formats structurés, mais elles changeaient simultanément les consignes et les formats. La restriction des jetons que le modèle peut produire provoque-t-elle cette baisse de précision ?
L’article distingue les contraintes de format, de validité des réponses et de raisonnement, puis évalue l’effet des restrictions de jetons à consignes et formats identiques.
Pour déterminer si les restrictions de jetons réduisent à elles seules la précision du raisonnement, les auteurs comparent des générations avec et sans contrainte en gardant la consigne et le format de sortie requis identiques.
Une réponse n’est considérée comme correcte que si elle correspond exactement à la réponse de référence extraite.
Pour les modèles et les tâches évalués, les contraintes de format et de validité égalent ou dépassent les résultats de la génération sans contrainte.
Une précision plus faible entre différents formats de réponse ne suffit donc pas à montrer que le décodage contraint est nuisible, car ces comparaisons modifient aussi les consignes et les formats.
Les expériences portent sur des modèles, des consignes, des formats et des tâches de raisonnement précis ; les contraintes de validité ont surtout été évaluées sur deux tâches de concaténation de lettres. Le résultat théorique suppose aussi que la contrainte autorise la bonne réponse.
Ce que montrent les preuves
- Distinguer format et décodage
Cet article présente une taxonomie et des expériences sur le décodage contraint, qui limite les jetons qu’un modèle de langage peut générer.
La question est de savoir si la baisse de précision parfois observée avec des réponses structurées vient de ces restrictions ou des différences entre les consignes et les formats demandés. Cette distinction compte pour interpréter les comparaisons : lorsque plusieurs conditions changent en même temps, un écart de précision ne permet pas d’identifier le facteur qui l’explique.
- Un écart de format comporte d’autres facteurs
Les auteurs comparent le raisonnement en JSON à des méthodes qui laissent le modèle raisonner librement avant de mettre la réponse en forme. La précision varie, mais les consignes et les formats attendus diffèrent également.
Cette observation motive une comparaison mieux contrôlée ; elle ne montre pas que le décodage contraint lui-même a causé l’écart.
- Des comparaisons contrôlées testent la cause
Dans la comparaison plus directe, la consigne et le format de sortie attendu restent identiques tandis que les auteurs évaluent la génération avec et sans contrainte. Une réponse est considérée comme exacte si la réponse extraite correspond précisément à la bonne réponse.
Pour les modèles et les tâches évalués, les contraintes de format et de validité égalent ou dépassent les résultats de la génération sans contrainte. Ce constat va à l’encontre de l’idée que les restrictions de jetons réduisent nécessairement la précision dans ces situations.
- L’effet varie selon le type de contrainte
L’article distingue les règles qui imposent une structure de celles qui excluent aussi les réponses hors de l’espace autorisé par la tâche.
Dans deux tâches de concaténation de lettres, l’ajout de règles de validité apporte généralement des gains de précision plus réguliers que les seules règles de format. Les démarches de raisonnement imposées ont un effet moins constant : elles peuvent aider, mais la précision a baissé pour un modèle et une tâche de mathématiques évalués.
Détails
- Auteurs de l’article original
- Ngoc Trinh Hung Nguyen, Alonso Silva, Armen Aghasaryan, Mehwish Alam
- Soumis à arXiv
- Licence
- CC BY 4.0