Un nouveau message aide à réorienter un raisonnement défaillant

Quand le raisonnement d’un modèle déraille, faut-il tout recommencer ou peut-on conserver les étapes précédentes utiles et le réorienter ? La réponse compte pour savoir si un modèle peut se remettre d’une tentative infructueuse sans réentraîner son principal modèle de raisonnement. UPTURN teste une méthode précise pour choisir le point de reprise et orienter la réponse suivante.

UPTURN apprend où reprendre une réponse incorrecte, en conserve le raisonnement antérieur et réoriente le modèle figé au moyen d’une consigne dans un nouveau message de l’utilisateur.

Sur quatre modèles de raisonnement figés et six tests de mathématiques, les chercheurs ont comparé UPTURN à une méthode de référence qui générait 32 réponses complètes par question. UPTURN a généré 16 réponses initiales ; un mécanisme distinct estime si chacune est correcte, puis les réponses sous son seuil fixe ont été corrigées une fois, pour un maximum de 32 générations.

L’exactitude moyenne par question, calculée en moyenne sur les modèles et les tests, était de 55,3 % avec UPTURN et de 37,1 % avec Base.

Le résultat étaye l’efficacité de la procédure complète de correction dans ces évaluations : conserver une partie de la réponse et réorienter la suite peut donner de meilleurs résultats que générer davantage de réponses complètes.

La comparaison ne permet pas d’isoler séparément l’effet du point de coupure appris, de la consigne ou du nouveau message de l’utilisateur.

La comparaison principale porte sur quatre modèles de raisonnement figés et six tests de mathématiques. Les protocoles autorisent jusqu’à 32 générations par question.

Base dispose d’un plafond plus élevé de jetons générés ; le résultat ne permet donc pas d’établir un temps d’exécution identique ni d’isoler l’effet d’un seul élément d’UPTURN. L’étude porte sur des tâches de raisonnement dont les résultats peuvent être vérifiés automatiquement et sur une seule intervention minimale.