Un metodo orienta le risposte mentre rivede il contesto della domanda

Il riscontro su una risposta del modello può fare più che riscriverne le istruzioni? Il paper esamina se possa anche controllare direttamente il modo in cui viene generata la risposta successiva.

Gli aggiornamenti del contesto cambiano già le preferenze tra token, ma la generazione ordinaria non offre un controllo separato sull’intensità di questo cambiamento.

EMO rivede il contesto specifico di una domanda in base al riscontro di un valutatore, poi usa questa modifica per orientare le scelte dei token mentre il modello congelato risponde di nuovo.

I ricercatori hanno valutato otto modelli su sei test di ragionamento, riunendo le due edizioni di AIME in un unico gruppo di attività.

Nelle 40 combinazioni modello–gruppo, l’accuratezza di EMO secondo le regole di valutazione ha superato quella zero-shot in 39 casi, con un aumento medio di 9.10 punti percentuali.

La correttezza è stata verificata rispetto alle risposte ufficiali con regole specifiche per ciascuna attività, mentre un valutatore distinto ha guidato le revisioni senza vedere quelle risposte. Con decodifica greedy, questi dati sostengono un miglioramento dovuto alla procedura EMO completa.

La dimostrazione garantisce una riduzione di un round della divergenza KL rispetto al target solo se l’aggiornamento del contesto migliora questa misura, la direzione effettiva dello steering è allineata positivamente con il target e l’intensità dello steering è sufficientemente bassa.

Non garantisce una maggiore accuratezza, miglioramenti nei round successivi o trasferimento oltre i test di ragionamento e le due famiglie di modelli valutati.