Un metodo per ridurre le distrazioni mirate nelle domande mediche
EXCISE: Locating and Excising Distracting Sentences in Medical Question Answering · arXiv:2610.35558
In parole semplici
Una domanda medica può contenere una frase irrilevante che spinge un modello verso la risposta sbagliata, anche se non cambia quale sia la risposta corretta. Excise controlla quale frase influenza di più la risposta e se sembra fuori posto rispetto al caso.
Nei test su tre modelli, il metodo ha migliorato l'accuratezza quando le frasi favorivano risposte sbagliate. Sulle domande senza distrattori l'accuratezza è calata leggermente, quindi il metodo non ha aiutato in ogni caso.
La ricerca
Un modello che risponde a domande mediche può ignorare una frase irrilevante che lo spinge verso un'opzione sbagliata senza perdere prove utili?
La frase che influisce di più sulla risposta potrebbe contenere un dettaglio clinico importante, quindi la sola influenza non basta a stabilire se vada bloccata.
Excise individua la frase che sposta maggiormente una risposta medica e la blocca solo se la sua rappresentazione interna è in contrasto con il caso.
Può un modello bloccare una frase irrilevante che orienta la risposta senza sopprimere anche prove utili? In una prova diagnostica su quattro modelli, gli autori hanno verificato il blocco delle frasi: maschere di attenzione fisse hanno danneggiato l'accuratezza quando la frase aggiunta indicava l'opzione corretta, mentre bloccare quella frase nota ha mantenuto un'accuratezza simile nelle due condizioni.
Excise misura l'effetto di ogni frase sulla risposta e blocca quella più influente solo se il modello la considera incoerente con il caso. Su MedQA with Targeted Distractors, un test che aggiunge frasi senza cambiare la risposta corretta e che favoriscono opzioni sbagliate, tre modelli hanno guadagnato 16.7–22.8 punti di accuratezza rispetto all'assenza di intervento; sulle domande senza distrattori, l'accuratezza è calata di 1.5–2.1 punti.
Le prove provengono da test a scelta multipla con distrattori sintetici che non cambiano la risposta corretta, eseguiti su modelli di cui è possibile ispezionare i segnali interni.
Excise non corregge affermazioni mediche false né dimostra che il metodo sia pronto per l'uso clinico; richiede inoltre almeno tre frasi narrative e aumenta sensibilmente il costo di inference.
Cosa mostrano le prove
- Distrazioni mirate
Excise è un metodo applicato durante l'inference per rispondere a domande mediche. Affronta un problema specifico: una frase può essere irrilevante per la risposta corretta e tuttavia spingere il modello verso una determinata opzione sbagliata.
Gli autori hanno creato MedQA with Targeted Distractors, un test che aggiunge frasi senza cambiare la risposta corretta e progettate per favorire opzioni sbagliate. Su queste domande, nove modelli open-weight hanno perso da 19 a 32 punti percentuali di accuratezza rispetto alle domande corrispondenti senza distrattori.
- Perché individuare la frase
Gli autori hanno verificato se un intervento generale potesse sopprimere la distrazione senza individuarne la fonte. In una prova diagnostica su quattro modelli, maschere fisse applicate alle teste di attenzione hanno aumentato l'accuratezza quando una frase aggiunta favoriva un'opzione sbagliata, ma l'hanno ridotta nettamente quando la frase indicava la risposta corretta.
Il blocco della frase aggiunta nota ha invece prodotto un'accuratezza simile nelle due condizioni. Il contrasto mostra perché l'intervento debba distinguere, per ogni domanda, i contenuti fuorvianti dalle prove utili.
- Un segnale di incoerenza
Gli autori hanno trovato un segnale che potrebbe aiutare a fare questa distinzione. Hanno confrontato la rappresentazione interna del modello per ogni frase letta da sola con quella del resto del caso, anch'esso letto da solo.
Nelle domande senza distrattori, la frase che influenzava maggiormente la risposta raramente era anche quella meno coerente con il caso. Quando un distrattore aveva trasformato una risposta corretta in una sbagliata, risultava la frase più discordante nel 78–93% dei casi in tre test.
- Un intervento selettivo
Excise usa due verifiche: misura quanto il blocco di ciascuna frase indebolisce la risposta attuale, poi controlla se la frase più influente sembra incoerente con il resto del caso. Nei tre modelli, rispetto all'assenza di intervento, ha aumentato l'accuratezza di 16.7–22.8 punti su MedQA with Targeted Distractors, riducendola però di 1.5–2.1 punti sulle domande senza distrattori.
Il risultato sostiene un beneficio selettivo in questi test, con un costo residuo sulle domande senza distrattori.
- Che cosa coprono le prove
In presenza di una frase aggiuntiva estranea al caso, Excise ha superato di 7.2–10.0 punti di accuratezza una versione che sceglieva le frasi basandosi soltanto sulla loro incoerenza. Ha migliorato l'accuratezza anche su MedDistractQA e BiasMedQA, altri due test di domande mediche.
Questi risultati ampliano gli scenari esaminati, ma i distrattori erano sintetici e il metodo richiede l'accesso ai segnali interni del modello. Gli autori dichiarano che non è stato convalidato per l'uso clinico.
Dettagli
- Autori del paper originale
- Yerim Hong, Sohyun Son, Heeseung Chung, Mujeen Sung
- Inviato ad arXiv
- Licenza
- arXiv non-exclusive