FR
La cohérence aux perturbations apporte peu à la détection d’erreurs sur images non modifiées
En termes simples
L’article présente le Decision Consistency Framework (DCF), une méthode qui vérifie si un classificateur d’images garde la même prédiction lorsque l’image est légèrement modifiée. Elle suit les changements d’étiquette et de confiance du classificateur, puis combine ces observations dans un score.
Dans les familles de modèles testées, ce score repérait moins bien les prédictions erronées sur des images non modifiées que la confiance ordinaire du classificateur. Il a aidé dans certains tests avec du bruit et des attaques, mais ces résultats sont soumis à des limites précises.
La recherche
Lorsqu’un classificateur d’images donne une réponse, vérifier si de petites modifications de l’image la changent peut-il révéler des erreurs que sa confiance initiale ne laisse pas voir ?
Les auteurs comparent directement les contrôles de cohérence à la sortie initiale, puis testent une explication mathématique des situations où la stabilité peut apporter des informations et de celles où elle n’en apporte pas.
Les auteurs présentent le DCF, qui évalue la stabilité des étiquettes et de la confiance après six légères modifications d’image, puis testent si ce score apporte des informations sur les erreurs au-delà de la confiance initiale.
Sur 201 évaluations, le score de cohérence classait moins bien les erreurs sur données non modifiées que la probabilité softmax maximale (MSP), qui utilise la probabilité la plus élevée de la sortie initiale. L’AUROC mesure la capacité d’un score à distinguer les prédictions correctes des incorrectes, avec 0,5 comme niveau de hasard.
Pour les CNN figés, la cohérence obtenait en moyenne une AUROC inférieure de 0,057 point à celle de la MSP, sur 16 configurations et quatre jeux de données.
Un diagnostic à marge initiale constante a montré que les variations des scores de sortie du classificateur distinguaient peu les images correctes des incorrectes. Cela étaye la conclusion selon laquelle, sur des données non modifiées, la cohérence répète souvent des informations déjà présentes dans la sortie initiale.
Pour quatre corruptions par bruit, le CS dépassait la marge des logits dans une comparaison directe des scores. Séparément, les gains obtenus en ajoutant les caractéristiques DCF aux caractéristiques de confiance dépendaient de décalages apparentés étiquetés. La cohérence distinguait aussi les images non modifiées des images attaquées face à une attaque non adaptative, mais une attaque adaptative pouvait lui échapper dans les conditions testées.
Ces résultats portent sur les jeux de données d’images, les modèles et les six transformations légères testés. Sur les données bruitées, les gains obtenus en ajoutant les caractéristiques DCF aux caractéristiques de confiance dépendaient d’exemples étiquetés provenant de décalages de distribution apparentés ; la comparaison directe entre CS et la marge des logits sur quatre corruptions par bruit était distincte. Le résultat sur l’attaque adaptative ne couvre qu’un seul objectif d’attaque testé.
Ce que montrent les preuves
- Ce que la cohérence peut apporter
Le Decision Consistency Framework (DCF) est une méthode a posteriori qui vérifie si les prédictions d’un classificateur d’images restent stables après de petites modifications de l’image.
Il applique six transformations légères, dont la rotation et le flou, puis mesure la fréquence à laquelle l’étiquette reste identique et l’ampleur du changement de confiance accordée à la classe la mieux notée. Les auteurs cherchent à savoir si ces observations aident à repérer des prédictions erronées au-delà de ce que révèle déjà la sortie initiale du classificateur.
- La comparaison sur données non modifiées
Pour détecter les erreurs sur données non modifiées, les auteurs ont comparé le score de cohérence du DCF à la probabilité softmax maximale (MSP), soit la probabilité la plus élevée dans la sortie initiale du classificateur.
Ils ont mesuré l’AUROC, qui indique la capacité d’un score à distinguer les prédictions correctes des incorrectes ; 0,5 correspond au hasard. Dans les familles de modèles présentées, la cohérence obtenait un score inférieur à la MSP.
Pour les CNN figés, son AUROC moyenne était inférieure de 0,057 point sur 16 configurations et quatre jeux de données d’images.
- Tester l’apport d’informations nouvelles
Un résultat mathématique explique pourquoi la stabilité peut répéter une information déjà présente dans la sortie initiale : un changement d’étiquette implique que la marge des logits initiaux ne dépasse pas √2 fois l’ampleur du changement des scores de sortie du classificateur.
Or, cette marge figure déjà dans la sortie initiale. Dans un diagnostic mené sur 84 exécutions de CNN et de transformers figés, les changements de score distinguaient mal les prédictions correctes des incorrectes parmi les images ayant des marges similaires : l’AUROC moyenne était de 0,515, près du hasard.
- Une exception limitée avec le bruit
La cohérence a aidé dans certains cas où la confiance initiale était trompeuse. Pour quatre types de corruption par bruit dans CIFAR-10-C, le score de cohérence dépassait la marge des logits de 0,05 à 0,11 point d’AUROC.
Il s’agit d’une comparaison directe des deux scores. Dans une analyse distincte, les auteurs ont testé si l’ajout de caractéristiques DCF aux caractéristiques de confiance améliorait la détection des erreurs au moyen d’un combinateur ajusté.
Lorsqu’il était entraîné sur des données non modifiées ou d’autres familles de corruptions, son gain sur les données bruitées tombait respectivement à 0,009 et 0,002 point d’AUROC ; ce dernier gain n’était pas statistiquement significatif.
- Exceptions et limites
Face à une attaque par gradient projeté non adaptative, le score de cohérence distinguait mieux les images non modifiées des images attaquées que la MSP, au budget testé de 2/255. Une attaque adaptative pénalisant l’instabilité pouvait contourner ce détecteur, mais peu d’attaques changeaient alors la prédiction.
Par ailleurs, corriger la différence de proportions de classes entre entraînement et test dans OCTMNIST a réduit d’environ 40 % l’écart entre cohérence et précision, sans l’expliquer entièrement. Ces résultats délimitent les situations où la cohérence aide et ce que l’écart mesuré à l’échelle du modèle permet d’expliquer.
Détails
- Auteurs de l’article original
- Amit Kalitaa, Moirangthem Tiken Singh
- Soumis à arXiv
- Licence
- CC BY 4.0