L'identité d'un éditeur peut aider les agents à filtrer les affirmations sur des concurrents (F1)
En termes simples
Lorsqu'un agent choisit entre des offres en concurrence, un éditeur peut formuler une affirmation sur un rival qui semble factuelle. L'article introduit un contrôle qui utilise l'identité de l'éditeur déjà associée à une entrée de catalogue pour décider si cet éditeur est habilité à formuler l'affirmation.
Il vérifie le droit de parole, et non la véracité de l'affirmation. Dans un test comparatif, la suppression des phrases rejetées par le contrôle a arrêté 130 des 131 attaques construites qui avaient modifié le choix d'un agent. Les sélections de l'agent n'ont pas changé sur les deux ensembles d'entrées ordinaires testés.
La recherche
Lorsqu'un agent compare des offres en concurrence, peut-il distinguer une description ordinaire d'une affirmation non étayée qu'un éditeur formule sur un rival ?
Les contrôles existants peuvent accepter une telle affirmation parce qu'elle arrive par un canal légitime et paraît pertinente pour le choix de l'utilisateur ; la question manquante est de savoir si cet éditeur est habilité à la formuler.
L'article introduit un contrôle de légitimité qui exploite l'identité de l'éditeur liée à chaque entrée de catalogue pour signaler les affirmations portant sur des offres concurrentes avant qu'un agent ne choisisse.
L'article relie l'identité de l'éditeur d'une entrée de catalogue aux affirmations extraites de sa description, grâce à un contrôle de légitimité.
Dans un test comparatif, ce contrôle a déclenché la suppression des phrases concernées : les évaluateurs ont constaté qu'il arrêtait 130 des 131 attaques construites ayant modifié un choix, sans altérer aucune sélection sur deux ensembles naturels.
Cela appuie l'utilité du contrôle pour réduire ces attaques tout en préservant la capacité de décision de l'agent. D'autres approches ont également arrêté les attaques, soit en refusant la tâche, soit en supprimant l'intégralité du texte des entrées.
Les attaques étaient construites, l'étude a utilisé du texte en anglais et un seul extracteur d'affirmations, et les résultats mesurés se limitent aux choix enregistrés. Des descriptions naturelles de catalogue ont servi à mesurer le coût du filtrage, et non la fréquence réelle des affirmations fausses ; le contrôle ne détermine pas non plus si une affirmation est vraie.
Analyse
Détails
- Auteurs de l’article original
- Yedidel Louck, Amit Dvir, Ariel Stulman
- Soumis à arXiv
- Licence
- arXiv non-exclusive