Les étiquettes en ligne aident les modèles à localiser les segments de texte

Quand un modèle de langage repère une expression dans un passage, comment savoir exactement quelle occurrence il désigne ? Une expression générée peut être modifiée ou apparaître plusieurs fois dans le texte, ce qui la rend difficile à localiser.

L’article demande si un modèle peut marquer directement les segments dans une copie du texte, afin que leur emplacement soit fixé pendant la génération.

L’étiquetage sous contrainte fait copier le texte d’entrée au modèle et lui fait marquer les segments sur place, ce qui fixe leur emplacement en caractères à mesure que les étiquettes sont générées.

La méthode contraint le modèle à copier le texte d’entrée et à y ajouter des étiquettes intégrées valides, ce qui fixe l’emplacement de chaque segment à mesure qu’il est généré. Les auteurs l’ont comparée à un étiquetage utilisant les mêmes invites et le même balisage, mais sans contrainte, en mesurant le score F1 strict fondé sur le chevauchement des caractères, qui exige que l’étiquette prédite corresponde.

Avec une taille de lot de 1, la moyenne sur trois graines aléatoires était supérieure avec l’étiquetage sous contrainte sur cinq des six jeux de données et inférieure sur Toxic Spans. Ces résultats étayent un bénéfice sur la plupart des jeux de données testés, tandis que la garantie de copie elle-même dépend de l’achèvement de la génération.

La méthode fixe l’emplacement des segments copiés, mais ne garantit pas que le modèle choisisse les bons segments ni leurs bonnes limites. Les résultats portent sur les modèles, jeux de données et invites testés ; la significativité statistique des faibles écarts de score n’a pas été évaluée.