La identidad del editor puede ayudar a filtrar afirmaciones sobre rivales (F1)
En palabras sencillas
Cuando un agente elige entre ofertas que compiten entre sí, un editor puede hacer sobre un rival una afirmación que suena a hecho. El artículo presenta una comprobación que usa la identidad del editor vinculada a una entrada del catálogo para determinar si tiene derecho a hacer esa afirmación. Comprueba si está autorizado a decirla, no si es verdadera.
En una prueba equivalente, eliminar las oraciones que la comprobación rechazó detuvo 130 de los 131 ataques construidos que ya habían afectado la elección de un agente. Las elecciones del agente no cambiaron en ninguno de los dos conjuntos de entradas naturales evaluados.
La investigación
Cuando un agente elige entre ofertas que compiten entre sí, ¿puede distinguir una descripción corriente de un producto de una afirmación sin respaldo del editor sobre un rival? Los filtros existentes pueden aceptar esa afirmación porque llega por un canal autorizado y es pertinente para la elección del usuario. La pregunta que falta es si ese editor tiene derecho a hacerla.
El artículo propone una comprobación de standing que usa la identidad del editor vinculada al catálogo para detectar afirmaciones sobre ofertas rivales antes de que un agente elija.
El artículo usa una comprobación de standing que vincula la identidad del editor de una entrada del catálogo con las afirmaciones extraídas de su texto.
En una prueba equivalente, el filtro permitió eliminar oraciones: los evaluadores observaron que así se detuvieron 130 de los 131 ataques construidos que ya habían afectado una elección, sin cambiar ninguna selección en dos conjuntos naturales.
Esto respalda la comprobación como una forma de reducir estos ataques y preservar la capacidad del agente para decidir. Otros métodos también los detuvieron al rechazar la tarea o quitar todo el texto de los listados.
Los ataques se construyeron; el estudio usó textos en inglés y un solo extractor de afirmaciones, y las mediciones se limitaron a las decisiones registradas. Se usaron descripciones naturales de catálogos para medir el costo del filtrado, no la frecuencia de las afirmaciones falsas. La comprobación tampoco determina si una afirmación es verdadera.
Análisis
Detalles
- Autores del paper original
- Yedidel Louck, Amit Dvir, Ariel Stulman
- Enviado a arXiv
- Licencia
- arXiv non-exclusive