Cómo influyen las señales de precisión en las valoraciones de chatbots
When Should I Trust This? Designing and Evaluating Factuality Indicators for LLM-based Chatbots · arXiv:2610.32883
En palabras sencillas
Un chatbot puede parecer seguro de sí mismo y aun así dar una respuesta equivocada. Este artículo estudia cómo entiende la gente dos pistas que podrían ayudarle a evaluar las respuestas: la información sobre la confianza y las fuentes que puede revisar.
Los investigadores entrevistaron a usuarios, encuestaron a adultos de EE. UU. y probaron distintas pistas en capturas de chatbots.
Las pistas cambiaron ligeramente algunas primeras impresiones, pero, una vez que los participantes supieron si la respuesta era correcta, los investigadores ya no detectaron diferencias de confianza o impresión general entre los tipos de pista.
La investigación
Cuando una respuesta de un chatbot parece plausible, ¿qué ayuda a decidir si confiar en ella: una señal de confianza, fuentes que se puedan revisar o saber si la respuesta es correcta?
El artículo estudia cómo entiende la gente estas pistas y si cambian sus valoraciones de las respuestas de chatbots.
El estudio combina entrevistas, una encuesta y un experimento aleatorizado con capturas para analizar cómo las señales de confianza y de fuentes influyen en las valoraciones de respuestas de chatbots.
Para evaluar una respuesta de un chatbot, quizá sea necesario entender qué significa una señal de confianza y si vale la pena revisar sus fuentes. Primero, los autores estudiaron cómo interpretan los usuarios estas señales y qué dicen sobre la verificación de respuestas; después comprobaron si distintas señales cambiaban las valoraciones.
En un experimento aleatorizado, adultos de EE. UU. evaluaron una captura antes y después de saber si su respuesta era correcta.
Al principio, las diferencias entre señales fueron pequeñas; después de revelar la corrección, dejaron de detectarse diferencias en confianza e impresión general. La corrección tuvo una asociación mucho mayor con esas valoraciones posteriores.
Los resultados sugieren que las señales pueden influir en las primeras impresiones, pero no demuestran cambios de comportamiento.
El experimento midió las valoraciones de una captura estática de un chatbot por persona; no evaluó la comprobación de fuentes, la dependencia de las respuestas ni decisiones reales. Todos los estudios reclutaron a participantes de EE.
UU. que ya usaban IA generativa, por lo que los resultados podrían no aplicarse a otras poblaciones o a interacciones cotidianas.
Qué muestran las pruebas
- El problema de evaluar respuestas
Este estudio empírico de métodos mixtos pregunta cómo evalúa la gente la veracidad de las respuestas de un chatbot y si las señales de confianza o de fuentes ayudan a valorarlas. El problema es práctico al buscar información: una respuesta fluida aún puede ser inexacta, y quizá no esté claro qué significa una señal de confianza.
Los autores examinan cómo entienden estas señales los usuarios y qué dicen sobre la verificación antes de probar cómo influyen las señales de la interfaz en sus valoraciones.
- Qué entienden los usuarios por estas señales
En las entrevistas, ocho participantes de EE. UU. interpretaron de distintas maneras la confianza de la IA: no coincidían, por ejemplo, en si indicaba que una respuesta probablemente era correcta o que se había comprobado.
Valoraban las fuentes como evidencia que podían revisar, pero plantearon dudas sobre su fiabilidad y el esfuerzo necesario para verificarlas. En una encuesta independiente, el 94.7% de 1,000 adultos de EE.
UU. usuarios de IA dijo que verificaba las respuestas algunas veces, pero no siempre. Buscar información y revisar las fuentes del chatbot eran prácticas habituales; pedir una valoración de confianza estaba entre las menos frecuentes.
- La comparación de capturas
El experimento asignó al azar a 5,151 adultos de EE. UU. usuarios de IA a una de seis versiones de la captura de un chatbot, con temas de jardinería, matemáticas o medicina y respuestas correctas o incorrectas.
Los participantes valoraron la precisión percibida y la suficiencia de la información, además de la confianza y la impresión general, antes y después de conocer si la respuesta era correcta. Antes de esa revelación, algunas señales obtuvieron puntuaciones más altas que otras, pero las diferencias fueron pequeñas.
Después, los investigadores no detectaron diferencias entre señales en confianza ni en impresión general.
- Qué influyó en las valoraciones
Saber si una respuesta era correcta tuvo una asociación mucho mayor con la confianza y la impresión general posteriores que el tipo de señal. El tema también importó: los participantes puntuaron las respuestas médicas por debajo de las de jardinería o matemáticas en precisión percibida, confianza e impresión general.
Los hallazgos sugieren que las señales pueden influir en algunas primeras impresiones en esta prueba, pero las valoraciones también reflejan la corrección y el tema. Como los participantes evaluaron una sola captura, el estudio no establece efectos sobre la verificación o las decisiones reales.
Detalles
- Autores del paper original
- Greta Warren, Jessica Heal, Sila Eser, Denise M. Leto, Christine M. Lehane
- Enviado a arXiv
- Licencia
- CC BY 4.0