La resistencia de Jev a los ataques cambia según la tarea

Antes de esta comparación, Jev se había probado bajo ataque sin otros evaluadores como referencia.

La pregunta pendiente era si sus evaluaciones tipadas y basadas en probabilidades cambiaban las decisiones de seguridad con más o menos frecuencia que las de evaluadores basados en modelos de lenguaje o clasificadores diseñados para tareas específicas cuando todos recibían el mismo contenido controlado por un atacante en distintas tareas.

Los autores comparan Jev con evaluadores basados en modelos de lenguaje y clasificadores de seguridad ante ataques compartidos, y encuentran que su resistencia depende de la tarea.

Los autores compararon ocho sistemas en cuatro tareas. Adaptaron el mismo contenido controlado por un atacante al formato de entrada de cada sistema y aplicaron una misma política a sus respuestas.

En correos de phishing sin alterar, Jev identificó como phishing el 62%, un resultado similar al de dos evaluadores GPT, pero inferior al de tres evaluadores GLM.

Un mensaje de seguridad falsificado no logró que pasara ninguna de las solicitudes dañinas que Jev había marcado sin alterar en moderación, pero sí consiguió que pasara el 19% de los correos de phishing que había marcado.

Este contraste respalda la interpretación de los autores de que Jev es más robusto en tareas con reglas claras que en evaluaciones globales.

La conclusión sobre las evaluaciones se basa en una tarea y un corpus de phishing en inglés, con llamadas de un solo turno. La medida del ataque registra si un evaluador deja pasar un mensaje; no mide qué escribiría después un asistente ni si se produciría algún daño.