Un modelo de portugués brasileño incorpora una etapa de seguridad evaluada

Cuando se dice que un modelo abierto de portugués brasileño está alineado con la seguridad, ¿cómo pueden saber los lectores si de verdad rechaza solicitudes dañinas, en vez de limitarse a obtener buenos resultados en una métrica de entrenamiento o en una prueba pequeña? El artículo aborda esa pregunta al informar de enfoques que no funcionaron y evaluar tanto el comportamiento del modelo como el proceso de evaluación.

Los autores añaden una etapa específica de entrenamiento de seguridad a Manacá-1B-Instruct-2 y comparan sus rechazos con los de otros modelos de portugués brasileño ante las mismas solicitudes.

Los autores compararon Manacá-1B-Instruct-2 v4 con otros cuatro modelos externos de portugués brasileño usando el mismo procedimiento y 218 elementos de seguridad reservados.

V4 rechazó el 97,2% de los elementos, y su intervalo del 95% quedó por encima del límite superior del intervalo de cada modelo de comparación. Esto respalda una tasa de rechazo medida más alta ante las solicitudes compartidas.

Este resultado mide la tasa de rechazo en 218 solicitudes, no demuestra una seguridad completa: una revisión manual encontró una respuesta dañina entre 218.

Los cuatro modelos de comparación tenían distintos historiales de entrenamiento y presupuestos de preentrenamiento, así que la prueba compartida no demuestra que el entrenamiento de seguridad por sí solo causara la diferencia.