Chiosa
Machine Learning

Un filtro comprueba si las actualizaciones de modelos mejoran

2 min
Actualizado

En palabras sencillas

Una actualización de un modelo puede parecer mejor porque los investigadores usaron los mismos ejemplos etiquetados para elegirla y evaluarla. Este artículo presenta BRIDGE, un filtro que decide si acepta una actualización elegida o conserva el modelo actual.

BRIDGE evalúa candidatos con pliegues de datos que no se usaron para seleccionarlos y los acepta solo cuando la evidencia supera una mejora mínima. En 11 conjuntos de datos nuevos, menos actualizaciones aceptadas dejaron de mejorar frente a datos de referencia separados que con una regla que aceptaba cualquier puntuación positiva en validación. El resultado se limita a esa configuración de prueba.

La investigación

Cuando los investigadores usan los mismos datos de validación para elegir una actualización del modelo y evaluar su mejora, el resultado comunicado puede ser demasiado optimista.

¿Cómo pueden decidir si aceptan una actualización usando las etiquetas que ya tienen, sin tratar esa misma evidencia de selección como una comprobación independiente?

BRIDGE separa la selección de candidatos de su evaluación y acepta una actualización solo cuando la mejora estimada supera un mínimo fijo.

Los autores comparan BRIDGE con una regla sencilla que acepta cualquier candidato con una mejora positiva en validación. Ante las mismas decisiones y referencias bloqueadas, BRIDGE tuvo menos actualizaciones aceptadas que no lograron mejorar frente a la referencia: el 1,1 % frente al 19,1 % en 1.100 decisiones sobre 11 conjuntos de datos nuevos.

Un experimento aparte con tareas sintéticas independientes respalda un límite de muestra finita para esa población especificada. Una evaluación clínica retrospectiva también encontró menos falsas mejoras con BRIDGE, aunque sus resultados no demuestran beneficios prospectivos.

Estos resultados respaldan BRIDGE para actualizaciones de modelos tabulares en las condiciones evaluadas.

Las estimaciones de riesgo con datos reales se aplican a las colecciones observadas y a referencias bloqueadas de tamaño finito; el límite formal para la población se aplica solo a la población sintética especificada, y los resultados clínicos son retrospectivos.

Análisis

Detalles

Siguiente paperAgents can improve research code, but many tasks stump all