Chiosa
ES
Machine Learning

Modelos conjuntos mejoran los intervalos de efectos grupales

Unit-level aggregation breaks coverage in causal foundation models · arXiv:2610.22770

4 min
Actualizado
Coverage of nominal 95% subset-CATE intervals from temperature-calibrated CausalPFN on standard benchmarks, with unit-level aggregation. Subsets are drawn uniformly at random. The horizontal axis is…
Coverage of nominal 95% subset-CATE intervals from temperature-calibrated CausalPFN on standard benchmarks, with unit-level aggregation. Subsets are drawn uniformly at random. The horizontal axis is the fraction of the sample aggregated, and its right edge is the full sample.…Figure 1 · Unit-level aggregation breaks coverage in causal foundation models · Gabe Schulman et al. · CC BY 4.0

En palabras sencillas

Los modelos causales estiman cómo un tratamiento cambia los resultados de las personas y luego promedian esos efectos para un grupo. Sus errores de predicción pueden variar conjuntamente porque el mismo modelo causal incierto afecta a todos.

Si se tratan esos errores como independientes, el intervalo del grupo puede ser demasiado estrecho. Este artículo presenta dos modelos para estimar efectos en grupos.

Al añadirse a un estimador causal existente llamado CausalPFN, situaron el verdadero promedio de la muestra completa dentro de sus intervalos con más frecuencia que al combinar predicciones unidad por unidad con las mismas ponderaciones, en seis pruebas estándar con efectos conocidos. Aun así, sus intervalos no alcanzaron el 95% de cobertura en conjunto.

La investigación

¿Debería estrecharse el intervalo de un modelo causal para el promedio de un subgrupo o de toda la muestra como si el error de estimación de cada persona fuera independiente? Los autores plantean esta pregunta porque los efectos de distintas personas dependen del mismo modelo incierto de causa y efecto.

Por ello, sus errores pueden variar conjuntamente y el intervalo del grupo puede dejar fuera el promedio real con demasiada frecuencia.

Los autores presentan dos modelos que representan la incertidumbre compartida entre unidades al estimar el efecto promedio del tratamiento para un grupo consultado.

Un modelo predice directamente el promedio del grupo consultado; el otro comparte una única muestra latente aprendida entre sus integrantes y promedia sus efectos.

En seis pruebas estándar con efectos conocidos, ambos modelos, añadidos a un estimador causal fijo llamado CausalPFN, incluyeron con más frecuencia el verdadero promedio de la muestra completa en intervalos nominales del 95% que al combinar predicciones independientes de cada unidad con las mismas ponderaciones.

Esto respalda representar la incertidumbre compartida, aunque el modelo directo también cambia su estimación puntual y ninguno alcanzó el 95% de cobertura en conjunto.

Las pruebas usan superficies de respuesta simuladas y comparan los intervalos con efectos condicionales conocidos, no con diferencias entre resultados potenciales sujetos a ruido.

Los modelos propuestos son pequeños y se entrenaron con una familia sintética; los autores no afirman que igualen la precisión o la generalidad de CausalPFN.

Qué muestran las pruebas

  • Por qué pueden fallar los intervalos de grupo

    Los autores presentan dos modelos aprendidos que estiman la incertidumbre del efecto promedio del tratamiento en un conjunto elegido de unidades, como un subgrupo o la muestra completa. Uno representa la incertidumbre compartida por el grupo; el otro predice directamente el promedio del grupo.

    El objetivo es el promedio de los efectos condicionales del tratamiento de las unidades, así que promediar estimaciones individuales por sí solo no garantiza un intervalo fiable para el grupo.

  • Los errores pueden variar conjuntamente

    El efecto de cada unidad depende del mismo modelo causal estructural incierto, es decir, del proceso que generó los datos. Por eso, los errores de predicción de distintas unidades pueden variar conjuntamente.

    Cuando un modelo combina las estimaciones de las unidades como si esos errores fueran independientes, omite la covarianza entre unidades. El artículo muestra que esto puede hacer que la incertidumbre informada sea demasiado pequeña a medida que crece el grupo consultado; el resultado de cobertura también supone errores gaussianos con media cero y una varianza informada fija.

  • Dos formas de representar la dependencia

    El proceso neuronal latente usa una única muestra latente aprendida y compartida para el grupo consultado, predice el efecto de cada integrante a partir de ella y luego promedia dentro de esa muestra. El proceso neuronal condicional de decodificación directa recibe el grupo como entrada y predice directamente una distribución para su promedio.

    Ambos métodos buscan conservar la incertidumbre compartida entre unidades al estimar un efecto de grupo.

  • Los intervalos actuales no alcanzan el objetivo

    Los investigadores primero prueban CausalPFN, un estimador causal ya existente, en seis familias estándar de pruebas causales con superficies de respuesta simuladas. Como se conocen los efectos reales, miden qué proporción de los intervalos de grupo contiene el promedio real.

    En todas las familias de pruebas, sus intervalos nominales del 95%, una vez calibrados, quedan por debajo de la cobertura prevista a medida que crecen los grupos. En ACIC 2016, solo 8 de 40 intervalos del conjunto de datos para la muestra completa contienen el promedio real; la interfaz pública usa el contexto de los vecinos más cercanos para las ventanas de unidades.

  • La agregación conjunta mejora la cobertura

    En una comparación sintética con pesos fijos, la agregación conjunta tuvo una cobertura mediana del 89% para el mayor tamaño de grupo entre 60 celdas, mientras que el mejor resultado a nivel de unidad fue del 47%. En el modelo directo también cambia la estimación puntual, por lo que la comparación no mide solo la varianza.

    En seis pruebas estándar, los modelos complementarios conectados a un CausalPFN fijo incluyeron con más frecuencia el verdadero promedio de la muestra completa en sus intervalos que la agregación a nivel de unidad con las mismas ponderaciones, aunque sus tasas generales siguieron por debajo del 95%.

Detalles