Calculadora AIC y BIC

Usa AIC y BIC cuando compares modelos estadísticos para encontrar el mejor equilibrio entre ajuste y complejidad. Ambos penalizan los modelos por tener más parámetros, pero BIC penaliza más severamente, favoreciendo modelos más simples.

¿Qué son AIC y BIC?

Criterio de Información de Akaike (AIC)

$AIC = 2k - 2\ln(L)$

Donde:

• k = número de parámetros
• L = máxima verosimilitud

Menor AIC = mejor modelo.

Criterio de Información Bayesiano (BIC)

$BIC = k\ln(n) - 2\ln(L)$

Donde:

• k = número de parámetros
• n = tamaño de muestra
• L = máxima verosimilitud

Menor BIC = mejor modelo.

¿Por qué penalizar la complejidad?

Sin penalizaciones, agregar más parámetros siempre mejora el ajuste. Pero:

• Los modelos demasiado complejos sobreajustan
• Los parámetros extra pueden capturar ruido
• Los modelos simples generalizan mejor

AIC y BIC equilibran el ajuste (verosimilitud) contra la complejidad (parámetros).

AIC vs. BIC

Cuando la penalización BIC > penalización AIC:

• n > e² ≈ 7,4 (casi siempre)
• La diferencia crece con el tamaño de muestra

Ejemplo de comparación

Tres modelos de regresión con n = 100:

AIC selecciona: Modelo 2 (AIC = 250) BIC selecciona: Modelo 2 (BIC = 263,0)

Ambos coinciden aquí, pero con mayor k, BIC penalizaría más.

Interpretando diferencias

Para AIC

Para BIC

Interpretación similar, aunque las diferencias de BIC son a menudo mayores debido a la penalización más severa.

Reglas de selección de modelos

Usando AIC:

1. Calcula AIC para todos los modelos candidatos
2. Selecciona el modelo con menor AIC
3. Reporta AIC para los principales candidatos
4. Considera los modelos dentro de ΔAIC < 2 como competitivos

Usando BIC:

1. Calcula BIC para todos los modelos candidatos
2. Selecciona el modelo con menor BIC
3. BIC tiende a preferir modelos más simples

Pesos de Akaike

Convierte AIC a probabilidades de modelo:

$w_i = \frac{\exp(-\Delta AIC_i / 2)}{\sum_j \exp(-\Delta AIC_j / 2)}$

Donde ΔAIC_i = AIC_i - AIC_min.

Interpretación: w_i es la probabilidad de que el modelo i sea el mejor modelo dados los datos y el conjunto de candidatos.

AIC corregido (AICc)

Para muestras pequeñas, usa la versión corregida:

$AIC_c = AIC + \frac{2k(k+1)}{n-k-1}$

Usa AICc cuando: n/k < 40

AICc se reduce a AIC cuando n → ∞.

Cuándo usar cuál

Diferencia filosófica:

• AIC: Mejor modelo para predicción (puede no ser "verdadero")
• BIC: Estimador consistente del orden del modelo "verdadero"

Calculando desde salida de software

Desde suma de cuadrados residuales (Regresión)

$AIC = n\ln(RSS/n) + 2k$ $BIC = n\ln(RSS/n) + k\ln(n)$

Desde R-cuadrado

$AIC = n\ln(1-R^2) + 2k + C$

Donde C es una constante (no importa para la comparación).

Modelos anidados vs. no anidados

Modelos anidados: Uno es un caso especial de otro.

• También se puede usar prueba de razón de verosimilitud
• AIC/BIC funcionan bien

Modelos no anidados: Formas estructurales diferentes.

• No se puede usar prueba de razón de verosimilitud
• AIC/BIC son ideales para esto

Aplicaciones

Regresión

Seleccionar qué predictores incluir:

• Compara modelos con diferentes variables
• Equilibra ajuste contra número de predictores

Series de tiempo

Elegir orden ARIMA:

• Compara combinaciones (p,d,q)
• Selecciona basándose en AIC o BIC

Modelos mixtos

Comparar estructuras de efectos aleatorios:

• Diferentes estructuras de covarianza
• Qué efectos aleatorios incluir

Aprendizaje automático

Ajuste de complejidad del modelo:

• Fuerza de regularización
• Número de componentes (PCA)

Errores comunes

Comparar entre diferentes datos

AIC/BIC solo comparan modelos ajustados a los mismos datos. Diferentes tamaños de muestra o variables invalidan la comparación.

Ignorar supuestos del modelo

Un AIC bajo no valida los supuestos. Verifica los residuos independientemente de qué modelo gane.

Depender demasiado de un criterio

Considera tanto AIC como BIC, más el conocimiento del dominio. Si difieren sustancialmente, investiga por qué.

Usar para prueba de hipótesis

AIC/BIC son para selección de modelos, no prueba de hipótesis. No dan valores p.

AIC/BIC vs. validación cruzada

Para modelos grandes o datos complejos, la validación cruzada puede ser más confiable pero toma más tiempo.

Problemas de selección por pasos

Usar AIC/BIC en procedimientos por pasos:

• No explora todos los modelos posibles
• Puede perder la solución óptima
• Mejor: Regresión de todos los subconjuntos cuando sea factible

Guías de reporte

Formato estándar: "El Modelo 2 tuvo el menor AIC (AIC = 250) comparado con el Modelo 1 (AIC = 256) y el Modelo 3 (AIC = 251). BIC también seleccionó el Modelo 2 (BIC = 263,0). El Modelo 2 incluyó los predictores edad, tratamiento y puntuación base."

Incluir:

• AIC/BIC para los principales modelos candidatos
• Qué criterio se usó y por qué
• Especificación del modelo final
• Diagnósticos del modelo

Contexto histórico

Hirotugu Akaike desarrolló AIC en 1973, conectando la teoría de la información con la selección de modelos estadísticos. Demostró que minimizar AIC minimiza aproximadamente la divergencia de Kullback-Leibler.

Gideon Schwarz desarrolló BIC en 1978 desde una perspectiva bayesiana. BIC aproxima el factor de Bayes entre modelos.

Ambos criterios revolucionaron la selección de modelos al proporcionar métodos de comparación objetivos basados en verosimilitud.

Cálculos relacionados

• Calculadora de R-cuadrado — Ajuste del modelo
• Regresión múltiple — Construcción de modelos
• Regresión lineal — Modelos simples
• Distribución F — Pruebas de modelos anidados

Resumen

AIC y BIC comparan modelos equilibrando el ajuste (verosimilitud) contra la complejidad (parámetros). Valores más bajos indican mejores modelos. AIC usa una penalización fija (2k); la penalización de BIC crece con el tamaño de muestra (k ln n). Usa AIC para predicción, BIC cuando busques el modelo "verdadero". Para muestras pequeñas, usa AICc. Compara solo modelos ajustados a datos idénticos. Reporta ambos criterios para comparaciones importantes y considera los modelos dentro de ΔAIC < 2 como competitivos.