Calculadora de regresión lineal múltiple

Regresión con múltiples predictores.

Formato: Y, X₁, X₂, ... (se necesitan al menos 4 observaciones)

Cargar datos de ejemplo:

Ingrese datos para realizar regresión múltiple

Y en la primera columna, predictores en las columnas restantes

¿Qué es la regresión lineal múltiple?

La regresión lineal múltiple modela la relación entre una variable de resultado (Y) y dos o más variables predictoras (X₁, X₂, ..., Xₖ). Extiende la regresión simple para considerar múltiples factores simultáneamente.

Pregunta respondida: "¿Cómo predicen múltiples factores juntos el resultado, y cuál es la contribución única de cada factor?"

Ejemplos:

  • "¿Cómo afectan el precio, la publicidad y la estacionalidad juntos las ventas?"
  • "Predecir el precio de una casa a partir del tamaño, ubicación, antigüedad y dormitorios."
  • "¿Qué factores contribuyen al desempeño del empleado?"

La ecuación de regresión

Y=β0+β1X1+β2X2+…+βkXk+εY = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \ldots + \beta_k X_k + \varepsilon

O en forma matricial: Y=Xβ+ε\mathbf{Y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\varepsilon}

Donde:

  • β0\beta_0 = intercepto
  • β1,β2,…,βk\beta_1, \beta_2, \ldots, \beta_k = coeficientes de regresión parcial
  • ε\varepsilon = término de error

Interpretando coeficientes

Concepto clave: Cada coeficiente representa el efecto de ese predictor manteniendo constantes todos los demás predictores.

Ejemplo: Precio = 50.000 + 150(m²) + 20.000(dormitorios) - 1.000(antigüedad)

  • Cada metro cuadrado adicional añade $150 al precio, controlando por dormitorios y antigüedad
  • Cada dormitorio adicional añade $20.000, controlando por tamaño y antigüedad
  • Cada año adicional de antigüedad reduce el precio en $1.000, controlando por tamaño y dormitorios

Ejemplo: Precios de casas

Datos: 50 casas con precio, metros cuadrados, dormitorios y antigüedad.

Resultado:

PredictorCoeficienteEEtp
Intercepto48.52315.2403,18,003
M²147,512,312,0<,001
Dormitorios18.7505.4203,46,001
Antigüedad-985320-3,08,004

R² = 0,87 (87% de la varianza del precio explicada)

Todos los predictores son estadísticamente significativos.

R cuadrado y R² ajustado

R2=1−SSresidualSStotalR^2 = 1 - \frac{SS_{\text{residual}}}{SS_{\text{total}}}

Proporción de varianza explicada por todos los predictores juntos.

Problema: R² siempre aumenta al añadir predictores, incluso inútiles.

R² ajustado:

Radj2=1−(1−R2)(n−1)n−k−1R^2_{\text{adj}} = 1 - \frac{(1 - R^2)(n - 1)}{n - k - 1}

Penaliza por número de predictores. Puede disminuir si los nuevos predictores no ayudan.

Usa R² ajustado para comparación de modelos.

La prueba F (modelo general)

Prueba si el modelo en su totalidad es significativo:

H0H_0: Todos los β=0\beta = 0 (ningún predictor ayuda) H1H_1: Al menos un β≠0\beta \neq 0

F=R2/k(1−R2)/(n−k−1)F = \frac{R^2 / k}{(1 - R^2) / (n - k - 1)}

Con gl1=kgl_1 = k y gl2=n−k−1gl_2 = n - k - 1

F significativo: El modelo predice Y mejor que solo usar la media.

Pruebas t (coeficientes individuales)

Cada coeficiente tiene su propia prueba t:

H0H_0: βi=0\beta_i = 0 (este predictor no ayuda, dados los otros) H1H_1: βi≠0\beta_i \neq 0

t=biEEbit = \frac{b_i}{EE_{b_i}}

Un valor p significativo significa que ese predictor añade valor predictivo único más allá de los otros predictores.

Coeficientes estandarizados (pesos Beta)

Problema: Los coeficientes crudos tienen diferentes unidades, así que no puedes comparar magnitudes.

Solución: Estandarizar variables (puntuaciones z) antes de la regresión:

β∗=b×sxsy\beta^* = b \times \frac{s_x}{s_y}

Los pesos beta son comparables: mayor ∣β∗∣|\beta^*| significa mayor influencia.

Ejemplo:

Predictorb (crudo)β* (estandarizado)
M²147,50,65
Dormitorios18.7500,22
Antigüedad-985-0,18

Los metros cuadrados tienen la mayor influencia en el precio.

Multicolinealidad

Cuando los predictores están altamente correlacionados entre sí:

Problemas:

  • Las estimaciones de coeficientes se vuelven inestables
  • Los errores estándar se inflan
  • Las pruebas t individuales pueden ser no significativas aunque los predictores importen

Detección:

Factor de inflación de varianza (FIV): FIV > 10: Multicolinealidad seria FIV > 5: Preocupación moderada

Soluciones:

  • Eliminar o combinar predictores correlacionados
  • Usar regresión de componentes principales
  • Usar regularización (Ridge, Lasso)

Supuestos

Linealidad

La relación entre cada X e Y es lineal (controlando por los otros).

Verificar: Gráficos de regresión parcial, gráficos de residuos

Independencia

Las observaciones son independientes.

Violación: Series temporales, datos agrupados

Normalidad

Los residuos están normalmente distribuidos.

Verificar: Histograma, gráfico QQ de residuos

Homocedasticidad

La varianza de residuos es constante a través de valores predichos.

Verificar: Gráfico de residuos vs. ajustados

Sin multicolinealidad perfecta

Los predictores no son combinaciones lineales perfectas entre sí.

Predictores categóricos

Incluye variables categóricas usando codificación dummy:

Para una variable con 3 categorías (A, B, C):

  • Crea 2 variables dummy
  • D1 = 1 si B, 0 en otro caso
  • D2 = 1 si C, 0 en otro caso
  • A es la categoría de referencia

Interpretación: Los coeficientes muestran diferencia de la categoría de referencia.

Efectos de interacción

Cuando el efecto de X₁ depende de X₂:

Y = β₀ + β₁X₁ + β₂X₂ + β₃(X₁ × X₂)

Ejemplo: El efecto de la publicidad en las ventas depende del nivel de precio.

Interpretación: β₃ muestra cuánto cambia el efecto de X₁ por unidad de X₂.

Selección de modelo

Selección hacia adelante

Comienza sin predictores, añade uno a la vez (el más significativo primero).

Eliminación hacia atrás

Comienza con todos los predictores, elimina uno a la vez (el menos significativo primero).

Paso a paso

Combinación de hacia adelante y hacia atrás en cada paso.

Criterios de información

AIC, BIC: Menor es mejor, balancea ajuste contra complejidad.

Advertencia: Los métodos paso a paso pueden capitalizar el azar. Usa teoría para guiar la construcción del modelo.

Predicción

Predicción puntual: Ŷ = b₀ + b₁X₁ + b₂X₂ + ...

Intervalo de predicción: Considera la incertidumbre en los coeficientes y la variación residual.

Más ancho que el intervalo de confianza para la predicción media.

Aplicaciones

Economía

PIB a partir de múltiples indicadores económicos. Gasto del consumidor a partir de ingresos, tasas de interés, confianza.

Marketing

Ventas a partir de precio, publicidad, distribución, estacionalidad.

Medicina

Resultados del paciente a partir de múltiples factores de riesgo. Severidad de enfermedad a partir de síntomas y resultados de pruebas.

Bienes raíces

Valuación de propiedades a partir de múltiples características.

Recursos humanos

Desempeño a partir de educación, experiencia, capacitación.

Problemas comunes

Sobreajuste

Demasiados predictores relativo al tamaño de muestra.

Regla general: Necesitas al menos 10-20 observaciones por predictor.

Sesgo de variable omitida

Excluir predictores importantes sesga los coeficientes restantes.

Valores atípicos y puntos influyentes

Pueden afectar dramáticamente los coeficientes.

Verificar: Distancia de Cook, valores de apalancamiento

Reportando resultados

Formato estándar:

"Se realizó un análisis de regresión múltiple para predecir el precio de casas a partir de metros cuadrados, dormitorios y antigüedad. El modelo fue estadísticamente significativo, F(3, 46) = 102,5, p < ,001, y explicó 87% de la varianza (R²_adj = ,86).

Los tres predictores fueron significativos: metros cuadrados (b = 147,5, β = ,65, p < ,001), dormitorios (b = 18.750, β = ,22, p = ,001), y antigüedad (b = -985, β = -,18, p = ,004)."

Contexto histórico

La regresión múltiple se desarrolló a principios del siglo XX cuando el poder computacional hizo factibles los cálculos matriciales.

Udny Yule y estadísticos posteriores extendieron el trabajo de Galton y Pearson sobre regresión simple a múltiples predictores.

El método se volvió práctico con las computadoras electrónicas en los años 1960 y sigue siendo una de las técnicas estadísticas más ampliamente usadas.

Cálculos relacionados

Resumen

La regresión lineal múltiple predice un resultado a partir de múltiples predictores usando Y = β₀ + Σβᵢxᵢ. Cada coeficiente representa el efecto de ese predictor controlando por todos los demás. Evalúa el ajuste general del modelo con la prueba F y R² (usa R² ajustado). Prueba predictores individuales con pruebas t. Los coeficientes estandarizados (pesos beta) permiten comparar la importancia de predictores. Verifica supuestos con gráficos de residuos y vigila la multicolinealidad. Incluye suficientes observaciones relativas a los predictores (mínimo 10-20 por predictor) para evitar sobreajuste.