Calculateur de régression linéaire

Qu'est-ce que la régression linéaire simple ?

La régression linéaire simple modélise la relation entre deux variables en ajustant une ligne droite aux données. Elle vous permet de prédire Y (le résultat) à partir de X (le prédicteur).

Question posée : « Quelle est la ligne la mieux ajustée, et dans quelle mesure X prédit-il Y ? »

Exemples :

• « Comment les ventes changent-elles avec les dépenses publicitaires ? »
• « Prédire le score d'examen à partir des heures d'étude. »
• « Quelle est la relation entre la température et les ventes de glace ? »

L'équation de régression

$Y = a + bX$

Ou en notation alternative :

$\hat{Y} = \beta_0 + \beta_1 X$

Où :

• $a$ (ou $\beta_0$) = ordonnée à l'origine (valeur de Y lorsque X = 0)
• $b$ (ou $\beta_1$) = pente (changement dans Y pour une augmentation d'une unité de X)
• $\hat{Y}$ = valeur Y prédite

Calcul des coefficients

Pente :

$b = \frac{\sum_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})}{\sum_{i=1}^{n}(x_i - \bar{x})^2}$

Ou : $b = S_{xy} / S_{xx} = r \times (s_y / s_x)$

Ordonnée à l'origine :

$a = \bar{y} - b \times \bar{x}$

La ligne passe toujours par le point $(\bar{x}, \bar{y})$.

Exemple de calcul

Données : Dépenses publicitaires (X, milliers $) et ventes (Y, unités)

Statistiques récapitulatives :

• x̄ = 6, ȳ = 288
• Sxx = 40, Sxy = 1100

Pente : b = 1100 / 40 = 27,5

Ordonnée à l'origine : a = 288 - 27,5 × 6 = 123

Équation : Ŷ = 123 + 27,5X

Interprétation : Chaque augmentation de 1 000 $ en publicité est associée à 27,5 ventes unitaires supplémentaires.

Interprétation de la pente

b = 27,5 signifie :

• Pour chaque augmentation d'une unité de X, Y augmente de 27,5 en moyenne
• La relation est positive (Y augmente lorsque X augmente)
• Ceci est un effet moyen—les observations individuelles varient

Les unités comptent : Si X est en milliers de dollars et Y en unités vendues, alors : « 1 000 $ de publicité en plus → 27,5 unités vendues en plus »

Interprétation de l'ordonnée à l'origine

a = 123 signifie :

• Lorsque X = 0, le Y prédit est 123
• Zéro publicité prédit 123 ventes unitaires

Attention : Interpréter littéralement seulement si X = 0 est significatif et dans votre plage de données.

Si vos données s'étendent de X = 2 à 10, l'ordonnée à l'origine est une extrapolation et peut ne pas être significative.

Résidus et ajustement

Résidu = Observé - Prédit

$e_i = y_i - \hat{y}_i$

Les résidus doivent être petits et dispersés aléatoirement.

R au carré (coefficient de détermination)

$R^2 = \text{proportion de variance dans Y expliquée par X}$

$R^2 = 1 - \frac{SS_{résiduel}}{SS_{total}}$

Ou : $R^2 = r^2$ (corrélation au carré)

Pour notre exemple : r = 0,995, donc R² = 0,99

Interprétation : 99 % de la variation des ventes est expliquée par les dépenses publicitaires.

Erreur standard de l'estimation

$SE = \sqrt{\frac{\sum_{i=1}^{n}(y_i - \hat{y}_i)^2}{n-2}}$

Mesure l'erreur de prédiction typique.

Pour notre exemple : SE ≈ 7,9 unités

Les prédictions sont généralement décalées d'environ 8 unités.

Test de la pente

La pente est-elle significativement différente de zéro ?

H₀ : β₁ = 0 (aucune relation) H₁ : β₁ ≠ 0 (la relation existe)

Statistique de test :

$t = \frac{b}{SE_b}$

Où $SE_b = SE / \sqrt{S_{xx}}$

Si p < α, la pente est statistiquement significative.

Intervalle de confiance pour la pente

$IC = b \pm t^* \times SE_b$

Donne la plage de pentes de population plausibles.

Prédiction

Prédiction ponctuelle

Pour X = 7 : Ŷ = 123 + 27,5(7) = 315,5 unités

Intervalle de prédiction

Tient compte de l'incertitude dans la ligne et de la variation individuelle :

$IP = \hat{Y} \pm t^* \times SE \times \sqrt{1 + \frac{1}{n} + \frac{(X - \bar{x})^2}{S_{xx}}}$

Les intervalles de prédiction sont toujours plus larges que les intervalles de confiance.

Hypothèses (LINA)

Linéarité

La relation entre X et Y est linéaire.

Vérifier : Diagramme de dispersion, graphique des résidus

Indépendance

Les observations sont indépendantes.

Violation : Données de séries chronologiques, données groupées

Normalité

Les résidus sont normalement distribués.

Vérifier : Histogramme des résidus, graphique QQ

Variance égale (homoscédasticité)

La dispersion des résidus est constante à travers les valeurs de X.

Vérifier : Graphique des résidus (devrait montrer une dispersion aléatoire)

Diagnostics des résidus

Bon graphique des résidus :

• Dispersion aléatoire autour de zéro
• Aucun motif ou tendance
• Dispersion constante

Problèmes à détecter :

• Courbure → relation non linéaire
• Forme d'entonnoir → hétéroscédasticité
• Groupes → sous-groupes potentiels

Problèmes courants

Extrapolation

Prédire en dehors de la plage de valeurs X observées.

Si les données s'étendent de X = 2 à 10, prédire à X = 20 est risqué.

Valeurs aberrantes

Les points inhabituels peuvent fortement influencer la ligne.

Effet de levier élevé : Valeurs X extrêmes Influence élevée : Points qui changent substantiellement la ligne

Confusion

Des variables tierces peuvent expliquer la relation.

La régression ne prouve pas la causalité.

Applications

Affaires

Prévision des ventes, modélisation de la demande, analyse des prix.

Science

Courbes de calibration, relations dose-réponse.

Économie

Fonctions de consommation, élasticité des prix.

Médecine

Courbes de croissance, modélisation de la réponse au traitement.

Ingénierie

Contrôle qualité, optimisation de processus.

Régression vs. corrélation

Connexion : r² = R² en régression simple

Présentation des résultats

Format standard :

« La régression linéaire simple a révélé que les dépenses publicitaires prédisaient significativement les ventes, b = 27,5, SE = 1,38, t(3) = 19,9, p < 0,001. Le modèle a expliqué 99 % de la variance des ventes (R² = 0,99). »

Avec équation :

« L'équation de régression était : Ventes = 123 + 27,5 × Publicité, F(1, 3) = 397, p < 0,001, R² = 0,99. »

Contexte historique

Francis Galton a été le pionnier de la régression dans les années 1880 en étudiant l'hérédité—spécifiquement, pourquoi les enfants de parents grands « régressaient » vers la taille moyenne.

Karl Pearson a formalisé les mathématiques, reliant la régression à la corrélation.

Le terme « régression » persiste même si les applications modernes impliquent rarement la « régression vers la moyenne » au sens de Galton.

Calculs connexes

• Régression multiple — Plusieurs prédicteurs
• Corrélation de Pearson — Force de la relation
• Calculateur R au carré — Ajustement du modèle
• Analyse des résidus — Vérification des hypothèses
• Calculateur d'intervalle de prédiction — Incertitude dans les prédictions

Résumé

La régression linéaire simple ajuste la ligne Y = a + bX pour modéliser comment X prédit Y. La pente (b) représente le changement de Y par changement unitaire de X ; l'ordonnée à l'origine (a) est le Y prédit lorsque X = 0. R² indique la proportion de variance expliquée. Testez la pente pour la signification et vérifiez les hypothèses à l'aide de graphiques de résidus. Rapportez l'équation, R², et le test de signification. Rappelez-vous que la régression montre l'association, pas la causalité, et évitez d'extrapoler au-delà de votre plage de données.