Bootstrap-KI-Rechner

Schätzen Sie KIs durch Resampling.

Beispiele:

Verwendet Quantile der Bootstrap-Verteilung direkt

Gleichen Seed für reproduzierbare Ergebnisse verwenden

Daten eingeben und 'Bootstrap ausführen' klicken, um KI zu berechnen

Verwenden Sie Bootstrap-Konfidenzintervalle, wenn Sie keine Normalverteilung annehmen können, kleine Stichproben haben oder Intervalle für komplexe Statistiken wie Mediane, Verhältnisse oder Perzentile benötigen. Bootstrap-Resampling macht keine Verteilungsannahmen.

Was ist Bootstrapping?

Bootstrapping erstellt viele neu gesampelte Datensätze durch Ziehen mit Zurücklegen aus Ihren Originaldaten und berechnet dann Ihre Statistik für jede Stichprobe:

  1. Originalstichprobe: n Beobachtungen
  2. Ziehe n Beobachtungen mit Zurücklegen → Bootstrap-Stichprobe 1
  3. Berechne die Statistik für Bootstrap-Stichprobe 1
  4. Wiederhole B-mal (typischerweise 1000-10000)
  5. Verwende die Verteilung der Bootstrap-Statistiken für die Inferenz

Bootstrap-KI-Methoden

Perzentil-Methode

Der einfachste Ansatz: Verwende Perzentile der Bootstrap-Verteilung.

CI95%=[B0,025,B0,975]CI_{95\%} = [B_{0,025}, B_{0,975}]

Wobei BpB_{p} das p-te Perzentil der Bootstrap-Statistiken ist.

Vorteile: Einfach, intuitiv Nachteile: Kann verzerrt sein, schlechte Abdeckung bei schiefen Verteilungen

Basis-Methode (umgekehrte Perzentil-Methode)

CI95%=[2θ^−B0,975,2θ^−B0,025]CI_{95\%} = [2\hat{\theta} - B_{0,975}, 2\hat{\theta} - B_{0,025}]

Wobei θ^\hat{\theta} die ursprüngliche Stichprobenschätzung ist.

Spiegelt die Bootstrap-Verteilung um die Originalschätzung.

Bias-korrigiert und beschleunigt (BCa)

Der Goldstandard für Bootstrap-KIs:

CIBCa=[Bα1,Bα2]CI_{BCa} = [B_{\alpha_1}, B_{\alpha_2}]

Wobei: α1=Φ(z0+z0+zα/21−a(z0+zα/2))\alpha_1 = \Phi\left(z_0 + \frac{z_0 + z_{\alpha/2}}{1 - a(z_0 + z_{\alpha/2})}\right)

α2=Φ(z0+z0+z1−α/21−a(z0+z1−α/2))\alpha_2 = \Phi\left(z_0 + \frac{z_0 + z_{1-\alpha/2}}{1 - a(z_0 + z_{1-\alpha/2})}\right)

  • z0z_0 = Bias-Korrektur (Anteil der Bootstrap-Schätzungen unter dem Original)
  • aa = Beschleunigung (misst die Schiefe)

Vorteile: Beste Abdeckung, behandelt Verzerrung und Schiefe Nachteile: Rechenintensiv, erfordert mehr Bootstrap-Stichproben

Studentisiert (Bootstrap-t)

CI=[θ^−t1−α/2∗⋅SE,θ^−tα/2∗⋅SE]CI = [\hat{\theta} - t^*_{1-\alpha/2} \cdot SE, \hat{\theta} - t^*_{\alpha/2} \cdot SE]

Verwendet die Verteilung studentisierter Statistiken: t∗=θ^∗−θ^SE∗t^* = \frac{\hat{\theta}^* - \hat{\theta}}{SE^*}

Erfordert die Schätzung des SE für jede Bootstrap-Stichprobe.

Beispiel: Bootstrap-KI für den Median

Daten: 12, 15, 18, 22, 25, 28, 45, 52 (n = 8)

Original-Median: 23,5

1000 Bootstrap-Stichproben ergeben Mediane:

  • 2,5-tes Perzentil: 17,5
  • 97,5-tes Perzentil: 38,5

95% Perzentil-KI: [17,5; 38,5]

Zum Vergleich: Für das Median-KI mit Normalverteilungstheorie existiert keine einfache Formel!

Wie viele Bootstrap-Stichproben?

ZweckEmpfohlenes B
Standardfehler200-500
Konfidenzintervalle1000-2000
Perzentil-KI1000
BCa-KI2000-5000
Hypothesentests1000-10000

Mehr Stichproben = präziser, aber abnehmende Erträge nach ~10.000.

Wann Bootstrap-KIs verwenden

Ideale Situationen

  1. Nicht-normalverteilte Daten: Schiefe Verteilungen, Ausreißer
  2. Kleine Stichproben: n < 30, wo der zentrale Grenzwertsatz fragwürdig ist
  3. Komplexe Statistiken: Median, getrimmter Mittelwert, Verhältnisse, Perzentile
  4. Kein geschlossener SE: Korrelationsdifferenzen, Regressionsvorhersagen
  5. Abhängige Daten: Zeitreihen (verwenden Sie Block-Bootstrap)

Wann NICHT verwenden

  1. Sehr kleine Stichproben: n < 10 erfasst möglicherweise nicht die Populationsvariabilität
  2. Schwere Ränder bei kleinem n: Bootstrap kann instabil sein
  3. Einfache Statistiken bei großem n: Normalverteilungstheorie ist ausreichend und schneller

Bootstrap für verschiedene Statistiken

Mittelwert

Xˉ∗=1n∑i=1nXi∗\bar{X}^* = \frac{1}{n}\sum_{i=1}^{n} X_i^*

Bootstrap ist bei großem n unnötig (verwenden Sie Normalverteilungstheorie), aber gültig für kleines n oder nicht-normalverteilte Daten.

Median

Keine einfache Formel für den Median-SE. Bootstrap ist oft der beste Ansatz:

X~∗=median(X1∗,...,Xn∗)\tilde{X}^* = \text{median}(X_1^*, ..., X_n^*)

Korrelation

r∗=cor(X∗,Y∗)r^* = \text{cor}(X^*, Y^*)

Bootstrap behandelt die nicht-normale Stichprobenverteilung von r.

Regressionskoeffizienten

Resample (X, Y)-Paare gemeinsam:

β^∗=(X∗TX∗)−1X∗TY∗\hat{\beta}^* = (X^{*T}X^*)^{-1}X^{*T}Y^*

Berücksichtigt Heteroskedastizität ohne sie anzunehmen.

Differenz der Mittelwerte

Resample jede Gruppe separat:

D∗=Xˉ1∗−Xˉ2∗D^* = \bar{X}_1^* - \bar{X}_2^*

Gültig auch bei ungleichen Varianzen und Nicht-Normalität.

Parametrischer vs. nichtparametrischer Bootstrap

Nichtparametrischer Bootstrap

Resampling aus den Daten selbst. Macht keine Verteilungsannahmen.

Parametrischer Bootstrap

  1. Passe ein Modell an die Daten an (z.B. schätze μ, σ)
  2. Generiere Stichproben aus dem angepassten Modell
  3. Berechne die Statistik für jede generierte Stichprobe

Verwenden Sie, wenn: Sie vom Verteilungstyp überzeugt sind, aber unsicher über die Parameter.

Block-Bootstrap für abhängige Daten

Bei Zeitreihen oder räumlichen Daten sind Beobachtungen nicht unabhängig. Block-Bootstrap erhält die lokale Abhängigkeit:

  1. Teilen Sie die Daten in überlappende Blöcke
  2. Resample Blöcke (nicht einzelne Beobachtungen)
  3. Verketten Sie diese zur Bootstrap-Stichprobe

Die Blockgröße erfordert Abstimmung - zu klein ignoriert die Abhängigkeit, zu groß reduziert die Variabilität.

Überprüfung der Bootstrap-Ergebnisse

Konvergenz

Erhöhen Sie B, bis der SE des Bootstrap-SE stabilisiert ist:

SEbootstrap(SE)≈SE2BSE_{bootstrap}(SE) \approx \frac{SE}{\sqrt{2B}}

Verzerrung

Bias=θ∗ˉ−θ^\text{Bias} = \bar{\theta^*} - \hat{\theta}

Wenn die Verzerrung im Verhältnis zum SE groß ist, ziehen Sie die BCa-Methode in Betracht.

Normalität der Bootstrap-Verteilung

Wenn die Bootstrap-Verteilung stark nicht-normal ist, kann die Perzentil-Methode eine schlechte Abdeckung haben. Verwenden Sie BCa.

Häufige Fehler

Resampling der falschen Einheiten

Bei geclusterten Daten: Resample Cluster, nicht Beobachtungen. Bei gepaarten Daten: Resample Paare.

Ignorieren von Abhängigkeiten

Standard-Bootstrap nimmt Unabhängigkeit an. Verwenden Sie Block-Bootstrap für Zeitreihen.

Zu wenige Bootstrap-Stichproben

B = 100 ist zu wenig für KIs. Verwenden Sie mindestens 1000.

Wunder bei winzigem n erwarten

Bootstrap kann keine Informationen erzeugen, die nicht in Ihrer Stichprobe sind. Bei n = 5 wird Ihr KI ohnehin breit sein.

Vergleich mit anderen Methoden

MethodeAnnahmenAm besten für
NormalverteilungstheorieNormalität, großes nMittelwerte bei großen Stichproben
t-IntervallNormalität (robust)Mittelwerte bei kleinen Stichproben
BootstrapKeine (IID)Komplexe Statistiken, nicht-normale Daten
BayesianischPrior-SpezifikationEinbeziehung von Vorwissen

Berichten von Bootstrap-Ergebnissen

Standardformat: "Die mediane Reaktionszeit betrug 23,5 ms (95% BCa-Bootstrap-KI: 17,5-38,5 ms, B = 5000)."

Einschließen:

  • Originalschätzung
  • KI-Methode (Perzentil, BCa, etc.)
  • Anzahl der Bootstrap-Stichproben
  • Besondere Überlegungen (Blockgröße für Zeitreihen)

Rechnerische Überlegungen

Effizienz-Tipps

  1. Vektorisieren Sie Operationen
  2. Verwenden Sie Parallelverarbeitung für großes B
  3. Speichern Sie nur benötigte Statistiken, nicht vollständige Resamples
  4. Erwägen Sie Subsampling für sehr große Datensätze

Reproduzierbarkeit

Setzen Sie den Zufalls-Seed vor dem Bootstrapping für reproduzierbare Ergebnisse.

Historischer Kontext

Bradley Efron führte den Bootstrap 1979 ein und revolutionierte damit die statistische Inferenz. Die BCa-Methode (1987) verbesserte die Abdeckungseigenschaften. Fortschritte in der Computertechnik machten Bootstrap praktikabel und veränderten grundlegend, wie Statistiker komplexe Inferenzprobleme angehen.

Verwandte Berechnungen

Zusammenfassung

Bootstrap-Konfidenzintervalle funktionieren durch Resampling Ihrer Daten mit Zurücklegen, mehrfache Berechnung der interessierenden Statistik und Nutzung der resultierenden Verteilung für die Inferenz. Die Perzentil-Methode ist am einfachsten, aber BCa wird wegen seiner besseren Abdeckungseigenschaften bevorzugt. Verwenden Sie Bootstrap, wenn die Normalität fragwürdig ist, Stichproben klein sind oder für Statistiken ohne geschlossene Standardfehler. Wählen Sie mindestens 1000 Resamples für KIs, 2000+ für BCa. Berichten Sie die verwendete Methode und die Anzahl der Bootstrap-Stichproben.