2  Die drei Zielarten der Statistik

Bayes:Start!

2.1 Lernsteuerung

Abbildung 1.1 gibt einen Überblick zum aktuellen Standort im Modulverlauf. Nach Absolvieren des jeweiligen Kapitels sollen folgende Lernziele erreicht sein.

Sie können …

• die drei Zielarten der Statistik nennen und beschreiben können
• die Definition von Inferenzstatistik sowie Beispiele für inferenzstatistische Fragestellungen nennen
• zentrale Begriffe der Inferenzstatistik nennen und in Grundzügen erklären
• den Nutzen von Inferenzstatistik nennen
• erläutern, in welchem Zusammenhang Ungewissheit zur Inferenzstatistik steht
• anhand von Beispielen erklären, was ein statistisches Modell ist
• die Grundkonzepte der Regression angeben
• Unterschiede zwischen frequentistischer (“klassischer”) und Bayes-Inferenz benennen
• Vor- und Nachteile der frequentistischen vs. Bayes-Inferenz diskutieren
• Die grundlegende Herangehensweise zur Berechnung des p-Werts informell erklären

Bei Gelman et al. (2021), Kap. 1 findet sich eine Darstellung ähnlich zu der in diesem Kapitel. Die Begleitliteratur ist nicht prüfungsrelevant; sie dient zur Vertiefung und als Grundlage einer ausführlicheren Erläuterung des Stoffes.

Bereiten Sie sich im Eigenstudium auf dieses Kapitel vor. Lesen Sie dazu folgende Themen:

• Statistik 1, Kap. “Rahmen”
• Statistik 1, dort alle Inhalte aller Kapitel zum Thema “Modellieren” bzw. “Regression”
• Statistik 1, Abschnitt zur Normalverteilung

Diese Begleitvideos helfen Ihnen bei der Vor- und Nachbereitung dieses Kapitels:

• Video zur Inferenz, Teil 1
• Video zur Inferenz, Teil 2

📺 Wozu ist Statistik eigentlich da? Diese Frage haben Sie sich auch schon mal gestellt? Abb. Abbildung 2.1 gibt einen Überblick über die drei Zielarten der statistikbasierten wissenschaftlichen Forschung.¹ Nach dieser Einteilung lassen sich drei Arten von Zielen unterscheiden: Beschreiben, Vorhersagen und Erklären (Shmueli, 2010).

Hinweis

Die Folien zu diesem Kapitel finden Sie hier.

2.2 Die drei Zielarten in der Statistik

Die drei Zielarten in der Statistik sind: Beschreiben, Vorhersagen, Erklären.

Beispiel 2.1 (Beispiele für die Zielarten statistischer Analysen)  

• Beschreiben: “Wie groß ist der Gender-Paygap in der Branche X im Zeitraum Y?”
• Vorhersagen: Wenn eine Person, Mr. X, 100 Stunden auf die Statistikklausur lernt, welche Note kann diese Person dann erwarten?
• Erklären: Wie viel bringt (mir) das Lernen auf die Statistikklausur?\(\square\)

Anhand der verwendeten statistischen Methode (z.B. Regressionsanalyse) kann man nicht feststellen, zu welchem Erkenntnisziel die Studie gehört. Um das Erkenntnisziel festzustellen, liest man sich die Forschungsfrage oder das Ziel der Studie durch. Bei wenig beackerten Wissenschaftsfeldern ist das Beschreiben ein sinnvoller erster Schritt. Vorhersagen ist mehr für die Praxis als für die Wissenschaft relevant.

flowchart TD 
  A{Ziele} --> B(Beschreiben)
  A --> C(Vorhersagen)
  A --> D(Erklären)
  B --> E(Verteilung)
  B --> F(Zusammenhang)
  C --> H(Punktschätzung)
  C --> I(Bereichsschätzung)
  D --> J(Kausalinferenz)
  D --> K(Populationsinferenz)

Abbildung 2.1: Eine Einteilung zentraler Ziele von statistischen Analysen

2.3 Zielart Beschreiben

Wenn das Ziel die Beschreibung eines Datensatzes ist, so spricht man von deskriptiver Statistik.

Statistische Analysen mit dem Ziel zu beschreiben, fassen die Daten zusammen (zu möglichst aussagekräftigen Kennzahlen). Beschreibende Statistik nennt man auch deskriptive Statistik; Mittelwert, Korrelation und Regressionskoeffizienten sind typische Kennzahlen (“Statistiken”); s. Abbildung 2.2.

Beispiel 2.2  

• Wie stark ist der (lineare) Zusammenhang \(r\) von Größe und Gewicht (bei Erwachsenen) in meiner Stichprobe?
• Wie stark ist der (lineare) Zusammenhang \(b\) von Lernzeit und Note (im Fach Statistik) in meinem Datensatz?
• Haben unsere Kunden bisher Webshop A oder B bevorzugt, laut unseren Daten? \(\square\)

(a) Die deskriptive Statistik fasst eine Spalte zu einer einzelnen Zahl zusammen.

(b) Zwei Spalten werden zu einer Zahl zusammengefasst

Abbildung 2.2: Beschreibende Statistik fasst eine oder mehr Variablen eines Datensatzes zu einer einzelnen Kennzahl zusammen.

Der beschreibenden Statistik geht es nicht darum, Erkenntnisse zu ziehen, die über die Daten hinaus gehen. So ist man in der beschreibenden Statistik nicht daran interessiert, Aussagen über die zugrundeliegende Population anzustellen.

Beispiel 2.3 In einem Hörsaal sitzen 100 Studis. Alle schreiben Ihre Körpergröße auf einen Zettel. Die Dozentin sammelt die Zettel ein und rechnet dann den Mittelwert der Körpergröße der anwesenden Studierenden aus. Voilà: Deskriptive Statistik!\(\square\)

Definition 2.1 (Deskriptivstatistik) Deskriptivstatistik fasst Merkmale aus einer Stichprobe zu Kennzahlen (Statistiken) zusammen.

2.4 Zielart Vorhersagen

Wenn das Ziel die Vorhersage bestimmter Ergebnisse ist, spricht man von prädiktiven bzw. prognostischen Analysen.

Beim Vorhersagen versucht man, auf Basis von Daten, gegeben bestimmter Werte der UV den Wert einer AV vorherzusagen, s. Abbildung 2.3.

Beispiel 2.4  

• Wie schwer ist wohl Herr X? Er ist ein deutscher erwachsener Mann der Größe 1,80m; mehr wissen wir nicht.
• Welche Note kann man erwarten, wenn man nichts für die Klausur lernt?
• Wie viel wird ein Kunde ausgeben, wenn er sich in der Variante A des Webshops aufhält? \(\square\)

Beispiel 2.5 (Ali lernt für die Klausur) Oh nein, die Klausur im Fach Statistik steht an. Ali lernt ziemlich viel. Wie viel Punkte (von 100 möglichen) wird er wohl erzielen? Ziehen wir ein einfaches statistisches Modell zur Rate, um eine Vorhersage für den “Klausurerfolg” von Ali zu erhalten. Wir können vom Modell eine einzelne Zahl (83) als Punkt-Schätzwert bzw. Vorhersagewert erhalten oder einen Schätzbereich (80-86 Punkte). \(\square\)

Hier ist das Regressionsmodell für Ali (lm_ali), s. Listing 2.1.

Listing 2.1: Regressionsmodell für Klausurerfolg als Funktion der Lernzeit (lm_ali)

noten2 <- read.csv("data/noten2.csv")
lm_ali <- lm(y ~ x, data = noten2)

(a) Regressionsgerade mit Punkt-Vorhersage für Ali

(b) Regressionsgerade mit Vorhersagebereich (und herangezoomt) für Ali

Abbildung 2.3: Noten und Lernzeit: Rohdaten (a) und mit Modell (b). Mittelwerte sind mit gestrichelten Linien eingezeichnet. Die Vorhersage für Ali ist farbig markiert. Ali hat 42 Stunden gelernt für die Klausur; das Modell sagt ihm 83 Punkte (von 100) bzw. einen Bereich von 80 bis 86 Punkten voraus.

2.5 Zielart Erklären

Man spricht synonym von schließender Statistik oder Inferenzstatistik.

2.5.1 Die zwei Arten von erklärenden Studien

“Erklären” (Inferenz) hat hier zwei Bedeutungen (vgl. Gelman et al., 2021).

1. Populationsinferenz
2. Kausalinferenz

Beispiel 2.6  

• Wie stark ist der (lineare) Zusammenhang \(b\) von Lernzeit und Note (im Fach Statistik) in der Grundgesamtheit (nicht in der Stichprobe)?
• Bevorzugen unsere Kunden allgemein Webshop A oder B laut unseren Daten? \(\square\)

Beispiel 2.7  

• Ist Größe eine Ursache von Gewicht (bei deutschen Männern)?
• Wenn ich 100 Stunden lerne, welche Note schreibe ich dann? \(\square\)

2.5.2 Zielart Erklären – Kausalinferenz

Mittels Kausalinferenz können wir schließen, welche Variablen Ursachen und welche Wirkung sind – und welche Variablen Scheinkorrelation erzeugen. Das ist wichtig, denn nur wenn man die Ursache kennt, weiß man, was man tun muss, um eine Wirkung zu erzielen.

2.5.2.1 Studie A: Östrogen

Medikament einnehmen? Oder lieber nicht? Mit Blick auf Tabelle 13.1: Was raten Sie dem Arzt? Medikament einnehmen, ja oder nein?

Tabelle 2.1: Daten zur Studie A

Gruppe	Mit Medikament	Ohne Medikament
Männer	81/87 überlebt (93%)	234/270 überlebt (87%)
Frauen	192/263 überlebt (73%)	55/80 überlebt (69%)
Gesamt	273/350 überlebt (78%)	289/350 überlebt (83%)

Abbildung 2.4 zeigt die Daten aus Tabelle 13.1 in einem Balkendiagramm.

Abbildung 2.4: Daten zur Studie A in einem Balkendiagramm

Die Daten stammen aus einer (fiktiven) klinischen Studie, \(n=700\), hoher Qualität (Beobachtungsstudie). Bei Männern scheint das Medikament zu helfen; bei Frauen auch. Aber insgesamt (Summe von Frauen und Männern) nicht?! Kann das sein? Was sollen wir den Arzt raten? Soll er das Medikament verschreiben? Vielleicht nur dann, wenn er das Geschlecht kennt (Pearl et al., 2016)?!

In Wahrheit sieht die kausale Struktur so aus: Das Geschlecht (Östrogen) hat einen positiven (+) Einfluss auf Einnahme des Medikaments und negativen Einfluss (-) auf Heilung. Das Medikament hat einen positiven (+) Einfluss auf Heilung. Betrachtet man die Gesamt-Daten zur Heilung, so ist der Effekt von Geschlecht (Östrogen) und Medikament vermengt (konfundiert, confounded). Die kausale Struktur, also welche Variable beeinflusst bzw. nicht, ist in Abbildung 13.1 dargestellt.

Abbildung 2.5: Zwei direkte Effekte (gender, drug) und ein indirekter Effekt (gender über drug) auf recovery

Betrachtung der Gesamtdaten zeigt in diesem Fall einen konfundierten Effekt: Geschlecht konfundiert den Zusammenhang von Medikament und Heilung.

Wichtig

Aufteilen in Teilgruppen (Männer bzw. Frauen) ist also in diesem Fall der korrekte, richtige Weg. Achtung: Das Stratifizieren ist nicht immer und nicht automatisch die richtige Lösung. Stratifizieren bedeutet, den Gesamtdatensatz in Gruppen oder “Schichten” (“Strata”) aufzuteilen. Würde man die Gesamtzahl an Patienten mit vs. ohne Medikament vergleichen, käme man zu einem falschen Schluss.

2.5.2.2 Studie B: Blutdruck

Medikament einnehmen? Oder lieber nicht?

Mit Blick auf Tabelle 13.2: Was raten Sie dem Arzt? Medikament einnehmen, ja oder nein?

Tabelle 2.2: Daten zur Wirksamkeit eines Medikaments (Studie B)

Gruppe	Ohne Medikament	Mit Medikament
geringer Blutdruck	81/87 überlebt (93%)	234/270 überlebt (87%)
hoher Blutdruck	192/263 überlebt (73%)	55/80 überlebt (69%)
Gesamt	273/350 überlebt (78%)	289/350 überlebt (83%)

Die Daten stammen aus einer (fiktiven) klinischen Studie, \(n=700\), hoher Qualität (Beobachtungsstudie). Bei geringem Blutdruck scheint das Medikament zu schaden. Bei hohem Blutdruck scheint das Medikament auch zu schaden. Aber insgesamt (Summe über beide Gruppen) nicht, da scheint es zu nutzen?! Was sollen wir den Arzt raten? Soll er das Medikament verschreiben? Vielleicht nur dann, wenn er den Blutdruck nicht kennt (Pearl et al., 2016)?

2.5.2.3 Kausalmodell zur Studie B

Das Medikament hat einen (absenkenden) Einfluss auf den Blutdruck. Gleichzeitig hat das Medikament einen (toxischen) Effekt auf die Heilung. Verringerter Blutdruck hat einen positiven Einfluss auf die Heilung. Sucht man innerhalb der Leute mit gesenktem Blutdruck nach Effekten, findet man nur den toxischen Effekt: Gegeben diesen Blutdruck ist das Medikament schädlich aufgrund des toxischen Effekts. Der positive Effekt der Blutdruck-Senkung ist auf diese Art nicht zu sehen.

Das Kausalmodell von Studie B ist in Abbildung 13.2 dargestellt.

Abbildung 2.6: Drug hat keinen direkten, aber zwei indirekte Effekt auf recovery, einer davon ist heilsam, einer schädlich

Betrachtung der Teildaten zeigt nur den toxischen Effekt des Medikaments, nicht den nützlichen (Reduktion des Blutdrucks).

Wichtig

Betrachtung der Gesamtdaten zeigt in diesem Fall den wahren, kausalen Effekt. Stratifizieren wäre falsch, da dann nur der toxische Effekt, aber nicht der heilsame Effekt sichtbar wäre.

2.5.2.4 Studie A und B: Gleiche Daten, unterschiedliches Kausalmodell

Vergleichen Sie die DAGs Abbildung 13.1 und Abbildung 13.2, die die Kausalmodelle der Studien A und B darstellen: Sie sind unterschiedlich. Aber: Die Daten sind identisch.

Kausale Interpretation - und damit Entscheidungen für Handlungen - ist nur möglich, da das Kausalmodell bekannt ist. Die Daten alleine reichen nicht (bei Beobachtungsstudien).

2.5.2.5 Sorry, Statistik: Du allein schaffst es nicht

Datenanalyse alleine reicht nicht für Kausalschlüsse. 🧟

Kausalinferenz 📚 plus Datenanalyse 📊 erlaubt Kausalschlüsse. 📚➕📊 🟰 🤩

Wichtig

Für Entscheidungen (“Was soll ich tun?”) braucht man kausales Wissen. Kausales Wissen basiert auf einer Theorie (Kausalmodell) plus Daten.

2.5.3 Zielart Erklären – Populationsinferenz

Die zweite Bedeutung von “Erklären” ist die Populationsinferenz: Von einer Stichprobe auf die Grundgesamtheit (Population) schließen.

Anders als bei der Kausalinferenz geht es hier nicht um die Frage, welche Variable Ursache und welche Wirkung ist, sondern darum, ob ein in der Stichprobe beobachteter Zusammenhang (oder Unterschied) auch in der Grundgesamtheit gilt – oder ob er nur zufällig in dieser Stichprobe aufgetreten ist.

Beispiele:

• Der Zusammenhang von Lernzeit und Note beträgt in der Stichprobe \(b = 0.8\). Wie groß ist \(b\) vermutlich in der Grundgesamtheit aller Studierenden?
• Kunden bevorzugen in unserer Stichprobe Webshop A vor B. Gilt das auch für alle (zukünftigen) Kunden, oder könnte das Zufall sein?

Populationsinferenz beantwortet also Fragen wie “Wie sicher können wir sein?” bzw. “Ist der gefundene Effekt echt (in der Population) oder nur Stichprobenrauschen?”. Dazu verwendet man Werkzeuge wie Konfidenzintervalle, Signifikanztests oder – in diesem Buch im Vordergrund – Bayes-Statistik.

Wichtig

Populationsinferenz sagt nichts über Ursache und Wirkung aus. Ein statistisch gesicherter Zusammenhang in der Population kann trotzdem konfundiert sein.

Populationsinferenz ist Thema des nächsten Kapitels (Kapitel 3).

2.6 Modellieren

2.6.1 Modellieren als Grundraster des Erkennens

In der Wissenschaft – wie auch oft in der Technik, Wirtschaft oder im Alltag – betrachtet man einen Teil der Welt näher, meist mit dem Ziel, eine Entscheidung zu treffen, was man tun wird oder mit dem Ziel, etwas zu lernen. Nun ist die Welt ein weites Feld. Jedes Detail zu berücksichtigen ist nicht möglich. Wir müssen die Sache vereinfachen: Alle Informationen ausblenden, die nicht zwingend nötig sind. Aber gleichzeitig die Strukturelemente der wirklichen Welt, die für unsere Fragestellung zentral sind, beibehalten.

Dieses Tun nennt man Modellieren: Man erstellt sich ein Modell.

Definition 2.2 (Modell) Ein Modell ist ein vereinfachtes Abbild der Wirklichkeit.\(\square\)

Der Nutzen eines Modells ist, einen (übermäßig) komplexen Sachverhalt zu vereinfachen oder überhaupt erst handhabbar zu machen. Man versucht zu vereinfachen, ohne Wesentliches wegzulassen. Der Speck muss weg, sozusagen. Das Wesentliche bleibt. Auf die Statistik bezogen heißt das, dass man einen Datensatz dabei so zusammenfasst, damit man das Wesentliche erkennt.

Was ist das “Wesentliche”? Oft interessiert man sich für die Ursachen eines Phänomens. Etwa: “Wie kommt es bloß, dass ich ohne zu lernen die Klausur so gut bestanden habe?”² Noch allgemeiner ist man dabei häufig am Zusammenhang von X und Y interessiert, s. Abbildung 2.7, die ein Sinnbild von statistischen Modellen wiedergibt.

flowchart LR
X --> Y


X1 --> Y2
X2 --> Y2

Abbildung 2.7: oben: Sinnbild eines einfachen statistischen Modells (eine UV, eine AV); unten: Sinnbild eines statistischen Modells, mit zwei UV

Man kann Abbildung 2.7 als ein Sinnbild einer (mathematischen) Funktion lesen.

Definition 2.3 (Funktion) Eine mathematische Funktion \(f\) setzt zwei Größen in Beziehung. \(\square\)

In Mathe-Sprech: \(f: X \rightarrow Y\), lies: “\(f\) bildet \(X\) auf \(Y\) ab.”

oder: \(y = f(x)\), lies: “Y ist eine Funktion von X”. \(\square\)

Die Größe des Zusammenhangs von \(X\) und \(Y\) in \(f\) bezeichnet man als Effekt von \(X\) auf \(Y\).

Definition 2.4 (Effekt) Der Begriff Effekt im statistisch-wissenschaftlichen Sinn bezeichnet die Größe des statistischen Zusammenhangs (oder der Differenz) zwischen UV und AV in einem Modell, die über den zufälligen Erwartungswert hinausgeht. Effekt ist nicht unbedingt kausal zu verstehen. \(\square\)

Es hört sich zugespitzt an, aber eigentlich ist fast alles, was man tut, Modellieren: Wenn man den Anteil der R-Fans in einer Gruppe Studierender ausrechnet, macht man sich ein Modell: man vereinfacht diesen Ausschnitt der Wirklichkeit anhand einer statistischen Kennzahl, die das forschungsleitende Interesse zusammenfasst. Die Statistik kann man verstehen als ein Verfahren, das wissenschaftliche Modelle in statistische übersetzt und letztere dann einer empirischen Analyse unterzieht. Alle statistischen Ergebnisse beruhen auf Modellen und sind nur insoweit gültig, wie das zugrundeliegende Modell gültig ist.

2.6.2 Alle drei Zielarten modellieren, aber unterschiedlich

In allen drei Zielarten der Statistik wird modelliert.

• Beschreibende Studien nutzen Kennzahlen wie den Mittelwert, um “sich ein Bild zu machen” von einer Verteilung.
• Vorhersagestudien nutzen Modelle als Werkzeug, um genaue Vorhersagen zu machen, ohne Anspruch, die Wirklichkeit zu erklären.
• Erklärende Studien nutzen Modelle, um die Wirklichkeit möglichst korrekt darzustellen.

Zur Umsetzung von Modellierung in eine konkrete statistische Analyse bietet sich die Regressionsanalyse an.

2.6.3 Regression zum Modellieren

Einflussreiche Leute schwören auf die Regressionsanalyse (Abbildung 2.8).

Abbildung 2.8: Eine Regression

Abbildung 2.9 zeigt ein interaktives Beispiel einer linearen Funktion. Sie können Punkte per Klick/Touch hinzufügen.

resetButton = {
  const resetButton = Inputs.button("Reset");

  d3.select(resetButton).on("input", () => {

    regressionPlot.reset();
  });

  return resetButton;
}

viewOptions = {
  const viewOptions = Inputs.radio(
    ["Kein Fehler", "Absoluter Fehler", "Quadrierter Fehler"],
    { label: "View", value: "Absoluter Fehler" }
  );

  d3.select(viewOptions).on("input", () => {
    regressionPlot.updateView(viewOptions.value);
  });

  return viewOptions;
}

rSquaredPlot = RSquaredPlot({ width: width })

regressionPlot = {
  const regressionPlot = RegressionPlot(data.slice(0, 1), {
    width: width,
    xDomain: [0, d3.max(data, ([x]) => x) + 5],
    yDomain: [0, d3.max(data, ([_, y]) => y) + 5],
    r: 6,
    showGrid: true
  });
  // Attach listener
  d3.select(regressionPlot).on("input", function () {
    rSquaredPlot.update(this.value, this.transition);
  });

  rSquaredPlot.update(regressionPlot.value);

  return regressionPlot;
}

width = 800
data = {
  const numPoints = 15;
  const xScale = 10;
  const xShift = 5;
  const yScale = 6;
  const yShift = 0;

  const data = d3.range(numPoints).map((i) => {
    const xCoord = xShift + xScale * d3.randomUniform()();
    const yCoord = yShift + xCoord + yScale * d3.randomUniform()();

    return [xCoord, yCoord];
  });

  return data;
}

animation = {
  // Perform opening animation
  const totalTime = 6_000;
  const ease = d3.easeQuadOut;

  d3.range(1, data.length).forEach((i) => {
    setTimeout(() => {
      const [xCoord, yCoord] = data[i];

      regressionPlot.updateDatapoint(xCoord, yCoord);
    }, totalTime * ease(i / data.length));
  });
}

function RSquaredPlot({
  data,
  marginTop = 0, // top margin, in pixels
  marginRight = 30, // right margin, in pixels
  marginBottom = 0, // bottom margin, in pixels
  marginLeft = 53, // left margin, in pixels
  width = 640, // outer width, in pixels
  height = 20, // outer height, in pixels
  barHeight = 25, // height of bar, in pixels
  titleSize = 20, // fontsize of title text
  labelSize = 12 // fontsize of label text
} = {}) {
  if (data === undefined) data = 0;

  const xScale = d3
    .scaleLinear()
    .domain([0, 1])
    .range([marginLeft, width - marginRight]);

  const svg = d3
    .create("svg")
    .attr("width", width)
    .attr("height", height)
    .attr("viewBox", [0, 0, width, height])
    .attr("style", "max-width: 100%; height: auto; height: intrinsic;");

  // Draw title.
  const titleGroup = svg.append("g");

  // titleGroup
  //   .append("line")
  //   .attr("stroke", "black")
  //   .attr("x1", xScale(0))
  //   .attr("x2", xScale(0))
  //   .attr("y1", 0)
  //   .attr("y2", height);

  titleGroup
    .append("text")
    .attr("fill", "black")
    .attr("text-anchor", "end")
    .attr("dominant-baseline", "middle")
    .attr("font-family", "serif")
    .attr("font-size", titleSize)
    .attr("x", xScale(0))
    .attr("dx", -10)
    .attr("y", height / 2)
    .text("R²");

  // Draw whole bar.
  svg
    .append("g")
    .append("rect")
    .attr("fill", "gainsboro")
    .attr("x", xScale(0))
    .attr("y", marginTop)
    .attr("width", width - marginLeft - marginRight)
    .attr("height", height - marginTop - marginBottom);

  // Draw bar.
  const bar = updateBar(svg.append("g").selectAll("rect"), 0);

  // Draw label
  const labelFormat = d3.format(".2f");
  const label = updateLabel(svg.append("g").selectAll("text"), 0);

  // Update according to data.
  update(data);

  function updateBar(rect, data, transition = true) {
    return rect.data([data]).join(
      (enter) =>
        enter
          .append("rect")
          .attr("fill", "black")
          .attr("x", xScale(0))
          .attr("y", marginTop)
          .attr("width", 0)
          .attr("height", height - marginTop - marginBottom),
      (update) =>
        update.call((update) => {
          if (transition) update = update.transition();

          update.attr("width", (d) => xScale(isNaN(d) ? 0 : d) - xScale(0));
        })
    );
  }

  function updateLabel(text, data, transition = true) {
    return text.data([data]).join(
      (enter) =>
        enter
          .append("text")
          .attr("dominant-baseline", "middle")
          .attr("font-family", "sans-serif")
          .attr("font-size", labelSize)
          .attr("font-weight", "bold")
          .attr("fill", "black")
          .attr("text-anchor", "start")
          .attr("dx", 10)
          .attr("x", xScale(0))
          .attr("y", height / 2)
          .text(labelFormat("0")),
      (update) =>
        update.call((update) => {
          // Check if bar is too short
          const check = (d) => d < 0.1;

          if (transition) update = update.transition();

          update
            .attr("x", (d) => xScale(d))
            .text((d) => labelFormat(d))
            .attr("fill", (d) => (check(d) ? "black" : "white"))
            .attr("text-anchor", (d) => (check(d) ? "start" : "end"))
            .attr("dx", (d) => (check(d) ? 10 : -10));
        })
    );
  }

  // Main function for data updates.
  function update(data, transition = true) {
    updateBar(bar, data, transition);
    updateLabel(label, data, transition);
  }

  return Object.assign(svg.node(), { update });
}

// to draw lines at the origin (to show intercept and stuff)
// create voronoi overlay? for dragging points
// viz error / squared error
// make the error lines look like a weight
// show other metrics like R^2 etc.
function RegressionPlot(
  data,
  {
    x = ([x]) => x, // accessor function for x-coordinate
    y = ([, y]) => y, // accessor function for y-coordinate
    r = 6, // radius of dots, in pixels
    marginTop = 20, // top margin, in pixels
    marginRight = 30, // right margin, in pixels
    marginBottom = 30, // bottom margin, in pixels
    marginLeft = 40, // left margin, in pixels
    inset = r * 2, // inset the default range, in pixels
    insetTop = inset, // inset the default y-range
    insetRight = inset, // inset the default x-range
    insetBottom = inset, // inset the default y-range
    insetLeft = inset, // inset the default x-range
    width = 640, // outer width, in pixels
    height = 500, // outer height, in pixels
    xType = d3.scaleLinear, // type of x-scale
    xDomain, // [xmin, xmax]
    xRange = [marginLeft + insetLeft, width - marginRight - insetRight], // [left, right]
    yType = d3.scaleLinear, // type of y-scale
    yDomain, // [ymin, ymax]
    yRange = [height - marginBottom - insetBottom, marginTop + insetTop], // [bottom, top]
    showGrid = true // whether to show grid lines
  } = {}
) {
  const errorColor = d3.schemeSet3[3];

  let errorLinesOpacity = 1;
  let errorSquaresOpacity = 0;

  // Init drag object.
  const drag = d3
    .drag()
    // .on("start", dragstarted)
    .on("drag", dragged);
  // .on("end", dragended);

  // To give each data point a unique id
  let idCounter = 0;

  // Compute data values.
  data = data.map((d) => ({
    xCoord: x(d),
    yCoord: y(d),
    id: idCounter++
  }));

  // Store copy of initial data object
  const initData = data.map((d) => ({ ...d }));

  // Compute default domains.
  // if (xDomain === undefined) xDomain = d3.extent(data, (d) => d.xCoord);
  if (xDomain === undefined) xDomain = [0, d3.max(data, (d) => d.xCoord)];
  if (yDomain === undefined) yDomain = [0, d3.max(data, (d) => d.yCoord)];

  // Init linear regressor.
  const linearRegression = d3
    .regressionLinear()
    .x((d) => d.xCoord)
    .y((d) => d.yCoord)
    .domain(xDomain);

  // Construct scales and axes.
  const xScale = xType(xDomain, xRange);
  const yScale = yType(yDomain, yRange);
  const xAxis = d3.axisBottom(xScale).ticks(width / 80);
  const yAxis = d3.axisLeft(yScale).ticks(height / 80);

  // Draw svg.
  const svg = d3
    .create("svg")
    .attr("width", width)
    .attr("height", height)
    .attr("viewBox", [0, 0, width, height])
    .attr("style", "max-width: 100%; height: auto; height: intrinsic;");

  // Draw xAxis.
  const axisOpacity = 1;

  const xGroup = svg
    .append("g")
    .attr("transform", `translate(0,${height - marginBottom})`)
    .attr("opacity", axisOpacity)
    .call(xAxis)
    .call((g) => g.select(".domain").remove());
  // Draw grid lines
  xGroup
    .selectAll(".tick line")
    .clone()
    .attr("y2", marginTop + marginBottom - height)
    // Draw line at origin
    .attr("stroke-opacity", (d) => {
      if (d == 0) {
        return axisOpacity;
      } else {
        return showGrid ? 0.1 : 0;
      }
    });

  // Draw yAxis.
  const yGroup = svg
    .append("g")
    .attr("transform", `translate(${marginLeft},0)`)
    .attr("opacity", axisOpacity)
    .call(yAxis)
    .call((g) => g.select(".domain").remove());
  yGroup
    .selectAll(".tick line")
    .clone()
    .attr("x2", width - marginLeft - marginRight)
    // Draw line at origin
    .attr("stroke-opacity", (d) => {
      if (d == 0) {
        return axisOpacity;
      } else {
        return showGrid ? 0.1 : 0;
      }
    });

  // Draw error squares.
  let errorSquares = updateErrorSquares(
    svg.append("g").selectAll("rect"),
    data
  );

  // Draw error lines.
  let errorLines = updateErrorLines(svg.append("g").selectAll("line"), data);

  // Draw regression line.
  const regressionLineGroup = svg
    .append("g")
    .attr("stroke", "black")
    .attr("stroke-width", 2);
  // .attr("stroke-dasharray", "20,20");

  const regressionLine = updateRegressionLine(
    regressionLineGroup.selectAll("line"),
    data
  );

  // Draw space for plot interactions.
  const plotRect = svg
    .append("rect")
    .attr("width", width)
    .attr("height", height)
    .attr("opacity", 0)
    .on("click", addDatapoint);

  // Draw data points.
  const circlesGroup = svg.append("g").attr("fill", "black");
  let circles = updateCircles(circlesGroup.selectAll("circle"), data);

  // Drag interactions for circles.
  function dragstarted(event, d) {
    d3.select(this).raise().attr("stroke", "red");
  }
  function dragged(event, d) {
    d3.select(this)
      // Update data point, as well as its position on the plot
      .attr("cx", () => {
        d.xCoord = xScale.invert(event.x);
        return event.x;
      })
      .attr("cy", () => {
        d.yCoord = yScale.invert(event.y);
        return event.y;
      });

    updateRegressionLine(regressionLine, data, false);
    errorSquares = updateErrorSquares(errorSquares, data, false);
    errorLines = updateErrorLines(errorLines, data, false);
  }
  function dragended(event, i) {
    d3.select(this).attr("stroke", null);
  }

  // Click interaction for circles.
  function removeDatapoint(event, dCurr) {
    if (event.defaultPrevented) return; // dragged

    // Remove data point; faster way to do this?
    data = data.filter((d) => d.id !== dCurr.id);

    update(data);
  }

  // Click interaction for plot.
  function addDatapoint(event) {
    const [xm, ym] = d3.pointer(event);

    updateDatapoint(xScale.invert(xm), yScale.invert(ym));
  }

  // Helper function for regression line update.
  function updateRegressionLine(line, data, transition = true) {
    const regressionData = linearRegression(data);

    // Dispatch event and R^2 value
    svg.node().value = regressionData.rSquared;
    svg.node().transition = transition;
    svg.dispatch("input", { bubbles: true });

    return line
      .data([regressionData])
      .join("line")
      .call((line) => {
        if (transition) line = line.transition();
        line
          .attr("x1", (d) => xScale(d[0][0]))
          .attr("x2", (d) => xScale(d[1][0]))
          .attr("y1", (d) => yScale(d[0][1]))
          .attr("y2", (d) => yScale(d[1][1]));
      });
  }

  // Helper function to update circles based on new data.
  function updateCircles(circles, data) {
    return circles
      .data(data, (d) => d.id)
      .join(
        (enter) =>
          enter
            .append("circle")
            .attr("cx", (d) => xScale(d.xCoord))
            .attr("cy", (d) => yScale(d.yCoord))
            // To transition from 0 radius
            .attr("r", 0)
            // Attach interactions
            .call(drag)
            .on("click", removeDatapoint)
            // Add transition
            .call((enter) =>
              enter
                .transition()
                .ease(d3.easeBackOut.overshoot(1.7))
                .attr("r", r)
            ),
        (update) =>
          update
            .transition()
            .attr("cx", (d) => xScale(d.xCoord))
            .attr("cy", (d) => yScale(d.yCoord)),
        (exit) =>
          exit
            .transition()
            .ease(d3.easeBackIn.overshoot(1.7))
            .attr("r", 0)
            .remove()
      );
  }

  // Helper function to update error lines based on new data.
  function updateErrorLines(lines, data, transition = true) {
    const regressionData = linearRegression(data);

    return lines
      .data(data, (d) => d.id)
      .join(
        (enter) =>
          enter
            .append("line")
            .attr("stroke", errorColor)
            .attr("stroke-width", 2)
            .attr("opacity", errorLinesOpacity)
            // Start at data point
            .attr("x1", (d) => xScale(d.xCoord))
            .attr("y1", (d) => yScale(d.yCoord))
            .attr("x2", (d) => xScale(d.xCoord))
            .attr("y2", (d) => yScale(d.yCoord))
            // Add transition
            .call((enter) =>
              enter
                .transition()
                .attr("y2", (d) => yScale(regressionData.predict(d.xCoord)))
            ),
        (update) =>
          update.call((update) => {
            if (transition) update = update.transition();
            update
              .attr("x1", (d) => xScale(d.xCoord))
              .attr("y1", (d) => yScale(d.yCoord))
              .attr("x2", (d) => xScale(d.xCoord))
              .attr("y2", (d) => yScale(regressionData.predict(d.xCoord)));
          }),
        (exit) =>
          exit
            .transition()
            .attr("y2", (d) => yScale(d.yCoord))
            .remove()
      );
  }

  // Helper function to update error squares based on new data.
  function updateErrorSquares(rects, data, transition = true) {
    const regressionData = linearRegression(data);

    const computeHeight = (d) => {
      const yCoordPred = regressionData.predict(d.xCoord);

      return Math.abs(yScale(yCoordPred) - yScale(d.yCoord));
    };
    // Compute which direction the box should face
    const computeTransform = (d) => {
      const yCoordPred = regressionData.predict(d.xCoord);
      const check = yScale(yCoordPred) - yScale(d.yCoord) < 0;
      const deg = check ? -90 : 90;

      return `rotate(${deg}, ${xScale(d.xCoord)}, ${yScale(d.yCoord)})`;
    };

    return rects
      .data(data, (d) => d.id)
      .join(
        (enter) =>
          enter
            .append("rect")
            .attr("stroke", "none")
            .attr("fill", errorColor)
            .attr("opacity", errorSquaresOpacity)
            .attr("transform", computeTransform)
            // Start at data point
            .attr("x", (d) => xScale(d.xCoord))
            .attr("y", (d) => yScale(d.yCoord))
            .attr("width", 0)
            .attr("height", 0)
            // Add transition
            .call((enter) => {
              enter
                .transition()
                .attr("width", computeHeight)
                .attr("height", computeHeight);
            }),
        (update) =>
          update.call((update) => {
            update.attr("transform", computeTransform);

            if (transition) update = update.transition();

            update
              .attr("x", (d) => xScale(d.xCoord))
              .attr("y", (d) => yScale(d.yCoord))
              .attr("width", computeHeight)
              .attr("height", computeHeight);
          }),
        (exit) => exit.transition().attr("width", 0).attr("height", 0).remove()
      );
  }

  // Resets the plot to the initial data
  function reset() {
    update(initData, true);
  }

  // Updates which error type to show
  function updateView(option) {
    if (option === "None") {
      errorLinesOpacity = 0;
      errorSquaresOpacity = 0;

      errorLines.transition().attr("opacity", 0);
      errorSquares.transition().attr("opacity", 0);
    } else if (option === "Absolute Error") {
      errorLinesOpacity = 1;
      errorSquaresOpacity = 0;

      errorLines.transition().attr("opacity", 1);
      errorSquares.transition().attr("opacity", 0);
    } else if (option === "Squared Error") {
      errorLinesOpacity = 0;
      errorSquaresOpacity = 0.5;

      errorLines.transition().attr("opacity", 0);
      errorSquares.transition().attr("opacity", 0.5);
    }
  }

  // Adds a new datapoint and updates the plot
  function updateDatapoint(xCoord, yCoord) {
    // Add datapoint
    data = [...data, { xCoord, yCoord, id: idCounter++ }];

    update(data);
  }

  // Main function that updates the plot based on new data
  function update(newData, transition = true) {
    // Upate local data object
    data = newData.map((d) => ({ ...d }));

    updateRegressionLine(regressionLine, data, transition);
    circles = updateCircles(circles, data);
    errorSquares = updateErrorSquares(errorSquares, data, transition);
    errorLines = updateErrorLines(errorLines, data, transition);
  }

  return Object.assign(svg.node(), {
    update,
    updateDatapoint,
    updateView,
    reset
  });
}

d3 = require("d3-regression", "d3")

Quelle

Abbildung 2.9: Interaktives Beispiel für ein lineares Modell. Fügen Sie Punkte per Klick/Touch hinzu.

Alternativ können Sie diese App nutzen, um Regressionskoeffizienten, Steigung (slope) und Achsenabschnitt (Intercept), zu optimieren. Dabei meint “optimieren”, die Abweichungen (Residuen, Residualfehler; die roten Balken in der App) zu minimieren.³

Hier finden Sie eine App, die Ihnen gestattet, selber Hand an eine Regressionsgerade zu legen.

Übungsaufgabe 2.1 (VERTIEFUNG Regression mit Animationen erklärt) Lesen Sie diesen Post, der Ihnen mit Hilfe von Bildern und Animationen (okay, und etwas) Text die Grundlagen der Regressionsanalyse erklärt.\(\square\)

Die Regression ist eine Art Schweizer Taschenmesser der Statistik: Für vieles gut einsetzbar. Anstelle von vielen verschiedenen Verfahren des statistischen Modellierens kann man (fast) immer die Regression verwenden. Das ist nicht nur einfacher, sondern auch mathematisch schöner. Wir werden im Folgenden stets die Regression zum Modellieren verwenden. Dann wenden wir die Methoden der Inferenz auf die Kennzahlen der Regression an.

Hinweis

Regression + Inferenz = 💖

Alternativ zur Regression könnte man sich in den Wald der statistischen Verfahren begeben, wie hier von der Uni Münster als Ausschnitt (!) aufgeführt. Auf dieser Basis kann man meditieren, welches statistischen Verfahren man für eine bestimmte Fragestellung verwenden sollte, s. Abbildung 2.10 (b). Muss man aber nicht – man kann stattdessen die Regression benutzen.

Hinweis

Es ist meist einfacher und nützlicher, die Regression zu verwenden, anstelle der Vielzahl von anderen Verfahren (die zumeist Spezialfälle der Regression sind). In diesem Kurs werden wir für alle Fragestellungen die Regression verwenden.⁴\(\square\)

(a) Die eine Regression

(b) Wald von anderen Verfahren

Abbildung 2.10: Wähle die Regression. Oder die Wahl der Verfahren. Spoiler: Nimm lieber die Regression.

Beispiel 2.8 Typische Spezialfälle der Regression sind

• t-Test: UV: zweistufig nominal, AV: metrisch
• ANOVA: UV: mehrstufig nominal, AV: metrisch
• Korrelation: Wenn UV und AV z-standardisiert sind (d.h. Mittelwert von 0 und Standardabweichung von 1 haben), dann ist die Korrelation gleich dem Regressionskoeffizienten \(\beta_1\) (bei einer einfachen Regression mit einer einzigen UV). \(\square\)

Abbildung 2.11 zeigt die Regressionsgleichung in voller Pracht. Links sieht man eine einfache Regression mit hp als UV (X, auch: Prädiktor) und mpg als AV (Y). Das rechte Teildiagramm zeigt eine multiple Regression mit den UVs hp und am.⁵ Im einfachsten Fall sind die vom Modell vorhergesagten (geschätzten) Werte, \(\hat{y}\), durch eine einfache Gerade beschrieben, s. Abbildung 2.11, links. In allgemeiner Form schreibt man die Regressionsgleichung als lineare Gleichung, d.h. in Form einer Gerade, s. Theorem 2.1.

Theorem 2.1 (Lineares Modell (Regressionsgleichung)) \[y = \beta_0 + \beta_1 x_1 + \ldots + \beta_k x_k + \epsilon\]

Man nennt alle \(\beta_0, \beta_1, \beta_2, ...\) die Regressionsgewichte (Koeffizienten oder Parameter) des Modells (Gelman et al., 2021). Dabei ist \(\beta_0\) der Achsenabschnitt (eng. intercept) und \(\beta_1\) die Steigung der Regressionsgeraden. \(\square\)

Anhand von Theorem 2.1 erkennt man auch, warum man von einem linearen Modell spricht: Y wird als gewichteter Mittelwert mehrerer Summanden berechnet.

Eine Regressionsgerade ist durch zwei Parameter festgelegt: den Achsenabschnitt, \(\beta_0\) und die Steigung, \(\beta_1\), s. Abbildung 2.11.

(a) Einfache Regression (eine UV: hp)

(b) Multiple Regression (zwei UV: hp und am)

Abbildung 2.11: Die Regressionsgerade in voller Pracht

Übungsaufgabe 2.2 (Peer Instruction: Regressionskoeffizienten) Eine Regressionsgerade wird durch zwei Koeffizienten festgelegt: ihren Achsenabschnitt, \(\beta_0\), sowie ihre Steigung, \(\beta_1\). Berechnet man also eine Regressionsgerade, so verfolgt man damit welche Zielart der Statistik?

1. Beschreiben
2. Vorhersagen
3. Erklären - Kausal
4. Erklären - Population
5. Alle der oben genannten sind möglich
6. Keine der oben genannten \(\square\)

2.7 Fazit

Wichtig

Kontinuierliches Lernen ist der Schlüssel zum Erfolg.

Wenn Sie an einer (nicht prüfungsrelevanten) Vertiefung interessiert sind, lesen Sie die Einführung zum Thema Modellieren bei Poldrack (2022) (Kap. 5.1).

2.8 Aufgaben

Schauen Sie sich die Aufgaben mit dem Tag inference auf dem Datenwerk an.

2.8.1 Quiz-Aufgaben

Hier finden Sie Single-Choice-Aufgaben zu diesem Kapitel. Wählen Sie eine Antwort aus und klicken Sie auf das Häkchen, um sie zu überprüfen; über das Fragezeichen erhalten Sie die ausführliche Lösung.

Ein Forschungsteam möchte herausfinden, ob eine Erhöhung des Mindestlohns tatsächlich zu einer Verringerung der Arbeitslosigkeit in einer Region führt – nicht nur, ob beide Größen zusammenhängen, sondern ob die eine die andere bewirkt. Welcher Zielart der Statistik entspricht diese Fragestellung am ehesten?

BeschreibenVorhersagenKeine der oben genanntenErklären – KausalinferenzErklären – Populationsinferenz

Die Fragestellung zielt darauf ab, eine Wirkungsbeziehung (Ursache-Wirkung) zwischen zwei Variablen aufzudecken – nicht nur einen Zusammenhang zu beschreiben oder einen Wert vorherzusagen. Das entspricht der Zielart Erklären, genauer der Kausalinferenz, da nach dem Bewirken (nicht nur nach dem Zusammenhängen) gefragt wird.

Die Distraktoren beruhen auf typischen Verwechslungen:

• Beschreiben wäre der Fall, wenn nur der Zusammenhang in den vorliegenden Daten zusammengefasst werden sollte (z.B. eine Korrelation in der Stichprobe berichten), ohne eine Verallgemeinerung oder Kausalaussage anzustreben.

• Vorhersagen wäre einschlägig, wenn man z.B. fragen würde, wie hoch die Arbeitslosigkeit in einer Region mit einem bestimmten Mindestlohn vermutlich ausfallen wird, ohne dass es auf eine Wirkungsbeziehung ankäme.

• Erklären – Populationsinferenz liegt vor, wenn von einer Stichprobe auf eine Grundgesamtheit verallgemeinert wird (z.B. “Wie groß ist der Zusammenhang von X und Y in der Population?”), aber ohne den Anspruch, eine kausale (wirkende) Beziehung nachzuweisen. Hier geht es jedoch explizit um eine Wirkung (“führt zu”), also um Kausalinferenz.

• “Keine der oben genannten” ist falsch, da die Fragestellung eindeutig einer der genannten Zielarten zuzuordnen ist.

• Falsch

• Falsch

• Falsch

• Wahr

• Falsch

Die Regressionsanalyse wird im Kapitel als “Schweizer Taschenmesser” der Statistik bezeichnet, da viele klassische Verfahren Spezialfälle der Regression sind. Welche der folgenden Aussagen dazu ist korrekt?

t-Test, ANOVA und Korrelation sind eigenständige Verfahren ohne inhaltlichen Bezug zur Regression.Der t-Test ist ein Spezialfall der Regression mit einer zweistufig-nominalen unabhängigen Variable (UV) und einer metrischen abhängigen Variable (AV).Die ANOVA ist ein Spezialfall der Regression mit einer metrischen UV und einer nominalen AV.Die Regression ist umgekehrt ein Spezialfall des t-Tests.Die Korrelation entspricht dem Regressionsgewicht \(\beta_1\), unabhängig davon, ob die Variablen z-standardisiert sind.

Laut Kapitel gilt: t-Test: UV zweistufig nominal, AV metrisch; ANOVA: UV mehrstufig nominal, AV metrisch; Korrelation entspricht dem Regressionsgewicht \(\beta_1\) nur dann, wenn UV und AV z-standardisiert sind (Mittelwert 0, Standardabweichung 1). Damit ist die erste Aussage korrekt: Der t-Test ist ein Spezialfall der Regression mit zweistufig-nominaler UV und metrischer AV.

Warum die Distraktoren falsch sind:

• Die ANOVA hat eine nominale (nicht metrische) UV mit mehr als zwei Stufen und eine metrische AV – die zweite Option vertauscht UV und AV in ihrer Skalierung.

• Die Korrelation entspricht dem Regressionsgewicht nur bei standardisierten Variablen; ohne Standardisierung unterscheiden sich \(r\) und \(\beta_1\) i.d.R. (z.B. wegen unterschiedlicher Skalen von UV und AV). Die dritte Option ignoriert diese Bedingung.

• Historisch und logisch ist es umgekehrt: t-Test, ANOVA und Korrelation sind Spezialfälle der (allgemeineren) Regression, nicht die Regression ein Spezialfall des t-Tests. Die vierte Option kehrt das Verhältnis fälschlich um.

• Das Kapitel betont ausdrücklich, dass diese Verfahren keine eigenständigen, unverbundenen Methoden sind, sondern sich als Spezialfälle des linearen Modells auffassen lassen (vgl. Lindeløv: “t-Test und Co. sind Spezialfälle der Regression”). Die fünfte Option widerspricht dieser zentralen Aussage.

• Falsch

• Wahr

• Falsch

• Falsch

• Falsch

Die Studien A (Östrogen/Geschlecht) und B (Blutdruck) aus dem Kapitel weisen in den Gesamtdaten exakt dieselben Zahlen auf (273/350 vs. 289/350 Geheilte), führen aber je nach zugrundeliegendem Kausalmodell zu entgegengesetzten Handlungsempfehlungen: Bei Studie A ist das Stratifizieren (Aufteilen nach Geschlecht) der richtige Weg, bei Studie B ist das Stratifizieren (Aufteilen nach Blutdruck) hingegen falsch. Was ist die zentrale Lehre aus diesem Vergleich?

Man sollte grundsätzlich nie stratifizieren, da die Gesamtdaten immer den wahren kausalen Effekt korrekt wiedergeben.Man sollte grundsätzlich immer stratifizieren, unabhängig vom Kausalmodell, da Teildaten stets genauer sind als Gesamtdaten.Welche Empfehlung richtig ist, lässt sich allein anhand der Tabellenwerte (ohne Kenntnis des Kausalmodells) statistisch entscheiden.Da die Zahlen in beiden Studien identisch sind, muss auch die kausale Empfehlung (Stratifizieren ja/nein) in beiden Fällen identisch sein.Ob man Gesamtdaten oder nach einer Drittvariable aufgeteilte (stratifizierte) Daten für die kausale Interpretation heranziehen sollte, hängt vom zugrundeliegenden Kausalmodell ab – aus den Daten allein ist das nicht entscheidbar.

Die zentrale Pointe des Vergleichs von Studie A und Studie B ist, dass identische Daten je nach Kausalmodell (DAG) zu unterschiedlichen, teils gegensätzlichen Handlungsempfehlungen führen: In Studie A ist Geschlecht ein Confounder (beeinflusst sowohl Medikamenteneinnahme als auch Heilung direkt), weshalb Stratifizieren nach Geschlecht die konfundierte Verzerrung auflöst und zum richtigen Schluss führt. In Studie B ist Blutdruck dagegen ein Mediator auf einem der beiden Wirkungspfade des Medikaments; hier würde Stratifizieren nach Blutdruck einen Teil des wahren (heilsamen) Effekts verdecken. Die Daten allein (die Zahlen in der Tabelle) reichen nicht aus, um zu entscheiden, welches Vorgehen richtig ist – dafür braucht man zusätzliches, aus der Datenanalyse selbst nicht ableitbares Wissen über die kausale Struktur. Das entspricht der ersten Antwortoption.

Warum die Distraktoren falsch sind:

• Die zweite Option (“immer stratifizieren”) widerspricht direkt dem Beispiel von Studie B, wo Stratifizieren zu einer falschen Schlussfolgerung (nur der toxische Effekt sichtbar) führt.

• Die dritte Option (“nie stratifizieren”) widerspricht direkt dem Beispiel von Studie A, wo gerade das Stratifizieren nach Geschlecht den korrekten Schluss ermöglicht.

• Die vierte Option ist die zentrale Fehlvorstellung, die das Beispiel widerlegen soll: Obwohl die Zahlen identisch sind, ist die richtige Empfehlung wegen der unterschiedlichen Kausalmodelle nicht identisch.

• Die fünfte Option ignoriert die Kernaussage des Kapitels, dass Datenanalyse allein für Kausalschlüsse nicht ausreicht – man benötigt zusätzlich ein Kausalmodell (Theorie), um zwischen Stratifizieren und Nicht-Stratifizieren zu entscheiden.

• Falsch

• Falsch

• Falsch

• Falsch

• Wahr

Im Kausalmodell zu Studie B (Blutdruck) hat das Medikament (drug) keinen direkten Effekt auf die Heilung (recovery), sondern zwei indirekte Effekte: einen heilsamen Effekt über die Blutdrucksenkung (pressure) und einen schädlichen, toxischen Effekt (toxic). Warum liefert die Betrachtung der nach Blutdruck stratifizierten Teildaten hier ein irreführendes Bild – anders als das Stratifizieren nach Geschlecht in Studie A?

Weil das Medikament in Wirklichkeit gar keinen Effekt auf die Heilung hat und alle beobachteten Unterschiede rein zufällig zustande kommen.Weil man beim Stratifizieren nach Blutdruck automatisch auch nach Geschlecht kontrolliert, was die Ergebnisse zusätzlich verzerrt.Weil Blutdruck hier ein Mediator auf einem Wirkungspfad des Medikaments ist: Konditioniert man auf den Blutdruck, wird der darüber laufende heilsame Effekt des Medikaments “weggerechnet”, sodass nur noch der toxische Pfad sichtbar bleibt.Weil die Stichprobengröße in Studie B mit \(n=700\) zu klein ist, um stratifizierte Analysen sinnvoll durchzuführen.Weil Blutdruck in dieser Studie ein reiner Confounder ist, der sowohl das Medikament als auch die Heilung unabhängig voneinander beeinflusst – genau wie das Geschlecht in Studie A.

Im DAG zu Studie B gilt: drug -> pressure -> recovery (heilsamer, indirekter Pfad) und drug -> toxic -> recovery (schädlicher, indirekter Pfad); es gibt keinen direkten Pfeil von drug zu recovery. Blutdruck (pressure) liegt hier also auf dem Kausalpfad zwischen Medikament und Heilung – er ist ein Mediator, keine Drittvariable, die unabhängig vom Medikament wirkt. Stratifiziert (konditioniert) man auf den Blutdruck, “blockiert” man damit den heilsamen Pfad über die Blutdrucksenkung: Innerhalb einer Blutdruck-Schicht kann sich das Medikament nur noch über den toxischen Pfad bemerkbar machen, weshalb in den Teildaten ausschließlich der schädliche Effekt sichtbar wird. Das entspricht der ersten Antwortoption.

Warum die Distraktoren falsch sind:

• Die zweite Option verwechselt genau die beiden Rollen, die im Kapitel gegenübergestellt werden: In Studie A ist Geschlecht ein Confounder (eine gemeinsame Ursache von Medikamenteneinnahme und Heilung, die nicht auf dem Wirkungspfad des Medikaments liegt) – dort ist Stratifizieren richtig. In Studie B ist Blutdruck dagegen ein Mediator auf dem Wirkungspfad selbst – dort verzerrt Stratifizieren das Bild. Beide als gleichartig (“wie in Studie A”) zu behandeln, ist genau der Fehler, den das Kapitel vermeiden will.

• Die Stichprobengröße (\(n=700\) in beiden fiktiven Studien) wird im Kapitel nicht als Grund für die Irreführung genannt; das Problem ist struktureller (kausaler), nicht statistischer Natur im Sinne der Fallzahl.

• Das Kapitel zeigt gerade, dass das Medikament zwei reale, aber gegenläufige Effekte hat (toxisch und heilsam) – nicht, dass gar kein Effekt vorliegt und alles Zufall wäre.

• Das Kausalmodell zu Studie B enthält keine Geschlechtsvariable; die Aussage, man kontrolliere “automatisch” auch nach Geschlecht, ist im Modell nicht angelegt und frei erfunden.

• Falsch

• Falsch

• Wahr

• Falsch

• Falsch

Zwei Forschungsteams berechnen jeweils dieselbe statistische Methode – eine Regressionsanalyse. Welche Aussage zum Zusammenhang zwischen der verwendeten Methode und der verfolgten Zielart (Beschreiben, Vorhersagen, Erklären) ist laut Kapitel korrekt?

Welche Zielart vorliegt, lässt sich allein am äußeren Erscheinungsbild der Ausgabetabelle einer Statistik-Software ablesen, unabhängig vom Forschungskontext.Eine Regressionsanalyse dient ausschließlich der Zielart Erklären, niemals dem Beschreiben oder Vorhersagen.Anhand der verwendeten statistischen Methode (z.B. Regressionsanalyse) allein kann man nicht feststellen, welche Zielart verfolgt wird; das erfordert einen Blick auf die Forschungsfrage bzw. das Ziel der jeweiligen Studie.Jede statistische Methode ist fest genau einer der drei Zielarten zugeordnet, sodass man aus der Methode allein immer eindeutig auf die Zielart schließen kann.Nur deskriptive Verfahren wie der Mittelwert können jemals der Zielart Beschreiben dienen, Regressionsanalysen hingegen nie.

Das Kapitel stellt explizit fest: “Anhand der verwendeten statistischen Methode (z.B. Regressionsanalyse) kann man nicht feststellen, zu welchem Erkenntnisziel die Studie gehört. Um das Erkenntnisziel festzustellen, liest man sich die Forschungsfrage oder das Ziel der Studie durch.” Ein und dieselbe Methode (Regression) kann also je nach Forschungsfrage dem Beschreiben, Vorhersagen oder Erklären dienen. Die erste Option ist korrekt.

Warum die Distraktoren falsch sind:

• Die zweite Option widerspricht der zentralen Aussage des Kapitels direkt: Es gibt keine feste Eins-zu-eins-Zuordnung zwischen Methode und Zielart.

• Die dritte Option ist zu einschränkend: Eine Regressionsanalyse kann je nach Forschungsfrage auch der Beschreibung (Zusammenhang in der Stichprobe zusammenfassen) oder der Vorhersage (neue Werte schätzen) dienen, nicht nur dem Erklären.

• Die vierte Option ist ebenfalls falsch: Auch eine Regressionsanalyse kann rein deskriptiv eingesetzt werden, etwa wenn man nur den Zusammenhang in den vorliegenden Daten zusammenfassen möchte, ohne auf eine Population zu verallgemeinern.

• Die fünfte Option widerspricht dem Kapitel direkt: Nicht das äußere Erscheinungsbild der Software-Ausgabe, sondern die Forschungsfrage bzw. das Ziel der Studie bestimmt die Zielart.

• Falsch

• Falsch

• Wahr

• Falsch

• Falsch

Wie definiert das Kapitel den Begriff Modell, und was ist der Nutzen eines Modells?

Ein Modell ist ein rein mathematisches Konstrukt ohne jeden Bezug zur Wirklichkeit.Ein Modell muss die Wirklichkeit vollständig und in allen Details abbilden, sonst ist es kein gültiges Modell.Der Nutzen eines Modells liegt allein darin, dass es sich gut visualisieren lässt; inhaltliche Vereinfachung spielt keine Rolle.Modelle werden ausschließlich in der Statistik verwendet, in Technik, Wirtschaft oder Alltag hingegen nicht.Ein Modell ist ein vereinfachtes Abbild der Wirklichkeit; sein Nutzen besteht darin, einen komplexen Sachverhalt handhabbar zu machen, indem man Unwesentliches weglässt, aber die für die Fragestellung zentralen Strukturelemente beibehält.

Laut Definition ist ein Modell “ein vereinfachtes Abbild der Wirklichkeit”. Der Nutzen besteht darin, einen (übermäßig) komplexen Sachverhalt zu vereinfachen bzw. überhaupt erst handhabbar zu machen – man blendet Informationen aus, die nicht zwingend nötig sind, behält aber die für die Fragestellung zentralen Strukturelemente bei (“Der Speck muss weg, das Wesentliche bleibt”). Die erste Option ist korrekt.

Warum die Distraktoren falsch sind:

• Die zweite Option widerspricht der Definition direkt: Ein Modell ist gerade eine Vereinfachung, kein vollständiges Abbild aller Details der Wirklichkeit – Letzteres wäre gar nicht handhabbar.

• Die dritte Option ist falsch: Ein Modell soll die Wirklichkeit (wenn auch vereinfacht) abbilden, es steht also gerade in einer engen Beziehung zur Wirklichkeit, nicht in völliger Loslösung von ihr.

• Die vierte Option widerspricht dem Kapitel: “In der Wissenschaft – wie auch oft in der Technik, Wirtschaft oder im Alltag – betrachtet man einen Teil der Welt näher” mittels Modellieren; Modelle sind also keineswegs auf die Statistik beschränkt.

• Die fünfte Option verkennt den eigentlichen Nutzen: Es geht primär um die inhaltliche Vereinfachung eines komplexen Sachverhalts, nicht (nur) um eine gute visuelle Darstellbarkeit.

• Falsch

• Falsch

• Falsch

• Falsch

• Wahr

Wie definiert das Kapitel den Begriff Effekt im statistisch-wissenschaftlichen Sinn?

Ein Effekt liegt nur dann vor, wenn ein Experiment (keine Beobachtungsstudie) durchgeführt wurde.Der Begriff Effekt bezieht sich ausschließlich auf Unterschiede zwischen zwei Gruppen, niemals auf Zusammenhänge zwischen metrischen Variablen.Der Effekt bezeichnet die Größe des statistischen Zusammenhangs (oder der Differenz) zwischen UV und AV in einem Modell, die über den zufälligen Erwartungswert hinausgeht – ein Effekt ist dabei nicht zwangsläufig kausal zu verstehen.Ein Effekt ist per Definition immer ein kausaler Einfluss der UV auf die AV.Ein Effekt ist identisch mit dem p-Wert einer statistischen Analyse.

Laut Definition bezeichnet der Begriff Effekt “die Größe des statistischen Zusammenhangs (oder der Differenz) zwischen UV und AV in einem Modell, die über den zufälligen Erwartungswert hinausgeht. Effekt ist nicht unbedingt kausal zu verstehen.” Die erste Option ist korrekt.

Warum die Distraktoren falsch sind:

• Die zweite Option widerspricht der Definition explizit: Ein Effekt ist gerade nicht zwangsläufig kausal zu verstehen – er kann auch eine rein statistische (nicht-kausale) Assoziation beschreiben.

• Die dritte Option ist falsch: Der Effektbegriff wird im Kapitel unabhängig vom Studiendesign verwendet – auch in (nicht-experimentellen) Beobachtungsstudien lässt sich ein statistischer Effekt (Zusammenhang oder Differenz) berichten, nur die kausale Interpretierbarkeit unterscheidet sich.

• Die vierte Option ist zu eng gefasst: Die Definition schließt sowohl Unterschiede (z.B. zwischen Gruppen) als auch Zusammenhänge (z.B. zwischen metrischen Variablen) mit ein.

• Die fünfte Option verwechselt zwei unterschiedliche Konzepte: Der p-Wert ist eine bedingte Wahrscheinlichkeit im Rahmen eines Hypothesentests, der Effekt hingegen eine Kennzahl zur Größe eines Zusammenhangs oder Unterschieds – beide sind eng verwandt, aber nicht identisch.

• Falsch

• Falsch

• Wahr

• Falsch

• Falsch

Die Zielart Erklären hat laut Kapitel zwei unterschiedliche Bedeutungen: Populationsinferenz und Kausalinferenz. Welche der folgenden Forschungsfragen ist ein Beispiel für Populationsinferenz (im Unterschied zu Kausalinferenz)?

Populationsinferenz und Kausalinferenz sind exakt dasselbe Konzept mit unterschiedlichem Namen.“Wenn ich 100 Stunden lerne, welche Note schreibe ich dann deswegen?”“Ist Größe eine Ursache von Gewicht bei deutschen Männern?”“Wie groß ist der Gender-Paygap in der Branche X im Zeitraum Y, gemessen in der vorliegenden Stichprobe?”“Wie stark ist der (lineare) Zusammenhang \(b\) von Lernzeit und Note im Fach Statistik in der Grundgesamtheit (nicht nur in der Stichprobe)?”

Populationsinferenz fragt danach, ob ein in der Stichprobe gefundener Zusammenhang (bzw. Unterschied) auch in der Grundgesamtheit (Population) gilt – ohne notwendigerweise eine kausale Aussage zu treffen. Das Beispiel im Kapitel lautet genau: “Wie stark ist der (lineare) Zusammenhang \(b\) von Lernzeit und Note (im Fach Statistik) in der Grundgesamtheit (nicht in der Stichprobe)?” Die erste Option ist korrekt.

Warum die Distraktoren falsch sind:

• Die zweite Option (“Ist Größe eine Ursache von Gewicht?”) ist im Kapitel explizit als Beispiel für Kausalinferenz aufgeführt, nicht für Populationsinferenz – hier geht es um eine Ursache-Wirkungs-Beziehung, nicht nur um Verallgemeinerung eines Zusammenhangs auf die Population.

• Die dritte Option fragt explizit nach einem kausalen Effekt des Lernens (“…deswegen…”), was ebenfalls der Kausalinferenz zuzuordnen ist, nicht der (rein assoziativen) Populationsinferenz.

• Die vierte Option bezieht sich ausdrücklich nur auf die Stichprobe (“gemessen in der vorliegenden Stichprobe”) und ist damit ein Beispiel für Beschreiben (Deskriptivstatistik), nicht für Populationsinferenz, die gerade über die Stichprobe hinausgeht.

• Die fünfte Option widerspricht der zentralen Unterscheidung des Kapitels: Populationsinferenz (Verallgemeinerung auf die Population) und Kausalinferenz (Identifikation von Ursache-Wirkung) sind zwei unterschiedliche Bedeutungen von “Erklären”, die im Kapitel explizit getrennt behandelt werden.

• Falsch

• Falsch

• Falsch

• Falsch

• Wahr

Ein einfaches lineares Regressionsmodell lautet \(y = \beta_0 + \beta_1 x\) mit den Punktschätzern \(\beta_0=20\) (Achsenabschnitt) und \(\beta_1=1{,}5\) (Steigung). Welchen Wert von \(y\) sagt das Modell für \(x=40\) voraus?

\(y = 20 + 1{,}5 + 40 = 61{,}5\)\(y = 20 + 1{,}5\cdot 40 = 80\)\(y = 20 - 1{,}5\cdot 40 = -40\)\(y = 1{,}5\cdot 40 = 60\)\(y = 20\cdot 40 + 1{,}5 = 802\)

Man setzt \(x=40\) in die Modellgleichung ein: \(y = \beta_0 + \beta_1\cdot x = 20 + 1{,}5\cdot 40 = 20+60 = 80\).

Warum die Distraktoren falsch sind:

• Die zweite Option lässt den Achsenabschnitt \(\beta_0\) weg und berechnet nur den Term \(\beta_1\cdot x\), ohne den Basiswert zu addieren.

• Die dritte Option vertauscht die Rollen von \(\beta_0\) und \(\beta_1\) in der Formel (multipliziert \(\beta_0\) statt \(\beta_1\) mit \(x\)) und führt so zu einem völlig unplausiblen, viel zu großen Ergebnis.

• Die vierte Option verwendet das falsche Vorzeichen (Subtraktion statt Addition) für den Term \(\beta_1\cdot x\).

• Die fünfte Option addiert \(\beta_0\), \(\beta_1\) und \(x\) direkt, statt \(\beta_1\) mit \(x\) zu multiplizieren und erst danach \(\beta_0\) zu addieren – das widerspricht der multiplikativen Struktur der linearen Modellgleichung.

• Falsch

• Wahr

• Falsch

• Falsch

• Falsch

Eine Regressionsgerade wird durch zwei Koeffizienten festgelegt: ihren Achsenabschnitt, \(\beta_0\), sowie ihre Steigung, \(\beta_1\). Man berechnet diese beiden Koeffizienten schlicht anhand der vorliegenden Stichprobe, ohne weitere Angaben zur Forschungsfrage. Welche Zielart der Statistik verfolgt man damit?

Zwingend “Erklären – Kausal”, da das bloße Berechnen einer Regressionsgeraden automatisch einen kausalen Zusammenhang zwischen UV und AV nachweist.Das lässt sich anhand der bloßen Berechnung der Koeffizienten allein nicht sagen – alle drei Zielarten (Beschreiben, Vorhersagen, Erklären) sind grundsätzlich möglich; entscheidend ist die zugrundeliegende Forschungsfrage.Zwingend “Vorhersagen”, da Regressionsgeraden ausschließlich zur Vorhersage neuer, noch nicht beobachteter Werte dienen.Keine der drei Zielarten trifft auf eine Regressionsanalyse jemals zu, da Regression eine eigenständige, vierte Zielart darstellt.Zwingend “Beschreiben”, da eine Regressionsgerade immer nur eine Kennzahl der Stichprobe ist und niemals anders verwendet werden kann.

Wie das Kapitel an anderer Stelle betont, lässt sich allein an der verwendeten Methode (hier: Berechnung von \(\beta_0\) und \(\beta_1\)) nicht ablesen, welche Zielart verfolgt wird – dieselben Koeffizienten können je nach Forschungsfrage der Beschreibung der Stichprobe, der Vorhersage neuer Werte oder (bei entsprechender kausaler Absicherung) dem Erklären dienen. Ohne zusätzliche Information zur Forschungsfrage lässt sich die Zielart also nicht eindeutig bestimmen. Die erste Option ist korrekt.

Warum die Distraktoren falsch sind:

• Die zweite, dritte und vierte Option behaupten jeweils eine zwingende, ausschließliche Zuordnung zu genau einer Zielart – das widerspricht der zentralen Lehre des Kapitels, dass die Methode allein die Zielart nicht festlegt.

• Insbesondere die vierte Option enthält einen besonders gravierenden Fehlschluss: Das bloße Berechnen einer Regressionsgeraden (eine rein statistische Prozedur) beweist niemals automatisch Kausalität – dafür braucht es zusätzlich ein Kausalmodell oder ein Experiment, wie in späteren Kapiteln vertieft wird.

• Die fünfte Option ist falsch: Regression ist keine eigene, vierte Zielart, sondern lediglich eine Methode, die – je nach Forschungsfrage – allen drei Zielarten (Beschreiben, Vorhersagen, Erklären) dienen kann.

• Falsch

• Wahr

• Falsch

• Falsch

• Falsch

2.9 —

Gelman, A., Hill, J., & Vehtari, A. (2021). Regression and Other Stories. Cambridge University Press.

Pearl, J., Glymour, M., & Jewell, N. P. (2016). Causal Inference in Statistics: A Primer. Wiley.

Poldrack, R. (2022). Statistical Thinking for the 21st Century. https://statsthinking21.github.io/statsthinking21-core-site/index.html

Shmueli, G. (2010). To Explain or to Predict? Statistical Science, 25(3), 289–310. https://doi.org/10.1214/10-STS330

---

1. Ziele existieren nicht “in echt” in der Welt. Wir denken sie uns aus. Ziele haben also keine ontologische Wirklichkeit, sie sind epistemologische Dinge (existieren nur in unserem Kopf). Das heißt, dass man sich nach Belieben Ziele ausdenken kann. Allerdings hilft es, wenn man andere Menschen vom Nutzen der eigenen Ideen überzeugen kann.

2. Das ist natürlich nur ein fiktives, komplett unrealistisches Beispiel, das auch unklaren Ursachen den Weg auf diese Seite gefunden hat.

3. https://gallery.shinyapps.io/simple_regression/

4. Wie Jonas Kristoffer Lindeløv uns erklärt, sind viele statistische Verfahren, wie der sog. t-Test Spezialfälle der Regression.

5. Der Datensatz mtcars wird gerne als Studienobjekt verwendet, da er einfach ist und für viele Beispiele geeignet. Wenn Sie sich einen Sachverhalt an einem einfachen Datensatz vergegenwärtigen wollen, bietet sich auch der Datensatz mtcars an. Zudem ist er “fest in R eingebaut”; mit data(mtcars) können Sie ihn verfügbar machen.