Start:Bayes!

Hallo, Wahrscheinlichkeit

Wahrscheinlichkeitstheorie: die Mathematik des Zufalls

Wozu brauche ich dieses Kapitel?

Im wirklichen Leben sind Aussagen so gut wie nie sicher:

“Weil sie so schlau ist, ist sie erfolgreich.”
“In Elektroautos liegt die Zukunft.”
“Das klappt sicher, meine Meinung.”
“Der nächste Präsident wird XYZ.”

Wahrscheinlichkeit hilft, solche Aussagen zu präzisieren.

Lernziele

Sie können …

die Grundbegriffe der Wahrscheinlichkeitstheorie erläuternd definieren
die Definitionen von Wahrscheinlichkeit beschreiben
typische Relationen (Operationen) von Ereignissen anhand von Beispielen veranschaulichen
erläutern, was eine Zufallsvariable ist

Zufallsvorgang

Definition: Zufallsvorgang

Ein Zufallsvorgang (Zufallsexperiment) ist eine klar beschriebene Tätigkeit, deren Ergebnis nicht sicher ist. Die Menge möglicher Ergebnisse ist aber bekannt, und die Wahrscheinlichkeit jedes Ergebnisses lässt sich quantifizieren.

Typische Zufallsvorgänge

Würfeln: Augenzahl 1–6
Münzwurf: Kopf oder Zahl
Lottoziehung: 6 aus 49
Kartenziehen: eine Karte aus 52
Glücksrad: welches Feld bleibt stehen?

Zufall heißt: unbekannt, nicht ursachenlos

Vorsicht

Zufall heißt nicht, dass ein Vorgang keine Ursachen hätte. Der Fall einer Münze gehorcht den Gesetzen der Gravitation — kennten wir alle Ausgangsbedingungen exakt, wäre er vorhersagbar. “Zufall” versteht man daher besser als “unbekannt”.

Ergebnisraum

Definition: Ergebnisraum

Die möglichen Ergebnisse eines Zufallsvorgangs bilden eine Menge, den Ergebnisraum \(\Omega\). Die Elemente \(\omega\) von \(\Omega\) heißen Ergebnisse.

\[\Omega = \{1,2,3,4,5,6\}\]

Ergebnisraum — Beispiele

Münzwurf: \(\Omega = \{\text{Kopf, Zahl}\}\)
Lotto: alle Kombinationen von 6 aus 49 Zahlen (ca. 14 Mio.)
Kartenziehen: alle 52 Karten
Glücksrad (4 Farbfelder): \(\Omega = \{\text{Rot, Grün, Blau, Gelb}\}\)

Die Wahrscheinlichkeitsrechnung baut auf der Mengenlehre auf.

Ereignis

Definition: Ereignis

Jede Teilmenge von \(\Omega\) heißt Ereignis: \(A \subseteq \Omega\).

flowchart LR
 M[Sie werfen die Münze] --> T["T (Treffer) 🥳"]
  M --> N["N (Niete) 📚"]

Beispiel: “Augenzahl 6 liegt oben” \(\rightarrow A = \{6\}\)

Unmögliches und sicheres Ereignis

Definition: Unmögliches und sicheres Ereignis

Die leere Menge \(\varnothing\) heißt das unmögliche Ereignis, der Grundraum \(\Omega\) heißt das sichere Ereignis.

Unmöglich: “Der Würfel zeigt eine 7.”
Sicher: “Nach dem Wurf liegt eine Zahl zwischen 1 und 6 oben.”

Elementarereignis

Definition: Elementarereignis

Jede einelementige Teilmenge \(\{\omega\}\) von \(\Omega\) heißt Elementarereignis.

Würfeln: \(A = \{1\}\)
Klausur: \(\Omega = \{\text{bestehen, nicht bestehen}\}\), ein Elementarereignis tritt ein

Vollständiges Ereignissystem

Definition: Vollständiges Ereignissystem

Wird der Grundraum \(\Omega\) vollständig in paarweise disjunkte Ereignisse zerlegt, so bilden diese Ereignisse ein vollständiges Ereignissystem.

Zerlegung des Grundraums in ein vollständiges Ereignissystem

Beispiel Würfel: \(A\) = gerade Zahlen, \(B\) = ungerade Zahlen

Mächtigkeit

Definition: Mächtigkeit

Die Anzahl der Elementarereignisse eines Ergebnisraums nennt man die Mächtigkeit, Symbol \(|\Omega|\).

Beispiel: Würfel mit \(\Omega = \{1,...,6\}\) hat \(|\Omega| = 6\).

Disjunkte Ereignisse

Zwei Ereignisse \(A\), \(B \subseteq \Omega\) sind disjunkt, wenn ihre Schnittmenge leer ist: \(A \cap B = \emptyset\)

Beispiel: “gerade Augenzahl” (\(\{2,4,6\}\)) und “ungerade Augenzahl” (\(\{1,3,5\}\))

Was ist Wahrscheinlichkeit?

Klassische Logik: “Alle Schwäne sind weiß.” → “Dies ist ein Schwan.” → “Dieser Schwan ist weiß.”

Mit Wahrscheinlichkeit: “Die meisten Schwäne sind weiß.” → “Dies ist ein Schwan.” → “Dieser Schwan ist wahrscheinlich weiß.”

Wahrscheinlichkeit = Erweiterung der Logik (Jaynes & Bretthorst, 2003)

Wahrscheinlichkeit als Erweiterung der Logik

In formaler Logik: ein Ereignis ist falsch (0) oder wahr (1). Der Raum dazwischen ist die Wahrscheinlichkeit \(0 < p < 1\).

Definition von Wahrscheinlichkeit

Definition: Wahrscheinlichkeit

Die Wahrscheinlichkeit ist ein Maß für die Plausibilität einer Aussage \(A\), gegeben Hintergrundinformationen \(D\): \(Pr(A|D)\). Sie liegt zwischen 0 (unmöglich) und 1 (sicher).

Ein Ereignis, von dessen Eintreten man gering bzw. stark überzeugt ist

Wahrscheinlichkeit als Wissenszustand

Wahrscheinlichkeit existiert nicht wie ein Stein — sie ist eine Art von Wissen (Jaynes & Bretthorst, 2003).

Unbedarfter Spieler: “Ich habe keinen Grund, an der Fairness zu zweifeln” → \(Pr(Z|F) = 0.5\)
Betrüger, der die Münze kennt → \(Pr(Z|B) = 0.75\)

Dieselbe Münze, unterschiedliches Wissen, unterschiedliche Wahrscheinlichkeit.

Wahrscheinlichkeit ist immer bedingt

Unvollständig: “Morgen regnet es mit 70 % Wahrscheinlichkeit.”

Besser: \(Pr(\text{Regen} \mid \text{Wettermodell X})\)

Symptome \(S\) eines Hautkrebses: \(Pr(K) = 0{,}001\), aber \(Pr(K \mid S) \gg 0{,}001\)

Hinweis

Sagt jemand “Die Wahrscheinlichkeit von A ist x %”, frag immer: gegeben welcher Annahmen, welcher Evidenz?

Indifferenzprinzip

Definition: Indifferenzprinzip

In Abwesenheit von Informationen, die bestimmte Ereignisse bevorzugen, sollten alle möglichen Ereignisse als gleich wahrscheinlich angesehen werden.

\[Pr(A) = \frac{1}{n} = \frac{1}{|\Omega|}\]

Beispiel: \(Pr(\text{6 beim Würfeln}) = 1/6\)

Laplace-Experiment

Definition: Laplace-Experiment

Ein Zufallsexperiment, bei dem alle Elementarereignisse dieselbe Wahrscheinlichkeit haben, nennt man Laplace-Experiment.

\[Pr(A)=\frac{\text{Anzahl Treffer}}{\text{Anzahl möglicher Ergebnisse}}\]

Frequentistische Definition

Wenn Elementarereignisse nicht gleichwahrscheinlich sind: einfach ausprobieren.

Ein (angeblich fairer) Würfel wird 1000-mal geworfen — Anteil der 6 beobachten:

Gesetz der großen Zahl: Stabilisierung des Trefferanteils beim wiederholten Würfelwurf

Kolmogorovs Axiome

Nichtnegativität: Wahrscheinlichkeiten sind nie negativ
Normierung: \(Pr(\Omega) = 1\), \(Pr(\emptyset) = 0\)
Additivität: Sind \(A\), \(B\) disjunkt, gilt \(Pr(A \cup B) = Pr(A) + Pr(B)\)

Relationen von Ereignissen

Definition: Relation

Eine Relation zweier Ereignisse bezeichnet die Beziehung, in der die beiden Ereignisse zueinander stehen.

Typische Relationen: Gleichheit, Ungleichheit, Vereinigung, Schnitt

Werkzeug zur Veranschaulichung: Venn-Diagramme

Vereinigung von Ereignissen

Definition: Vereinigung von Ereignissen

\(C = A \cup B\) besteht aus allen Elementarereignissen von \(A\) oder \(B\).

A \cup B: Vereinigung zweier Mengen — \(A \cup B\): Vereinigung zweier Mengen

R: union(A, B)

(Durch-)Schnitt von Ereignissen

Definition: Schnittmenge von Ereignissen

\(A \cap B\) umfasst genau die Elementarereignisse, die Teil beider Ereignisse sind (“A und B”).

A \cap B: Schnitt zweier Mengen — \(A \cap B\): Schnitt zweier Mengen

R: intersect(A, B)

Eselsbrücke: Vereinigung vs. Schnitt

In der “Tasse” (Vereinigung) bleibt mehr hängen als in der “Käseglocke” (Schnitt)

Komplementärereignis

Definition: Komplementärereignis

\(B\) ist Komplementärereignis zu \(A\), wenn es genau die Elementarereignisse von \(\Omega\) umfasst, die nicht zu \(A\) gehören: \(\bar{A}\) oder \(\neg A\).

\bar{A}: Komplement von A — \(\bar{A}\): Komplement von \(A\)

Beispiel: \(A\) = “gerade Augenzahl” → \(\neg A\) = “ungerade Augenzahl”

Logische Differenz

Definition: Logische Differenz

\(A \setminus B\) besteht aus den Elementarereignissen von \(A\), die nicht zugleich in \(B\) sind (“A minus B”).

Vorsicht

\(A \setminus B \ne B \setminus A\) — Achtung, Asymmetrie! R: setdiff(A, B)

Zufallsvariable

Definition: Zufallsvariable

Die Zuordnung der Elementarereignisse eines Zufallsexperiments zu genau einer Zahl \(\in \mathbb{R}\) nennt man Zufallsvariable.

Eine Zufallsvariable ordnet Ereignisse einer reellen Zahl zu

Schreibweise: \(X: \Omega \rightarrow \mathbb{R}\)

Diskrete Zufallsvariable

Definition

Bei einer diskreten Zufallsvariablen sind nur bestimmte Realisationen möglich (meist natürliche Zahlen: 0, 1, 2, …).

Anzahl Bewerbungen bis zum ersten Interview
Anzahl Anläufe bis zum Bestehen der Klausur
Anzahl Treffer beim Losekauf

Wahrscheinlichkeitsverteilung des Würfelwurfs

Wahrscheinlichkeitsverteilung & Verteilungsfunktion

Eine Wahrscheinlichkeitsverteilung ordnet jeder Realisation einer Zufallsvariablen eine Wahrscheinlichkeit zu.

\[F(x) = \sum_{x_i \le x} Pr(X=x_i)\]

Definition: Verteilungsfunktion

\(F\) gibt die Wahrscheinlichkeit an, dass \(X\) eine Realisation \(\le x\) annimmt.

Verteilungsfunktion für die Augensumme im zweifachen Würfelwurf

Stetige Zufallsvariable

Definition: Stetige Zufallsvariable

Eine stetige Zufallsvariable gleicht einer diskreten, nur dass alle Werte in einem Intervall erlaubt sind.

Beispiele: Spritverbrauch, Körpergewicht, Schnabellängen, Blitzer-Geschwindigkeit

Beispiel: Warten auf den Bus

Wartezeit gleichverteilt zwischen 0 und 10 Minuten.

\(Pr(X = 42\text{s exakt}) \approx 0\) — die Fläche eines Punktes ist Null
\(Pr(0 < X < 5\text{ Min}) = 50\,\%\)

Wahrscheinlichkeit, zwischen 0 und 5 Minuten zu warten: 50 %

Wahrscheinlichkeitsdichte

Definition: Wahrscheinlichkeitsdichte

Die Dichte \(f(x)\) gibt an, wie viel Wahrscheinlichkeitsmasse pro Einheit von \(X\) an der Stelle \(x\) liegt.

Die Wahrscheinlichkeit entspricht der Fläche unter der Dichtefunktion

Für stetige \(X\): \(Pr(X = x_j) = 0\) für jedes einzelne \(x_j\) — praktisch relevant sind Intervalle.

Zusammenfassung

Zufallsvorgang, Ergebnisraum \(\Omega\), Ereignis \(A \subseteq \Omega\)
Wahrscheinlichkeit: Maß für Plausibilität, immer bedingt auf Hintergrundwissen
Indifferenzprinzip, Laplace, frequentistischer Zugang, Kolmogorov-Axiome
Relationen: Vereinigung, Schnitt, Komplement, Differenz
Zufallsvariable: diskret vs. stetig, Verteilung, Dichte

Vielen Dank!

Fragen?

Jaynes, E. T., & Bretthorst, G. L. (2003). Probability Theory: The Logic of Science. Cambridge University Press.