Was genau ist der Unterschied zwischen einem Frequentisten und einem Bayesianer? Sind diese beiden Standpunkte nicht konzeptionell identisch?


Antwort 1:

Sie sind sicherlich nicht identisch. Um beide vollständig zu erklären, wäre ein Buch erforderlich, aber der grundlegende Unterschied ist folgender:

Die Bayesianer schätzen eine vorherige Wahrscheinlichkeit (was sie glaubten, bevor sie das Experiment oder die Studie durchgeführt haben) und modifizieren sie dann, indem sie sich neue Daten ansehen.

Frequentisten denken darüber nach, wie es wäre, wenn dasselbe Experiment oder dieselbe Studie mehrmals wiederholt würde.

Beide haben ihre Probleme. Ich habe Gedichte geschrieben, um diese Probleme zu veranschaulichen:

Ein Bayesianischer Profi-Name von MyersSays Amtszeit ist alles, was er wünscht. Aber seine Träume werden nicht erfüllt. Er wird gefeuert, ich wette, wenn sie ihn dabei erwischen, seine Prioritäten anzupassen.

Ein Frequentist namens SmithKept schweigte (er plädierte für den Fünften), als der Richter nachfragte. Erforderliche Annahmen, um p-Werte mit zu berechnen.


Antwort 2:

Sie sind nicht identisch, und der Unterschied kann tatsächlich ziemlich prägnant ausgedrückt werden: Sie geben unterschiedliche Antworten auf die Frage: "Was ist Wahrscheinlichkeit?"

Frequentisten definieren Wahrscheinlichkeit mit Kolmogorovs Axiomen: Wahrscheinlichkeitsraum - Wikipedia, Bayesianer nicht.

Zwar machen Frequentisten in der Praxis Aussagen wie: „Eine Hypothese kann nur wahr oder falsch sein und Sie können ihr keinen Wahrscheinlichkeitswert zuweisen.“ Das frequentistische Framework enthält jedoch nichts, was Sie davon abhält, einen Wahrscheinlichkeitswert zuzuweisen zu Ihrer Hypothese, ob sie wahr ist oder nicht.

Zum Beispiel: Nehmen wir an, Ihre Hypothese lautet "Die durchschnittliche Größe von Jungen ist größer als die durchschnittliche Größe von Mädchen".

Wie könnte ein Frequentist dieser Hypothese einen Wahrscheinlichkeitswert zuweisen?

Ein Frequentist kann sich eine unendliche Folge von Universen vorstellen, in denen die „durchschnittliche Größe für Jungen und Mädchen“ eine unabhängige, identisch verteilte Zufallsvariable ist. Unser spezielles Universum ist eine einzige Realisierung dieses Experiments.

Unter einem solchen Paradigma steht es im Einklang mit dem häufig vorkommenden Rahmen, über die Wahrscheinlichkeit zu sprechen, dass die durchschnittliche Größe eines Jungen größer ist als die durchschnittliche Größe eines Mädchens. Natürlich gibt es keine Möglichkeit, Rückschlüsse auf diese Wahrscheinlichkeit zu ziehen, so dass sich Frequentisten im Allgemeinen nicht darum kümmern. Bayesianer nehmen eine Art vorherige Verteilung an, die im Wesentlichen eine Verteilung auf die Zufallsvariable für die durchschnittliche Höhe voraussetzt, obwohl wir nur Daten darüber in einem Universum haben.

Die Wahrheit ist, dass die gesamte moderne Wahrscheinlichkeitstheorie häufig ist. Wenn Bayesianer also etwas aus der modernen Wahrscheinlichkeitstheorie verwenden, verwenden sie häufig auftretende Ideen.

Es wäre unklug, etwas so Mächtiges wegzuwerfen.

In ähnlicher Weise wird der Bayes'sche Akt der Annahme einer Wahrscheinlichkeitsverteilung auf einem Parameter zu einer akzeptierten Methode, um Dinge zu tun, da man damit sehr nützliche Schlussfolgerungen ziehen kann.

Ich glaube, wir bewegen uns in eine Richtung, in der diese Begriffe der Vergangenheit angehören werden.

In der Praxis werden wir weiterhin die reichhaltige Wahrscheinlichkeitstheorie verwenden, während wir einige handwaivy Bayes'sche Annahmen über die Verteilung unserer Parameter treffen, auf die wir schließen wollen.

NACHTRAG

Für diejenigen, die argumentieren, dass Bayesianer Kolmogorovs axiomatische Wahrscheinlichkeitstheorie verwenden, werde ich als solche antworten:

Wenn Sie die Wahrscheinlichkeit mit Kolmogorovs Axiomen definieren, verwenden Sie die frequentistische Wahrscheinlichkeit (ein Wahrscheinlichkeitsraum ist ein frequentistisches Konstrukt), und nach jeder vernünftigen Definition sollten Sie als Frequentist bezeichnet werden. Die Tatsache, dass Sie Bayes'sche Aktualisierungen mit einer Wahrscheinlichkeit durchführen können, die mit Kolmogorovs Axiomen definiert wird, macht Sie nicht zu einem 'Bayes'schen'.

Wie hier zu sehen ist: Bayes-Theorem, es gibt eine vollkommen gültige frequentistische Interpretation des Bayes-Theorems.

Der Sinn dieser Antwort ist zu argumentieren, dass Frequentisten im Allgemeinen beginnen, die Idee zu akzeptieren, eine etwas willkürliche vorherige Verteilung auf Mengen zu definieren, auf die wir sonst keinen Rückschluss ziehen könnten. Ein solcher Akt der Definition eines Prior ist in der Tat völlig im Einklang mit Kolmogorovs Axiomen, es ist einfach eine zusätzliche Annahme, die einem Problem auferlegt wird.

Wie Bayesianer Wahrscheinlichkeit definieren, gibt es leider keinen einheitlichen Rahmen

Es gibt ein Buch Wahrscheinlichkeitstheorie; Die Logik der Wissenschaft von Janes

Dies führt eine Art und Weise ein, wie Bayesianer die Wahrscheinlichkeitstheorie definieren, und in Anhang A spricht er über verschiedene andere Ansätze der Wahrscheinlichkeitstheorie, einschließlich Kolmogorovs Ansatz sowie de Finettis Ansatz.

Bayesianische Wahrscheinlichkeit


Antwort 3:

Angenommen, Sie möchten eine Hypothese testen - zum Beispiel, dass alle Schwäne weiß sind oder dass eine bestimmte Münze fair ist. Sie führen eine Studie durch, um die Hypothese zu testen.

Der Bayesianer wird sagen, dass es sinnvoll ist, über die Wahrscheinlichkeit zu sprechen, dass die Hypothese wahr ist. Die Bayes'sche Methode zur Bewertung von Studien besteht darin, die posterioren Wahrscheinlichkeiten zu berechnen, mit denen bestimmte Hypothesen wahr sind, dh die Wahrscheinlichkeit angesichts des beobachteten Ergebnisses der Studie.

Der Frequentist findet solche Wahrscheinlichkeiten nicht sinnvoll. Er glaubt, dass die Hypothese entweder wahr oder falsch ist. Sie können darüber sprechen, wie stark die Studie gegen die Hypothese (den p-Wert) liefert, aber das ist etwas anderes.


Antwort 4:

Angenommen, Sie möchten eine Hypothese testen - zum Beispiel, dass alle Schwäne weiß sind oder dass eine bestimmte Münze fair ist. Sie führen eine Studie durch, um die Hypothese zu testen.

Der Bayesianer wird sagen, dass es sinnvoll ist, über die Wahrscheinlichkeit zu sprechen, dass die Hypothese wahr ist. Die Bayes'sche Methode zur Bewertung von Studien besteht darin, die posterioren Wahrscheinlichkeiten zu berechnen, mit denen bestimmte Hypothesen wahr sind, dh die Wahrscheinlichkeit angesichts des beobachteten Ergebnisses der Studie.

Der Frequentist findet solche Wahrscheinlichkeiten nicht sinnvoll. Er glaubt, dass die Hypothese entweder wahr oder falsch ist. Sie können darüber sprechen, wie stark die Studie gegen die Hypothese (den p-Wert) liefert, aber das ist etwas anderes.