Was ist der Unterschied zwischen Inferenz und Lernen?


Antwort 1:

Vielen Dank für die A2A.

Die Verwendung des Begriffs Lernen und Inferenz hängt vom Studienfach ab. Verwirrung entsteht normalerweise, wenn die Wörter beiläufig verwendet werden, ohne auf ein bestimmtes Feld Bezug zu nehmen.

Auf der allgemeinsten Ebene ist das Wort "Inferenz" etwas, mit dem wir alle vertraut sind. Wir beobachten einige Daten und wollen etwas daraus lernen. Der Prozess, Daten zu beobachten und etwas zu sagen, das daraus kenntnisreich ist, ist eine intuitive Definition von Inferenz.

Wenn Statistiker über Inferenz sprechen, sprechen sie normalerweise über statistische Inferenz. Bei der statistischen Inferenz beobachten wir einige Daten und möchten etwas über den Prozess sagen, der diese Daten generiert hat. Vorhersagen, das Schätzen von Fehlerbalken, das Testen von Hypothesen und das Schätzen von Parametern wären daher Teil der statistischen Inferenz. Beachten Sie, wie die Parameterschätzung auch unter der statistischen Inferenz enthalten ist.

Andererseits unterscheiden traditionelle Forscher des maschinellen Lernens aus einer Informatik-Tradition häufig zwischen Lernen und Inferenz. Lernen ist mit Parameterschätzung verbunden und wird nicht explizit als Inferenzproblem angesehen. Daher ist die Konzeptualisierung des Begriffs "Inferenz" enger als die eines Statistikers. Normalerweise wird Inferenz als eine Art Vorhersage angesehen. Beispielsweise möchten wir bei der linearen Regression angesichts einiger Merkmale und einiger erlernter Parameter eine realwertige Variable vorhersagen. Bei einem Bildverarbeitungsproblem möchten wir bei einem Bild mit vielen fehlenden Pixelwerten möglicherweise die wahrscheinlichsten Werte für die fehlenden Pixel aus unserer gelernten gemeinsamen Verteilung eingeben. Diese beiden Vorhersagen würden als Schlussfolgerungen bezeichnet. Ein Vorteil der Unterscheidung zwischen Lernen und Inferenz besteht darin, dass Lernalgorithmen auf natürliche Weise von Inferenzalgorithmen getrennt werden. Obwohl für einige Probleme Parameter analytisch geschätzt werden können, erfordern die meisten Probleme einen Lernalgorithmus wie einen Algorithmus vom Gradientenabstiegstyp. In ähnlicher Weise ist bei einigen Inferenzproblemen wie dem obigen Bildverarbeitungsbeispiel die Vorhersage normalerweise kein Plug-and-Chug und erfordert die Verwendung eines Inferenzalgorithmus wie eines Abtastalgorithmus zur Berechnung der Vorhersage. Noch interessanter wird es bei Modellen mit latenten Variablen, bei denen häufig ein Inferenzalgorithmus in einem Lernalgorithmus verschachtelt ist, wie dies bei MCMC-EM-Algorithmen der Fall ist.

Zusammenfassend hängt der Unterschied zwischen Inferenz und Lernen vom Auge des Modellierers ab. Wenn Sie wie ein Statistiker denken, ist Lernen / Parameterschätzung eine Art Inferenz. Wenn Sie wie ein traditioneller Forscher für maschinelles Lernen denken, ist Lernen normalerweise eine Parameterschätzung und Inferenz ist normalerweise eine Vorhersage. Unterschiedliche Perspektiven sind in unterschiedlichen Situationen nützlich.


Antwort 2:

Kurze Antwort

spezifisches Beispiel

Inferenz

alle Beispiele

Lernen

  1. Wenn Sie die Parameter des grafischen Modells lernen, finden Sie einen universellen Satz von Werten für alle Ihre Datenpunkte. Sie können dies als "Lernen" der Topologie oder der Mannigfaltigkeit betrachten, in der sich Ihre Daten befinden (innerhalb der vom Modell auferlegten Einschränkungen). Sie beantworten die Frage "Welche Konfiguration des Modells erklärt am besten alle Datenpunkte?" Wenn Sie auf die verborgenen oder latenten Parameter schließen, finden Sie die Instanzen versteckter oder latenter Variablen, die für einen Datenpunkt spezifisch sind. Das Verständnis dieser versteckten Variablen kann helfen, Vorhersagen mit den Daten zu treffen. Sie beantworten die Frage "Welche Werte der versteckten Variablen erklären diesen Datenpunkt?"

Ein anderes Beispiel:

Zusammenfassung:

Eine interessante Seite:

könnten

Vorbehalt


Antwort 3:

Hier ein wenig vereinfacht: Sie sind beide Arten der Modellanpassung. Lernen passt nur ein Vorhersagemodell an, während Inferenz ein Vorhersagemodell anpasst, indem die Parameter eines Wahrscheinlichkeitsmodells geschätzt werden. Die Ausgabe der Anpassung einer linearen Regression kann also als Inferenz angesehen werden, aber die Ausgabe der Anpassung einer Unterstützungsvektormaschine lernt nur.