mnorm: An R Package for Calculation and Differentiation of Conditional Multivariate Normal Densities and Probabilities

Stellen Sie sich vor, Sie versuchen das Wetter vorherzusagen, aber anstatt nur Regen oder Sonnenschein zu berücksichtigen, jonglieren Sie gleichzeitig mit einem Dutzend verschiedener Variablen: Temperatur, Luftfeuchtigkeit, Windgeschwindigkeit, Luftdruck und sogar der Stimmung der örtlichen Eichhörnchen. In der Welt der Statistik wird dieser chaotische Jonglierakt als multivariante Normalverteilung bezeichnet. Es ist eine mathematische Art zu beschreiben, wie sich eine ganze Reihe verschiedener Dinge gemeinsam bewegen. Manchmal bewegen sie sich synchron (wie Wind und Regen), und manchmal tun sie es nicht.

Stellen Sie sich nun vor, Sie werfen einen Blick nach draußen und sehen, dass der Wind mit 20 Meilen pro Stunde weht. Plötzlich ändert sich Ihre Vorhersage für die Stimmung der Eichhörnchen, und auch Ihre Schätzung für die Luftfeuchtigkeit verschiebt sich. Dies wird als bedingte Wahrscheinlichkeit bezeichnet: herauszufinden, was der Rest des Systems macht, gegeben dass man bereits etwas über einen Teil davon weiß.

Warum kümmert das jemanden? Weil die reale Welt voll von diesen verflochtenen Netzen ist. Ökonomen nutzen sie, um zu verstehen, wie eine Änderung der Zinssätze Auswirkungen auf den Aktienmarkt haben könnte, oder wie die Testergebnisse eines Schülers in Mathematik seine Ergebnisse in Geschichte vorhersagen können. Um diese Vorhersagen genau zu machen, müssen Wissenschaftler etwas namens Differenzierung anwenden. Betrachten Sie dies als das Finden der „Steigung“ eines Hügels. Wenn Sie versuchen, den absolut besten Ort zu finden, um ein Lager aufzuschlagen (die maximale Likelihood), müssen Sie wissen, in welche Richtung „oben“ ist und wie steil der Hügel ist. Wenn Sie diesen Hang perfekt berechnen können, können Sie direkt zum Gipfel zoomen. Wenn Sie nur raten müssen, wandern Sie vielleicht lange Zeit im Kreis.

Hier kommt ein neues Werkzeug namens mnorm ins Spiel. Es ist ein Softwarepaket für die Programmiersprache R, das als ultimativer GPS für diese statistischen Hügel konzipiert wurde.

---

Das mnorm-Paket: Ein Schnelleinstieg in statistische Gebirge

Das Paper stellt mnorm vor, ein neues Softwarepaket, das wie ein Hochgeschwindigkeits-Multitool-Rechner für diese komplexen statistischen Berge fungiert. Vor mnorm mussten Forscher andere Werkzeuge verwenden, die entweder langsam waren, keine „bedingten“ Situationen (in denen man bereits bestimmte Fakten kennt) bewältigen konnten oder nicht in der Lage waren, den „Gradienten“ (die Steigung) zu berechnen, der benötigt wird, um schnell die besten Antworten zu finden.

Stellen Sie sich die Berechnung einer Wahrscheinlichkeit wie den Versuch vor, das Volumen einer seltsam geformten, unsichtbaren Wolke zu messen. Wenn die Wolke 2 oder 3 Dimensionen hat, ist es wie das Messen eines Luftballons; wenn sie 10 oder 100 Dimensionen hat, ist es wie der Versuch, eine Wolke zu messen, die in einem Universum mit zusätzlichen Dimensionen existiert. Das mnorm-Paket ist besonders, weil es die Wolke nicht nur misst, sondern auch genau sagen kann, wie sich die Form der Wolke ändern würde, wenn man den Wind, die Temperatur oder den Ausgangspunkt leicht verändert.

Die Superkraft: Analytische Gradienten
Der größte Trick, den mnorm auf Lager hat, ist die Fähigkeit, analytische Gradienten zu berechnen. Auf Deutsch gesagt bedeutet dies, dass das Paket die „Steigung“ der Wahrscheinlichkeitskurve mithilfe exakter mathematischer Formeln berechnen kann, anstatt durch leichtes Verschieben der Zahlen zu raten, was passiert.

Die Autoren führten Simulationen durch, um dies zu testen. Sie fanden heraus, dass die Verwendung dieser exakten Formeln dramatisch schneller war als die Methode des Ratens.

• Für einfache Dichteberechnungen (nur das Messen der Wolke) war mnorm schnell.
• Für die Berechnung von Gradienten (das Finden der Steigung) war der Unterschied gewaltig. In einem Test mit 5 Dimensionen dauerte die Berechnung der Steigung analytisch etwa 0,09 Sekunden, während die „Rate“-Methode (numerische Differenzierung) allein für die erforderliche Mindestanzahl an Versuchen mindestens 0,54 Sekunden benötigt hätte.
• In höheren Dimensionen, wie etwa 10 Dimensionen, dauerte die analytische Methode 3,47 Sekunden für die Steigung, während die Rate-Methode mindestens 4,51 Sekunden benötigt hätte.

Das Paper legt nahe, dass dieser Geschwindigkeitsvorteil ein Game-Changer für Ökonomen ist, die diese Berechnungen Millionen Male durchführen müssen, um Modelle zu erstellen. Es ist der Unterschied zwischen dem Wandern auf einem Berg und dem Fliegen mit einem Hubschrauber.

Umgang mit den „gegebenen“ Teilen
Eine der nützlichsten Funktionen ist die Art und Weise, wie mnorm mit bedingten Daten umgeht. Stellen Sie sich vor, Sie versuchen, die Endnote eines Schülers vorherzusagen. Wenn Sie dessen Zwischenprüfungsergebnis nicht kennen, müssen Sie raten. Aber wenn Sie das Ergebnis der Zwischenprüfung (den „gegebenen“ Teil) kennen, ändert sich die Vorhersage.

mnorm kann die Wahrscheinlichkeit und die Steigung berechnen, gegeben dieses spezifische Zwischenprüfungsergebnis. Das Paper zeigt, dass das Berechnen dieser Steigungen unglaublich schnell geht, da die Mathematik für die „gegebenen“ Teile nur eine einfache Umordnung der Mathematik für die anderen Teile ist. In einem Test mit 5 Variablen, von denen 2 „gegeben“ waren, berechnete das Paket die Steigungen fast augenblicklich, während die Rate-Methode viel langsamer gewesen wäre.

Beschleunigung für das Kleine und das Große
Das Paket glänzt auch in zwei spezifischen Bereichen:

1. Kleine Wolken (2 und 3 Dimensionen): Für diese verwendet mnorm einen cleveren mathematischen Trick namens Gauss-Legendre-Quadratur. Die Autoren verglichen es mit anderen populären Tools und fanden heraus, dass mnorm signifikant schneller war. Beispielsweise dauerte die Berechnung von Wahrscheinlichkeiten für eine 2-dimensionale Wolke mit mnorm 0,57 Sekunden für eine Million Berechnungen, während ein Konkurrent 0,75 Sekunden benötigte. Noch beeindruckender: Als sie die „Multi-Core“-Funktion aktivierten (die Nutzung von 8 Computer-Gehirnen gleichzeitig), sank die Zeit bei mnorm auf 0,16 Sekunden, während der Konkurrent immer noch bei 1,11 Sekunden lag.
2. Riesige Wolken (Hohe Dimensionen): Für Wolken mit 16, 64 oder sogar 512 Dimensionen konkurriert mnorm mit den besten verfügbaren Tools. In Tests mit 512 Dimensionen berechnete mnorm die Wahrscheinlichkeit in 2,54 Sekunden, was mit anderen Top-Tools vergleichbar ist, was beweist, dass es nicht nur bei kleinen Problemen funktioniert.

Nicht-normale Freunde
Das wahre Leben ist nicht immer perfekt normal. Manchmal sind Daten schief oder haben seltsame Ausläufer. mnorm kann dies handhaben, indem es etwas verwendet, das man eine Gaußsche Copula nennt. Denken Sie an dies als einen Übersetzer. Er nimmt seltsame, nicht-normale Daten (wie die Anzahl der Besuche eines Eichhörnchens an einer Futterstelle) und übersetzt sie in die Sprache der Normalverteilung, damit die Mathematik dennoch funktionieren kann. Das Paket kann sogar die Steigungen für die Parameter dieser seltsamen Verteilungen berechnen, was ein Merkmal ist, das nur wenige andere Tools besitzen.

Das Fazit
Das Paper behauptet nicht, ein neues Gesetz des Universums entdeckt zu haben. Stattdessen bietet es ein praktisches, hocheffizientes Werkzeug an. Die Autoren legen nahe, dass Forscher durch die Verwendung von mnorm bessere, schnellere Wirtschaftsmodelle erstellen können. Sie haben durch Simulationen bewiesen, dass ihre Methode schneller als die Alternativen ist, und stellten die exakten mathematischen Formeln (das „Geheimrezept“) zur Verfügung, damit jeder die Arbeit verifizieren kann.

Kurz gesagt: mnorm ist wie die Gabe eines Turbomotors für das Auto eines Statistikers. Es ändert nicht das Ziel, aber es bringt einen in Rekordzeit ans Ziel, inklusive einer klaren Karte des Geländes. Ob man nun mit einem einfachen Zwei-Variablen-Problem oder einem massiven 512-dimensionalen Puzzle zu tun hat, dieses Paket deutet darauf hin, dass es der schnellste Weg ist, die Antwort zu finden.