A simple tool for weighted averaging of inconsistent data sets

Dieses Paper stellt eine robuste, auf der Bayes-Statistik basierende Methode zur gewichteten Mittelung inkonsistenter Datensätze vor, die Ausreißer besser handhabt als der Standardansatz, und demonstriert deren Wirksamkeit an kritischen physikalischen Daten sowie durch eine bereitgestellte Python-Bibliothek.

Das Wesentliche

🧱 Das Problem: Wenn Messungen nicht übereinstimmen

Stell dir vor, du möchtest die genaue Höhe eines Berges herausfinden. Du fragst fünf verschiedene Wanderer, die alle mit einem eigenen Höhenmesser ausgestattet sind.

• Wanderer A sagt: „1000 Meter (Fehler: ±10 Meter)".
• Wanderer B sagt: „1010 Meter (Fehler: ±10 Meter)".
• Wanderer C sagt: „990 Meter (Fehler: ±10 Meter)".
• Wanderer D sagt: „1005 Meter (Fehler: ±10 Meter)".
• Wanderer E sagt: „1500 Meter (Fehler: ±10 Meter)".

Das ist das Problem, das die Wissenschaftler in diesem Papier untersuchen: Inkonsistente Daten. Oft stimmen Messungen nicht perfekt überein. Entweder liegt ein Wanderer einfach falsch (ein „Ausreißer"), oder die Messgeräte haben unbekannte Probleme, die in der angegebenen Fehlerangabe nicht enthalten sind.

⚖️ Die alte Methode: Der „Standard-Durchschnitt"

Bisher haben Wissenschaftler meist eine sehr einfache Formel benutzt: den gewichteten Durchschnitt.
Das Prinzip ist simpel: Wer eine kleine Fehlerangabe hat, wird mehr gewichtet als jemand mit einer großen Fehlerangabe.

Das Problem dabei:
Wenn einer der Wanderer (Wanderer E) plötzlich 1500 Meter sagt, aber behauptet, er sei nur 10 Meter ungenau, dann zieht die alte Formel den Durchschnitt massiv in die Höhe. Die Formel glaubt blindlings der kleinen Fehlerangabe von Wanderer E, obwohl die anderen vier Wanderer sich alle um 1000 Meter herum versammeln.
Die alte Methode ignoriert die Tatsache, dass die Daten „verstreut" sind. Sie sagt im Grunde: „Alles ist perfekt, wir vertrauen den Zahlen."

🛡️ Die neue Methode: Der „konservative Bayesianische Ansatz"

Die Autoren dieses Papers (Trassinelli und Maxton) schlagen eine neue Methode vor, die auf einer Idee von Sivia (1996) basiert. Sie nennen es den Jeffreys'-Prior oder die konservative Methode.

Hier ist die Idee in einer Analogie:

Stell dir vor, die angegebene Fehlergrenze (z. B. ±10 Meter) ist nicht die wahre Grenze, sondern nur eine Untergrenze.

• Die alte Methode denkt: „Der Fehler ist genau 10 Meter."
• Die neue Methode denkt: „Der Fehler ist mindestens 10 Meter, könnte aber auch 50 oder 100 Meter sein, wenn etwas schiefgelaufen ist."

Der „Flügel"-Effekt (Die Analogie)

Stell dir die Wahrscheinlichkeit, dass eine Messung stimmt, wie eine Glocke vor dir vor.

• Bei der alten Methode (Gaußsche Glocke): Die Glocke ist sehr steil und schmal. Wenn eine Messung weit weg ist (wie der 1500-Meter-Wanderer), wird sie als extrem unwahrscheinlich abgetan, aber sie verzerrt trotzdem das Ergebnis, weil die Glocke so steil ist.
• Bei der neuen Methode: Die Glocke hat lange, sanft abfallende Flügel.
  • Wenn alle Wanderer bei 1000 Meter sind, sieht die neue Glocke fast genauso aus wie die alte.
  • Wenn aber einer bei 1500 Meter steht, sagt die neue Methode: „Okay, dieser Wanderer ist weit weg. Aber da unsere Glocke lange Flügel hat, ist es nicht unmöglich, dass er recht hat, nur sehr unwahrscheinlich."
  • Der Clou: Die lange Glocke lässt den Ausreißer zu, ohne ihn zu ignorieren, aber sie lässt ihn auch nicht den ganzen Durchschnitt kaputt machen. Sie „verzeiht" dem Ausreißer mehr, als die alte Methode es tun würde.

🧪 Was haben die Autoren getestet?

Um zu beweisen, dass ihre Methode funktioniert, haben sie drei Dinge getestet:

1. Simulierte Daten: Sie haben Computerprogramme laufen lassen, die zufällige Zahlen erzeugten. Mal waren alle Zahlen gut, mal gab es einen verrückten Ausreißer.

   • Ergebnis: Die alte Methode wurde von Ausreißern komplett in die Irre geführt. Die neue Methode blieb ruhig und landete immer noch nah am wahren Wert.

2. Die Schwerkraft (Newton'sche Konstante): Das ist eine der schwierigsten Messungen in der Physik. Verschiedene Labore messen die Schwerkraft, kommen aber auf leicht unterschiedliche Werte.

   • Ergebnis: Die neue Methode ergab einen Wert, der viel näher an den offiziellen Empfehlungen lag als die alte Methode, und gab eine ehrlichere Unsicherheit an.

3. Teilchenphysik (Protonenradius): Hier gab es einen berühmten Streit („Protonenradius-Rätsel"). Ein Experiment mit „muonischem Wasserstoff" ergab einen völlig anderen Wert als alle anderen.

   • Ergebnis: Die neue Methode zeigte, dass die Daten nicht einfach einen einzigen Durchschnittswert haben. Stattdessen zeigte sie zwei „Hügel" in der Wahrscheinlichkeitsverteilung. Das ist wichtig! Es sagt den Wissenschaftlern: „Hey, hier gibt es zwei verschiedene Möglichkeiten, die beide plausibel sind. Nimm nicht einfach einen Durchschnitt, sondern schau dir beide Möglichkeiten an."

🛠️ Das Werkzeug: Eine Python-Bibliothek

Da diese neue Methode mathematisch etwas komplizierter ist (man kann sie nicht mehr mit einem Taschenrechner in 5 Sekunden ausrechnen, sondern braucht einen Computer), haben die Autoren eine kostenlose Python-Bibliothek („bayesian_average") erstellt.
Das ist wie eine fertige App, die jeder Wissenschaftler installieren kann, um diese robuste Methode einfach anzuwenden, ohne die ganze Mathematik selbst verstehen zu müssen.

🎯 Fazit in einem Satz

Wenn Daten nicht übereinstimmen, ist die alte Methode oft zu blind und vertraut zu sehr auf die angegebenen Fehler. Die neue Methode ist wie ein weiser Richter: Sie nimmt die Fehlerangaben ernst, denkt aber auch an unbekannte Probleme („Was, wenn der Fehler größer ist als angegeben?"), ignoriert verrückte Ausreißer nicht einfach, lässt sie aber auch nicht das ganze Urteil verzerren.

Kurz gesagt: Sie macht die Wissenschaft robuster gegen Fehler und verrückte Messwerte, ohne die Mathematik zu sehr zu verkomplizieren.

Technische Zusammenfassung

Technische Zusammenfassung: Ein einfaches Werkzeug für die gewichtete Mittelung inkonsistenter Datensätze

Autoren: M. Trassinelli und M. Maxton
Institution: Institut des NanoSciences de Paris, CNRS, Sorbonne Université
Datum: 13. November 2025

---

1. Problemstellung

Die Kombination unabhängiger Messungen desselben physikalischen Größenwerts ist eine fundamentale Aufgabe in der Wissenschaft. Der Standardansatz ist die gewichtete Mittelung nach der inversen Varianz (Standard Weighted Average), bei der die Gewichte proportional zu $1/\sigma_i^2$ sind.

Das Hauptproblem dieses Standardverfahrens tritt auf, wenn die Datensätze inkonsistent sind (d. h., die Streuung der Messwerte ist größer als die angegebenen Unsicherheiten $\sigma_i$). Dies ist häufig auf unkontrollierte systematische Fehler oder unterschiedliche Verzerrungen in verschiedenen Labors zurückzuführen.

• Nachteil des Standards: Die resultierende Unsicherheit hängt nur von den angegebenen Unsicherheiten ab, nicht von der tatsächlichen Streuung der Daten.
• Gängige Alternativen: Methoden wie der Birge-Ratio-Ansatz skalieren die Unsicherheiten künstlich auf, um den $\chi^2$-Wert auf 1 zu bringen. Dies ist jedoch oft nicht geeignet, wenn verschiedene systematische Fehler vorliegen, da eine globale Skalierungsfaktor-Annahme getroffen wird. Andere Methoden erfordern komplexe Annahmen über Bias-Verteilungen oder zusätzliche Parameter.

2. Methodik

Die Autoren diskutieren und implementieren eine Methode, die ursprünglich von Sivia (1996) und später von Sivia & Skilling basierend auf der Bayesschen Statistik entwickelt wurde. Der Kernansatz besteht darin, die angegebene Unsicherheit $\sigma_i$ nicht als exakten Wert, sondern als untere Schranke der wahren, unbekannten Unsicherheit $\sigma'_i$ zu betrachten.

Ableitung und Wahrscheinlichkeitsverteilung:

• Anstatt eine Gauß-Verteilung für jeden Datenpunkt anzunehmen, wird über die wahre Unsicherheit $\sigma'_i$ marginalisiert.
• Es wird eine Jeffreys-Prior-Verteilung für $\sigma'_i$ verwendet (eine nicht-informative Prior, die invariant gegenüber Parametrisierungen ist).
• Durch diese Marginalisierung entsteht eine neue Likelihood-Funktion, die keine Gauß-Verteilung mehr ist, sondern schwere Schwänze (heavy tails) aufweist.
  • Im "konservativen" Ansatz (Sivia & Skilling) fallen die Schwänze proportional zu $1/x^2$ ab.
  • Im "Jeffreys'-Prior"-Ansatz (Limitfall $\sigma_{max} \to \infty$) fallen die Schwänze noch langsamer ab (proportional zu $1/x$), was eine noch robustere Behandlung von Ausreißern ermöglicht.
• Da die resultierende Verteilung keine analytische Lösung für den Mittelwert $\hat{\mu}$ und die Unsicherheit $\sigma_{\hat{\mu}}$ zulässt, müssen diese Werte numerisch bestimmt werden (Maximierung der Likelihood).

3. Wichtige Beiträge

1. Robuste Methode: Einführung einer gewichteten Mittelung, die automatisch mit inkonsistenten Daten und Ausreißern umgeht, ohne dass manuelle Ausreißer-Entfernung oder willkürliche Skalierungsfaktoren (wie beim Birge-Ratio) nötig sind.
2. Minimale Annahmen: Das Verfahren benötigt keine komplexen Hypothesen über die Natur der systematischen Fehler oder gemeinsame Bias-Verteilungen. Jeder Datenpunkt wird unabhängig behandelt.
3. Software-Tool: Bereitstellung einer frei verfügbaren Python-Bibliothek (bayesian_average), die die Implementierung dieser Methode für den Alltag vereinfacht. Die Bibliothek unterstützt auch den Vergleich mit dem Standardverfahren und dem Birge-Ratio-Ansatz.
4. Visualisierung: Das Tool ermöglicht die Darstellung der finalen Likelihood-Verteilungen, was entscheidend ist, um Multimodalität oder starke Asymmetrien zu erkennen, die ein einfacher Mittelwert verdecken würde.

4. Ergebnisse und Anwendungen

Die Methode wurde an drei verschiedenen Datensätzen getestet:

• A. Simulierte Daten:

  • Bei konsistenten Daten liefern alle Methoden ähnliche Mittelwerte, wobei die Jeffreys-Methode eine etwas größere (konservativere) Unsicherheit liefert.
  • Bei inkonsistenten Daten (mit zufälligem Bias) oder bei Vorhandensein von Ausreißern (5$\sigma$-Abweichung) liefert das Standardverfahren stark verzerrte Mittelwerte und unterschätzte Unsicherheiten.
  • Die Jeffreys-Methode bleibt robust: Der Mittelwert bleibt nahe am wahren Wert, und die Unsicherheit wird entsprechend erhöht, um die Inkonsistenz widerzuspiegeln.

• B. Newtonsche Gravitationskonstante ($G$):

  • Analyse der CODATA-Empfehlungen (1969–2022).
  • Im Fall der CODATA 1998-Edition, die durch einen extrem präzisen, aber fehlerhaften Ausreißer geprägt war, lieferte das Standardverfahren einen Wert, der weit vom späteren Konsens entfernt lag.
  • Die Jeffreys-Methode reproduzierte den korrekten Wert (nahe dem CODATA 2018/2022-Wert) mit einer plausiblen Unsicherheit, ohne den Ausreißer manuell ausschließen zu müssen.

• C. Teilcheneigenschaften (Particle Data Group - PDG):

  • Vergleich mit offiziellen PDG-Werten für verschiedene Teilchen (z. B. Neutronenlebensdauer, Kaon-Masse).
  • In den meisten Fällen stimmen die Ergebnisse gut mit den PDG-Werten überein, jedoch mit etwas größeren Unsicherheiten.
  • Wichtiger Befund: Bei komplexen Fällen (z. B. Protonenladungsradius) zeigt die resultierende Likelihood-Verteilung Multimodalität (zwei ausgeprägte Peaks). In solchen Fällen ist ein einzelner gewichteter Mittelwert irreführend. Die Methode macht diese Mehrdeutigkeit sichtbar, was eine kritische Bewertung durch Experten erfordert.

5. Bedeutung und Fazit

Das Paper stellt eine robuste Alternative zum Standardverfahren der inversen Varianz dar, insbesondere für Szenarien mit inkonsistenten Daten oder unbekannten systematischen Fehlern.

• Vorteil: Die Methode ist "pessimistisch" (konservativ), indem sie annimmt, dass die angegebenen Unsicherheiten nur Untergrenzen sind. Dies führt zu realistischeren Unsicherheitsabschätzungen.
• Einschränkung: Da die Verteilungen oft nicht-gaußsch, asymmetrisch oder multimodal sein können, sollte das Ergebnis nicht nur als ein einzelner Mittelwert $\pm$ Unsicherheit betrachtet werden. Stattdessen sollte die gesamte Wahrscheinlichkeitsverteilung zur weiteren Inferenz herangezogen werden.
• Praxis: Die Autoren betonen, dass diese Methode kein Ersatz für kritische Expertenurteile ist, sondern ein wertvolles Werkzeug, um inkonsistente Daten objektiv zu verarbeiten und die Notwendigkeit einer tiefergehenden Analyse (z. B. bei Multimodalität) aufzuzeigen.

Die bereitgestellte Python-Bibliothek macht diese fortgeschrittene statistische Methode für ein breites wissenschaftliches Publikum zugänglich und fördert transparente Datenanalysen.