The Marginal Likelihood of two-way tables and Ecological Inference

Technisches Resümee: Die Randwahrscheinlichkeit von Zweier-Tabellen und ökologische Inferenz

Problemstellung
Die Arbeit befasst sich mit der grundlegenden statistischen Herausforderung, die Assoziationsstruktur (speziell die bedingten Zeilenverteilungen) einer Zweier-Kontingenztafel abzuleiten, wenn nur die Zeilen- und Spaltenrandsummen beobachtet werden. Dieses Problem ist zentral für die ökologische Inferenz (Ecological Inference), eine Methodik, die zur Schätzung individueller Verhaltensweisen (z. B. Wählerwechsel zwischen Wahlen) aus aggregierten Daten (z. B. Wahllokalergebnisse) verwendet wird, bei denen die individuellen gemeinsamen Entscheidungen aufgrund des Wahlgeheimnisses nicht beobachtbar sind.

Die Arbeit untersucht zwei verschiedene Szenarien:

1. Einzelne Tabelle: Ableitung bedingter Wahrscheinlichkeiten aus den Randwerten einer einzelnen $R \times C$-Tabelle.
2. Sammlung von Tabellen: Ableitung eines gemeinsamen Satzes von bedingten Zeilenverteilungen über eine Sammlung von $s$ Tabellen (lokale Einheiten), die dieselbe Assoziationsstruktur, aber unterschiedliche Randsummen aufweisen.

Methodik und theoretischer Rahmen

1. Der Fall der einzelnen Tabelle ($R \times C$)
Der Autor verallgemeinert die Arbeit von Plackett (1977) zu $2 \times 2$-Tabellen auf allgemeine $R \times C$-Tabellen. Die Analyse konzentriert sich auf die Randwahrscheinlichkeit (marginal likelihood) unter multinomialer Stichprobenziehung.

• Parametrisierung: Bedingte Zeilenwahrscheinlichkeiten werden mittels Logits ($\phi_j$) und Log-Odds-Ratios ($\lambda_{ij}$) relativ zu einer Basis-Kategorie parametrisiert.
• Likelihood-Gleichungen: Die Arbeit leitet die Likelihood-Gleichungen her und zeigt, dass Standard-unbeschränkte Schätzer ($\hat{p}_{j|i} = n_{ij}/n_{i0}$) zwar die Randbedingungen erfüllen, aber die Bedingungen der bedingten Erwartungswerte ($M_{ij} = n_{i0}p_{j|i}$) für die beobachtete Tabelle nicht erfüllen.
• Extreme Tabellen: Der zentrale theoretische Beitrag betrifft das Konzept der Extremen Tabellen. Dies sind Häufigkeitstabellen, die durch spezifische Permutationen von Zeilen- und Spaltenkategorien (Algorithmus 1) konstruiert werden und die oberen Schrankzen der Fréchet-Klasse von Verteilungen mit gegebenen Randwerten darstellen.
  • Das Papier definiert eine Sequenz von Wahrscheinlichkeitsverteilungen $P(Z, \epsilon)$, die einer extremen Tabelle $Z$ konvergieren, wenn $\epsilon \to 0$.
  • In diesem Grenzwert divergieren die nicht-null Log-Odds-Ratios gegen $+\infty$ (oder $2\xi$), was die stärkstmögliche positive Assoziation innerhalb der Fréchet-Klasse erzeugt.
• Lokale Maxima: Es wird bewiesen, dass diese Grenzwertverteilungen die Likelihood-Gleichungen erfüllen, was bedeutet, dass die Randwahrscheinlichkeit eine Sammlung von lokalen Maxima besitzt, die bei diesen extremen Tabellen erreicht werden.

2. Der Fall der Sammlung von Tabellen
In Anerkennung dessen, dass die Inferenz aus einer einzelnen Tabelle im Wesentlichen unmöglich ist (da die Likelihood bei pathologischen extremen Assoziationen maximiert wird), verlagert die Arbeit den Fokus auf eine Sammlung von $s$ Tabellen, die dieselben bedingten Zeilenwahrscheinlichkeiten teilen.

• Konstruktion der Likelihood: Die exakte multinomiale Randwahrscheinlichkeit wird für die Sammlung formuliert, wobei über alle möglichen Tabellen $N_h$ summiert werden muss, die mit den beobachteten Randwerten jeder Einheit $h$ kompatibel sind.
• Fisher-Scoring-Algorithmus: Um diese komplexe Likelihood zu maximieren, schlägt der Autor einen effizienten Fisher-Scoring-Algorithmus vor.
  • Anstatt der erwarteten Informationsmatrix (die schwer zu berechnen ist), nutzt die Methode eine empirische Informationsmatrix, die aus Score-Vektoren abgeleitet wird.
  • Die Score-Vektoren werden unter Verwendung bedingter Erwartungswerte ($M_{hij}$) unter der erweiterten hypergeometrischen Verteilung berechnet.
  • Eine notwendige Bedingung für die Identifizierbarkeit wird hergestellt: Die Anzahl der lokalen Einheiten $s$ muss mindestens $R(C-1)$ betragen (unter der Annahme nicht-degenerater Daten).

Wesentliche Ergebnisse

1. Inkonsistenz des Single-Table MLE
Das Papier zeigt auf, dass die Maximum-Likelihood-Schätzer (MLE) für eine einzelne Tabelle inkonsistent sind.

• Mit zunehmender Stichprobengröße wird das globale Maximum der Likelihood an einer der extremen Tabellen erreicht.
• Diese extremen Tabellen entsprechen Verteilungen mit der stärkstmöglichen positiven Assoziation (nach geeigneter Permutation), welche die wahre zugrunde liegende Assoziationsstruktur im Allgemeinen nicht widerspiegeln.
• Folglich liefert die Likelihood-basierte Inferenz auf einer einzelnen Tabelle „unentschiedene“ oder irreführende Ergebnisse, was Placketts frühere Befunde für $2 \times 2$-Fälle bestätigt.

2. Leistung des vorgeschlagenen Algorithmus
Es wurde eine Simulationsstudie mit $s=60$ lokalen Einheiten, $R=C=3$ und $n=40$ Beobachtungen pro Einheit durchgeführt. Der vorgeschlagene Fisher-Scoring-Algorithmus (Exact Likelihood) wurde verglichen mit:

• Goodmans linearer Regressionsmethode (1953).
• Der modifizierten Methode von Brown und Payne (2009).

Ergebnisse:

• Die Exact Likelihood Methode lieferte Schätzer ($\hat{\Pi}$), die dem wahren Generierungsmechanismus ($\Pi$) am nächsten kamen, mit einem mittleren quadratischen Fehler ($M_e$) von 0,0537.
• Die modifizierte Brown-und-Payne-Methode lieferte $M_e = 0,0549$.
• Goodmans Methode lieferte $M_e = 0,0551$.
• Die Ergebnisse deuten darauf hin, dass die vorgeschlagene Methode zwar theoretisch überlegen ist, der Leistungsunterschied zu etablierten Methoden in dieser spezifischen Simulation jedoch moderat war. Der Autor stellt fest, dass Goodmans Methode trotz ihrer Einschränkungen (z. B. potenzielle Wahrscheinlichkeiten außerhalb von $[0,1]$) überraschend gut funktioniert.

3. Rechenkomplexität
Das Papier hebt einen signifikanten Engpass bei der Berechnung hervor: die Konstruktion und Speicherung der Sammlung aller kompatiblen Tabellen ($N_h$) für jede lokale Einheit.

• Für eine $3 \times 3$-Tabelle wächst die Größe von $N_h$ rapide mit der Stichprobengröße $n$ (ca. $10^5$ Tabellen für $n=100$, $>10^6$ für $n=200$).
• Der Autor merkt an, dass die Anwendung dieser Methode auf reale elektoralen Daten (bei denen Wahllokale oft ein $n \approx 800$ haben) derzeit ohne Approximationen oder Strategien zur Teilmengenwahl nicht praktikabel ist.

Bedeutung und Ansprüche
Das Papier beansprucht, Folgendes bereitgestellt zu haben:

1. Geometische Einsicht: Eine Klärung der Geometrie der Sammlung von Tabellen mit festen Randwerten, insbesondere die Identifizierung, dass lokale Maxima der Randwahrscheinlichkeit zu extremen Tabellen mit divergierenden Log-Odds-Ratios führen.
2. Theoretische Klärung: Ein Beweis, dass der MLE für eine einzelne Tabelle inkonsistent ist, was erklärt, warum die Standard-Likelihood-Inferenz in Kontexten der ökologischen Inferenz ohne zusätzliche Annahmen oder Daten fehlschlägt.
3. Algorithmischer Beitrag: Ein effizienter Fisher-Scoring-Algorithmus zur Maximierung der exakten multinomialen Likelihood, wenn Daten aus mehreren lokalen Einheiten verfügbar sind.
4. Empirische Validierung: Belege dafür, dass der Exact-Likelihood-Ansatz Schätzer liefert, die der Wahrheit näher liegen als bestehende Methoden, wenngleich der praktische Vorteil in kleinen Simulationen marginal ist.

Der Autor kommt zu dem Schluss, dass die exakte Methode zwar theoretisch robust ist, ihre Anwendung auf groß angelegte reale Daten jedoch derzeit durch rechnerische Einschränkungen begrenzt ist, was auf die Notwendigkeit zukünftiger Arbeiten zur Erstellung aussagekräftiger Teilmengen der Tabellensammlung zur Approximation der Score- und Informationsmatrizen hindeutet.