Order-Induced Variance in the Moving-Range Sigma Estimator: A Total-Variance Decomposition

Dit artikel formaliseert de orde-afhankelijkheid van de schatting van de procesvariantie via de bewegende reeks door een exacte variantie-decompositie in te voeren, waarbij wordt aangetoond dat het bekende efficiëntieverlies bij normaal verdeelde data vrijwel volledig toe te schrijven is aan het 'adjacency'-effect van de volgorde.

De kern

De Verborgen Kosten van de Volgorde: Waarom de "Moving Range" Net Even Minder Precies is

Stel je voor dat je een bak met 20 verschillende appels hebt. Je wilt weten hoe groot de variatie in het gewicht van die appels is. Je hebt twee manieren om dit te doen:

1. De "Alles-in-één" methode: Je pakt elke appel, weegt ze allemaal, en berekent de gemiddelde afwijking van het totaal. Dit is de meest precieze manier.
2. De "Naaste-buren" methode: Je legt de appels in een rij (in willekeurige volgorde) en kijkt alleen naar het gewichtsverschil tussen twee appels die direct naast elkaar liggen. Je doet dit voor de hele rij en neemt het gemiddelde.

Dit tweede idee is wat statistici een Moving Range noemen. Het wordt vaak gebruikt in fabrieken om te controleren of een machine stabiel blijft. Het probleem? De uitkomst hangt af van hoe je de appels in de rij legt.

Het Grote Geheim: Volgorde maakt uit

De auteur van dit artikel, Andrew Karl, ontdekt iets fascinerends: als je dezelfde 20 appels neemt, maar ze in een andere volgorde legt, krijg je een ander antwoord voor de variatie.

Stel je voor dat je een spelletje doet met een deck kaarten.

• Als je de kaarten in volgorde (A, 2, 3...) legt, is het verschil tussen twee naast elkaar liggende kaarten heel klein.
• Als je ze willekeurig door elkaar schudt (A, K, 7, 2...), is het verschil tussen de kaarten vaak veel groter.

De "Moving Range" methode is dus gevoelig voor toeval in de volgorde. Zelfs als de appels (de data) precies hetzelfde zijn, verandert je berekening alleen omdat je ze anders hebt neergezet.

De Oplossing: De "Willekeurige Schud-de-Doos"-Methode

Karl stelt een slimme manier voor om dit probleem te meten. Hij zegt: "Laten we niet alleen kijken naar de ene rij die we hebben, maar laten we de appels duizenden keren willekeurig door elkaar schudden en elke keer de variatie berekenen."

Hij gebruikt een wiskundige truc (de Law of Total Variance) om de totale onzekerheid op te splitsen in twee delen:

1. Het "Appel-deel" (Values): Hoeveel variatie komt er puur door het feit dat de appels zelf verschillende gewichten hebben? Dit deel is eerlijk en onafhankelijk van de volgorde.
2. Het "Rij-deel" (Adjacency): Hoeveel variatie komt er door het toeval van de volgorde? Dit is de "ruis" die ontstaat omdat we alleen naar buren kijken.

De Belangrijkste Ontdekking

Het meest verrassende resultaat is dat bijna 38% van de onzekerheid in deze methode niet komt door de appels zelf, maar puur door het toeval van de rij-indeling!

• De vergelijking: Als je de "Alles-in-één" methode gebruikt, ben je heel efficiënt. Als je de "Naaste-buren" methode gebruikt, ben je ongeveer 40% minder efficiënt.
• De oorzaak: Karl laat zien dat dit verlies in precisie bijna volledig komt door het "Rij-deel". Als je de volgorde zou negeren en gewoon naar alle mogelijke paren zou kijken (een methode die "Gini Mean Difference" heet), zou je veel dichter bij de perfecte meting komen.

Waarom gebruiken we het dan nog steeds?

Je vraagt je misschien af: "Als deze methode zo onnauwkeurig is, waarom gebruiken fabrieken hem dan?"

Het antwoord is: Soms is de volgorde juist het doel.
In een fabriek willen we vaak weten of de machine nu iets raars doet. Als de appels (de metingen) plotseling zwaarder worden, zien we dat direct in de rij. De "Moving Range" is ontworpen om lokale schokken te detecteren.

Maar Karl waarschuwt: We moeten beseffen dat we een prijs betalen voor die lokale focus. Zelfs als de machine perfect stabiel is (alle appels zijn willekeurig), introduceert de manier waarop we naar de buren kijken extra ruis in onze meting.

Samenvatting in één zin

Deze studie laat zien dat de veelgebruikte methode om procesvariatie te meten (Moving Range) ongeveer 40% van zijn onnauwkeurigheid te danken heeft aan het toeval van de volgorde, en niet aan de data zelf; het is alsof je een foto maakt, maar 40% van de wazigheid veroorzaakt wordt door hoe je de camera vasthoudt, niet door het onderwerp.

De les: Als je data analyseert, moet je altijd beseffen hoeveel van je resultaat komt van de waarden zelf en hoeveel van de volgorde waarin ze staan. Soms is die volgorde een waardevol signaal, maar vaak is het gewoon statistische ruis.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Order-Induced Variance in the Moving-Range Sigma Estimator: A Total-Variance Decomposition" van Andrew T. Karl, in het Nederlands.

Probleemstelling

In de statistische procesregeling (SPC) worden $I-MR$-kaarten (Individueel en Bewegend Bereik) veelvuldig gebruikt om de processtandaardafwijking ($\sigma$) te schatten. De gebruikelijke schatter is het gemiddelde bewegend bereik van spanwijdte 2 ($MR(2)$), geschaald met de onbevooroordeelde constante $d_2$.

Hoewel deze schatter onbevooroordeeld is onder i.i.d. (onafhankelijk en identiek verdeeld) normale steekproeven, is hij minder efficiënt dan de schatter gebaseerd op de steekproefstandaardafwijking ($S/c_4$). Een cruciaal, maar vaak onderbelicht, aspect is dat $MR(2)$ afhankelijk is van de volgorde van de data. Omdat $MR(2)$ alleen het verschil tussen opeenvolgende waarnemingen gebruikt, verandert de schatting als dezelfde dataset wordt gepermuteerd (in een andere volgorde wordt gezet), zelfs als de waarden zelf gelijk blijven.

De kernvraag van dit artikel is: hoeveel van de variabiliteit in de $MR$-schatter wordt veroorzaakt door de specifieke volgorde (de "buren"-relaties) versus de waarden zelf? Dit is relevant omdat in de praktijk vaak wordt aangenomen dat data i.i.d. zijn, maar de volgordeafhankelijkheid van de schatter toch bijdraagt aan de steekproeffout.

Methodologie

De auteur introduceert een formele probabilistische raamwerk om deze variabiliteit te ontleden:

1. Randomisatie van de volgorde: Er wordt een onafhankelijke, uniform willekeurige permutatie $\Pi$ geïntroduceerd over de indices van een vaste steekproef $X = (X_1, \dots, X_n)$. De schatter wordt nu gezien als een functie $T(X, \Pi) = MR(X, \Pi) / d_2$.
2. Wet van totale variantie: De auteur past de wet van totale variantie toe op $T(X, \Pi)$. Dit decomposeert de totale variantie in twee componenten:
   $$\text{Var}\{T(X, \Pi)\} = E[\text{Var}\{T(X, \Pi) \mid X\}] + \text{Var}\{E[T(X, \Pi) \mid X]\}$$
   • De Adjacency-component (Buren-component): $E[\text{Var}\{T \mid X\}]$. Dit is de verwachte variantie veroorzaakt door het willekeurig herschikken van de waarden. Het meet hoe gevoelig de schatter is voor de volgorde, gegeven de waarden.
   • De Values-component (Waarden-component): $\text{Var}\{E[T \mid X]\}$. Dit is de variantie van het gemiddelde over alle mogelijke permutaties. Dit component is onafhankelijk van de volgorde en hangt alleen af van de waarden in de steekproef.
3. Analytische afleiding: Onder de aanname van i.i.d. normale verdeling ($N(\mu, \sigma^2)$) worden gesloten vormen (closed-form expressions) afgeleid voor beide componenten. De auteur maakt gebruik van de relatie tussen het gemiddelde over permutaties en de Gini Mean Difference (GMD).

Belangrijkste Bijdragen

1. Exacte Decompositie: Het artikel levert de eerste exacte decompositie van de variantie van de $MR$-schatter in een "waarden"- en een "volgorde"-component.
2. Link met Gini Mean Difference: De auteur bewijst dat het gemiddelde van de schatter over alle mogelijke permutaties ($\bar{T}$) gelijk is aan de steekproef-Gini Mean Difference gedeeld door $d_2$:
   $$\bar{T}(x) = \frac{\text{GMD}(x)}{d_2}$$
   Dit betekent dat het "volgorde-onafhankelijke" deel van de schatter in feite de GMD is, een symmetrische U-statistiek van orde 2.
3. Kwantificering van Efficiency-verlies: De studie toont aan dat het bekende efficiency-verlies van $MR(2)/d_2$ ten opzichte van $S/c_4$ bijna volledig te wijten is aan de volgordeafhankelijkheid (de adjacency-component), en niet aan de waarden zelf.

Resultaten

• De Adjacency Fraction: De auteur definieert de fractie van de totale variantie die toe te schrijven is aan de volgorde:
  $$\text{AdjFrac}(n) = \frac{E[\text{Var}(T \mid X)]}{\text{Var}(T)}$$
  Onder normale verdeling convergeert deze fractie naar een constante waarde wanneer $n \to \infty$:
  $$\lim_{n \to \infty} \text{AdjFrac}(n) \approx 0.3813$$
  Dit betekent dat zelfs bij i.i.d. data, ongeveer 38% van de steekproefvariantie van de $MR$-schatter puur het gevolg is van de willekeurige burenrelaties (de volgorde).

• Efficiëntie-analyse:

  • De asymptotische relative efficiëntie (ARE) van $T$ ten opzichte van $S$ is ongeveer $0.605$.
  • De ARE van de volgorde-onafhankelijke component ($\bar{T}$, oftewel GMD/$d_2$) ten opzichte van $S$ is ongeveer $0.978$.
  • De decompositie toont aan: $\text{ARE}(T, S) \approx \text{ARE}(\bar{T}, S) \times (1 - \text{AdjFrac}(\infty))$.
  • Conclusie: Het efficiency-verlies van $0.605$vs$1.0$wordt voor ongeveer **97$S/c_4$.

• Numerieke Voorbeelden: Tabel 1 in het artikel toont dat voor kleine steekproefgroottes (bijv. $n=4$) de adjacency-fractie lager is (27%), maar snel stijgt naar ~38% bij grotere $n$.

Significantie en Discussie

• Verificatie van Shewharts Inzicht: Het artikel formaliseert een oud inzicht van Walter Shewhart (1939): de informatie-inhoud van een sequentie is niet alleen bepaald door de verdeling van de waarden, maar ook door de volgorde. De analyse maakt kwantitatief inzichtelijk hoeveel "ruis" er door de volgorde wordt geïntroduceerd.
• Interpretatie van $I-MR$ Kaarten: De resultaten bevestigen dat de $MR$-schatter een "lokale" variatiemaat is. De hoge variantie door volgorde is een intrinsieke prijs die betaald wordt voor het meten van lokale fluctuaties.
• Praktische Toepassing:
  • De methode biedt een nieuwe benchmark: door de waarden te randomiseren, kan men de verdeling van de $MR$-schatter onder de hypothese van willekeurige volgorde construeren.
  • Als de waargenomen $MR$-waarde significant lager is dan het gemiddelde van de randomisatie (zoals in het voorbeeld van Cryer en Ryan met positieve autocorrelatie), duidt dit op een "te gladde" reeks (bijv. door drift of cyclische patronen).
  • Als de $MR$-waarde significant hoger is, duidt dit op een "ruwe" reeks.
• Conclusie: Hoewel de volgordeafhankelijkheid van $MR$ in tijdsreeksen vaak gewenst is om lokale veranderingen te detecteren, biedt deze studie inzicht in de statistische kosten daarvan. Het laat zien dat de inefficiëntie van de methode niet inherent is aan de data, maar aan de manier waarop de schatter de data "leest" (via buren).

Kortom, dit artikel levert een wiskundig onderbouwde verklaring voor de beperkte efficiëntie van de Moving-Range schatter en biedt een nieuwe manier om de invloed van data-volgorde op processtatistieken te kwantificeren.