🔢 mathematics

Dekker's floating point number system and compensated summation algorithms

Dit artikel analyseert en verduidelijkt compensatie-algoritmen voor optelling, gebaseerd op Dekkers niet-unieke zwevendekommasysteem, om de nauwkeurigheid van berekeningen te verbeteren in de context van hardware met verminderde precisie.

Oorspronkelijke auteurs: Longfei Gao, Frimpong Baidoo

Gepubliceerd 2026-02-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Longfei Gao, Frimpong Baidoo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Rekenmachine die niet vergeten kan wat hij heeft afgerond

Stel je voor dat je een enorme stapel munten telt. Je hebt een rekenmachine, maar deze is een beetje "lui" of "kortzichtig". Hij kan alleen getallen tot een bepaalde grootte precies zien. Als je een enorme berg munten (een groot getal) hebt en je voegt er één enkele munt (een heel klein getal) aan toe, ziet de rekenmachine de kleine munt niet eens. Hij denkt: "Oh, dat is te klein, dat doet er niet toe," en hij gooit de kleine munt gewoon weg.

In de wereld van computers heet dit afkappen of ** afronden**. Omdat moderne computers (vooral die voor kunstmatige intelligentie) steeds sneller worden door minder precieze rekenmachines te gebruiken, wordt dit probleem groter. Ze vergeten steeds meer kleine details, wat leidt tot fouten in complexe berekeningen.

De auteurs van dit papier, Longfei Gao en Frimpong Baidoo, hebben een oplossing bedacht: Compensatie.

1. Het Probleem: De "Vergeten" Munt

Stel je voor dat je een lange rij getallen optelt.

Je begint met een groot getal: 1.000.000.
Je voegt er een klein getal aan toe: 0,000001.
De rekenmachine zegt: "1.000.000". De kleine munt is verdwenen.
Als je dit duizenden keren doet, stapelen de "vergeten" kleine muntjes zich op tot een gigantische fout.

Normaal gesproken zou je denken: "Oké, gebruik dan een duurdere, preciezere rekenmachine." Maar dat kost veel energie en tijd. De auteurs zeggen: "Nee, laten we de goedkope rekenmachine slim maken."

2. De Oplossing: De "Boodschappenlijst" (Compensatie)

De kern van hun idee is een techniek die ze Error Free Transformation noemen. Laten we dit vergelijken met een boodschappenlijstje.

Stel je voor dat je in een supermarkt bent (de rekenmachine). Je koopt een dure TV (het grote getal) en een kauwgom (het kleine getal). De kassa (de rekenmachine) zegt: "Dat wordt 1000 euro." De kauwgom is verdwenen in de berekening.

Maar de slimme kassamedewerker (het algoritme) doet het volgende:

Hij rekent de totale som uit: 1000.
Hij rekent terug: "Hoeveel heb ik betaald voor de TV?" (1000).
Hij trekt dat af van de totale som: 1000 - 1000 = 0.
Wacht even, de kauwgom was er toch? Ah, de kassa heeft hem vergeten. De medewerker schrijft op een losse post-it (een extra variabele): "Ik heb 0,000001 vergeten."

Bij de volgende aankoop (het volgende getal) pakt de medewerker die post-it, voegt de vergeten kauwgom toe aan de nieuwe aankoop, en probeert het opnieuw. Zo wordt de "vergeten" munt nooit echt weggegooid; hij wordt bewaard en later weer gebruikt.

3. De Twee Methoden: De "3-staps" en de "6-staps"

De auteurs kijken naar twee manieren om dit te doen, gebaseerd op het werk van een man genaamd Dekker (uit de jaren '60).

De 3-staps methode (Kahan's algoritme): Dit is de klassieke manier. Je houdt één "post-it" bij. Het werkt goed, maar soms is het niet genoeg als de getallen heel erg verschillend in grootte zijn.
De 6-staps methode (De nieuwe, slimme versie): Dit is wat de auteurs in dit papier verder onderzoeken. Ze gebruiken twee post-its in plaats van één. Ze splitsen de "vergeten" details nog fijner op.
- Vergelijking: Stel je voor dat je een bak met water (het grote getal) hebt en je gooit een druppel erin. De 3-staps methode houdt de druppel in een klein bekertje. De 6-staps methode houdt de druppel in een bekertje én een pipet. Het is extra voorzichtig.

4. Waarom is dit belangrijk? (De "Figuur-8" Baan)

Het papier toont aan dat deze slimme methoden niet alleen theoretisch leuk zijn, maar ook in de praktijk wonderen doen.

Ze hebben een simulatie gedaan van drie planeten die om elkaar draaien in een prachtige acht-vormige baan (een figuur-8).

Zonder compensatie: Door de kleine rekenfouten die zich stapelen, beginnen de planeten na verloop van tijd uit de baan te raken. Ze vliegen de verkeerde kant op. Het is alsof je een balletje laat rollen op een helling, maar door trillingen (fouten) het balletje ineens de lucht in schiet.
Met compensatie: De planeten blijven precies in de figuur-8-baan, zelfs na duizenden rondjes. De "vergeten" details worden zo goed bewaard dat het alsof je een superduurzame, hyper-precieze rekenmachine gebruikt, terwijl je eigenlijk een goedkope gebruikt.

5. Het Grote Geheim: Dekker's "Dubbelzinnige" Wereld

Om dit allemaal wiskundig te bewijzen, gebruiken de auteurs een speciaal systeem van Dekker.

De vergelijking: In onze normale wereld (IEEE-standaard) heeft elk getal één naam. Het getal 5 is altijd 5.
In Dekker's wereld mag een getal meerdere namen hebben. Het getal 5 kan ook "4 + 1" heten, of "3 + 2".
Waarom is dit handig? Het is alsof je in plaats van één strakke weg, een netwerk van wegen hebt. Als je vastloopt op de ene weg (een fout), kun je direct overstappen op een andere weg (een andere representatie) om je berekening af te maken. Dit maakt het voor de wiskundigen veel makkelijker om te bewijzen dat hun algoritmes altijd werken, zelfs bij de raarste situaties.

Conclusie: Slimmer Rekenen, niet Harder

De boodschap van dit papier is simpel:
We hoeven niet altijd duurdere hardware te kopen om preciezer te rekenen. Door slimme software-algoritmen te gebruiken die "vergeten" details opvangen en bewaren, kunnen we met bestaande, snelle (maar minder precieze) hardware resultaten bereiken alsof we een machine hebben die twee keer zo nauwkeurig is.

Het is alsof je met een oude, goedkope fiets toch de Tour de France kunt winnen, zolang je maar een slimme navigatie hebt die elke hobbel opvangt.

Titel: Dekker's drijvende-kommamachtsysteem en gecompenseerde sommatie-algoritmen

Auteurs: Longfei Gao (Argonne National Laboratory) en Frimpong Baidoo (Oden Institute, UT Austin).

1. Probleemstelling

De recente trend in hardware naar rekenen met verminderde precisie (bijv. voor AI en ML-toepassingen) heeft de behoefte aan numerieke technieken versterkt om de nauwkeurigheid van drijvende-kommabewerkingen te verbeteren, vooral bovenop wat de hardware natief ondersteunt.

Kernprobleem: Bij het optellen van een reeks getallen (recursieve sommatie) hopen zich afrondingsfouten op. Dit is vooral kritiek wanneer de te sommeren termen (addenden) niet van tevoren bekend zijn of dynamisch gegenereerd worden (bijv. in ODE/PDE-simulaties).
Bestaande beperkingen: Klassieke foutanalyse is vaak onhandig, vatbaar voor fouten en focust slechts op de leidende orde-termen. Bestaande gecompenseerde methoden (zoals Kahan's sommatie) zijn beperkt in hun analyse en prestaties, vooral bij complexe scenario's of wanneer subnormale getallen betrokken zijn.

2. Methodologie

De auteurs gebruiken een fundamentele theoretische benadering gebaseerd op het werk van Dekker, maar vullen hierin belangrijke ontbrekende details en bewijzen aan.

Dekker's Drijvende-Kommamachtsysteem:
- In plaats van het strikte IEEE-754 systeem (waarbij elke waarde een unieke representatie heeft), gebruiken de auteurs Dekker's systeem. Hierin mag een getal meerdere representaties hebben (bijvoorbeeld door verschillende exponenten).
- Voordeel: Dit maakt de wiskundige analyse aanzienlijk eenvoudiger en generaliseerbaar. Het systeem omvat zowel normale als subnormale getallen op een natuurlijke manier zonder speciale uitzonderingen.
- De auteurs bewijzen dat Dekker's systeem en het "proto-IEEE" systeem (IEEE zonder Inf/NaN) dezelfde verzameling getallen bevatten, waardoor de resultaten direct toepasbaar zijn op standaard hardware.
Error Free Transformations (EFT):
- De kern van de methode is het gebruik van EFT's voor optelling. Een EFT berekent de som $z = x + y$ en de bijbehorende afrondingsfout $zz$ zodanig dat $z + zz = x + y$ exact geldt in de wiskunde.
- Twee versies worden geanalyseerd en rigoureus bewezen:
  1. 3op-versie: Vereist een specifieke volgorde van de operanden ( $|x| \ge |y|$ ).
  2. 6op-versie: Werkt voor elke combinatie van getallen, ongeacht de grootteorde, en is robuuster.
Analyse van Gecompenseerde Sommatie:
- De auteurs analyseren verschillende algoritmen voor recursieve sommatie (Algoritme 1 t/m 5).
- Ze leiden recursieve relaties af die de foutpropagatie tussen opeenvolgende stappen beschrijven. Dit stelt hen in staat om de specifieke bewerking te identificeren die de nauwkeurigheid beperkt (de "bottleneck").
- Op basis hiervan worden geavanceerdere algoritmen ontworpen die deze bottlenecks elimineren.

3. Belangrijkste Bijdragen

Rigoureuze Bewijzen voor Dekker's Systeem: Het artikel vult gaten in Dekker's originele werk (1971) door ontbrekende details en formele bewijzen te leveren voor lemmata over afronding en optelling, inclusief de behandeling van subnormale getallen.
Volledige Foutanalyse: In tegenstelling tot eerdere werken die alleen de leidende orde-termen volgen, bieden de auteurs een complete beschrijving van het foutgedrag van gecompenseerde sommatie-algoritmen.
Ontwikkeling van Geavanceerde Algoritmen:
- Algoritme 3 (6op-compensatie): Een verbetering van Kahan's methode die geen volgorde-eis heeft.
- Algoritme 4 (Dubbele 6op-compensatie): Compenseert ook de fouten die ontstaan bij het optellen van de fouttermen zelf, wat leidt tot een nauwkeurigheid alsof er met een datatype met dubbel zoveel mantisse-bits wordt gerekend.
- Algoritme 5 (Tripel 6op-compensatie): Geïnspireerd op Priest's werk, maar zonder de noodzaak om de addenden te sorteren op grootte, wat cruciaal is voor dynamische simulaties.
Validatie van Computersystemen: De afgeleide scherpe foutgrenzen kunnen worden gebruikt om hardware en software te valideren; afwijkingen van deze grenzen kunnen wijzen op hardware-defecten of softwarebugs.

4. Resultaten

De auteurs onderbouwen hun theorie met numerieke voorbeelden:

Pedagogische Voorbeelden: Demonstreren hoe de algoritmen fouten "opvangen" die bij standaard sommatie verloren gaan (bijv. wanneer kleine getallen worden opgeteld bij grote getallen).
Accumulatie van Willekeurige Getallen:
- Vergelijkingen tonen aan dat Algoritme 4 (dubbele 6op) in enkele precisie (single precision) een nauwkeurigheid bereikt die vergelijkbaar is met standaard dubbele precisie (double precision).
- De foutgrenzen voor Algoritme 4 zijn vele ordes van grootte kleiner dan voor niet-gecompenseerde methoden (bijv. $10^{-14}$ vs $10^{-7}$ bij $n=2^{20}$ ).
Dynamische Systemen (Drie-lichamenprobleem):
- Simulatie van een periodieke "acht-vormige" baan in een drie-lichamenprobleem.
- Zonder compensatie devieert de baan snel door afrondingsfouten.
- Met 6op-compensatie (Algoritme 3) en dubbele compensatie (Algoritme 4) blijft de baan over 10.000 periodes stabiel.
- Inzicht: Hoewel de accumulatiefouten worden geminimaliseerd, wordt de totale nauwkeurigheid uiteindelijk beperkt door andere bronnen van fouten (zoals het evalueren van de versnelling), wat aantoont dat de sommatie niet langer de bottleneck is.

5. Significance (Betekenis)

Hardware-onafhankelijkheid: De technieken zijn essentieel voor de toekomst van low-precision computing (FP16, BF16, etc.) in AI en wetenschappelijk rekenen, waar hardware vaak geen native dubbele precisie biedt.
Efficiëntie: De extra rekentijd voor de 6op-versies is verwaarloosbaar vergeleken met de data-overdrachtstijd op moderne hardware, terwijl de winst in nauwkeurigheid aanzienlijk is.
Theoretische Fundament: Door subnormale getallen en Dekker's niet-unieke representatie systematisch te integreren, biedt dit werk een robuustere basis voor het ontwerpen van numerieke algoritmen dan eerdere literatuur.
Validatie: De methode biedt een nieuw instrument voor het testen en valideren van rekenkundige eenheden in supercomputers en GPU's.

Conclusie: Het artikel levert een theoretisch en praktisch kader voor het uitvoeren van optellingen met hoge nauwkeurigheid op hardware met beperkte precisie, door gebruik te maken van geavanceerde gecompenseerde algoritmen die gebaseerd zijn op een herzien en uitgebreid wiskundig fundament.