Generative AI systems conflate two distinct pregnancy-dating algorithms
Deze studie onthult dat generatieve AI-systemen frequent twee verschillende algoritmen voor het bepalen van de zwangerschapsduur met elkaar verwarren, wat leidt tot significante berekeningsfouten en foutieve etikettering die de kritieke noodzaak onderstrepen voor medische AI om hun computationele paden transparant te openbaren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een taart probeert te bakken die precies 280 dagen nodig heeft om te rijzen. Je hebt twee verschillende recepten om uit te rekenen wanneer de taart klaar zal zijn, en een lange tijd nam iedereen aan dat deze twee recepten identieke tweelingen waren.
Recept A (De "Kalender-afkorting"): Dit is de ouderwetse methode, bekend als Naegele's Regel. Het is een mentale rekentruc: "Ga drie maanden terug op de kalender, en tel dan zeven dagen op." Het is snel, makkelijk in je hoofd te doen, en is al meer dan 200 jaar in gebruik.
Recept B (De "Exacte Telling"): Dit is de 280-dagen telling. Het is alsof je elk afzonderlijk zandkorreltje in een zandloper telt. Je telt simpelweg 280 dagen op bij je startdatum, ongeacht hoeveel dagen de maanden die je passeert hebben.
Het Probleem: De Tweelingen zijn Geen Identieke
De auteurs van dit artikel ontdekten dat deze twee recepten eigenlijk neven zijn, geen tweelingen. Omdat onze kalender vreemd is (sommige maanden hebben 30 dagen, sommige 31, en februari heeft soms 29), landt de "Kalender-afkorting" niet altijd op dezelfde dag als de "Exacte Telling".
Ze hebben dit getest tegen elke mogelijke dag van 1812 tot 2025. Ze ontdekten dat in 56% van de gevallen de twee recepten een andere vervaldatum gaven. De Afkorting gaf meestal een datum die 1, 2 of zelfs 3 dagen later was dan de Exacte Telling. Het gaf nooit een eerdere datum; het schoof alleen maar naar voren.
De grootste problemen ontstaan wanneer de zwangerschap een Schrikkeldag (29 februari) kruist. In die gevallen komen de twee recepten nooit overeen. De Exacte Telling neemt die extra dag mee, maar de Kalender-afkorting slaat er dwars doorheen.
De AI-fout: De "Verwarde Chef"
De onderzoekers vroegen vervolgens aan vijf populaire AI-systemen (zoals ChatGPT, Claude en Gemini) om als de bakkers op te treden en deze vervaldatums te berekenen. Ze wilden zien of de AI het verschil tussen de twee recepten begreep.
Dit is wat er gebeurde:
- De Goede Bakkers: Twee van de AI-systemen realiseerden zich dat de recepten verschillend waren. Ze gaven het juiste antwoord en legden uit: "Als je de afkorting gebruikt, krijg je Dag X, maar als je exact 280 dagen telt, krijg je Dag Y."
- De Verwarde Bakkers: Drie van de AI-systemen deden het fout. Ze deden alsof ze de "Kalender-afkorting" gebruikten (door dingen te zeggen als "Ik heb drie maanden afgetrokken en zeven dagen opgeteld"), maar gebruikten vervolgens stiekem de "Exacte Telling"-wiskunde om een ander antwoord te geven. Of ze beweerden dat de twee methoden hetzelfde waren, terwijl dat overduidelijk niet zo was.
Het is alsof een chef tegen je zegt: "Ik volg het afkortingsrecept," maar dan stiekem de ingrediënten weegt op een weegschaal om een ander resultaat te krijgen. Ze waren de methoden die ze beschreven aan het conflueren (door elkaar halen) met de methode die ze daadwerkelijk gebruikten.
Waarom dit ertoe doet
De auteurs wijzen erop dat een verschil van 1 tot 3 dagen voor een enkele zwangerschap geen medisch drama is. Baby's worden van nature op een breed scala aan dagen geboren.
Deze studie gebruikt de datering van de zwangerschap echter als een testgeval om een groter probleem met AI aan te tonen. De AI "denkt" niet of voert logica uit; het raadt slechts op basis van patronen die het in tekstboeken heeft gezien. Omdat oude tekstboeken deze twee recepten door elkaar haalden, heeft de AI dat ook geleerd.
De conclusie van het artikel is dat als een AI-tool een medische berekening aan je geeft, het eerlijk moet zijn over hoe het aan het antwoord is gekomen. Het moet niet alleen een getal geven, maar ook zeggen: "Ik heb de exacte 280-dagen telling gebruikt," of "Ik heb de kalender-afkorting gebruikt," zodat je precies weet wat je krijgt. Als een AI het verschil niet kan zien tussen twee eenvoudige wiskundige regels voor een zwangerschap, kan het soortgelijke fouten maken bij meer gevaarlijke berekeningen in de toekomst.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.