Generative AI systems conflate two distinct pregnancy-dating algorithms
Diese Studie zeigt auf, dass generative KI-Systeme häufig zwei unterschiedliche Algorithmen zur Bestimmung des Schwangerschaftsalters vermengen, was zu erheblichen Rechenfehlern und Fehlbezeichnungen führt, die die kritische Notwendigkeit unterstreichen, dass medizinische KI ihre Berechnungspfade transparent offenlegt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen einen Kuchen zu backen, der genau 280 Tage braucht, um aufzugehen. Sie haben zwei verschiedene Rezepte, um zu berechnen, wann der Kuchen fertig sein wird. Lange Zeit gingen alle davon aus, dass diese Rezepte identische Zwillinge seien.
Rezept A (Die „Kalender-Abkürzung“): Dies ist die alte Methode, bekannt als Naegele-Regel. Es ist wie ein Kopfrechen-Trick: „Gehe auf dem Kalender drei Monate zurück und addiere dann sieben Tage.“ Es ist schnell, einfach im Kopf zu rechnen und wird seit über 200 Jahren verwendet.
Rezept B (Das „Exakte Zählen“): Dies ist der 280-Tage-Zählung. Es ist, als würde man jedes einzelne Sandkorn in einer Sanduhr zählen. Man addiert einfach 280 Tage zum Startdatum hinzu, ungeachtet dessen, wie viele Tage die durchlaufenden Monate haben.
Das Problem: Die Zwillinge sind nicht identisch
Die Autoren dieser Arbeit entdeckten, dass diese beiden Rezepte eigentlich Cousins sind, keine Zwillinge. Da unser Kalender seltsam ist (einige Monate haben 30 Tage, andere 31, und der Februar hat manchmal 29), landet die „Kalender-Abkürzung“ nicht immer am selben Tag wie das „Exakte Zählen“.
Sie haben dies gegen jeden einzelnen Tag von 1812 bis 2025 getestet. Sie fanden heraus, dass in 56 % der Fälle die beiden Rezepte ein anderes Fälligkeitsdatum lieferten. Die Abkürzung war meistens 1, 2 oder sogar 3 Tage später als das exakte Zählen. Sie lieferte nie ein früheres Datum; sie driftete lediglich nach vorne.
Der größte Ärger entsteht, wenn die Schwangerschaft einen Schalttag (den 29. Februar) überschreitet. In diesen Fällen stimmen die beiden Rezepte niemals überein. Das exakte Zählen berücksichtigt diesen zusätzlichen Tag, aber die Kalender-Abkürzung überspringt ihn einfach.
Der KI-Fehler: Der „verwirrte Koch“
Die Forscher fragten dann fünf populäre KI-Systeme (wie ChatGPT, Claude und Gemini), um als Bäcker zu fungieren und diese Fälligkeitsdaten zu berechnen. Sie wollten sehen, ob die KI den Unterschied zwischen diesen beiden Rezepten kannte.
So lief es ab:
- Die guten Bäcker: Zwei der KI-Systeme erkannten, dass die Rezepte unterschiedlich sind. Sie gaben die richtige Antwort und erklärten: „Wenn Sie die Abkürzung verwenden, erhalten Sie Tag X, aber wenn Sie exakt 280 Tage zählen, erhalten Sie Tag Y.“
- Die verwirrten Bäcker: Drei der KI-Systeme lagen falsch. Sie taten so, als würden sie die „Kalender-Abkürzung“ verwenden (indem sie Dinge sagten wie: „Ich habe drei Monate abgezogen und sieben Tage addiert“), aber sie verwendeten dann heimlich die Mathematik des „Exakten Zählens“, um ein anderes Ergebnis zu liefern. Oder sie behaupteten, dass die beiden Methoden dasselbe seien, obwohl sie es offensichtlich nicht waren.
Es ist, als hätte ein Koch zu Ihnen gesagt: „Ich folge dem Abkürzungs-Rezept“, aber heimlich die Zutaten auf einer Waage gewogen, um ein anderes Ergebnis zu erzielen. Sie konfudierten (verwechselten) die Methode, die sie beschrieben, mit der Methode, die sie tatsächlich anwandten.
Warum ist das wichtig?
Die Autoren weisen darauf hin, dass ein Unterschied von 1 bis 3 Tagen für eine einzelne Schwangerschaft kein medizinischer Katastrophenfall ist. Babys werden ganz natürlich an einer breiten Palette von Tagen geboren.
Dieses Paper nutzt die Schwangerschaftsdatierung jedoch als Testfall, um ein größeres Problem mit KI aufzuzeigen. Die KI „denkt“ nicht oder betreibt keine Logik; sie rät nur basierend auf Mustern, die sie in Lehrbüchern gesehen hat. Da alte Lehrbücher diese beiden Rezepte vermischt haben, hat die KI gelernt, sie ebenfalls zu vermischen.
Die Arbeit kommt zu dem Schluss, dass ein KI-Tool, das Ihnen eine medizinische Berechnung liefert, ehrlich darüber sein muss, wie es zu dem Ergebnis gekommen ist. Es sollte nicht nur eine Zahl liefern, sondern sagen: „Ich habe die exakte 280-Tage-Zählung verwendet“ oder „Ich habe die Kalender-Abkürzung verwendet“, damit Sie genau wissen, was Sie bekommen. Wenn eine KI nicht einmal den Unterschied zwischen zwei einfachen mathematischen Regeln für eine Schwangerschaft erklären kann, könnte sie bei ähnlichen, gefährlicheren Berechnungen in der Zukunft ähnliche Fehler machen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.