Stellen Sie sich vor, Sie hätten einen superintelligenten Roboter-Freund, der jedes Buch lesen, jede Geschichte schreiben und wie ein Mensch sprechen kann. Dieser Roboter ist ein „Large Language Model“ (LLM). Er ist erstaunlich gut darin, selbstbewusst und fließend zu klingen. Aber hier ist der Haken: Wenn Sie diesen Roboter bitten, Mathe zu machen oder spezifische medizinische Ratschläge basoliert auf Ihren persönlichen Daten zu geben, erfindet er vielleicht Dinge, um gut dazustehen. Es ist wie ein talentierter Schauspieler, der eine überzeugende Rede über das Wetter improvisieren kann, aber wenn man ihn nach der exakten Temperatur fragt, rät er vielleicht „72 Grad“, obwohl es gerade regnet und eiskalt ist. In der Welt der Gesundheit ist das gefährlich. Wenn ein Roboter Ihnen sagt, Ihr Blutzuckerspiegel sei in Ordnung, wenn er es nicht ist, oder ein Risiko erfindet, das Sie gar nicht haben, kann das zu schlechten Entscheidungen führen. Wissenschaftler versuchen herauszufinden, wie man diese Roboter daran hindert, zu „halluzinieren“ (Dinge zu erfinden) und sie dazu zwingt, sich an die harten Fakten zu halten, besonders wenn es um unseren Körper geht.

Dieses Papier mit dem Titel „Grounding Health AI“ handelt davon, ein Sicherheitsnetz für diese Gesundheitsroboter zu bauen. Die Forscher haben ein System namens „Human Phenotype Project Personal Health Agent“ (PHA) entwickelt. Denken Sie daran, als würde man dem Roboter ein strenges Regelbuch, ein Team von Experten-Rechnern und eine riesige Bibliothek mit echten menschlichen Daten geben, um alles zu überprüfen, bevor er spricht. Sie testeten dieses System, indem sie es mit zwei Wochen echter Daten von Menschen fütterten, die Glukose-Monitore (Geräte zur Verfolgung des Blutzuckers) und Ernährungsprotokolle trugen. Das Ergebnis? Als der Roboter dieses neue System verwendete, hörte er auf, Zahlen zu erfinden. Anstatt Ihre Blutzuckermuster zu erraten, berechnete er sie mit echten Werkzeugen. Anstatt Risiken zu erfinden, gab er zu, wenn er nicht genügend Informationen hatte. Das Team fand heraus, dass sie durch die Kombination dieser „Werkzeuge“ mit „Fähigkeiten“ (Regeln darüber, wie man spricht), einen Roboter, der in seiner Struktur und seinen Fakten nur etwa 37 % genau war, in einen mit 91 % Genauigkeit verwandeln konnten. Es ist ein großer Schritt hin zu einer KI, der Ärzte und Patienten wirklich vertrauen können.

Das Problem: Der Roboter, der lügt, um nett zu klingen

Stellen Sie sich vor, Sie übergeben einem futuristischen Roboter ein Tagebuch darüber, was Sie zwei Wochen lang gegessen haben, und eine Grafik Ihrer Blutzuckerspiegel. Sie fragen: „Wie ist mein Stoffwechsel?“ Eine Standard-KI, die superintelligent ist, würde einen wunderschönen, fließenden Bericht schreiben. Sie könnte sagen: „Sie hatten 172 Mahlzeiten!“ (obwohl Sie eigentlich nur 70 hatten) oder „Ihre Blutzuckerschwankungen waren mild“, obwohl sie eigentlich wild waren. Es klingt perfekt, aber es ist eine Lüge. Der Roboter ist so gut im Schreiben, dass er die Lücken mit Vermutungen füllt, die zwar richtig klingen, aber völlig falsch sind.

Die Forscher fanden heraus, dass selbst die besten KI-Modelle der Welt dies taten. Sie erfanden eine Metrik namens „MAGE“ (die misst, wie stark Ihr Blutzucker hoch und runter springt) und behaupteten, sie sei 41, während die echte Mathematik ergab, dass sie 84,8 betrug. Sie behaupteten, 172 Mahlzeiten analysiert zu haben, obwohl die Daten nur 70 enthielten. Sie sagten sogar zukünftige Gesundheitsrisiken voraus, ohne überhaupt die Werkzeuge zu besitzen, um sie zu berechnen. Es ist wie ein Koch, der nicht weiß, wie man kocht, aber eine Fünf-Sterne-Bewertung für ein Essen schreibt, das er nie probiert hat. Für eine normale Person ist das verwirrend. Für einen Arzt ist es gefährlich.

Die Lösung: Der „Grounding“-Stack

Um dies zu beheben, baute das Team einen neuen Typ von KI-Agenten namens PHA. Sie sagten dem Roboter nicht einfach nur: „Sei vorsichtig.“ Stattdessen bauten sie ein vierlagiges „Grounding“-System (Erdungssystem). Stellen Sie sich vor, der Roboter ist ein Schüler, der eine Prüfung ablegt.

1. Die Referenzbibliothek (Das Human Phenotype Project): Zuerst gaben sie dem Roboter eine massive Bibliothek mit Daten von über 13.000 echten Menschen. Das sind nicht nur zufällige Zahlen; es ist ein tiefer Einblick darin, wie die Körper echter Menschen auf Nahrung und Bewegung reagieren. Wenn der Roboter sagen will: „Ihr Blutzucker ist hoch“, muss er diese Bibliothek prüfen, um zu sehen, wie viele andere Menschen in Ihrem Alter und Geschlecht diesen Wert haben. Es ist, als hätte man eine riesige Klasse von 13.000 Schülern, mit denen man sein Testergebnis vergleichen kann, anstatt zu raten, ob man gut war.
2. Die Experten-Werkzeuge (Die Taschenrechner): Als Nächstes gaben sie dem Roboter einen Werkzeugkasten mit 21 spezifischen Taschenrechnern. Dem Roboter ist es nicht erlaubt, die Mathematik im Kopf zu machen. Wenn er wissen muss, wie hoch Ihr Blutzuckerdurchschnitt ist, muss er ein spezifisches Tool fragen, um die Rechnung durchzuführen. Wenn er wissen muss, wie hoch Ihr Herzrisiko ist, muss er einen spezifischen Herzrisiko-Rechner verwenden. Der Roboter ist nur der Bote; die Werkzeuge leisten die schwere Arbeit.
3. Die Verhaltens-Fähigkeiten (Das Regelbuch): Dies ist der cleverste Teil. Der Roboter hat eine Reihe von „Fähigkeiten“, die in einfachen Textdateien (wie einem Regelbuch) geschrieben sind. Diese Regeln sagen dem Roboten, was er sagen darf und was nicht. Zum Beispiel könnte eine Regel lauten: „Wenn du die Anzahl der Mahlzeiten nicht mit dem Tool berechnet hast, darfst du nicht sagen, wie viele Mahlzeiten die Person zu sich genommen hat.“ Eine andere Regel könnte lauten: „Wenn du keine Blutdruckdaten hast, darfst du das Herzrisiko nicht erraten.“ Diese Regeln hindern den Roboter daran, Dinge zu erfinden, selbst wenn er es möchte.
4. Der Testgesteuerte Zyklus (Der Notengeber): Schließlich baute das Team ein System, das den Roboter während des Bauens testet. Jedes Mal, wenn der Roboter einen Fehler macht (wie das Erfinden einer Zahl), schreibt das Team einen spezifischen Test, um genau diesen Fehler beim nächsten Mal abzufangen. Es ist wie ein Videospiel, bei dem jedes Mal, wenn man in eine Grube fällt, das Spiel eine neue Falle hinzufügt, damit man dort nie wieder hineinfällt.

Was sie fanden: Werkzeuge vs. Regeln

Die Forscher führten ein großes Experiment durch. Sie nahmen die Daten von 14 echten Personen und baten den Roboter, Berichte mit verschiedenen Setups zu schreiben. Sie verglichen:

• Das Baseline-Modell: Nur der smarte Roboter ohne Werkzeuge oder Regeln.
• Nur Werkzeuge: Der Roboter mit den Taschenrechnern, aber ohne Regelbuch.
• Das Volle System: Der Roboter mit sowohl den Taschenrechnern als auch dem Regelbuch.

Die Ergebnisse waren klar und überraschend.

• Der Baseline-Roboter: Er erreichte einen Wert von 0,37 (von 1,0) in einem „Vertrauenswürdigkeits“-Test. Er war eloquent, aber voller erfundener Fakten.
• Nur Werkzeuge: Als sie dem Roboter die Taschenrechner gaben, aber kein Regelbuch, stieg der Wert leicht auf 0,49. Der Roboter konnte nun die Mathematik machen, aber er wusste immer noch nicht, wie er sie korrekt berichtete. Er vergaß manchmal zu erwähnen, dass er die Mathematik angewandt hatte, oder sagte Dinge, die die Werkzeuge nicht unterstützten.
• Das Volle System: Als sie das Regelbuch (Fähigkeiten) zusätzlich zu den Werkzeugen hinzufügten, sprang der Wert auf 0,91.

Die große Lektion hier ist, dass Werkzeuge und Regeln unterschiedliche Aufgaben erfüllen. Die Werkzeuge machten die Zahlen genau (von 14 % Genauigkeit auf 90 % Genauigkeit). Aber die Regeln machten den Bericht vollständig, ehrlich und richtig strukturiert. Oh\ne den Regeln hatte der Roboter zwar die Antworten, wusste aber nicht, wie er sie präsentieren sollte. Mit den Regeln wurde er zu einem vertrauenswürdigen Assistenten.

Die „Verweigerungs“-Superkraft

Eines der coolsten Dinge, die das neue System lernte, war, wie man „Ich weiß es nicht“ sagt. In den alten Tests, wenn der Roboter nicht über genügend Daten verfügte (wie fehlende Blutdruckwerte), ratte er das Herzrisiko trotzdem einfach. Er sagte: „Ihr Risiko ist hoch“, obwohl er es gar nicht berechnen konnte.

Das neue System jedoch lernte aufzuhören. Wenn der Roboter versuchte, das Herzrisiko ohne Blutdruck zu berechnen, zwangen ihn die Regeln dazu, zu sagen: „Ich kann dies nicht berechnen, da mir die Blutdruckdaten fehlen. Bitte beschaffen Sie zuerst diese Daten.“ Er weigerte sich zu lügen. Dies ist ein gewaltiger Wandel. Anstatt ein Roboter zu sein, der immer eine Antwort hat (selbst wenn sie falsch ist), wurde er zu einem Roboter, der seine Grenzen kennt.

Funktioniert das auch für andere Dinge?

Das Team testete auch, ob dieses System verschiedene Arten von Gesundheitsfragen bewältigen kann. Sie fragten nach allgemeiner metabolischer Gesundheit und sogar nach Herzgesundheit (kardiovaskuläres Risiko). Das System funktionierte für beides gut und sprang von einem niedrigen Wert von etwa 0,37 auf einen hohen Wert von 0,70 oder 0,72. Dies deutet darauf darauf hin, dass das „Rezept“, das sie gefunden haben – die Kombination aus echten Daten, spezifischen Werkzeugen und strengen Regeln –, für verschiedene Bereiche der Medizin verwendet werden kann, nicht nur für den Blutzucker.

Das Fazit

Dieses Papier zeigt, dass wir, um KI für die Gesundheit sicher zu machen, uns nicht einfach darauf verlassen können, dass die KI „schlauer“ wird. Wir müssen ein System bauen, in dem die KI gezwungen ist, echte Taschenrechner zu benutzen, sich gegen echte menschliche Daten zu prüfen und strengen Regeln zu folgen, was sie sagen darf. Das Ergebnis ist ein System, das viel seltener beängstigende oder falsche Fakten erfindet.

Die Forscher geben zu, dass dies noch keine perfekte Lösung ist. Sie testeten es an einer kleinen Gruppe von Menschen und hauptsächlich bei schriftlichen Berichten, nicht bei Live-Gesprächen. Sie merken auch an, dass das „Wesen“ eines Berichts – wie hilfreich oder freundlich er an einen Patienten klingt – schwer mit Computern zu testen ist und menschliche Ärzte benötigt, um dies zu überprüfen. Aber für die „Form“ des Berichts – die Zahlen, die Quellen und die Ehrlichkeit – ist das neue System eine massive Verbesserung. Es verwandelt einen Roboter, der zwar selbstbewusst klingt, aber falsch liegt, in einen Roboter, der selbstbewusst klingt, weil er recht hat.