"Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking
Durch Fokusgruppen mit gebärenden Personen, Klinikerinnen und Gesundheitsfachkräften argumentiert dieses Paper, dass KI-Systeme in der hochsensiblen Peripartalversorgung überprüfbare Vertrauenswürdigkeit gegenüber behaupteter Autorität priorisieren müssen, indem sie Transparenz, Rechtsbehelfe und ein ökosystembewusstes Integration berücksichtigen, um historische Ungleichheiten und Fehlinformationen zu adressieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind schwanger oder haben gerade ein Baby bekommen. Sie haben eine Frage: „Ist es sicher, Kaffee zu trinken?“ oder „Warum tut mein Rücken weh?“ Früher hätten Sie vielleicht Ihren Arzt angerufen. Aber heute wenden sich viele Menschen an das Internet, soziale Medien oder KI-Chatbots, um schnelle Antworten zu erhalten.
Dieser Text ist wie eine Gruppe von Detektiven (Forschern), die drei verschiedene Gruppen von Menschen gefragt haben – werdende Eltern, Ärzte und Unterstützungskräfte (wie Doulas) –, was sie wirklich brauchen, wenn sie online nach Gesundheitsfragen suchen. Sie wollten wissen: Wenn wir eine superintelligente KI bauen, um diese Fragen zu beantworten, wie stellen wir sicher, dass die Menschen ihr tatsächlich vertrauen?
Hier ist die Geschichte dessen, was sie herausgefunden haben, einfach erklärt.
Das große Problem: Vertrauen bedeutet nicht nur, „richtig“ zu liegen
Die Forscher fanden heraus, dass für Eltern das Erhalten der „korrekten“ medizinischen Tatsache nicht ausreicht. Es ist wie ein GPS, das Ihnen zwar den schnellsten Weg sagt, aber ignoriert, dass die Straße wegen eines Protests gesperrt ist oder dass Sie einen Lkw fahren, der nicht unter einer Brücke durchpasst.
In der Welt von Schwangerschaft und Geburt spielt die Geschichte eine Rolle. Aufgrund vergangener ungerechter Behandlung (besonders gegenüber schwarzen und braunen Gemeinschaften) vertrauen viele Menschen Krankenhäusern oder Ärzten nicht automatisch. Sie fühlen sich vielleicht übergangen, ungehört oder unterschiedlich behandelt. Wenn sie also eine KI eine Frage stellen, fragen sie nicht nur nach Daten; sie fragen nach Beruhigung und Sicherheit.
Die vier Regeln für eine vertrauenswürdige KI
Die Forscher entdeckten vier Hauptregeln (Themen), die jedes KI-Tool befolgen muss, um in diesem sensiblen Bereich vertrauenswürdig zu sein. Betrachten Sie dies als die Zutaten für ein gutes Rezept:
1. Die Regel „Es geht nicht nur dir so“ (Soziale Sinnstiftung)
Die Metapher: Stellen Sie sich vor, Sie sind in einem Wald verloren. Eine Karte (die KI) zeigt Ihnen die Richtung. Aber was Sie wirklich brauchen, ist ein Freund, der sagt: „Ich war auch mal hier verloren und habe einen Weg gefunden. Dir geht es gut.“
Das Ergebnis: Menschen wollen nicht nur Fakten; sie wollen wissen, dass andere wie sie ähnliche Erfahrungen gemacht haben. Sie wollen Geschichten von Gleichgesinnten hören.
Die Lösung: Die KI sollte nicht nur ein Roboter sein, der eine Lehrbuchantwort gibt. Sie sollte Gefühle anerkennen, Sorgen normalisieren und vielleicht sogar Geschichten von anderen Eltern zeigen (sofern diese sicher und verifiziert sind), damit sich der Nutzer weniger allein fühlt.
2. Die Regel „Viele Wege zur Überprüfung“ (Pluralistische Verifizierung)
Die Metapher: Stellen Sie sich vor, Sie kaufen ein Gebrauchtwagen. Eine Person prüft den Motor, eine andere die Reifen und eine dritte fragt einen Mechaniker. Es gibt nicht nur einen Weg, um zu wissen, ob das Auto gut ist.
Das Ergebnis: Nicht jeder vertraut denselben Dingen. Manche vertrauen ihrem Arzt zu 100 %. Andere halten Ärzte für zu langsam oder veraltet. Einige vertrauen Gemeinschaftsgruppen.
Die Lösung: Die KI sollte nicht einen einzigen Weg zur Überprüfung erzwingen. Sie sollte verschiedene Werkzeuge anbieten: „Hier ist, was der Arzt sagt“, „Hier ist, was die Forschung sagt“ und „Hier ist eine Checkliste, mit der Sie bessere Fragen an Ihren Arzt stellen können.“ Sie lässt den Nutzer wählen, wie er die Informationen verifizieren möchte.
3. Die Regel „Zeig dein Können“ (Überprüfbare Governance)
Die Metapher: Stellen Sie sich vor, ein Zauberer zieht ein Kaninchen aus einem Hut. Wenn Sie fragen: „Woher kommt das Kaninchen?“ und der Zauberer sagt: „Vertrau mir, das ist Magie“, werden Sie ihm nicht glauben. Aber wenn er den Hut öffnet und Ihnen das Geheimfach zeigt, vertrauen Sie dem Trick.
Das Ergebnis: Menschen sind skeptisch gegenüber KI. Sie fragen: „Wer hat das geschrieben? Wann wurde es geschrieben? Was, wenn es falsch ist? Wen rufe ich an, wenn es mir schadet?“
Die Lösung: Die KI muss transparent sein. Sie muss ihren „Ausweis“ zeigen (Quelle), ihr „Ablaufdatum“ (wann sie zuletzt aktualisiert wurde) und einen klaren Weg aufzeigen, was zu tun ist, wenn sie einen Fehler macht. Sie kann nicht einfach sagen „Ich bin vertrauenswürdig“, sie muss es beweisen.
4. Die Regel „Keine zusätzliche Last erzeugen“ (Ökosystem-Komplementarität)
Die Metapher: Stellen Sie sich vor, Sie tragen bereits einen schweren Rucksack voller Lebensmittel, Kinder und Arbeitsunterlagen. Wenn Ihnen dann jemand einen neuen schweren Karton in die Hand drückt und sagt: „Hier, trag das auch noch“, werden Sie alles fallen lassen. Aber wenn die Person Ihnen hilft, die Lebensmittel zu ordnen, damit die Tasche leichter wird, werden Sie sie lieben.
Das Ergebnis: Ärzte und Eltern sind bereits überfordert. Sie wollen kein neues Werkzeug, das mehr Arbeit verursacht oder das System verwirrt.
Die Lösung: Die KI sollte nicht versuchen, den Arzt zu ersetieren. Sie sollte wie ein hilfreicher Assistent agieren, der die Fragen so organisiert, dass der Nutzer effizienter mit dem Arzt sprechen kann. Sie sollte wissen, wann sie sagen muss: „Das weiß ich nicht, bitte fragen Sie Ihren Arzt“, und dem Nutzer helfen, sicher ans Ziel zu kommen.
Die wichtigste Erkenntnis
Das Papier kommt zu dem Schluss, dass Vertrauen nicht beansprucht werden kann; es muss gezeigt werden.
Wenn wir eine KI für die Schwangerschaft bauen, die nur „intelligent“ ist, aber die Geschichte nicht versteht, ihre Quellen nicht zeigt und nicht in das reale Leben von Eltern und Ärzten passt, wird sie scheitern. Die Forscher schlagen vor, dass eine KI, um wirklich hilfreich zu sein, transparent, flexibel und menschenzentriert sein muss und anerkennen muss, dass für viele die Reise zur Gesundheit auch eine Reise durch die Geschichte und die Emotionen ist.
Kurz gesagt: Bauen Sie nicht nur einen Roboter, der die Fakten kennt. Bauen Sie ein Werkzeug, das die Menschen versteht, die die Fragen stellen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.