LLMs for health: Perceived benefits, risks, intention to use AI chatbots, and willingness to self-disclose across sensitive health topics

Stellen Sie sich vor, Ihre Gesundheitsfragen wären wie ein riesiger, chaotischer Rucksack voller verschiedener Gegenstände. Einige sind leicht und unkompliziert, wie ein verstauchter Zeh oder eine gewöhnliche Erkältung (physisch, geringe Sensibilität). Andere sind schwer, unangenehm und vielleicht sogar etwas peinlich, wenn man sie in der Öffentlichkeit hervorholt, wie Angstzustände oder ein seltsamer Ausschlag (psychologisch, hohe Sensibilität).

Lange Zeit dachten die Leute, wenn man einen KI-Chatbot nach diesen schweren, unangenehmen Dingen fragt, würde man seine Geheimnisse eher preisgeben, weil der Roboter nicht urteilt. Aber diese neue Studie, bei der 1.388 echte Menschen in den Niederlanden sich vorstellten, eine KI für ihre Gesundheit zu nutzen, deutet darauf hin, dass dieser Rucksack nicht ganz so funktioniert.

Hier ist das, was die Forscher herausgefunden haben, unter Verwendung der Werkzeuge eines riesigen digitalen Experiments.

Der große Kompromiss: Das „Gute“ gegen das „Gruselige“

Die wichtigste Entdeckung ist, dass Menschen, wenn sie entscheiden, ob sie mit einer KI über ihre Gesundheit sprechen, ein mentales Tauziehen spielen. Auf der einen Seite des Seils haben sie die Wahrgenommenen Vorteile (das „Gute“). Auf der anderen Seite des Seils haben sie die Wahrgenommenen Risiken (das „Gruselige“).

Die Studie maß dies auf einer Skala von 1 bis 5. Im Durchschnitt sahen die Menschen das „Gute“ mit 3,65 und das „Gruselige“ mit 3,54. Es war ein ziemlich ausgeglichenes Match!

Aber hier ist der Clou: Das „Gute“ zog das Seil viel stärker.

• Wenn eine Person glaubte, dass die KI hilfreich sein würde (hohe Vorteile), war sie viel eher bereit zu sagen: „Ja, ich werde sie nutzen!“ und „Ja, ich werde ihr meine Geheimnisse verraten!“
• Wenn eine Person glaubte, dass die KI ihre Daten leaken oder schlechte Ratschläge geben könnte (hohe Risiken), war sie weniger wahrscheinlich bereit, sie zu nutzen.

Das Paper legt nahe, dass das „Gute“ der Schwergewichtschampion hier ist. Selbst wenn die Menschen besorgt über Risiken waren, war das Versprechen, schnelle Antworten oder unbegrenzte Fragen zu erhalten, der Hauptantrieb für den Wunsch, den Chatbot zu nutzen.

Der „Themen“-Mythos: Es spielt keine Rolle, was man fragt

Man könnte denken: „Nun, über Kopfschmerzen würde ich einem Roboter definitiv erzählen, aber über meine Depression würde ich es niemals tun.“

Die Forscher testeten dies, indem sie den Leuten zwei Arten von Szenarien gaben:

1. Physisch vs. Psychologisch: Ist das Problem ein gebrochener Knochen oder eine schlechte Stimmung?
2. Geringe vs. Hohe Sensibilität: Ist das Problem ein leichter Juckreiz oder eine tiefe, stigmatisierte Angst?

Die Überraschung: Die Art des Problems änderte kaum etwas.
Ob das Thema physisch oder psychologisch war oder eine geringe oder hohe Sensibilität aufwies, es änderte nichts signifikant daran, wie viel die Menschen das Risiko oder den Nutzen der KI wahrnahmen. Der einzige winzige Unterschied, den die Studie fand, war, dass die Menschen etwas eher bereit waren, die KI für Themen mit geringer Sensibilität (wie leichte Kopfschmerzen) zu nutzen als für solche mit hoher Sensibilität (wie eine schwere psychische Krise), aber der Unterschied war so klein, dass er fast unsichtbar war.

Die Vorstellung also, dass „KI großartig für Geheimnisse ist, weil sie nicht wertet“, war hier nicht der Hauptfaktor. Das Thema selbst war nicht der Chef; die eigenen Gefühle der Person bezüglich Nutzen und Risiken waren es.

Wer ist der Roboterfreund? (Es geht um Sie, nicht um das Thema)

Wenn das Thema nicht entscheidend ist, was dann? Die Studie fand heraus, dass es sehr viel darauf ankommt, wer Sie sind, und weniger darauf, was Sie fragen.

Betrachten Sie den KI-Chatbot als ein neues Werkzeug in einem Werkzeugkasten. Manche greifen sofort zu; andere starren ihn misstrauisch an. Hier sind diejenigen, die zugreifen, und diejenigen, die ihn wieder weglegen:

• Die „Ich habe es schon benutzt“-Truppe: Menschen, die bereits einen KI-Chatbot benutzt hatten, waren viel eher bereit, ihn erneut zu nutzen und ihre Gesundheitsdaten zu teilen. Wenn Sie das Werkzeug schon einmal benutzt haben, vertrauen Sie ihm mehr.
• Die „Ich weiß nicht, was das ist“-Truppe: Menschen, die noch nie von KI-Chatbots gehört hatten oder von ihnen gehört, sie aber nie benutzt hatten, waren viel weniger bereit, sie zu nutzen. Sie waren wie Menschen, die ein neues Smartphone anstarren, aus Angst, den Bildschirm zu berühren.
• Die „Super-Forscher“: Menschen, die gerne selbst nach Informationen suchen (ein Stil namens „Monitoring“), waren eher bereit, die KI zu nutzen. Aber wenn Sie lieber alles direkt Ihren Arzt fragen würden und nicht gerne selbst recherchieren, waren Sie weniger wahrscheinlich bereit, den Bot zu nutzen.
• Die „Hochgebildeten“-Gruppe: Interessanterweise sahen Menschen mit höherem Bildungsniveau tatsächlich mehr Risiken. Sie waren diejenigen, die dachten: „Warte mal, könnte das meine Daten leaken?“ oder „Ist dieser Rat auch korrekt?“. Sie waren die vorsichtigen Skeptiker.
• Der „Vertrauens“-Faktor: Menschen, die Institutionen (wie die Regierung oder Gesundheitssysteme) generell vertrauten, sahen mehr Vorteile in der KI. Wenn Sie dem System vertrauen, vertrauen Sie auch dem Roboter darin.

Die Zahlen hinter dem Vorhang

Die Studie hat nicht nur geraten; sie hat gemessen.

• 1.388 Menschen nahmen teil, was eine riesige Gruppe darstellt, die die niederländische Bevölkerung repräsentiert.
• Sie untersuchten 16 verschiedene Gesundheitsszenarien (von mild bis schwer, von physisch bis psychologisch).
• Die Verbindung zwischen „denken, es sei nützlich“ und „es nutzen wollen“ war stark (ein Wert von 0,51 auf einer statistischen Skala).
• Die Verbindung zwischen „denken, es sei riskant“ und „es nicht nutzen wollen“ war ebenfalls vorhanden, aber schwächer (ein Wert von -0,14).

Was die Studie nicht sagt

Es ist wichtig zu wissen, was diese Studie nicht bewiesen hat.

• Sie hat nicht bewiesen, dass KI-Chatbots im wirklichen Leben tatsächlich sicher oder gefährlich sind. Sie hat nur gemessen, was die Menschen über sie denken.
• Sie fand nicht heraus, dass Alter oder Geschlecht einen großen Unterschied machen. Im Gegensatz zu anderen Studien fand diese Untersuchung, dass es keinen Unterschied machte, ob man jung oder alt oder ob man Mann oder Frau war.
• Sie hat nicht gesagt, dass die KI ein „gelöstes“ Problem ist. Die Autoren deuten an, dass das Verhalten in der Realität anders sein könnte, da die Studie auf der Vorstellung basierte (Menschen stellten sich die Nutzung des Bots vor).

Das Fazgest

Die Studie legt nahe, dass man nicht einfach sagen kann: „Es ist großartig für deine Geheimnisse!“, wenn man möchte, dass Menschen KI für ihre Gesundheit nutzen. Das Thema (ob es ein Kopfschmerz oder ein Herzschmerz ist) ist nicht der magische Schlüssel.

Stattdessen ist der Schlüssel Vertrauen und Erfahrung. Wenn Menschen das Werkzeug schon einmal benutzt haben, wenn sie das Gefühl haben, dass es nützlich ist, und wenn sie nicht das Gefühl haben, dass es eine tickende Zeitbombe voller Risiken ist, werden sie es nutzen. Aber wenn sie es noch nie berührt haben oder der Typ Mensch sind, der sich um Privatsphäre sorgt und alles lieber mit einem menschlichen Arzt doppelt prüft, werden sie die KI wahrscheinlich im Regal stehen lassen.

Die Forscher schlagen vor, dass sich diese Gefühle ändern könnten, wenn KI alltäglicher wird, aber im Moment ist das Tauziehen zwischen „Gutem“ und „Gruseligem“ die eigentliche Geschichte.