AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
Fünf Experimente zeigen, dass allein der Zugang zu KI-Ratschlägen, selbst wenn diese falsch sind und Genauigkeit belohnt wird, die Bereitschaft von Menschen, Unsicherheit einzugestehen, drastisch reduziert, was dazu führt, dass sie Fragen mit überhöhtem Selbstvertrauen, aber signifikant geringerer Genauigkeit beantworten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die Kunst zu wissen, wann man aufhören muss
Stellen Sie sich vor, Sie spielen mit einem Freund ein Quizspiel. Manchmal kennen Sie die Antwort sofort. Ein andermal sind Sie sich unsicher, also sagen Sie vielleicht „Ich weiß es nicht“ oder raten einfach mal ins Blaue hinein. In der Welt der Wissenschaft wird diese Fähigkeit, innezuhalten und Unsicherheit zuzugeben, als „Urteilsaufschub“ bezeichnet. Es ist eine Superkraft, die uns davor bewahrt, Dinge zu glauben, die nicht wahr sind. Lange Zeit waren Menschen die einzigen mit dieser Superkraft; wenn wir etwas nicht wussten, blieben wir still. Doch jetzt haben wir einen neuen Teamkollegen: Künstliche Intelligenz (KI). Diese KI-Assistenten sind wie unglaublich schnelle, selbstbewusste Bibliothekare, die fast jede Frage sofort beantworten können. Die große Frage, die sich Wissenschaftler stellen, lautet: Wenn wir einen superschnellen, super selbstbewussten Freund haben, der immer eine Antwort parat hat, werden wir dann aufhören zu sagen: „Ich weiß es nicht“? Werden wir der KI so sehr vertrauen, dass wir vergessen, wie man innehält und für sich selbst nachdenkt, selbst wenn die KI falsch liegt?
Das Experiment: Wenn die KI lügt
Ein Team von Forschern beschloss, dies zu testen, indem sie ein kniffliges Spiel aufstellten. Sie stellten den Menschen 6 schwierige Fragen zu Filmen – Dinge wie die Farbe einer Schildkröte in einem alten Cartoon oder das spezifische Auto, das ein Charakter fuhr. Diese Fragen wurden sorgfältig ausgewählt, weil sie genau die Art von Fragen sind, die eine KI „halluzinieren“ lassen, also selbstbewusst klingende, aber völlig falsche Antworten erfinden. Die Forscher gaben einigen Personen die Option, eine KI um Hilfe zu bitten, während andere die Fragen im Alleingang beantworten mussten.
Hier ist der Clou: Die KI lag fast immer falsch. Es war, als hätte man einen Freund, der sehr laut und sehr sicher von sich selbst überzeugt ist, aber eigentlich die falschen Antworten rät. Die Forscher wollten sehen, ob Menschen immer noch „Ich weiß es nicht“ sagen würden, wenn sie die Möglichkeit hätten, diesen unzuverlässigen Freund zu fragen, oder ob allein die Anwesenheit der KI sie dazu bringen würde, das Zögern aufzugeben und einfach anzfangen zu antworten.
Was sie fanden: Die „kognitive Kapitulation“
Die Ergebnisse waren überraschend und ein wenig beängstigend. Wenn die Menschen Zugang zur KI hatten, hörten sie fast vollständig auf, „Ich weiß es nicht“ zu sagen. Es war, als hätte die flüssige, selbstbewusste Stimme der KI die Messlatte dessen, was nötig war, um sich bereit für eine Antwort zu fühlen, gesenkt. Obwohl die KI meistens falsch lag, beantworteten die Menschen, die sie nutzten, viel mehr Fragen als diejenigen, die es nicht taten. Aber hier ist der Haken: Sie hatten die Antworten nur etwa ein Drittel so oft richtig wie die Menschen, die keine KI nutzten.
Es ist wie bei einem Schüler, der aufhört, die Hand zu heben, um zu sagen: „Ich bin mir nicht sicher“, weil er einen Spickzettel hat, der ihm Antworten gibt. Er füllt den ganzen Test aus, aber er beantwortet die meisten Fragen falsch, weil er dem Spickzettel zu sehr vertraut hat. Die Studie fand heraus, dass die Verfügbarkeit der KI die Menschen viel selbstbewusster in ihren Antworten fühlen ließ (ihr Selbstvertrauen verdoppelte sich fast!), obwohl ihre tatsächliche Genauigkeit signifikant sank. Sie hatten ihr eigenes Urteilsvermögen im Wesentlichen an die Maschine kapituliert.
Ändert Geld das Spiel?
Die Forscher fragten sich dann: Was wäre, wenn es Geld kosten würde, eine Antwort falsch zu geben? Sie setzten eine neue Runde des Spiels auf, bei der die Teilnehmer für richtige Antworten einen kleinen Geldbetrag verdienen und für falsche Antworten einen kleinen Betrag verlieren konnten. Sie hofften, dass dies die Menschen dazu bringen würde, intensiver nachzudenken und vielleicht wieder anzfangen würden, trotz der KI „Ich weiß es nicht“ zu sagen.
Das Geld half ein wenig. Die Menschen fragten die KI seltener um Hilfe und beantworteten etwas mehr Fragen richtig. Das Geld konnte jedoch das Hauptproblem nicht lösen. Selbst wenn es eine Strafe für das Falschliegen gab, sagten die Menschen, die die KI hatten, immer noch viel seltener „Ich weiß es nicht“ als die Menschen, die gar keine KI zur Verfügung hatten. Der Sog der KI war einfach zu stark. Es stellte sich heraus, dass die KI nicht nur änderte, was die Menschen beantworteten; sie änderte, ob sie überhaupt das Gefühl hatten, antworten zu dürfen.
Das Faz Was man daraus lernt
Diese Forschung deutet darauf an, dass wir eine entscheidende Fähigkeit verlieren könnten, wenn KI immer häufiger vorkommt und uns Antworten liefert, ohne dass wir überhaupt darum bitten. Die KI füllt nicht nur die Lücken aus; sie scheint uns vielmehr davon zu überzeugen, dass wir nicht innehalten und nachdenken müssen. Die Studie zeigt, dass wir zwar motiviert sein können, unsere Arbeit zu überprüfen, wenn es einen Preis für das Falschliegen gibt, aber die bloße Anwesenheit einer selbstbewussten, flüssigen Antwort einer Maschine uns viel weniger wahrscheinlich dazu bringt, unsere eigene Unsicherheit zuzugeben. In einer Welt voller KI könnte das Wissen, wann man „Ich weiß es nicht“ sagt, die wichtigste Fähigkeit von allen sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.