Cognitive Processing of Ai-Generated Advice: The Role of Belief Congruence
Unter Rückgriff auf das Heuristisch-Systematische Modell zeigt diese Studie auf, dass die Übereinstimmung der Überzeugungen zwischen Nutzern und KI-Beratern als heuristischer Hinweis fungiert, der die kritische Prüfung von durch LLMs generierten Faktencheck-Ratschlägen reduziert, wodurch eine Spannung entsteht, in der personalisierte KI-Systeme unbeabsichtigt die systematische Informationsverarbeitung der Nutzer verringern können.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Informationslandschaft stehen wir ständig vor einer Wahl: Halten wir inne, um eine neue Information sorgfältig zu prüfen, oder akzeptieren wir sie schnell basierend auf einem Bauchgefühl? Psychologen untersuchen diesen Ausgleich schon lange und beschreiben zwei Arten, wie unser Verstand arbeitet. Die eine Art ist langsam und bedacht, wobei wir Beweise abwägen und Fakten prüfen, ganz ähnlich wie ein Richter, der eine Fallakte prüft. Die andere Art ist schnell und intuitiv, wobei wir uns auf Abkürzungen verlassen, wie etwa darauf, einer Quelle zu vertrauen, weil sie uns vertraut vorkommt oder aus einer Gruppe stammt, die wir mögen. Wir nutzen beide Methoden und wechseln zwischen ihnen, je nachdem, wie viel Energie wir haben und wie wichtig es uns ist, die richtige Antwort zu finden. Nun wurde dieser Mischung eine neue Ebene hinzugefügt: künstliche Intelligenz. Da Chatbots zu unseren Partnern beim Sortieren von Wahrheit und Fiktion werden, stellt sich eine kritische Frage. Ändert die Tatsache, dass eine KI scheinbar unsere eigenen politischen Ansichten teilt, die Art und Weise, wie wir ihr zuhören? Wenn eine Maschine uns etwas sagt, das mit unseren Überzeugungen übereinstimmt, hören wir dann auf, kritisch zu denken, und nicken einfach nur mit, oder leisten wir immer noch die harte Arbeit, ihre Argumentation zu prüfen?
Forscher des Rensselaer Polytechnic Institute und der University of Tennessee wollten dies beantworten, indem sie beobachteten, wie echte Menschen mit KI-Faktencheckern interagieren. Sie entwickelten eine Studie, in der Erwachsene in den Vereinigten Staaten politische Schlagzeilen lasen und dann einen Chatbot baten, diese zu verifizieren. Der Clou war, dass die Forscher zwei verschiedene Versionen des Chatbots erstellt hatten. Der eine war so programmiert, dass er wie ein Liberaler klang, indem er Quellen von links zitierte und eine typische Sprache dieser Perspektive verwendete. Der andere klang wie ein Konservativer, bezog sich auf rechtsgerichtete Medien und nahm einen anderen Tonfall an. Die Teilnehmer wussten nicht, dass die Bots künstlich waren; sie sahen sie einfach als Berater mit unterschiedlichen politischen Identitäten. Das Ziel war zu sehen, ob die Menschen den Rat unterschiedlich behandelten, je nachdem, ob der Bot scheinbar „auf ihrer Seite“ war.
Die Studie offenbarte ein klares Muster darin, wie Menschen die Informationen verarbeiteten. Wenn Teilnehmer mit einem Chatbot interagierten, der ihre politischen Ansichten teilte, setzten sie weniger vorsichtiges Denken ein. Sie verbrachten weniger Zeit damit, die Erklärung des Bots zu lesen, und stellten weniger Folgefragen. Stattdessen neigten sie dazu, das abschließende Urteil des Bots – ob er eine Schlagzeile als wahr oder falsch bezeichnete – zu akzeptieren, ohne tiefer zu graben. Dies geschah selbst dann, wenn der Bot direkt neben seiner Antwort eine detaillierte Erklärung lieferte. Die Forscher fanden heraus, dass Menschen, wenn sie ein Gefühl der Übereinstimmung mit der KI verspürten, eine mentale Abkürzung nutzten und annahmen, dass der Rat vertrauenswürdig sei, nur weil er von einer Quelle kam, die sich wie ein Freund anfühlte. Umgekehrt waren Menschen, wenn die Ansichten des Bots mit ihren eigenen kollidierten, eher bereit, die Argumentation zu prüfen, die Erklärung genauer zu lesen und das Ergebnis zu hinterfragen.
Diese Tendenz war noch stärker ausgeprägt, wenn die Menschen ihren eigenen Berater wählen durften. In einem Teil des Experiments wurden den Teilnehmern per Zufall ein Bot zugewiesen. In einem anderen konnten sie sich den Bot aussuchen, den sie verwenden wollten. Diejenigen, die ihren eigenen Bot wählten, betrieben am wenigsten kritisches Denken. Der Akt der Auswahl selbst schien für sie als Signal zu wirken, dass dies das richtige Werkzeug für die Aufgabe sei, was den Bedarf an einer Überprüfung der Arbeit verringerte. Die Forsntcher stellten fest, dass dies eine subtile Spannung für die Zukunft der KI erzeugt. Funktionen, die eine KI persönlicher und angenehmer erscheinen lassen, könnten uns tatsächlich weniger wachsam machen. Wir könnten mit der Interaktion zufriedener sein, aber wir könnten auch weniger wahrscheinlich Fehler entdecken oder Annahmen infrage stellen, weil wir bereits beschlossen haben, der Quelle zu vertrauen.
Trotz dieses Rückgangs des kritischen Denkens änderte der Rat der KI dennoch, was die Menschen glaubten. Wenn der Chatbot eine Schlagzeile als falsch bezeichnete, sank das Vertrauen der Menschen in diese Schlagzeile. Wenn er sie als wahr bezeichnete, stieg ihr Vertrauen. Diese Verschiebung geschah unabhängig davon, ob die Person intensiv über die Erklärung nachdachte oder nur das Urteil akzeptierte. Die Stimme der KI war mächtig genug, um Meinungen in beide Richtungen zu bewegen. Die Studie zeigte jedoch auch, dass die politische Übereinstimmung zwischen dem Nutzer und dem Bot eine Rolle spielte. Wenn der Bot mit der Politik des Nutzers übereinstimmte, war der Nutzer eher bereit, das Urteil ohne Widerstand zu akzeptieren. Wenn der Bot widersprach, war der Nutzer resistenter, obwohl der Einfluss der KI dennoch vorhanden war.
Die Forscher betonten sorgfältig, dass dies nicht bedeutet, dass Menschen nicht in der Lage sind, kritisch zu denken. Wenn die Teilnehmer das Gefühl hatten, das Wissen zu besitzen, um das Thema zu verstehen, oder wenn sie hoch motiviert waren, die Wahrheit zu finden, setzten sie sich auch intensiver mit der Sache auseinander. Sie lasen die Quellen, prüften die Logik und bildeten ihre eigenen Schlüsse. Aber die Anwesenheit einer politisch ausgerichteten KI wirkte wie ein starkes Signal, das sagte: „Hier kannst du aufhören; du hast deine Antwort.“ Die Studie legt nahe, dass wir, während wir immer personalisiertere KI-Systeme entwerfen, uns bewusst sein müssen, dass das Gestalten einer KI, die sich wie eine perfekte Ergänzung für unser Weltbild anfühlt, mit einem versteckten Preis einhergehen kann: Es könnte uns in einen Zustand unkritischer Akzeptanz wiegen, in dem wir aufhören, die schwierigen Fragen zu stellen, die unser Verständnis der Welt scharf halten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.