All four leading LLMs talk more than they listen to personality-verified synthetic help-seekers
Diese Arbeit zeigt auf, dass vier führende große Sprachmodelle nicht in der Lage sind, zwischen persönlich verifizierten synthetischen Hilfesuchenden in Krisenszenarien zu unterscheiden, wobei sie konsistent übermäßige Verbosiät und vorzeitige Problemlösung anstelle von effektivem Zuhören oder emotionaler Stabilisierung aufweisen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Wenn ein Mensch einer plötzlichen, überwältigenden Krise gegenübersteht – etwa wenn er erfährt, dass ein geliebter Mensch die Diagnose Demenz erhalten hat –, verändert sich sein Geist auf vorhersehbare Weise. Der intensive Stress verengt seine Aufmerksamkeit, was es schwierig macht, neue Informationen zu verarbeiten oder langen Erklärungen zu folgen. In diesen Momenten folgt die effektivste menschliche Unterstützung einem spezifischen Rhythmus: Zuerst zuhören, um die Emotionen der Person zu stabilisieren, und erst später Lösungen oder Ratschläge anbieten. Heute wenden sich viele Menschen in genau diesen Momenten der Not an künstliche Intelligenz-Chatbots, in der Hoffnung auf Klarheit und Trost. Diese digitalen Assistenten sind jedoch oft darauf ausgelegt, durch die schnelle Bereitstellung von Informationen hilfreich zu sein, was dazu führen kann, dass sie zu viel reden und Probleme zu früh lösen, was potenziell einen Nutzer überfordern kann, der bereits damit kämpft, Schritt zu halten.
Ein Forscherteam des Imperial College London und der Universidad Autónoma de Madrid setzte sich zum Ziel zu testen, ob die fortschrittlichsten heute verfügbaren Modelle der künstlichen Intelligenz tatsächlich in der Lage sind, sich an dieses menschliche Bedürfnis nach Zuhören statt Reden anzupassen. Sie entwickelten eine ausgeklügelte Simulation, die als sicherer Testraum diente. Anstatt echte Menschen in Krisensituationen zu gefährden, erschufen sie sieben synthetische „Hilfesuchende“, die jeweils mit einem distinkten psychologischen Profil programmiert waren. Diese Profile waren nicht nur vage Beschreibungen, sondern basierten auf etablierten wissenschaftlichen Maßen für Persönlichkeit, Bewältigungsstile und Resilienz. Jeder dieser digitalen Charaktere wurde in ein Szenario versetzt, in dem er gerade die Nachricht über die Demenzdiagnose eines Verwandten erhalten hatte. Sie führten daraufhin ein zehnstufiges Gespräch mit vier der weltweit führenden Sprachmodellen, die als die „Berater“ fungierten, die versuchen sollten, Unterstützung zu bieten.
Um die Ergebnisse objektiv zu gestalten, führten die Forscher eine dritte Rolle ein: einen unabhängigen „Auditor“. Dieser Auditor war ein weiteres Modell der künstlichen Intelligenz, das das gesamte Gespräch anhörte, ohne das psychologische Profil des Hilfesuchenden zu kennen. Seine Aufgabe war es zu beurteilen, ob der Berater erfolgreich zugehört hatte, ob er die Emotionen der Person stabilisiert hatte und ob er verbreitete Fallstricken wie vorzeitiger Ratschlagserteilung oder zu viel Reden ausgewichen war. Die Forscher überprüften auch, ob sich die synthetischen Hilfesuchenden tatsächlich konsistent mit ihren zugewiesenen Persönlichkeiten verhielten, indem sie fragten, ob ein Beobachter, der nur die Chatprotokolle las, erkennen konnte, wer wer war.
Die Studie offenbarte ein auffälliges und konsistentes Muster über alle vier getesteten Modelle der künstlichen Intelligenz hinweg. Unabhängig davon, welches Modell als Berater agierte, sprachen sie alle mehr, als sie zuhörten. In jedem einzelnen Gespräch sprach der Berater mehr Wörter als der Hilfesuchende, wobei das Verhältnis von Wörtern des Beraters zu den Wörtern des Nutzers von fast zwei zu eins bis hin zu mehr als drei zu eins reichte. Darüber hinaus neigten alle vier Modelle dazu, zur Problemlösung überzugehen, bevor der Nutzer seine Situation erklärt oder seine Gefühle ausgedrückt hatte. Dieses Verhalten steht im Gegensatz zu dem, was Experten über Krisenunterstützung wissen, wo die Priorität darin besteht, der Person Zeit zu geben, sich gehört und ruhig zu fühlen, bevor Lösungen angeboten werden. Die Forscher fanden heraus, dass diese Tendenz zur Verbalität und Lösungsorientierung ein gemeinsamer Fehlermodus war und keine Eigenheit eines einzelnen Modells.
Trotz dieses gemeinsamen Mangels fand die Studie auch heraus, dass die Modelle anhand der Qualität ihrer Unterstützung voneinander unterschieden werden konnten. Ein Modell, DeepSeek-V3.2, schnitt etwas besser als die anderen ab, da es eine größere Fähigkeit zeigte, das Autonomie- und Kompetenzgefühl des Nutzers zu unterstützen und gleichzeitig weniger Instanzen kontraproduktiven Verhaltens zu generieren. Die Differenz zwischen den leistungsstärksten Modellen war jedoch gering, und keines der Modelle erreichte ein Leistungsniveau, das als perfekt bezeichnet werden könnte. Die Forschung bestätigte auch, dass die synthetischen Hilfesuchenden erfolgreich waren: Die unabhängigen Auditoren konnten die spezifischen psychologischen Merkmale der Hilfesuchenden allein durch das Lesen des Gesprächs korrekt identifizieren, was bewies, dass diese digitalen Charaktere komplexe menschliche Persönlichkeiten zuverlässig darstellen konnten.
Die Ergebnisse legen nahe, dass aktuelle Systeme der künstlichen Intelligenz zwar in der Lage sind, komplexe, mehrstufige Gespräche zu führen, sie aber noch nicht die entscheidende Fähigkeit der Zurückhaltung erlernt haben, die für die Krisenunterstützung erforderlich ist. Sie sind noch zu eifrig zu sprechen und zu lösen – eine Eigenschaft, die in vielen Kontexten hilfreich sein mag, aber schädlich ist, wenn eine Person unter akuter Not leidet und eine begrenzte Kapazität besitzt, Informationen zu verarbeiten. Die Forscher kamen zu dem Schluss, dass diese Werkzeuge, um in Hochrisikosituationen wirklich sicher und effektiv zu sein, neu kalibriert werden müssen, um das Zuhören und die Kürze zu priorisieren und so die Geduld eines geschulten menschlichen Beraters widerzuspiegeln, statt der Effizienz einer Suchmaschine. Diese Arbeit bietet einen neuen, sicheren Weg, diese Systeme zu testen und zu verbessern, bevor sie eingesetzt werden, um Menschen in ihren verletzlichsten Momenten zu helfen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.