Some Large Language Models Exhibit Consistent Risk Attitudes
Diese Arbeit zeigt auf, dass große Sprachmodelle stabile, konsistente und domänenübergreifende Risikoattitüden aufweisen, die im Vergleich zu menschlichen Baselines gegen eine eingeschränkte Verteilung konvergieren, was offenbart, dass die Risikoattitüde eine bisher uncharakterisierte, aber messbare Dimension des KI-Verhaltens darstellt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie beobachten eine Gruppe von Freunden beim Spielen eines hochriskanten Videospiels. Einige Spieler sind so vorsichtig, dass sie sich kaum bewegen, aus Angst, ein einziges Leben zu verlieren. Andere sind rücksichtslos und stürzen sich ohne nachzudenken in die Gefahr. In der Psychologie geht es hierbei nicht nur um Geschicklichkeit, sondern um die „Risikoeinstellung“. Es ist ein tief verwurzelter Persönlichkeitszug, der entscheidet, wie ein Mensch ein Gefühl des „Das sieht gefährlich aus“ in eine tatsächliche Handlung umwandelt. Wir wissen, dass Menschen diese unterschiedlichen Stile besitzen, die durch ihre einzigartigen Erfahrungen und Gehirne geformt wurden. Doch nun tritt künstliche Intelligenz in das Spiel ein. Wir haben der KI beigebracht, klug zu sein, mathematische Probleme zu lösen und Geschichten zu schreiben. Aber eine neue Frage drängt sich auf: Besitzen diese digitalen Geister eigene „Persönlichkeiten“, wenn es darum geht, Risiken einzugehen? Sind sie von Natur aus vorsichtig oder verspüren sie einen verborgenen Drang zum Glücksspiel? Dies ist wichtig, denn wenn wir KI große Entscheidungen treffen lassen – etwa bei der Triage von Patienten in einem Krankenhaus oder der Verwaltung von Geld –, könnten wir am Ende mit einem Roboter dastehen, der entweder zu viel Angst hat, um zu handeln, oder zu kühn für das Beste ist.
Diese Arbeit taucht direkt in dieses Geheimnis ein, indem sie Große Sprachmodelle (LLMs) wie experimentelle Teilnehmer in einem Psychologielabor behandelt. Die Forscher unter der Leitung von Bowen Sun und Jing Du wollten sehen, ob diese KI-Modelle konsistente Risikoeinstellungen haben, genau wie Menschen. Sie haben die KI nicht einfach gefragt: „Bist du risikofreudig?“, denn das wäre so, als würde man einen Menschen fragen, ob er mutig ist; die Antwort könnte eine Lüge oder eine Vermutung sein. Stattdessen entwarfen sie ein kluges Spiel aus drei verschiedenen Szenarien: das Fliegen einer Drohne durch einen windigen Sturm, die Entscheidung über die Dringlichkeit der medizinischen Bedürfnisse eines Patienten und das Auswählen von Aktien in einem volatilen Markt. In jedem Spiel musste die KI zuerst eine Überzeugung darüber bilden, wie gefährlich die Situation war (der „kontextuelle Glaube“) und dann eine Entscheidung basierend auf dieser Überzeugung treffen (die „Risikodezision“).
Das Team testete sechs verschiedene KI-Modelle und verglich sie mit 100 menschlichen Teilnehmern. Sie fanden etwas Faszinierendes heraus: Die KI-Modelle sind nicht einfach nur Zufallszahlengeneratoren. Sie besitzen stabile „Risikopersönlichkeiten“. Genau wie ein Mensch, der an der Börse von Natur aus vorsichtig ist, könnte auch beim Autofahren vorsichtig sein, zeigten auch diese KI-Modelle einen konsistenten Stil über alle drei sehr unterschiedlichen Spiele hinweg. Wenn ein Modell bei der Drohnen-Aufgabe vorsichtig war, war es wahrscheinlich auch bei der medizinischen Aufgabe vorsichtig. Die Forscher maßen dies, indem sie untersuchten, wie die Modelle ihre Gefühle der Gefahr auf ihre Handlungen abbildeten. Sie entdeckten, dass Menschen zwar ein breites Spektrum von extrem vorsichtig bis extrem aggressiv abdecken, die KI-Modelle jedoch alle in einem engen, mittelmäßigen Band zusammenklumpten. Es ist, als wären die KI-Modelle alle darauf trainiert worden, „durchschnittlich“ oder „sicher“ zu sein, wobei sie die wilde Vielfalt der Risikobereitschaft vermissen ließen, die das menschliche Entscheidungsverhalten so vielfältig macht.
Die Studie legt nahe, dass diese Risikoeinstellungen ein realer, messbarer Teil der Funktionsweise dieser Modelle sind und nicht nur ein Zufall der spezifischen Fragestellungen. Die Forscher stellten jedoch auch fest, dass zwar der Stil des Risikos (vorsichtig vs. kühn) konsistent war, die Art und Weise, wie scharf die Modelle auf kleine Änderungen der Gefahr reagierten, je nach Spiel variierte. Das bedeutet, dass eine KI zwar eine stabile „Persönlichkeit“ haben kann, die Art und Weise, wie sie ihre Handlungen feinabstimmt, aber dennoch von der spezifischen Situation abhängen kann. Die Arbeit kommt zu dem Schluss, dass wir KI nicht länger nur als neutralen Rechner behandeln können. Sie haben intrinsische Verhaltensdispositionen erwor건en. Dies ist eine entscheidende Entdeckung, denn es bedeutet, dass wir, um KI sicher in der realen Welt einzusetzen, nicht nur ihre Intelligenz, sondern auch ihre Risiko-Persönlichkeiten verstehen und aufeinander abstimmen müssen, um sicherzustellen, dass sie nicht versehentlich zu zaghaft oder zu unvorsichtig für die jeweilige Aufgabe werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.