Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
Diese Pilotstudie zeigt, dass das Prompting von großen Sprachmodellen mit kontemplativen Prinzipien aus buddhistischen, vedischen und yogischen Traditionen deren Sicherheit, ethische Ausrichtung und kooperative Qualität im Vergleich zu nicht-kontemplativen Baselines signifikant verbessert und somit eine kostengünstige, traditionsagnostische Intervention bietet, die keines Modell-Retraining erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Künstliche Intelligenz-Systeme werden zu mächtigen Werkzeugen, die schreiben, denken und erschaffen können, aber sie bergen auch das Risiko, schädliche oder voreingenommene Inhalte zu produzieren. Um dies zu bewältigen, versuchen Entwickler oft, diese Systeme mit menschlichen Werten in Einklang zu bringen („alignment“), indem sie ihnen beibringen, hilfreich und harmlos zu sein. Ein wachsender Forschungsbereich stellt die Frage, ob alte Weisheitstraditionen, die seit Jahrtausenden verfeinern, wie Menschen über Ethik und Bewusstsein denken, einen neuen Weg zur Führung dieser Maschinen bieten könnten. Dieser Ansatz erfordert nicht die Änderung des zugrunde liegenden Codes der Maschine oder deren vollständigeses Neutraining. Stattdessen handelt es sich um eine Technik namens „Prompting“, bei der ein Nutzer dem Computer eine spezifische Reihe von Anweisungen oder einen philosophischen Rahmen vorgibt, bevor er eine Frage stellt. Die Idee ist, dass eine Maschine möglicherweise sicherere und ethischere Antworten liefert, wenn man sie bittet, wie ein achtsamer Beobachter oder ein mitfühlendes Wesen zu denken, als wenn man sie lediglich bittet, eine Frage zu beantworten.
Eine kürzlich durchgeführte Pilotstudie ging der Frage nach, ob diese Idee über verschiedene Denkschulen hinweg funktioniert. Forscher der University of Central Florida und des Indian Institute of Technology Mandi untersuchten, ob die Aufforderung an Large Language Models, Prinzipien aus drei unterschiedlichen Traditionen – dem Buddhismus, der vedischen Philosophie und dem klassischen Yoga – zu übernehmen, ihr Verhalten verbessern würde. Die Studie konzentrierte sich auf spezifische Konzepte aus jeder Tradition. Aus dem Buddhismus nutzten sie Ideen wie Achtsamkeit (Aufmerksamkeit ohne Urteil), Leerheit (das Verständnis, dass Dinge keine feste, permanente Natur haben), Nicht-Dualität (die Erkenntnis, dass das Selbst und andere tief miteinander verbunden sind) und grenzenlose Fürsorge (bedingungsloses Mitgefühl für alle Wesen). Aus der vedischen Tradition leiteten sie Pflicht, Schadensvermeidung und die Fähigkeit ab, zwischen dem, was real ist, und dem, was nicht ist, zu unterscheiden. Vom klassischen Yoga verwendeten sie eine Reihe ethischer Beschränkungen und persönlicher Beobachtungen, wie etwa Wahrhaftigkeit und Selbstdisziplin. Die Forscher wollten wissen, ob diese alten Rahmenwerke moderne KI sicherer und ethischer machen könnten und ob eine Tradition besser funktioniert als die anderen.
Um die Antworten zu finden, ließ das Team eine Reihe von Tests mit drei der heute am weitesten verbreiteten kommerziellen KI-Systeme durchführen. Sie erstellten eine große Anzahl von Fragen und Szenarien, die darauf ausgelegt waren, zu testen, wie die KI mit schwierigen Situationen umgeht, wie etwa Interessenkonflikten, potenzieller Täuschung oder Anfragen, die zu Schaden führen könnten. Für jedes Szenario baten sie die KI, unter verschiedenen Bedingungen zu antworten. In einigen Fällen gaben sie der KI keine speziellen Anweisungen, was als Basis diente, um deren natürliche Leistung zu beobachten. In anderen Fällen fügten sie eine kurze Einleitung vor der Anfrage hinzu, in der die KI angewiesen wurde, die Antwort unter Berücksichtigung spezifischer philosophischer Prinzipien zu formulieren. Sie testeten dreizehn verschiedene Variationen, darunter einzelne Prinzipien wie „sei achtsam“ oder „vermeide Schaden“, sowie integrierte Versionen, die alle Prinzipien einer einzelnen Tradition zu einer kohärenten Anweisung kombinierten.
Die Ergebnisse zeigten ein klares Muster. Wenn die KI mit einem der kontemplativen Prinzipien gepromptet wurde, waren ihre Antworten konsistent besser als wenn sie keine speziellen Anweisungen erhielt. Die KI neigte eher dazu, schädliche Anfragen abzulehnen, war vorsichtiger bei der Vermeidung von Voreingenommenheit und bereitwilliger, ihre eigenen Grenzen anzuerkennen. Sie bot zudem tiefgründigere und empathischere Ratschläge an. Die Studie fand heraus, dass die Kombination mehrerer Prinzipien in einen einzigen, integrierten Prompt noch besser funktionierte als die Verwendung nur eines einzelnen Prinzips. Beim Vergleich der drei Traditionen stellten die Forscher fest, dass der integrierte buddhistische Rahmen die höchsten Werte für Sicherheit und ethisches Verhalten erzielte, gefolgt vom integrierten vedischen und yogischen Rahmen. Obwohl der buddhistische Ansatz einen leichten statistischen Vorsprung hatte, schnitten alle drei Traditionen signifikant besser ab als die standardmäßige, ungeleitete KI.
Wichtig ist, dass die Studie entdeckte, dass diese Verbesserungen nicht auf nur einen Typ von KI-System beschränkt waren. Derselbe positive Effekt trat bei allen drei getesteten kommerziellen Modellen auf, was darauf hindeutet, dass diese Prompting-Methode ein flexibles Werkzeug ist, das mit verschiedenen Technologien genutzt werden kann. Die Forscher stellten auch fest, dass die KI-Modelle selbst unterschiedliche Basis-Leistungsniveaus hatten, wobei ein System unabhängig vom Prompt generell besser abschnitt als die anderen. Der relative Nutzen der Verwendung der kontemplativen Prompts blieb jedoch bei allen Modellen konsistent. Dies deut lässt darauf schließen, dass die Technik dadurch wirkt, wie die KI ein Problem angeht, und nicht durch das Vertrauen auf die spezifischen Eigenheiten einer einzelnen Maschine.
Die Studie kommt zu dem Schluss, dass die Verankerung von KI-Prompts in diesen alten Weisheitstraditionen ein kostengünstiger und unmittelbarer Weg ist, um Sicherheit und Ethik zu verbessern, ohne die Modelle neu trainieren zu müssen. Die Forscher äußern jedoch auch eine entscheidende Warnung. Die Tatsache, dass der buddhistische Rahmen etwas höher bewertet wurde, bedeutet nicht zwangsläufig, dass er von Natur aus dem anderen überlegen ist. Stattdessen könnte dies widerspiegeln, dass die zur Messung von „Sicherheit“ und „Ethik“ verwendeten Instrumente ursprünglich mit Konzepten entwickelt wurden, die eng mit buddhistischen Ideen übereinstimmen. Dies wirft eine tiefere Frage darüber auf, wie wir KI bewerten: Wenn unsere Messlatten aus einer bestimmten kulturellen Perspektive gebaut sind, könnten wir diese Perspektive bei der Prüfung anderer unabsichtlich bevorzugen. Die Studie legt nahe, dass wir, während wir diese kontemplativen Prompts als ein mächtiges neues Werkzeug nutzen, um KI sicherer zu machen, uns der kulturellen Linsen bewusst bleiben müssen, durch die wir die Ergebnisse beurteilen. Der Weg nach vorn besteht darin, diese Erkenntnisse zu nutzen, um bessere Systeme zu bauen und gleichzeitig die Art und Weise zu verfeinern, wie wir „gutes“ Verhalten in einer Maschine definieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.