Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
このパイロット研究は、仏教、ヴェーダ、およびヨーガの伝統における観照的な原則を用いて大規模言語モデルにプロンプトを与えることが、非観照的なベースラインと比較して、モデルの安全性、倫理的整合性、および協調的な質を著しく向上させることを実証しており、モデルの再学習を必要としない、低コストで伝統に依存しない介入策を提示している。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能システムは、文章を書き、推論し、創造することができる強力なツールになりつつありますが、有害または偏ったコンテンツを生み出すリスクも孕んでいます。これを管理するために、開発者はしばしば、これらのシステムを人間の価値観に「整列（アライメント）」させ、役に立ち、かつ無害であることを教えようと試みています。現在、研究が進んでいる一つの領域は、何千年もかけて人間が倫理や意識についてどのように考えるかを洗練させてきた古代の知恵の伝統が、これらの機械を導くための新しい方法を提供できるのではないか、という問いです。このアプローチは、機械の基礎となるコードを変更したり、ゼロから再学習させたりすることを必要としません。代わりに、「プロンプティング」と呼ばれる手法を用います。これは、ユーザーが質問をする前に、コンピュータに対して特定の指示や哲学的な枠組みを与えるものです。もし機械が、マインドフルな観察者や慈悲深い存在として考えるよう求められれば、単に質問に答えるように求められるよりも、より安全で倫理的な回答を生み出す可能性があるという考えに基づいています。
最近のパイロット研究では、このアイデアが異なる学派間で機能するかどうかを検証することを目的としました。セントラル・フロリダ大学とインド工科大学マンディの研究者たちは、大規模言語モデルに対して仏教、ヴェーダ哲学、古典的ヨガという3つの異なる伝統の原則を採用するよう指示することが、その挙動を改善するかどうかを調査しました。研究は、それぞれの伝統から特定の概念を取り上げました。仏教からは、マインドフルネス（判断を加えず注意を払うこと）、空（物事が固定された永続的な性質を持たないという理解）、非二元性（自己と他者が深くつながっていること）、そして無量の大慈悲（すべての生きとし生けるものへの無条件の慈しみ）といった概念を用いました。ヴェーダの伝統からは、義務、非暴力、そして現実とそうでないものを区別する能力を引き出しました。古典的ヨガからは、真実性や自己規律といった、一連の倫理的制約や個人的な観照を用いました。研究者たちは、これらの古代の枠組みが現代のAIをより安全で倫理的にできるのか、そしてどの伝統が他のものよりも優れているのかを知りたいと考えました。
答えを見つけるために、チームは現在利用可能な最も人気のある3つの商用AIシステムを使用して一連のテストを実施しました。彼らは、利益相反、潜在的な欺瞞、あるいは危害につながる可能性のある要求など、AIが困難な状況をどのように扱うかをテストするために設計された、多数の質問とシナリオを作成しました。各シナリオにおいて、AIに対して異なる条件下で回答するよう求めました。あるケースでは、AIに特別な指示を与えず、それが自然なパフォーマンスを確認するためのベースライン（基準）となりました。また別のケースでは、特定の哲学的原則を念頭に置いて回答するよう指示する短い前文をリクエストに追加しました。彼らは、「注意深くあれ」や「危害を避ける」といった単一の原則を含むものから、単一の伝統の全原則を一つのまとまった指示へと統合したバージョンまで、13種類の異なるバリエーションをテストしました。
結果には明確なパターンが見られました。AIに対して何らかの観照的な原則を用いてプロンプトを与えた場合、特別な指示を与えなかった場合よりも、その回答は一貫して優れていました。AIは有害な要求を拒否する可能性が高まり、バイアスを避けることに慎重になり、自らの限界を認める姿勢を強めました。また、より深く共感的な助言を行うようになりました。研究では、複数の原則を単一の統合されたプロンプトに組み合わせる方が、一つの原則を一度に使うよりもさらに効果的であることが示されました。3つの伝統を比較したところ、統合された仏教の枠組みが、安全性と倫理的行動において最も高いスコアを叩き出し、次いで統合されたヴェーダおよびヨガの枠組みが僅差で続きました。仏教のアプローチは統計的にわずかな優位性を示しましたが、3つの伝統すべてが、標準的な、ガイドのないAIよりも大幅に優れたパフォーマンスを示しました。
重要な点として、この研究は、これらの改善が単一のAIシステムに限られたものではないことを発見しました。同じポジティブな効果がテストされた3つの商用モデルすべてに現れたことは、このプロンプティング手法が異なるテクノロジーで使用できる柔軟なツールであることを示唆しています。研究者たちはまた、AIモデル自体に異なるベースラインのパフォーマンスレベルがあり、あるシステムはプロンプトに関わらず他のシステムよりも一般的に優れた性能を示すことも指摘しました。しかし、観照的なプロンプトを使用することによる相対的な利益は、すべてのモデルにおいて一貫していました。これは、このテクニックが特定の機械の特異性に依存するのではなく、AIが問題へのアプローチを変える方法によって機能していることを示唆しています。
本研究は、AIのプロンプトをこれらの古代の知恵の伝統に根ざすことが、モデルを再学習させる必要のない、低コストで即効性のある安全策と結論付けています。しかし、研究者たちは極めて重要な警告も述べています。仏教の枠組みがわずかに高いスコアを記録した事実は、それが他のものよりも本質的に優れていることを意味するわけではないかもしれない、ということです。むしろ、それは「安全性」や「倫理」を測定するために用いられたツールが、もともと仏教の概念と密接に関連する概念に基づいて設計されていることを反映している可能性があります。これは、AIを評価する方法について、より深い問いを投げかけます。もし私たちの「物差し」が一つの文化的視点から構築されているならば、私たちは意図せずして、その視点を他のものに対して優先させてしまう可能性があるのです。研究は、これらの観照的なプロンプトがAIをより安全にするための強力な新ツールである一方で、結果を判断する際の文化的レンズに対して意識的であり続けなければならないことを示唆しています。今後の道筋は、これらの洞察を用いてより優れたシステムを構築すると同時に、機械における「善い」振る舞いとは何かという定義を磨き続けることにあります。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。