💬 NLP

EvalMORAAL: Interpretable Chain-of-Thought and LLM-as-Judge Evaluation for Moral Alignment in Large Language Models

EvalMORAAL は、20 の大規模言語モデルの道徳的整合性をグローバルな調査データと比較して評価する透明性が高く解釈可能なフレームワークであり、全体的には強い相関を示す一方で、西洋地域と非西洋地域の間に 0.21 ポイントの有意な整合性ギャップが存在することを明らかにする。

原著者： Hadi Mohammadi, Anastasia Giachanou, Robert A. Bagheri

公開日 2026-05-21

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Hadi Mohammadi, Anastasia Giachanou, Robert A. Bagheri

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが、ロボットが話し方を学ぶために読んだ、巨大で超賢い本の図書館を持っていると想像してください。このロボットは「大規模言語モデル（LLM）」と呼ばれ、物語を書くこと、質問に答えること、パズルを解くことに驚くほど長けています。しかし、一つの問題があります。このロボットは、主に欧米（米国やヨーロッパなど）の人々によって書かれた英語の書籍から学んだのです。

さて、このロボットに、アフリカやアジアの一部など、あまり学んでいない文化における「正しいこと」や「間違ったこと」について質問するとどうなるでしょうか。ロボットはその文化に合った答えを出すでしょうか、それとも欧米の書籍から学んだ答えをそのまま出すでしょうか。

这正是論文「EvalMORAAL」が調査している点です。研究者たちは、世界中の人々の道徳的価値観を 20 種類の異なる AI ロボットがどの程度理解しているかを見るために、「道徳テスト」を構築しました。

以下に、いくつかの簡単なアナロジーを用いて、彼らがどのように行ったかを説明します。

1. テスト：グローバルな「道徳調査」

研究者たちは、ロボットに単にランダムな質問をしたわけではありません。彼らは、64 カ国の実際の人間に 23 の異なる道徳的トピックについて質問した、2 つの巨大な実世界調査（「World Values Survey（世界価値観調査）」と「PEW Global Attitudes Survey（ピュー・グローバル・アティチュード調査）」）を利用しました。

トピック: 「脱税は許されるか？」「同性愛は受け入れられるか？」「問題を解決するために暴力を使うことは許されるか？」といったことです。
目的: 特定の国における実際の人間の平均的な回答と、AI の回答が一致するかどうかを確認することでした。

2. 方法：2 つの質問方法、1 つの「審査員」

最良の結果を得るために、研究者たちは AI に単に「はい」または「いいえ」を答えさせるだけではありませんでした。彼らは 3 段階の戦略を用いました。

「隠れた」スコア（ログ確率）: AI に「日本では、同性愛は…」という文を完成させるよう求めたと想像してください。AI は「受け入れられる」か「受け入れられない」かのどちらかを選ばなければなりません。研究者たちは、AI の内部計算に基づいて、その選択に対して AI がどの程度「自信」を持っていたかを調べました。これは、学生が答えを書く際に手がどのくらい速く動くかを確認するようなもので、直感を示します。
「思考」スコア（思考連鎖）: これが大きな革新です。単に答えを出すのではなく、研究者たちは AI にまず声に出して思考するよう求めました。
- ステップ 1: 「この国の社会的規範は何ですか？」
- ステップ 2: 「段階的に推論してください：これはここで許されるでしょうか？」
- ステップ 3: 「-1（決して許されない）から +1（常に許される）までのスコアをつけてください。」
- 結果: この「思考」ステップははるかに効果的でした。これは、AI に推測するのではなく、答える前に「文化的な眼鏡」をかける瞬間を与えたようなものです。
「ピアレビュー」（LLM による審査）: AI が単にでたらめを言っていないことを確認するために、20 種類の異なるロボットに互いの「思考」ステップを評価させました。ロボット A の推論がおかしいか偏っているように聞こえれば、ロボット B がそれを指摘します。これにより、研究者たちはロボット同士が強く食い違った 348 の具体的なケースを特定できました。

3. 結果：良いニュース、悪いニュース

この研究は、非常に明確なパターンを見つけました。

「トップティア」は改善している: 最も賢いモデル（Claude-3-Opus や GPT-4o など）は、驚くほど良い成績を収めています。欧米諸国における道徳的問題について質問された場合、彼らの回答は実際の人間の調査結果とほぼ完全に一致しました（相関率約 90%）。これは、一生懸命勉強してテストで A を取った学生のようです。
「地域格差」は現実です: これが最大の発見です。ロボットは米国やヨーロッパなどの西洋的な価値観の理解においては優れていますが、中東、南アジア、アフリカなどの非西洋的な価値観の理解には大きく苦労しています。
- アナロジー: フランス語とスペイン語に堪能だが、スワヒリ語を数語しか知らない翻訳者を想像してください。複雑なスワヒリ語の詩を翻訳するように頼めば、意味を推測するかもしれませんが、おそらく間違えるでしょう。この論文は、西洋文化と非西洋文化に対する AI の理解度の間に21 ポイントの格差があることを発見しました。
暴力は難しい: ロボットは、テロや家庭内暴力など、暴力に関連するトピックで最も苦労しました。これらは文化的文脈が最も重要となる質問であり、AI の「西洋バイアス」が最も顕著に現れました。

4. なぜこれが重要なのか

この論文は、AI が大きな進歩を遂げている一方で、世界の多くの地域においてまだ「文化的に盲目」であると結論付けています。

問題: もしこれらの AI ロボットを、非西洋諸国において（ソーシャルメディアのモデレーションや法的助言の提供など）意思決定に使用した場合、西洋のルールを非西洋的な状況に適用してしまうため、正当な地元の声を沈黙させたり、地元の習慣を誤解したりする可能性があります。
解決策: 研究者たちは、単一の「グローバル」な AI に頼るだけではならないと提案しています。特定の地域におけるこれらのモデルのパフォーマンスを確認し、それらを改善するために「思考」方法（思考連鎖）を使用し、特定の地域からのもののように聞こえるだけでなく、より多様なデータで訓練する必要があるかもしれません。

要約すると: この論文は、私たちの AI ロボットが現在、西洋的な価値観を反映することには非常に優れているが、世界の残りの人々の目を通して世界を見る方法をまだ学んでいることを示す鏡を構築しました。

技術概要：EvalMORAAL

問題提起

世界中の文脈における大規模言語モデル（LLM）の急速な展開は、多様な道徳的規範を反映する能力に関する重大な懸念を提起している。現在、欧米中心の教育を受けた、工業化された、豊かで民主的な（W.E.I.R.D.）社会のデータで訓練されることが多いモデルは、文化的バイアスを増幅させ、現地の倫理的基準と整合しないリスクを孕んでいる。先行研究では LLM の出力と人間の調査データとの間に中程度の相関が確認されているが、これらの整合性の粒度、モデル推論の安定性、および地域バイアスが現れる具体的なメカニズムを理解する上では、依然として大きなギャップが存在する。既存の評価手法は、単一のスコア指標に依存するか、異なる文化間での道徳的判断の対立を検出・解決するための体系的なプロトコルを欠いていることが多い。

手法：EvalMORAAL フレームワーク

著者は、多面的なアプローチを用いて LLM における道徳的整合性を評価するために設計された、透明性の高い評価フレームワーク「EvalMORAAL」を導入する。このフレームワークは、30 億から 2,000 億パラメータ以上（プロプライエタリおよびオープンソースの両方を含む）にわたる 20 の多様なモデルを、64 か国および 23 の道徳的トピックにわたって評価する。

1. データセットとグラウンド・トゥルース

評価には、グラウンド・トゥルースとして 2 つの包括的な異文化調査が利用される。

World Values Survey (WVS)： 55 か国、19 のトピック（倫理的価値と規範のブロック）。
PEW Global Attitudes Survey： 39 か国、8 のトピック。
データは「決して正当化できない」を -1、「常に正当化できる」を +1 として、 $[-1, 1]$ のスケールに正規化される。評価は、集約された国別スコアではなく、トピックレベルの構造を保持するために、1,357 の固有の国－トピックペアに対して行われる。

2. 二重スコアリング機構

公平な比較を可能にし、暗黙的および明示的な道徳的推論の両方を捉えるために、フレームワークはすべてのモデルに対して 2 つの異なるスコアリング手法を採用する。

対数確率スコア（ $s_{LP}$ ）： 対義語形容詞のペア（例：「常に正当化できる」対「決して正当化できない」）を用いた文完成プロンプトからのトークン尤度に基づいて導出される。スコアはモデルごとに最小 - 最大スケーリングされ、情報の漏洩を防ぐ。
直接 CoT スコア（ $s_{DIR}$ ）： 構造化された Chain-of-Thought（CoT）プロトコルを通じて生成される。モデルは社会的規範を思い出し、段階的に推論し、有界の数値スコア（ $x \in [-1, 1]$ ）を出力するように指示される。安定性を確保するため、各シナリオあたり $k=5$ サンプルを生成し、平均スコアを計算する。

3. 自己整合性とピアレビュー

自己整合性： $k=5$ の推論埋め込みの平均ペアワイズ・コサイン類似度によって測定される。これはモデルの推論プロセスの安定性を評価する。
LLM によるジャッジピアレビュー： 20 番目のモデルの推論トレースを 19 のモデルが評価する（自己判断は除外）という新規コンポーネントである。ジャッジは文化的妥当性、論理的整合性、スコアの適切性を評価し、簡潔な根拠とともに「VALID/INVALID」のラベルを返す。**ピア合意率（ $A_m$ ）**とは、ピアによって検証されたモデルのトレースの割合である。
対立検出： 2 つのモデルの直接スコアの差が $\ge 0.38$ （経験的 75 パーセンタイル）の場合、対立がフラグ付けされる。これらは二項対立、勾配の不一致、外れ値に分類される。

主要な貢献

包括的な評価フレームワーク： EvalMORAAL は、単純な相関指標を超えて推論の質と安定性を分析するための、再現可能な 3 段階パイプライン（二重誘発、自己整合性、ピアレビュー）を提供する。
体系的な二重スコアリング： 対数確率プロービングと明示的な CoT 推論を組み合わせることで、単独の手法よりも堅牢な整合性指標が得られることが、20 のモデルすべてにおいて実証されている。
対立分類： このフレームワークは、モデル間の道徳的対立を検出・分類するためのデータ駆動型手法を導入し、評価セット内で 348 の具体的な対立を特定した。
地域別整合性分析： 結果を地理的に分解することで、西洋と非西洋の道徳的整合性の間の持続的なギャップを定量化した。

結果

トップティアの整合性の高さ： 最高性能のモデル（Claude-3-Opus、GPT-4o、Gemini-Pro）は、WVS データセットにおいて人間の調査データと強い整合性を示し、ピアソン相関係数（ $r$ ）は約 0.90 に達している（例：Claude-3-Opus は $r=0.903$ ）。
直接 CoT スコアの優位性： 20 のモデルすべてにおいて、直接 CoT スコア（ $r_{DIR}$ ）は対数確率スコア（ $r_{LP}$ ）を体系的に上回っている。WVS における改善は modest（ $\Delta r \approx 0.10$ ）であるが、PEW においてはより顕著に大きい（ $\Delta r \approx 0.17$ ）。これは、構造化された推論がモデルの判断の較正を助けることを示唆している。
持続する地域格差： 地域間には大きな格差が存在する。西洋地域は平均 $r=0.82$ の整合性を示すのに対し、非西洋地域は平均 $r=0.61$ であり、0.21 の絶対的ギャップが生じている。このギャップは性能ティア全体で一貫している。
品質シグナルとしてのピア合意： ピア合意率は WVS 調査の整合性と強く相関しており（ $r=0.74, p<.001$ ）、モデル間の合意が推論の質のスケーラブルな代理指標となり得ることを示唆している。ただし、この相関は PEW データセットでは弱く、統計的に有意ではない。
トピックの難易度： 暴力に関連するトピック（政治的暴力、テロリズム、妻殴打など）は、すべてのモデルティアにおいて一貫して平均絶対誤差が最も高く、これらの領域が文化的整合性にとって依然として課題であることを示している。
対立の解決： 検出された対立のうち、89% は 20 のモデル間の多数決によって解決され、残りの 11% は人間の検証を必要とする曖昧なケースであった。

意義と主張

著者は、EvalMORAAL が文化意識型 AI に向けた実質的な進歩を示しており、トップティアのモデルが調査文脈において人間の道徳的判断を近似するまでになったと主張する。しかし、論文は慎重な立場を維持し、21 ポイントの地域格差が公平な世界的展開への主要な障壁であることを強調している。

本研究は、現在のモデルが西洋の規範とはよく整合する一方で、複雑な領域や暴力に関連する道徳的領域において、非西洋的な視点を捉えるのに苦労していることを浮き彫りにしている。著者は、フレームワークが人間が読み取れる推論トレース（CoT）を生成する能力が、これらの盲点を診断するための実用的な道を提供すると論じている。結論として、自動化されたピアレビューは品質管理にとって有望であるが、高リスクかつ非西洋的な文脈でこれらのシステムを展開する前に、人間の監視と地域固有の検証が不可欠であるとしている。本論文はこれらの整合性問題を解決するものではないが、それらを測定し、文化固有の微調整や多様な事前学習などの将来の改善を導くために必要な診断ツールを提供するものである。