Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
本論文は、大規模言語モデルにおける言語横断的な転移は、言語的な関連性ではなく主にタスク形式の整合性によって駆動されており、モデルがベースラインの性能や思考の連鎖（chain-of-thought）の利用に関わらず、言語族を問わず一様な改善を示すことから、そうであることを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたは、中学生から教授まで、レベルの異なる7人の学生（AIモデル）のチームを率いています。あなたは、特定の主題をアラビア語で教えることが、ヘブライ語、アムハラ語、マルタ語といった（アラビア語に関連する）言語での質問への回答能力を、突然エキスパート級に引き上げる助けになるのか、それとも単に日本語、韓国語、フランス語といった（無関係な）言語での回答能力も同様に向上させるだけなのかを確かめたいと考えています。
研究者たちの大きな発見はこれです：彼らにアラビア語を教えても、「アラビア語の知識」が関連する言語へと魔法のように転移することはなかった。代わりに、彼らは単に「テストの受け方」を学んだだけだった。
以下に、簡単な比喩を用いて解説します。
1. 設定：「言語の家族」テスト
研究者たちは、セム語族（アラビア語、ヘブライ語、アムハラ語、マルタ語）を選びました。これらは、見た目は違っても、深い家族のルーツを共有している「いとこ」のような存在だからです（アラビア語とヘブライ語は文字の骨組みのようなスクリプトを使い、アムハラ語は異なるスクリプトを使い、マルタ語は英語と同じ標準的なラテン文字を使用しています）。
その意図はこうでした：もしモデルにアラビア語を教えたら、彼らが「家族」であるために、自然とヘブライ語やアムハラ語が得意になるのだろうか？
2. 実験：「アラビア語短期集中講座」
彼らは7つの大規模なAIモデルを取り上げ、アラビア語の方言のみを使った「短期集中講座（ファインチューニング）」を受けさせました。他の言語については何も教えていません。その後、彼らは追加のトレーニングなしで（ゼロショット）、他の言語での読解問題に関する質問を解かせ、テストを行いました。
3. 結果：すべては「テストの受け方のスキル」だった
結果は驚くべきものでした。
「弱い」モデル（苦戦している生徒たち）： 最初は成績が悪かったモデル（GPT-OSSモデルなど）は、アラビア語のトレーニング後に劇的な向上を見せました。正答率が45%から、ほぼ80%へと跳ね上がったのです。
- ひねり： 彼らは、ヘブライ語やアムハラ語に対して向上したのと同様に、日本語やフランス語に対しても同じくらい向上しました。
- 比喩： 想像してみてください。マークシートの塗り方を正しく知らない生徒がいます。あなたがその生徒に、アラビア語の練習テストを使って塗り方を教えたとします。すると突然、その生徒は日本語のテストであっても、あらゆるテストで成績が上がりました。なぜなら、ついに「マークの仕方」を学んだからです。彼らは日本語を学んだのではなく、フォーマットを学んだのです。
「強い」モデル（トップクラスの生徒たち）： もともと非常に高い成績を収めていたモデル（671億パラメータを持つDeepSeekなど）は、ほとんど向上しませんでした。
- 比喩： もし生徒が、すでにマークシートの塗り方を完璧に知っているA+の優等生だとしたら、そのシートを使っていくら練習を重ねても、あまり効果はありません。彼らはすでに調整済み（キャリブレーション済み）だったのです。
4. 「思考の連鎖（Chain-of-Thought）」による証明
これが言語的な知識の習得によるものではないことを証明するために、研究者は別のトリックを試しました。それは**思考の連鎖（CoT）**です。モデルを再学習させるのではなく、単に答えを出す前に「声に出して考える（推論ステップを書く）」よう指示しました。
- 結果： アラビア語のトレーニングによって向上したモデルと全く同じモデルが、「声に出して考える」ことによっても向上しました。
- 結論： もしアラビア語のトレーニングが「言語的知識（文法規則など）」を転移させていたのであれば、思考の連鎖による効果はこれほど大きくはなかったはずです。しかし、両方の方法が同じモデルに対して同様に効果を発揮したことは、問題が知識の不足ではなく、モデルが回答をテストの形式に適合させる方法を知らなかったことにあることを証明しています。
5. スクリプト（文字体系）の神話
研究者は、文字体系が影響を与えたかどうかも確認しました。アラビア語とヘブライ語はどちらも、文字の骨組みのようなスクリプト（アブジャド）を使用しているため、ヘブライ語には特別なブーストがかかるのではないかと考えました。
- 現実： ヘブライ語に特別なブーストは見られませんでした。改善の度合いは、アラビア語と同じスクリプトを使用している場合でも、全く異なるスクリプトを使用している場合でも同じでした。「家系図」としてのつながりは重要ではなかったのです。
まとめ
この論文は、AIが関連する言語のトレーニング後に特定の言語に強くなったのを見たとき、「AIが言語の家族を学んだ」と決めつけてはいけない、と結論付けています。
むしろ、AIは単にゲームのルールを学んでいた可能性が高いのです。それは、質問を見て、選択肢を処理し、正しい番号（1、2、3、または4）を選ぶという方法です。一度アラビア語を使ってその「ゲームの形式」を学べば、そのスキルを「親戚（ヘブライ語）」にも「他人（日本語）」にも適用できるのです。
要するに、モデルはヘブライ語を話せるようになったのではなく、テストの受け方を学んだのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。