技術的概要：L1 が英語語彙の難易度に与える影響のモデル化

問題定義

第二言語（L2）語彙の習得は基本的な課題であるが、特定の単語を学習する難易度は学習者の母語（L1）によって大きく異なる。内在的な語彙特性（例：頻度、具体性）はすべての学習者に影響を与えるが、正書的重なりや類義語（cognate）のステータスといった L1 固有の要因は、学習曲線に乖離を生じさせる。既存の語彙難易度に関する計算モデルは、個々の学習者の背景を考慮できていないか、単一の言語ペアに限定されていることが多い。本論文は、スペイン語、ドイツ語、中国語という異なる類型学的背景を持つ学習者に対する英語語彙の難易度をモデル化する際のギャップに対処する。

手法

データ

本研究は、10 万人以上の英語学習者からの語彙難易度テスト回答を含むクラウドソーシングコーパスである**知識ベース語彙リスト（KVL）**を利用する。データセットは 3 つの L1 グループ（スペイン語、ドイツ語、中国語）を網羅し、言語ごとに約 6,091 件の訓練アイテム、677 件の開発アイテム、748 件のテストアイテムを有する。

• タスク形式: 学習者は、最初の文字と文字数を与えられた上で、L1 の単語を英語に翻訳する（例：ドイツ語 Kabel $\to$ c _ _ _ _）。
• 目的変数: アイテムの難易度はラッシュモデルを通じて推定され、高い値がより簡単な単語を示す連続対数スコアを生成する。

特徴量エンジニアリング

著者は各アイテムあたり 24 の特徴量を抽出し、異なる認知メカニズムを捉えるために 4 つの明確なグループに整理した。

1. 親しみやすさ（11 特徴量）: 対数変換された単語頻度、文脈的多様性、獲得年齢（AoA）、単語を知っていると回答した注釈者の割合、CEFR 熟達度レベル（CEFR-J および EFLLex コーパス分布の両方）を含む、曝露効果を捉える。
2. 意味（5 特徴量）: fastText 埋め込みの $\ell_2$ ノルム、平均ハイパーニム深度、意味数（WordNet 由来）、品詞（POS）優位性比率、および曖昧さ解消の必要性を示す二値フラグを用いて、意味的複雑さを近似する。
3. 表面（7 特徴量）: 標的/源単語の長さ、音節数、文字/音素比（正書的透明性）、文脈文の長さ、英語の手がかりと L1 翻訳の先頭文字など、正書的形態を記述する。
4. 転移（1 特徴量）: 英語単語とその L1 翻訳の文字 $n$ グラム TF-IDF ベクトル間のコサイン類似度を計算する。これは正書的類義語性を代理する。注目すべきは、文字体系の違いにより、この特徴量が中国語に対しては類似度がゼロになる点である。

モデルアーキテクチャ

• 主要モデル: CatBoost（勾配ブースティング決定木）を各 L1 ごとに個別に訓練する。この選択により、解釈性を維持しつつ非線形相互作用と特徴量の重要度をモデル化できる。
• ベースライン:
  • リッジ回帰: 同じ 24 の特徴量で訓練された線形モデル。非線形相互作用の必要性を検証する。
  • トランスフォーマーベース: 手作業の特徴量なしに難易度スコアで直接微調整された事前学習言語モデル（Skidmore ら、2025）。
• 評価: モデルは、保持されたテストセットにおけるルート・平均・二乗・誤差（RMSE）とピアソンの $r$ によって評価される。クロス L1 一般化は、ある L1 で訓練されたモデルを他の L1 のテストセットで評価することで検証される。
• 解釈可能性: **SHAP（Shapley Additive exPlanations）**値を用いて、予測を個々の特徴量に帰属させる。特徴量の重要度はグループ別に集約され、親しみやすさ、意味、表面、転移メカニズムの相対的寄与を決定する。

主要な結果

予測精度

CatBoost モデルは、線形およびトランスフォーマーベースラインの両方と比較して、3 つの L1 すべてにおいて最低の RMSE と最高のピアソン相関を達成した。

• スペイン語: CatBoost RMSE = 1.24（対トランスフォーマー 1.26、対線形 1.30）。
• ドイツ語: CatBoost RMSE = 1.12（対トランスフォーマー 1.26、対線形 1.20）。
• 中国語: CatBoost RMSE = 1.04（対トランスフォーマー 1.14、対線形 1.07）。
  これらの結果は、この特定のタスクにおいて、非線形特徴量相互作用と適切に選択された心理言語学的特徴量が、線形結合および生きたトランスフォーマー表現の両方を凌駕することを示している。

特徴量重要度と L1 間の差異

SHAP 分析は、学習者の L1 に基づく明確な難易度プロファイルを示した。

1. 親しみやすさ: これは 3 つの言語すべてで支配的な特徴量グループであった。ただし、具体的な駆動要因は異なった。
   • スペイン語/ドイツ語: 主に獲得年齢（AoA）と頻度によって駆動される。
   • 中国語: 主に熟達度レベル（CEFR-J および EFLLex の範囲）によって駆動され、よりカリキュラム主導の習得パターンを示唆する。
2. 転移（正書的重なり）: この特徴量は決定的な差別因子として機能した。
   • スペイン語とドイツ語では、転移は全体的に最も強力な予測因子であった（平均 $|SHAP| \approx 0.51-0.52$）、特に馴染みの薄い単語において。それは類義語を通じて「第二の経路」を提供し、易しさを達成した。
   • 中国語では、共有する文字体系の欠如により、この特徴量の寄与はゼロであった。
3. 表面対意味: 表面特徴量（長さ、先頭文字）は、スペイン語やドイツ語の学習者に比べて中国語の学習者にとって有意に重要であった。逆に、意味特徴量はすべてのグループで最小限しか寄与しなかった。これは、KVL タスクが意味理解ではなく、形態の想起（スペリング）をテストするためと考えられる。

クロス L1 一般化

• スペイン語 $\leftrightarrow$ ドイツ語: 一方の言語で訓練されたモデルは、他方に対して相当程度一般化した（例：ドイツ語テストセットにおけるスペイン語訓練モデル：RMSE 1.18 対、ドイツ語内 1.12）。これは、類型学的に関連する言語間で共有される認知戦略を示唆する。
• 中国語: 中国語を介した転移は著しく悪かった。中国語訓練モデルはスペイン語/ドイツ語に一般化できず（RMSE > 1.5）、スペイン語/ドイツ語で訓練されたモデルはネイティブの中国語モデルよりも中国語において性能が劣ったが、それでもベースラインを上回った。これは、中国語学習者における難易度メカニズムが質的に異なることを確認するものである。

意義と貢献

本論文は、計算言語学および教育技術の分野に対して以下のいくつかの貢献を主張する。

1. L1 特化モデル化: 語彙難易度は普遍的な指標ではなく、特定の L1-L2 相互作用によって形成されることを実証する。個別のモデルを訓練することで、著者はこれらのニュアンスを捉え、無関心なモデルを上回る性能を発揮した。
2. 解釈可能性: SHAP 値の使用により、なぜある単語が難しいのかを分解できる。本研究は、スペイン語/ドイツ語学習者にとっての易しさへの 2 つの明確な経路（親しみやすさ または 正書的転移）と、中国語学習者にとっての親しみやすさと表面の手がかりへの統合的な依存を特定した。
3. カリキュラム設計への示唆: 調査結果は、スペイン語およびドイツ語学習者向けのカリキュラムが類義語を活用して語彙習得を加速できる可能性を示唆する一方、中国語学習者向けのカリキュラムは頻度と構造化された熟達度レベルを優先すべきであることを示している。
4. スケーラビリティ: 著者は、インタラクティブなデモと、Wiktionary から派生した拡張語彙（言語あたり 4,000〜7,000 語の追加単語）を提供し、これらのモデルが元の KVL データセットを超えて難易度推定を生成できることを実証した。

著者は、特徴量重要度分析がモデルの予測構造を記述するものであり、直接的な認知プロセスではないと指摘し、謙虚な立場を維持している。彼らは、特定のタスク形式（スペリング想起）と限られた言語カバレッジに関する限界を認め、今後の研究が追加的な分散を捉えるために音韻的類似性と借用語（calques）を探求することを提案している。