Artificial Aphasias in Lesioned Language Models

技術サマリー：損傷言語モデルにおける人工失語症

問題と動機
神経心理学者は長年、自然発生的な脳損傷（失語症）を利用して人間の言語の機能的組織をマッピングし、特定の脳領域を独特の症状プロファイルと結びつけてきた。同時に、機械的解釈可能性の研究者は、重みや活性化を沈黙させるなどして言語モデル（LM）に介入し、出現する構造と機能の対応関係を研究している。しかし、これら二つのコミュニティは主に独立して活動してきた。近年の研究では、損傷操作を通じてLMに人間の失語症サブタイプ（例：ブロカ型、ウェルニッケ型）を誘発しようとする試みがあるが、これらの研究はしばしば症状パターンの著しい多様性を曖昧にする粗いカテゴリーラベルに依存している。

本論文は、LMの出現する機能的組織をより詳細に特徴づけるための、失語症に着想を得た手法を導入する。著者らは、LMを広範な臨床カテゴリーにマッピングするのではなく、詳細な症状分布のプロファイリングを行うことで、特定のモデルコンポーネントが言語処理の失敗にどのように寄与するかを理解すべきであると主張する。本研究は、損傷を受けたLMが人間と同様の機能的組織を示すのか、それともその失敗様式は固有のものなのかを明らかにし、人間の失語症症状がなぜそのようなパターンを示すのかに関する仮説を制約することを目的としている。

手法
著者らは、デコーダーのみのトランスフォーマーアーキテクチャにおける特定のパラメータ行列を「損傷（ゼロ化）」させることで、「人工失語症」を誘発する。実験設定は以下の通りである。

• モデル: Llama 3.2、Gemma 3、OLMo 2 の 3 つのファミリーにまたがる、約 10 億パラメータのモデルバリアント 5 種類。
• 損傷対象: 各層において 7 つの特定のコンポーネントを標的とする。アテンション機構の Query (Q)、Key (K)、Value (V)、Output (O) 行列、およびフィードフォワードネットワーク (FFN) の Gate、Up、Down 行列。
• 重症度: 損傷は 5 つの重症度レベル（$s \in \{0, 0.25, 0.50, 0.75, 1.0\}$）で適用される。ここで $s$ はゼロ化される重みの期待割合を表す。
• 評価: 出力は、テキストのみの LM 向けに特別に設計されたベンチマークであるText Aphasia Battery (TAB) を用いてスコアリングされる。TAB は、意味、文法、流暢さ、音韻、その他（反復ループ、常同行動、話題逸脱応答を含む）の 5 つのカテゴリーにまたがる 21 の二値症状を割り当てる。
• 比較: 本研究では、損傷を受けた LM からの 112,426 件のスコアリング済み出力を、人間の失語症サブタイプおよび対照群を含む AphasiaBank コーパスからの 6,000 件の生成物と比較する。
• 統計分析: 著者らは、コンポーネント間および人間ベースラインに対する症状プロファイルの差異を評価するために、条件レベルのブートストラップ、対の符号反転検定、置換検定などを含むノンパラメトリック手法を採用する。

主要な結果

1. アテンション対 FFN の明確な機能プロファイル: アテンション機構とフィードフォワードネットワークへの損傷は、体系的に異なる症状プロファイルを生み出す。

   • FFN 損傷: 出力を曖昧な内容（「意味が不明」）、短く定型化された文字列、話題逸脱応答、反復ループへとシフトさせる。意味カテゴリーおよび「その他」カテゴリーの症状を不均衡に増加させる。
   • アテンション損傷: 音韻的および流暢さの側面（例、音韻的パラファジア、途切れた発話）を不均衡に障害する。
   • サブ構造: アテンション内では、Q/K と V/O が類似した効果を持つ異なるコホートを形成する。FFN 内では、Down 損傷が最も高い症状負担を引き起こし、Gate 損傷はしばしば出力を句読点のみのものや反復された機能語にまで減少させる。

2. 深さに依存した症状の局在化: 損傷が発生する層は、症状プロファイルを著しく形成する。

   • 初期層: 初期層での損傷は、不均衡に意味および文法的欠損を引き起こす。
   • 後期〜中期層: 後期層での損傷は、音韻および流暢さ欠損の発生率を高める。
   • 必要性対内容: これは、中〜後期層での整合性を見出すことが多い脳デコーディング研究とは対照的である。ここでは、初期層が中核機能に対して因果的に必要であるように見え、後期層はより微細な微調整を処理している。

3. 人間の失語症からの乖離: 一部の LM 損傷は、他のものよりも特定の人間の失語症サブタイプに記述的に近い症状プロファイルを生み出すが、根本的な質的差異が存在する。

   • 症状構成: 人間は意味および文法的症状の発生率が高いのに対し、損傷を受けた LM は「その他」カテゴリーの症状（反復ループ、話題逸脱テキスト）を過剰に生成する。
   • 症状負担: 人間は一般的に、損傷を受けた LM よりも高い全体的な症状負担を示す。
   • 共起: 人間の失語症は、特定の症候群など、密な症状共起パターンを示すのに対し、LM は明確な共起構造をあまり示さない。
   • 結論: 本論文は、ある程度の共有構造が存在するものの、トランスフォーマー LM の出現する機能的組織は人間の脳と質的に異なると結論づける。失語症症状は、言語処理の破壊によるドメイン不変の結果というよりも、人間の脳特有の学習および処理の詳細に依存する帰属特性であるように見える。

意義と主張
本論文は 4 つの主要な貢献を行う。

1. 概念実証: TAB を用いて詳細な失敗様式をプロファイリングし、粗い診断ラベルに依存しない LM 向けの「神経心理学」を確立する。
2. 機能の分化: 複数のモデルアーキテクチャにわたって、アテンションと FFN 機構間の信頼性の高い機能的差異を特定する。
3. 深さ効果: 意味および文法的欠損は確実により初期の層に局在し、音韻および流暢さ欠損はより後期の層で出現することを明らかにする。
4. 収束に関するニュアンス: LM と人間の失語症間の収束に関する先行の主張を精緻化する。表面的な類似点は存在するが、詳細な症状パターンは、人間の失語症症候群が言語そのものの構造に内在するものではなく、言語処理の生物学的実装に特有のものであることを示唆すると論文は主張する。

著者らは明示的に、LM が臨床的な失語症を有すると主張するものではないと述べている。代わりに、彼らは臨床的枠組みを、出現する機能を研究するための座標系として利用している。結果は、LM 損傷が臨床的に読み取れる失敗を生み出す可能性がある一方で、その基盤となる組織は人間の脳と著しく異なり、トランスフォーマーコンポーネントを人間の脳領域と直接等価視することへの注意を促していることを示唆している。