技術概要：KG-HTC

問題定義

階層テキスト分類（HTC）は、ドキュメントを多段階の分類体系内で整理されたラベルに割り当てるタスクであり、e コマースのカテゴリ分類や文献管理などの分野において重要な課題です。従来の研究は教師あり手法が主流でしたが、これらは実世界の産業応用において重大な障壁に直面しています：

1. データ不足：複数の階層レベルにわたるデータの人手による注釈付けは、極めて高コストであり、実用的ではありません。
2. 大規模なラベル空間：分類体系には、しばしば数百から数千の葉ノードカテゴリが含まれます（例：Amazon データセットには 500 以上の葉カテゴリがあります）。
3. 長尾分布：データセットはしばしば極めて偏っており、少数の頻出カテゴリが支配的である一方、大多数のクラスは過少表現されています。

これらの要因により、標準的な教師ありアプローチは多くの産業環境では不適切となり、厳密なゼロショット学習手法への転換が必要とされています。既存のゼロショットアプローチ（コンテキスト内学習を活用するもの（Halder ら）や、埋め込みベースの類似性伝播を用いるもの（Z-STC、HiLA）など）は、階層が深くなるにつれて性能が低下する傾向があり、大規模で疎なラベル空間を効果的にナビゲートできないという課題を抱えています。

手法：KG-HTC

著者は、KG-HTCを提案しました。これは、知識グラフ（KG）と大規模言語モデル（LLM）を統合し、ゼロショット設定における HTC の課題に対処する新しいフレームワークです。本手法は、ラベル分類体系を有向非巡回グラフ（DAG）として扱い、構造化された意味的コンテキストを LLM に提供するために、検索拡張生成（RAG）パイプラインを採用しています。

システムアーキテクチャは、以下の段階で動作します：

1. 保存と表現：

   • ラベル分類体系は、階層的な親子関係を保持するためにグラフデータベース（Neo4j）に、またすべてのラベルの埋め込みを含むベクトルデータベース（ChromaDB）に保存されます。
   • この二重保存により、システムは意味的曖昧さ解消のために位相的制約を活用できます。

2. 部分グラフ検索（RAG）：

   • 入力テキスト $x$ が与えられると、システムはその埋め込み $\Psi(x)$ を計算します。
   • 各階層レベル $l$ において、システムは入力と当該レベルのすべてのラベルとの間のコサイン類似度を計算します。
   • 候補ラベル $Q_l$ は、類似度閾値 $\tau_l$ に基づいて検索されます。
   • アルゴリズム 1は、レベル間の依存関係を検証します：レベル $l$ の候補ラベルは、レベル $l-1$ の候補セットにその親ラベルが存在する場合にのみ保持されます。このプロセスにより、完全な知識グラフから関連する部分グラフ（または部分木）が構築され、無関係なノイズがフィルタリングされます。

3. プロンプト構築：

   • 検索された部分グラフは、アルゴリズム 2を用いて構造化されたプロンプトに変換されます。
   • システムは、葉ノードからルートへのすべての有効なパスを列挙する、上向き伝播トラバースを実行します。
   • これらのパスは、シーケンス（例：レベル 1 -> レベル 2 -> レベル 3）としてシリアライズされ、プロンプトに連結されます。このチェーンベースの表現により、LLM は分類体系全体に圧倒されることなく、階層的制約を理解できます。

4. 層別分類：

   • LLM は、レベル 1 からレベル $L$ まで反復的に分類を実行します。
   • 最初のレベルでは、すべてのトップレベルラベルがプロンプトに含まれます。
   • 以降のレベルでは、候補セットは、前レベルの予測ラベル（$y_{l-1}$）と、新たに検索された候補（$Q_l$）を組み合わせることで制約されます。この戦略により、誤差伝播が軽減され、大規模なラベル空間が効率的に処理されます。

主要な貢献

本論文は、以下の 3 つの主要な貢献を概説しています：

1. 新規統合：厳密なゼロショット階層テキスト分類のために、LLM へ知識グラフを統合する手法、KG-HTC の導入。
2. 意味検索パイプライン：コサイン類似度に基づいて意味的に関連する部分グラフを動的に検索し、それらを構造化された階層プロンプトに変換するパイプラインの実装。これにより、LLM が複雑な分類体系に対して推論することを可能にします。
3. 包括的な評価：KG-HTC が、3 つのオープンソースデータセットにおいて、特に深い階層レベルで、従来の最先端のゼロショット手法（Z-STC および HiLA）を上回る性能を示すことを実証する、詳細な評価。

実験結果

著者は、KG-HTC を 3 つのデータセットで評価しました：Amazon 製品レビュー（3 レベル）、Web of Science（WoS）（2 レベル）、DBpedia（3 レベル）です。主要な指標は、クラスの不均衡を考慮するために選択されたF1-macroでした。

• 性能向上：KG-HTC は、弱いベースライン（直接 LLM 分類）および強力なベースライン（Z-STC および HiLA）を大幅に上回りました。
  • Amazonデータセットにおいて、KG-HTC はレベル 3 で0.445の F1-macro を達成しました。一方、HiLA は0.249、Z-STC は0.173でした。
  • WoSにおいて、KG-HTC はレベル 2 で0.630を達成し、HiLA（0.371）および Z-STC（0.462）を上回りました。
• 減衰分析：本論文は、分類体系が深くなるにつれて生じる性能損失を測定するための「平均減衰率」という指標を導入しています。KG-HTC は最も低い減衰率を示しました（例：Amazon で 0.15、HiLA では 0.43）。これは、他の手法が失敗する深い疎な階層においても、本手法が堅牢性を維持していることを示しています。
• アブレーション研究：
  • 部分グラフ検索：RAG ベースの部分グラフ検索を完全な知識グラフ（Full-KG）に置き換えると、深いレベルでの性能が低下しました。これは、関連コンテキストをフィルタリングすることが大規模なラベル空間の処理において重要であることを確認しました。
  • モデル汎化：本手法は、オープンソースの LLM（Qwen2.5-8b）の性能をベースラインから向上させることに成功し、GPT-3.5-turbo のようなプロプライエタリモデルを超えた汎用性を示しました。

意義と主張

本論文は、KG-HTC が、注釈付きデータの欠如、大規模なラベル空間、長尾分布という、産業環境における HTC の核心的な課題を効果的に解決すると主張しています。構造化された知識（部分グラフ検索を通じて）と LLM の生成能力を統合することで、本手法は微調整を必要とせずに正確なゼロショット分類を可能にします。

著者は、明示的な位相的制約を提供することで、LLM が「さまざまな階層レベルにおけるラベルの意味を理解」できるようになると強調しています。結果は、構造化された知識の組み込みが、ラベル分布が極めて偏っており、分類体系が深いようなシナリオにおいて、現在のゼロショット HTC 手法の限界を克服するための viable な道筋であることを示唆しています。

限界：著者は、本手法が完全かつ正確なラベル分類体系の利用可能性を前提としていることを指摘しています。基盤となる知識グラフに不正確さがあると、性能が低下します。今後の課題として、より堅牢な知識グラフを構築するために LLM を活用することへの焦点が提案されています。