技術概要：構造誘導エンティティ解決（SGER）

問題定義

言語的・文化的に複雑な環境、特にインドの個人識別データにおけるエンティティ解決（ER）は、Know Your Customer（KYC）コンプライアンスにとって重大な課題です。安定したキーとは異なり、これらの文脈における名前は、多様な文化的慣習、スクリプト間（例：デーヴァナーガリー文字からラテン文字へ）の不一致な転写、および頻繁なデータ入力エラー（タイプミス、トークンの結合、空白の欠落）により変動します。編集距離、Jaro-Winkler、音声符号化などの従来の手法は、これらの構造的曖昧さに対処できず、高い偽陽性率と偽陰性率をもたらします。大規模言語モデル（LLM）は有望ですが、標準的なファインチューニングは、モデルに名前の構造と分類境界を同時に学習させることが多く、構造的パターンが強くても暗黙的なドメインでは最適ではないパフォーマンスにつながります。

手法：構造誘導エンティティ解決（SGER）

著者は、LLM（具体的には Meta の Llama 3 8B）を2 段階のカリキュラム学習戦略を用いてファインチューニングする新しいフレームワーク「SGER」を提案します。このアプローチは、構造的理解を二値マッチングタスクから分離し、名前の堅牢な内部表現を構築します。

システムアーキテクチャ

• ベースモデル: 精度、コスト効率、オープンソースによる再現性のバランスが取れているため、Llama 3 8B を採用。
• トレーニングメカニズム: 混合精度（fp16）を使用した低ランク適応（LoRA）（ランク 4、アルファ 8）による教師ありファインチューニング（SFT）。

フェーズ 1：名前構造の理解

• 目的: モデルに名前の「内部文法」を教える。
• タスク: 生の名前文字列（例："Kirtan Singh Rathore"）を、first_name、middle_name、last_name を含む構造化された JSON オブジェクトにマッピングする。
• データ: 約 10,000 件の手動注釈付きインドの名前データセット。地域的・言語的多様性をカバーするために合成バリエーションで拡張。
• 成果: モデルはペアのマッチングを試みる前に、名前コンポーネントを識別し、構造的変動（例："SinghKirtan"を結合形式として認識するなど）に対処することを学習する。

フェーズ 2：二値名前マッチング

• 目的: 2 つの名前バリエーションが同一個人を指すかどうかを判断する下流タスクを実行する。
• 初期化: トレーニングはフェーズ 1 のチェックポイントから開始される。
• タスク: 名前ペアに基づいた二値分類（"Yes"または"No"）。
• プロンプト設計: 現実世界の曖昧さ（略語、順序入れ替えのコンポーネント、敬称）を反映するように、リスク運用チームと共同で設計された指示と数ショット例を含む。
• データ拡張: 堅牢性を確保するため、トレーニングデータ（元々 20,000 対）を、コンピュータビジョンから着想を得た 3 つの戦略を使用して 50,000 件以上に拡張：
  1. ペアの入れ替え: 順序不変性を保証する。
  2. コンポーネントの順列: 名前部分をシャッフルして、有効だが新規の構造的例を作成する。
  3. ランダムな空白除去: トークンを結合することでデータ入力エラーをシミュレートする（例："Kirtan Singh" $\to$ "KirtanSingh"）。

主な貢献

1. カリキュラムベースのフレームワーク: 本論文は、複雑な実世界環境における名前ベースのエンティティ解決に特化した 2 段階カリキュラム学習フレームワークの最初の経験的検証を導入する。構造的学習を分類から分離することが、単一ステージのファインチューニングと比較して優れたパフォーマンスをもたらすことを実証している。
2. 最先端のパフォーマンス: SGER は、50,000 件の実世界インド KYC ペアからなるホールドアウトセットにおいて、99.02% の精度とF1 スコア 0.994を達成した。
3. 本番環境への展開: システムは Dream11（2 億 5,000 万人以上のユーザーに対応）の本番パイプラインに完全に展開されており、P99 レイテンシ 120 ミリ秒で最大 1 分間 10,000 リクエストを処理している。

結果と比較分析

著者は、SGER を 5 つのベースラインに対して、分割された検証セットで評価した：

• Levenshtein 類似度: F1 0.726（構造的変動に苦労）。
• BERT（ファインチューニング済み）: F1 0.806。
• GPT-4o（数ショット）: F1 0.911。
• LLM（数ショット、Llama 3 8B）: F1 0.839。
• LLM（単一ステージ SFT）: F1 0.946。
• LLM（SFT + 拡張）: F1 0.973。
• SGER（2 段階 + 拡張）: F1 0.994。

アブレーション調査結果:

• データ拡張: 表面パターンの暗記を防ぎ、「ロングテール」の歪みへの汎化を改善することで、F1 を 0.946 から 0.973 に向上させた。
• カリキュラム学習: フェーズ 1 の構造的事前学習の追加が、最終的に 0.994 への押し上げを提供し、特に複数の同時歪み（略語、順序入れ替え、結合された名前など）を伴うペアのパフォーマンスを安定させた。

エラー分析:
残りのエラー（1% 未満）は主に以下の原因による：

• 曖昧な音声ケース: 一貫性のない転写により発音は似ているが綴りが異なる名前（例："Saurabh"対"Sorab"）。
• 複雑な複合エラー: 空白の喪失、順序の反転、OCR 破損が同時に発生するケース（例："SubhamKshr"対"KishoreShubham"）。

意義と影響

本論文は、カリキュラム誘導トレーニングが、大規模な堅牢で高精度なマッチングを可能にすることを実証することで、複雑な多言語ドメインにおけるエンティティ解決の新たな基準を設定していると主張している。

• 運用上の影響: 本展開により、曖昧なケースの人手レビュー（以前はサードパーティベンダーにルーティングされていた）が不要となり、年間50 万ドル以上のコスト削減を実現した。
• コンプライアンス: システムは 99.95% の精度を達成し、KYC ワークフローにおける偽のリンクと関連する規制リスクを大幅に低減した。
• スケーラビリティ: このアプローチは、専門的なエンティティ解決タスクが必ずしも巨大なモデルを必要としないことを証明している。構造化されたカリキュラムによって導かれた適度な 80 億パラメータモデルは、ほぼ完璧な精度を達成しうる。

著者は、インドの KYC データに焦点を当てているが、この手法は、豊かな言語的多様性、不規則な命名慣習、ノイズの多い入力によって特徴づけられる他の設定、例えばグローバル・e コマースや国境を越えた不正検出などにも広く適用可能であると結論づけている。