Distilled Edge Intelligence for Bolt Defect Detection in Communication Towers

技術要約：通信塔のボルト欠陥検出のための蒸留エッジインテリジェンス

問題提起
本論文は、リソース制約のある通信塔現場のエッジデバイスにおいて、高精度なディープラーニングモデルをボルトの欠陥（具体的には緩みおよび腐食）検出にデプロイするという課題に取り組んでいる。そこには、精度と効率性の間の根本的なトレードオフが存在する。クラウド側のモデルは信頼性の高い検出を提供するが、禁止的な通信レイテンシと帯域幅のコストを伴う。一方で、軽量なエッジモデルはリソース消費を抑えられるものの、マイノリティクラス（「緩み」および「腐食」）に対する再現率（Recall）が低くなる傾向があり、これは安全性において極めて重要である。さらに、現場で収集されたデータセットは極端なクラス不均衡（正常サンプルが支配的）を示し、欠陥は視覚的に異質なパターン（緩みによる幾何学的変形 vs 腐食によるテクスチャの変化）を呈するため、単一の撮像様式では捉えることが困難である。

手法
著者らは、クラウド側の高精度な知覚とエッジ側の軽量な推論を統合する蒸留エッジインテリジェンス・フレームワークを提案している。これは以下の3つのコアコンポーネントで構成される。

1. ヘテロジニアス・デュアルストリーム・ティーチャーモデル:

   • クラウドベースのティーチャーモデル（$M_t$）は、RGBテクスチャと単眼深度幾何学を融合させたデュアルストリーム・アーキテクチャを利用する。深度マップは、専用の深度センサーを必要とせず、学習済み基盤モデル（Depth Anything）を用いて単一のRGB画像から生成される。
   • 極端なクラス不均衡に対処するため、ティーチャーは「緩み」クラスの重みを増幅し、クラス固有の決定閾値を採用する**欠陥認識型フォーカルロス（defect-aware focal loss）**を用いて学習される。

2. 生徒モデルのための2フェーズ学習戦略:

   • フェーズ0（アーキテクチャ選択）: 学習開始前に、厳格なリソース予算（パラメータ数、FLOPs、ストレージ）に基づき、候補ファミリー（例：MobileNetV2のバリアント）から軽量な生徒アーキテクチャ（$M_s$）を選択する。実験では、CPUのみのエッジノードに適合させるため、MobileNetV2-0.5×が選択された。
   • フェーズ1（知識蒸留）: 生徒モデルは、特徴量レベルの蒸留ではなく、ロジットベースの知識蒸留（レスポンスレベル）を用いて学習される。著者らは、特徴量レベルの蒸留がマイノリティクラスの再現率を低下させることを経験的に発見した。これは、ティーチャーの中間特徴量が多数派である「正常」クラスに支配され、バイアスを強化してしまうためである。代わりに、生徒は（$T^2$でスケーリングされた）ティーチャーのソフト化されたロジット予測とフォーカルロスから学習し、計算コストを大幅に削減しながらティーチャーの欠陥認識能力を効果的に回復させる。

3. 信頼度を考慮したエッジ・クラウド協調推論:

   • 本システムは非対称なオフローディング・ポリシーを採用している。エッジモデルは「正常サンプルの保守的なフィルタ」として機能する。
   • ローカル処理: エッジモデルが「正常」であると高い信頼度（閾値 $\tau$ 以上）で予測した場合、そのサンプルはローカルで解決される。
   • クラウド・オフローディング: 予測が「緩み」または「腐食」である場合、あるいは「正常」に対する信頼度が低い場合、そのサンプルは検証のためにティーチャーモデルを備えたクラウドへオフロードされる。
   • このメカニズムは、最小限の欠陥再現率（$R_{min}$）というハード制約を遵守しつつ、レイテンシを最適化するリスク制約付きの閾値選択プロセスによって制御される。

主な貢献

1. フレームワークの統合: 通信塔のボルト検査に特化した、クラウド側の高精度な知覚とエッジ側の軽量な推論を組み合わせた統一フレームワーク。
2. 2フェーズ学習: 構造的なリソース制約の充足（アーキテクチャ選択）と性能最適化（知識蒸留）を切り離し、特徴量レベルのアライメントを用いずにマイノリティクラスの再現率を向上させるロジットベースの蒸留を活用した戦略。
3. リスク感受型協調: エッジモデルを正常サンプルのフィルタとして扱い、帯域幅の使用量と安全性に直結する検出信頼性のバランスを取るために、不確実なサンプルまたは潜在的な欠陥サンプルのみをクラウドにオフロードする、信頼度ベースの推論メカニズム。

実験結果
実験は、3,886枚の画像（正常 75%、緩み 9.5%、腐食 13.5%）からなるフィールド収集データセットを用いて行われた。

• ティーチャーの性能: デュアルストリーム・ティーチャーは、クラス不均衡を効果的に処理し、0.9308のバランス精度および0.988の腐食再現率を達成した。
• 蒸留の有効性: ロジットベースの蒸留は生徒モデルを大幅に改善した。「緩み」の再現率は、蒸留なしの生徒モデルの0.365から0.692（+32.7パーセントポイント）へと上昇し、バランス精度は0.618から0.735へと向上した。
• エッジの効率性: 蒸留された生徒モデル（MobileNetV2-0.5×）は、CPUのみのエッジノード上で（深度推定を含めて）56.8 FPSを達成し、リアルタイムの要件を満たした。
• 協調性能:
  • バランスの取れた動作点（$\tau=0.75$）において、システムは0.923のバランス精度（クラウドのみの場合と比較してわずか0.8 ppの差）を達成し、クラウドへのアップロード比率を80.8%に、レイテンシを48.48 msに削減した。
  • 安全性を優先した動作点（$\tau=0.90$）において、システムはゼロのローカル欠陥漏洩（エッジで解決されてしまった偽陰性が存在しない）を実現し、アップロード比率は98.7%となり、クラウドのみの場合の性能にほぼ一致した。

意義および主張
本論文は、提案されたフレームワークが、通信塔の検査における精度・レイテンシ・帯域幅のトレードオフを効果的にナビゲートできると主張している。軽量な蒸留モデルを保守的なフィルタとして用いることで、本システムは不要なデータ転送を大幅に削減しながら、クラウド単体に近い検出精度を実現する。著者らは、このアプローチが偽陰性が許容されない安全性に直結するタスクに特に適していることを強調しており、知識蒸留と信頼度ベースのエッジ・クラウド協調を組み合わせることが、リソース制約のあるエッジデバイスへの高精度な視覚検査のデプロイメントにおける有効な解決策であることを示している。本研究は、すべてのエッジコンピューティングの課題を解決することを目的としているのではなく、極端なクラス不均衡下における構造ヘルスモニタリングの精度と効率性のギャップを標的にしている。