技術要約：動的な光ファイバ行列のコンパクトな潜在空間モデリングのための自己注意ネットワーク

問題提起

マルチモード光ファイバ（MMF）は、体内深部の細胞レベルのイメージングを可能にする、極細で低侵襲な医療用内視鏡への道を開いています。しかし、これらのファイバを通る光の伝送は、モード結合によって本質的に画像をかき乱します。従来の手法は、事前校正された線形伝達行列（TM）を利用してこの乱れを補正しますが、これらは動的な実世界のシナリオには対応できません。物理的な摂動（ファイバの動き、温度変化、曲げなど）は、TMを連続的に変化させます。さらに、臨床現場のようにファイバの先端にアクセスできない環境では、再校正に必要な入出力ペアを取得することはしばしば非現実的です。

既存のニューラルネットワークのアプローチ、特に畳み込みニューラルネットワーク（CNN）は、このタスクにおいて苦戦しています。CNNは局所的なピクセルの相関という帰納バイアスに依存していますが、この仮定はファイバTMに存在する長距離相関によって無効化されます。これらの相関は、物理的な非局所的モード結合と、多次元の光学場を行列表現へと平坦化するという数学的な必要性の両方から生じます。その結果、従来のアーキテクチャは膨大なパラメータ数を必要とし、測定基底（例：ピクセル、フーリエ、アダマール）の変化に対する堅牢性に欠け、摂動を受けたファイバの複雑なダイナミクスを効率的に捉えることができません。

手法

著者らは、変動するファイバTMをコンパクトで低次元の潜在空間表現へと動的に変換するために、**自己注意層（self-attention layers）**を用いた新しいアプローチを提案しています。その核心となる哲学は「圧縮は学習である」という考え方であり、ネットワークは大規模で複雑なTMを、画像再構成や曲げ推定などのダウンストリームタスクに適した疎な潜在空間へとマッピングすることを学習します。

データ生成とデータセット

本研究では、4つの多様な$78 \times 78$複素値TMのデータセットを用いて、このアプローチを検証しています。

1. ランダム生成された順方向TM: 実世界のファイバに典型的な特定のパワー強度分布と高い疎性を示すようにシミュレートされています。
2. ランダム生成された往復TM: $T_r = T_f^T R T_f$（ここで$R$は散乱反射行列）として計算されます。これらは単一端イメージングに関連する高密度な行列を表します。
3. 物理モデルに基づくTM: 0.6～1.2 mの長さにおける曲げや曲率をシミュレートしたセグメント化ファイバモデルを用いて生成されました。
4. 実験的TM: デジタルマイクロミラーデバイス（DMD）とCCDカメラを用いたオフアキシスホログラフィの設定を使用して測定され、164種類の異なる曲げ形態をカバーしています。

モデルアーキテクチャ

著者らは、基底変換のために以下のアーキテクチャを比較しています。

• 線形類似変換（Linear Similarity Transformation）: 基底行列$B$を学習し、$T' = B^{-1}TB$へと変換する微分可能な層。
• 畳み込みニューラルネットワーク（CNN）: LeakyReLU活性化関数を用いた標準的な2D畳み込み。
• 全結合ニューラルネットワーク（FCNN）: LeakyReLU活性化関数を用いた全結合層。
• 自己注意のみ（Self-Attention Only）: 単一の自己注意層。
• 自己注意 + FCNN: マルチヘッド自己注意メカニズムが2つの全結合層に先行する、提案されたハイブリッドモデル。

主要メカニズム: 入力TMはモードチャネルのシーケンスとして扱われます。自己注意メカニズムは、クエリ（$Q$）、キー（$K$）、値（$V$）の行列を計算して要素間の長距離のペアワイズ依存関係を捉え、これによりモデルはCNNの空間的な局所性バイアスを持たずに非局所的な相互作用を学習することができます。

学習制約

変換を物理的に意味のあるものにし、かつ可逆性を確保するために、モデルは複合的な損失関数を用いて訓練されます。

1. 疎性制約 ($L_1$): 変換後の行列の$L_1$ノルムを最小化し、疎な潜在表現を促進します。
2. 可逆性制約 ($L_2$): 自己符号化器（オートエンコーダ）が変換された表現から元のTMを再構成することで、情報の保存を保証します。
3. 疎性再構成制約 ($L_3$): 第2の自己符号化器が、圧縮された潜在空間に変換された疎な行列を再構成するのに十分な情報が含まれていることを保証します。
4. 複素数の扱い: 実部と虚部を分離し、グローバルな位相シフトに対して不変なカスタム損失関数を使用しています。

主な貢献

1. TMモデリングへの自己注意の導入: 本論文は、自己注意メカニズムが伝達行列をモデリングするのに極めて適していることを示しています。これは、CNNが見落とす、ファイバに固有の長距離かつ非局所的な相関を捉えることができるためです。
2. コンパクトな潜在空間表現: 提案手法は、高密度および疎なTMを非常に疎な表現（参加比0.01～0.11）へと変換し、可逆性を維持しながら次元を大幅に削減します。
3. 基底不変性: 学習された変換は、異なる測定基底（LP/PIM、フーリエ、アダマール）にわたって構造的一貫性を維持しており、これは特定の基底に過学習してしまう従来のモデルの重大な限界に対処しています。
4. 動的な摂動に対する堅牢性: モデルは動的な伝達行列の摂動に対して耐性を示し、ファイバの状態が測定中に変化するシナリオ（TMの列の入れ替えによってシミュレート）を効果的に処理します。

結果

• 疎性と効率性: 自己注意 + FCNNモデルは、最も低い参加比（疎な行列で$p \approx 0.03$、高密度な行列で$0.11$）と、最小の潜在空間比（高密度行列で3.22%まで）を達成し、CNN、FCNN、および線形モデルを上回りました。
• 再構成精度: モデルは、疎な行列で誤差$\le 8\%$、高密度な行列で誤差$\le 14\%$で元のTMを正常に再構成しました。対照的に、CNNは高密度行列に対して最大32%の大きな誤差を示しました。
• クロス基底の一貫性: 同じ物理状態であるが異なる基底を持つ変換後の行列間のコサイン類似度は、自己注意モデルでは（約0.80）元の行列（約0.65）よりも有意に高く、モデルが基底固有のアーティファクトではなく、基礎となる物理構造を学習していることを示しています。
• 汎用性: 物理的にシミュレートされた摂動を受けたTMで訓練されたモデルは、再訓練なしで実験的に測定されたTMへと正常に汎化し、参加比を0.37から0.12へと減少させました。
• 摂動への堅牢性: モデルは、動的な摂動（列の入れ替え）に対し、最大13%の割合まで低い再構成誤差（<22%）を維持しましたが、CNNはこのような条件下での非線形変換を効果的に達成できませんでした。

意義と主張

著者らは、このアプローチが動的なファイバTMをモデリングするための、柔軟でメモリ効率が高く、堅牢なフレームワークを提供すると主張しています。複雑で高次元の行列をコンパクトな潜在空間に変換することで、この手法は単一端ファイバイメージングを容易にし、針のようなサイズのイメージングデバイスの展開を可能にする潜在能力を持っています。

本論文は、自己注意の成功が、伝達行列を構造化されたシーケンスとして扱う能力にあることを強調しています。これにより、入力に依存した変換を学習し、摂動に適応することが可能になります。固定された線形基底や局所性に偏ったCNNとは異なり、このデータ依存のアプローチは、正確なファイバモデリングに不可欠な非局所的モード結合を捉えます。

著者らは、モデルが繰り返される構造を捉えているものの、個々の潜在変数がまだ物理的な座標（例：特定の曲げ半径）に明示的にマッピングされていないことを謙虚に認めています。しかし、本研究は、リアルタイムの歪み補正、欠損データの補完、および同様の行列圧縮技術を他の散乱媒体へ応用するための基礎を築くものです。また、行列サイズに対する注意の計算量の二次的なスケーリングや、複素行列に対する実数値最適化の使用といった現在の限界についても触れており、将来的な課題として、状態空間モデル（Mambaなど）や完全な複素数による訓練を挙げています。