技術要約：スマートグリッドの保護継電器におけるサイバー攻撃検出のための大規模言語モデル

1. 問題提起

現代のデジタル変電所は、ネットワーク化されたデバイスとリアルタイムのデータ交換に依存しており、重大なサイバーセキュリティの脆弱性を導入しています。重要なコンポーネントである変圧器電流差動継電器（TCDR）は、入力側と出力側の電流フェーザを比較することで、変圧器内部の故障を検出するように設計されています。しかし、TCDRは誤データ注入攻撃（FDIA）に対して脆弱です。悪意のある攻撃者がIEC-61850通信プロトコルの脆弱性を利用して通信測定値を操作すると、正常な運用中に変圧器を誤ってトリップさせることがあります。これにより、長期の停電やグリッドの不安定化を招く可能性があります。

核心となる課題は、操作された測定値（サイバー攻撃）と、真の故障による乱れを区別することにあります。既存のTCDRのロジックでは、この区別を行うことができません。さらに、大規模言語モデル（LLM）をスマートグリッドのアプリケーションに活用する研究はこれまで行われてきましたが、その多くは低次元データ、クラウドベースのデプロイメント、またはテキストデータに焦点を当てたものでした。高解像度かつ多変量な時系列リレー測定値に対し、信頼性を損なうことなく、ローカルでリアルタイムのサイバー攻撃検出を行うためにLLMを適用するという点において、依然として空白領域が存在します。

2. 手法

著者らは、多変量時系列電流測定値をテキスト化することにより、コンパクトでローカルにデプロイ可能なLLMを適応させ、TCDRに対するサイバー攻撃を検出するフレームワークを提案しています。

A. データのテキスト化

本フレームワークは、6次元の数値電流測定値（変圧器の両側、計3相分）を、構造化された自然言語プロンプ可形式に変換します。

• プロンプト構造: 標準的なテンプレートを使用して、各相および各側における「変圧器差動継電器の電流測定ベクトル」を記述し、そこに数値値を埋め込みます。
• 前処理: 数値は[0, 1]に正規化され、小数点以下3桁に丸められ、一貫したトークン化を保証するために固定長の文字列としてフォーマットされます。
• トークン制約: 入力はサンプルあたり512トークンに制限されます。これはDistilBERTのようなコンパクトなモデルがサポートする制限であり、モデルの入力サイズ内に表現を収めつつ、時間的および空間的（入力側 vs 出力側）な依存関係を保持することを保証します。

B. モデルの選択と学習

モデルを一から学習させるのではなく、本研究では事前学習済みの軽量なLLMのファインチューニングを採用しています。

• モデル: DistilBERT、GPT-2、およびDistilBERTの低ランク適応（LoRA）バリアントを使用します。
• アーキッチテクチャ: これらのモデルは自己注意（self-attention）メカニズムを利用して、シーケンシャルデータ内の依存関係を捉えます。ファインチューニングのプロセスでは、パラメータのサブセット（分類層を含む）を更新し、故障パターンと攻撃パターンの区別を学習させます。
• デプロイメント: モデルは変電所内の商用ハードウェア上でローカルに動作するように設計されており、クラウドインフラストラクチャの必要性を排除し、データのプライバシーを確保します。

C. 注意機構による解釈性

本手法の主要な特徴は、LLMの内部自己注意スコアを利用することです。これらのスコアを測定ドメインに投影することで、分類決定に最も影響を与えた特定の時間・位相領域を強調することができます。これにより、内在的な解釈性が提供され、オペレーターはどの電流波形が攻撃検出をトリガーしたのかを可視化することが可能になります。

3. 主な貢献

本論文は、主に3つの貢献を述べています。

1. テキスト化手法: 高次元（32タイムステップにわたる192個の特徴量）のTCDR電流波形を、コンパクトなLLMのトークン制限内に収めつつ、故障分析に必要な物理的関係を保持した構造化テキストプロンプトに変換する新しいアプローチ。
2. ローカルでのデプロイ可能性: 軽量なLLM（DistilBERT、GPT-2）が、外部のクラウド依存なしに標準的な商用ハードウェア上で推論時間を6ミリ秒未満で達成し、ローカルにファインチューニングおよびデプロイ可能であることを実証。これは保護継電器の厳格なタイミング要件を満たします。
3. 透明な検出: 自己注意メカニズムを活用して透明な推論を提供する検出手法の導入。これは「ブラックボックス」型のディープラーニングモデルとは異なり、エンジニアが攻撃を示す特定のタイムステップや位相を特定することを可能にします。

4. パフォーマンス評価と結果

本フレームワークは、OPAL-RT HYPERSIMプラットフォーム上のIEEE PSRC D6テストシステムを使用して評価され、約50,000個のラベル付きサンプル（故障および様々なFDIAシナリオ）を含むデータセットが生成されました。

A. ベースラインとの比較

定常条件下において、LLMベースの検出器は、最先端の機械学習（ML）およびディープラーニング（DL）のベースライン（CNN、LSTM、GRU、SVM、XGBoostなどを含む）と比較して、同等または優れた性能を示しました。

• DistilBERT: サイバー攻撃検出率97.62%、特異度100%（完全な故障検出精度）、F1スコア99.36%を達成。
• GPT-2: 97.06%の検出率を達成。
• DistilBERT+LoRA: 92.31%の検出率を達成。
• 比較: LLMは従来のDLモデル（例：CNN: 96.48%、GRU: 96.98%）と同等またはそれ以上の性能を示し、より単純なモデル（ロジスティック回帰: 68.22%、ナイーブベイズ: 69.85%）を大幅に上回りました。

B. 堅牢性の評価

• 複雑な攻撃: 時刻同期攻撃（TSA）とFDIAが組み合わさった条件下でも、DistilBERTは97.20%の検出率を維持し、非LLMの最良のベースラインと同等の性能を示しました。
• 測定ノイズ: モデルは、SN比（SNR）45 dBから30 dBまでの加法性ホワイトガウスノイズに対してテストされました。DistilBERTは30 dBにおいて性能の低下（精度が89.61%に低下）が見られましたが、現代の変電所で一般的な高いSNRにおいては堅牢性を維持しました。この特定の構成において、DistilBERT+LoRAとGPT-2はノイズに対してより高い耐性を示しました。
• プロンプトの感度: プロンプトのバリエーション（言い回し、構造、および意味的識別子の削除）に関するアブレーション研究では、モデルは言語的な変化に対して堅牢であり、精度99%以上を維持しました。しかし、明示的なドメイン識別子（位相/側ラベル）を削除すると、再現率がわずかに低下し、意味的なコンテキストの価値が示されました。

C. リアルタイム性能

商用ワークステーション（Intel Core i9, NVIDIA RTX 4060）において、サンプルあたりの平均推論時間は5.39 msでした。これは60 Hzにおける約0.32サイクルに相当し、TCDRのサブサイクル決定要件を満たしています。

5. 重要性と主張

本論文は、コンパクトでローカルにデプロイ可能なLLMが、現代のデジタル変電所におけるサイバー攻撃検出を強化するための、実用的で解釈可能かつ堅牢なソリューションを提供すると主張しています。

• 実用性: クラウドへの依存なしに、標準的な商用ハードウェア上でファインチューニングおよび実行できる能力は、重要インフラにおけるレイテンシとセキュリティの制約に対処します。
• 解釈性: 自己注意メカニズムの使用は、従来のディープラーニングモデルにはない透明性を提供し、自動化された決定に対するオペレーターの信頼を高めます。
• 回復力: フレームワークは、悪意のある操作と真の物理的故障を効果的に区別し、保護システムの信頼性を維持します。

著者らは、本フレームワークが検出能力を高める一方で、新たな攻撃対象領域（例：敵対的機械学習、モデルポイズニング）を導入する可能性があることも認めています。彼らは、暗号学的認証と敵対的堅牢性対策を備えた、隔離されたエアギャップネットワークへのデプロイメントの必要性を強調しています。結論として、現在の結果は有望であるが、今後の研究は、敵対的に堅牢なアーキテクチャの設計と、デプロイメントのコスト・ベネフィットの最適化に焦点を当てるべきであるとしています。