Pre-Model Representation Failures in GNN-Based Smart Contract Vulnerability Detection

分散型金融のデジタル世界において、お金はスマートコントラクトと呼ばれる自己実行型のコンピュータプログラムを通じて移動します。これらのプログラムは、すべての取引を記録する公開台帳であるブロックチェーン上に存在し、人間の仲介者を介さずに実資産を扱うように設計されています。これらの契約は価値のある資金を管理しているため、たった一つの隠れた欠陥が、即時かつ不可逆的な窃盗につながる可能性があります。これを防ぐために、研究者たちはコードをスキャンして、悪用される前に弱点を見つけ出す自動化されたシステムを開発してきました。一つの人気のあるアプローチは、グラフニューラルネットワークとして知られる一種の人工知能を使用することです。これがどのように機能するかを理解するために、複雑なコードを、ドット（点）とライン（線）でつながれた地図へと変換することを想像してみてください。そこでは、ドットはプログラムの一部を表し、ラインはそれらがどのように相互作用するかを示します。その後、コンピュータはこの地図を研究して、プログラムが安全か危険かを判断します。コードを単に一行ずつ読むのではなく、その構造を見ることで、人間が見落としてしまう可能性のある巧妙な罠を見つけ出せるというのが、このシステムの狙いです。

カーネギーメロン大学アフリカ校の研究チームは、このアプローチの根幹そのものをテストすることに決めました。彼らは、リエントランシー（再入可能性）と呼ばれる危険な欠陥を見つけるために広く使用されている、GNNSCVulDetectorという特定のシステムに焦点を当てました。この欠陥は、プログラムが自身の記録を更新する前に資金を外部へ送ってしまうことで発生し、これにより、泥棒がシステムを欺いて本来支払うべき以上の金額を支払わせることが可能になります。研究者たちは、コンピュータがいかに学習するか、あるいはいかに速く思考するかをテストしたのではありません。代わりに、コンピュータがデータを見る前に発生するステップ、すなわちソースコードを地図へと変換するプロセスを調査しました。彼らは、その地図が、表現すべきコードを正確に反映しているかどうかを知りたかったのです。彼らの調査は、驚くべき真実を明らかにしました。地図を作るプロセス自体が、いくらトレーニングを重ねても修正できないほど壊れていたのです。

彼らが見つけた最初の問題は、システムがコードへの単純な変更によって簡単に欺かれてしまうことでした。研究者たちは、既知の脆弱性を持つコントラクトを取り出し、単にその構成要素の名前を変更しました。コントラクト自体の名前、関数の名前、そしてお金を保持する変数の名前を変更したのです。また、ファイルに混乱を与えるためだけに、何もしないコードの行も追加しました。通常の環境であれば、これらの変更はプログラムを異なって見せますが、危険なロジック自体は変わりません。しかし、研究者たちが元のバージョンと修正されたバージョンの両方をシステムに投入したところ、コンピュータは最後の一バイトに至るまで同一の地図を作成しました。システムはその二つの違いを判別できなかったのです。これは、攻撃者がデテクターの仕組みや学習データについて何も知らなくても、単に変数を書き換えるだけでセキュリティチェックを回避できることを意味します。システムは実際のコードの構造を見ることなく、単なる名前の硬直したパターンのみを見ていたのです。

さらに深く掘り下げると、研究者たちはなぜこれが起こるのかを発見しました。地図を構築するツールは、人間のプログラマーのようにコードを読み、理解しているわけではありません。その代わりに、ツールは認識を許可されている47個の特定の変数名に基づいたハードコードされたリストに依存しています。コードがこのリストにある名前を使用していれば、ツールは地図上にノード（節点）を作成します。名前がリストにない場合、ツールはそれを無視するか、あるいは一般的なプレースホルダーを作成します。研究者たちは、お金の変数に対して異なる名前を使用しながらも、全く同じ危険な欠陥を持つ4つの異なるコントラクトを作成することで、これをテストしました。変数名がリストと完全に一致しているときは、地図は正常に見えました。名前がわずかに異なると、地図は混乱した形に変化しました。名前がリストにない全く新しいものになると、地図は劣化し、重要な詳細が失われました。最悪の場合、名前が一つも一致しないとき、ツールは元のコードには存在しない部分を捏造し、自身の内部ルールに基づいた構造を作り上げてしまいました。つまり、地図の品質は、プログラマーが承認された47個の名前のいずれかを使用しているかどうかに完全に依存していたのです。

二つ目の大きな失敗は、攻撃者を表現する地図の特定の部分に関連していました。システムの設計において、外部の呼び出し手（攻撃を引き起こす外部の実体）を表すためのノードが存在します。リエントランシーの欠陥が存在するためには、この外部の呼び出し手が地図上に存在しなければなりません。研究者たちは、文献における最も有名な脆弱なコントラクトの例において、このノードが完全に欠落していることを発見しました。ツールは、コード上で明らかに起きていることであるにもかかわらず、攻撃者と脆弱な関数の間の接続を描画することに失敗したのです。これは地図の設計上の限界ではなく、ツールが地図を構築する際の決定における不整合でした。この接続が欠落していたため、コンピュータは攻撃のパターンを認識する方法がなく、たとえパターンがそこに存在していたとしても、認識できなかったのです。

この欠落したピースがシステムを失敗させる原因であることを証明するために、研究者たちは、完全に悪用可能なリエントランシーの欠陥を含む、目的のために作られた最小限のコントラクトを構築しました。彼らは、最初の問題である「名前変更」の影響を受けないよう、承認リストにあることが分かっている変数名を使用しました。彼らはこのコントラクトをシステムに投入しました。結果は明確な誤分類でした。システムは、その危険なコントラクトを「安全」とラベル付けしたのです。理由は単純明快でした。ツールが外部の呼び出し手と脆弱な関数の間の接続を描画できなかったため、地図には脅威を特定するために必要なクリティカルな信号が欠けていました。コンピュータは計算を間違ったのではなく、単に不完全な情報に基づいて動いていたのです。正しい判断を下すために必要な情報が、コンピュータが思考を開始する前に破棄されていました。

これらの知見は、以前の研究で報告された高い精度という数値が、これらの欠陥を露呈させない条件下で測定されたものであるため、誤解を招くものであることを示唆しています。システムが良好に機能したのは、テストデータがツールが認識できる特定の名前やパターンを使用していたからに過ぎません。異なる命名規則や構造でコードが書かれる現実の世界では、これらのシステムは沈黙のうちに失敗する可能性があります。研究者たちは、人工知能モデル自体を改善しても、この問題は解決しないと強調しています。どれほど優れたトレーニングやデータを投入したとしても、最初に地図が正しく描かれていなければ、解決には至りません。解決策は、コードを地図に変換する方法を変更し、単純な名前の一致から、コードが実際に何を行っているかという深い理解へと移行することにあります。基礎が修正されない限り、その上に構築されたセキュリティシステムは、それが防ごうとしているはずの攻撃に対して依然として脆弱なままなのです。