LLM as Detector: An In-context Learning Approach for Tabular Anomaly Detection
本論文は、インコンテキスト学習を活用して通常の表形式データをコード生成型スコアリングエンジン用の構造化されたプロンプトに変換することで、ファインチューニングやニューラルネットワークの学習を必要とせずに、多様なデータセットにわたって効果的な異常検知を可能にする新しいフレームワークであるLLM-Detectorを提案する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代のデータセンターの広大で静かなハミングの中に、ある種の問題が、しばしば目の前にありながら隠れている。それは劇的な爆発や明白なエラーではなく、数値とカテゴリーの表計算の中に潜む、微かな「違和感」である。これは、銀行取引から医療記録、サーバーログ、保険請求に至るまで、あらゆるものを記録するデジタル台帳である、表形式データの世界である。何十年もの間、コンピュータは、数百万件の正当な取引の中からたった一つの不正な取引を見つけ出すことや、数千人の健康な患者の中からたった一人の病人を特定することを任務としてきた。課題は、これらの「アノマリー（異常）」が、明らかな間違いのように見えることは滅多にないという点にある。それらは表面上は完璧に正常に見えることが多いが、異なる情報の断片が互いにどのように関連すべきかという、隠れたルールに違反している。個人の年齢、所得、税率の区分は通常、予測可能なパターンに従う。それらが従わない場合、たとえ個々の数値自体はどれも妥当に見えたとしても、問題の兆候となる。
長年、これらの隠れたエラーを捉えるための標準的な方法は、何が「正常」であるかを学習する複雑な数学的モデルを構築し、そのパターンから大きく逸脱するものにフラグを立てることであった。より最近では、科学者たちは、エッセイを書いたり質問に答えたりできる強力な人工知能システムである大規模言語モデル（LLM）を使用して、これらのエラーを特定しようと試みてきた。その考え方は、コンピュータにデータの行を文章のように読ませることができれば、計算機よりもデータの背後にある物語を理解できるのではないか、というものであった。しかし、これらの初期の試みは、大きな障害に直面した。それらはリアルタイムで使用するには遅すぎるか、あるいは新しいデータに基づいてAIを再学習させる必要があり、それはコストと計算負荷が非常に高いものであった。彼らは、現実世界のデータに含まれることが多い、数値とテキストカテゴリーの入り混じった複雑な混合物を扱うのに苦労し、その過程でデータの意味を見失ってしまうことが多かった。
オーストラリアの大学の研究チームは、このパズルを解決するための異なる方法を提案した。それは、人工知能を訓練されるべき「生徒」としてではなく、設計図を与えられるべき「熟練した建築家」として扱うものである。AIにゼロから学習させたり例を暗記させたりする代わりに、彼らは「正常なデータがどのような姿をしているか」の要約に基づいたカスタムプログラムを作成するように求めた。研究者たちは、この新しいアプローチを「LLM-Detector」と呼んでいる。彼らの手法は「インコンテキスト学習（文脈内学習）」という概念に基づいており、これにより、大規模言語モデルは、内部の脳（パラメータ）を変更したり長い学習プロセスを経たりすることなく、明確なルールの記述といくつかの例を与えられるだけで、複雑なタスクを実行できる。
プロセスは、まず、正常で健全なデータの膨大なコレクション（例えば、数千件の正当な銀行記録など）を取り込み、それを3つの主要なタイプの情報へと凝縮することから始まる。第一に、システムは各列の統計的プロファイル（平均値、典型的な範囲、および異なるカテゴリーの出現頻度など）を算出する。第二に、因果関係をマッピングする。つまり、どの情報が他の情報に依存しているかを解明する。例えば、「高い所得は通常、特定の税率区分と相関する」といった具合である。第三に、データの典型的な形状と広がりを示す「アンカー（錨）」として機能する、代表的な実際のデータポイントの小さなグループを選択する。これら3つの要素は、単一の詳細なプロンプトへとパッケージ化され、大規模言語モデルへと送られる。
モデルはこのプロンプトを読み、コード生成器として機能し、そのデータセットに特化した完全で実行可能なコンピュータプログラムを書き上げる。このプログラムは推測によるものではない。それは、統計的な異常をどのようにチェックするか、変数間の壊れた関係をどのように特定するか、そして新しいデータポイントが正常な集団の中心からどれほど離れているかをどのように測定するかを正確に知っている「指示のセット」である。一度このプログラムが書かれると、それは保存され、未知の新しいデータに対して実行される。新しいレコードが到着すると、プログラムは即座に「アノマリー・スコア」を算出する。これは、そのレコードがどれほど疑わしいかを示す数値である。もしスコアが高ければ、そのレコードは、AIが正常なデータから導き出したルールに違反していることを意味する。
研究者たちは、小規模な医療記録から大規模なサイバーセキュリティログに至るまで、24種類の異なるデータセットを用いてこの方法をテストした。彼らは、伝統的な統計ツール、ディープラーニングモデル、および言語モデルを用いたこれまでの試みを含む、15種類の最先端の手法と比較した。結果は、彼らの手法が、特に数値とテキストカテゴリーが混在するデータセットにおいて、他の手法を一貫して上回ったことを示した。平均して、彼らのアプローチは0.7407の検出精度スコアを達成し、これは次点の優れた手法よりも高い数値であった。決定的なのは、このパフォーマンスが、新しいモデルをトレーニングするという重い計算コストなしに実現されたことである。AIはコードを一度書くだけで、その後は脇に退くため、このシステムは非常に高速であり、他の手法で必要とされる数分や数時間を要するのに対し、わずか数分の一秒でデータを処理することができる。
研究はまた、システムのどの部分が成功に貢献しているかについても調査した。彼らは、AIに統計的な数値だけを与えることも有用であるが、変数間の関係のマップを加えることで、微妙なエラーを捉える能力が大幅に向上することを発見した。さらに、正常なデータの代表的な例を含めることで、データの全体的な形状を理解する能力がより洗練された。研究者たちはまた、異なる基盤となるAIモデルを用いてこの手法をテストし、より強力なモデルの方がわずかに優れた性能を示すものの、カスタムプログラムを記述するというコアのデザイン自体が、幅広くうまく機能することを発見した。これは、この手法の強みが、特定の種類の人工知能に依存しているのではなく、データを論理的なルールのセットへと翻訳するという「アプローチの構造」に由来することを示唆している。
問題を「コード生成」のタスクへと転換することで、研究者たちは強力かつ実用的なシステムを作り上げた。これは、高度な人工知能に伴う膨大な計算能力を必要とせず、データが変わるたびに再学習する必要もない。それは単に、何が正常であるかという物語を読み、例外を見つけるためのルールブックを書き、そしてそのルールブックを現実世界に適用する。このアプローチは、金融詐欺の防止からコンピュータネットワークのセキュリティ確保に至るまで、膨大な量のデータを監視する必要がある産業に対して、有望な道筋を提示している。それは時として、干し草の山の中から針を見つける最も効果的な方法は、コンピュータに「より優れた磁石の作り方」を教えることである、ということを証明している。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。