🤖 machine learning

Incorporating Deep Learning Design in Database Queries

本論文は、タプルを学習可能なベクトル埋め込みと関連付けることで深層学習をデータベースクエリに直接統合する新たな手法RelaNNを提案し、外部機械学習フレームワークのエンジニアリングオーバーヘッドを排除するとともに、競争力のある性能を備えた複雑なグラフ学習モデルの宣言的実装を可能にする。

原著者： Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

公開日 2026-05-26

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

情報を整理して格納した巨大な図書館（データベース）を想像してください。本は特定のセクションに収められており、あなたはロボット（AI）にその中の物語を理解させたいと考えています。

現在、これを行う標準的な方法は、不器用なリレー競争のようです。あなたは以下の手順を踏む必要があります：

図書館からすべての本を取り出す。
それらを手動で、巨大で散らかった接続の地図（グラフ）に書き換える。
その地図をロボットに与える。
ロボットが学習するのを待つ。
ロボットの回答を取り出し、本形式に戻して翻訳し、棚に戻す。

このプロセスは遅く、多くの追加作業を必要とし、エラーを起こしやすいものです。

この論文の大きなアイデア：「RelaNN」
この論文の著者たちは、RelaNNと呼ばれる新しいシステムを提案しています。データを図書館から移動させるのではなく、図書館自体をロボットのように思考できるように教えようとしています。

次のように考えてみてください：

古い方法： 図書館カード（データベースのレコード）を取り出し、その絵を描いて、画家に送る。
新しい方法（RelaNN）： すべての図書館カードに「スマートタグ」（埋め込み）を与える。このタグは秘密の意味を持つ特別なコードです。図書館に質問（クエリ）を投げかけると、図書館は単にテキストを見るだけでなく、スマートタグを見て、それらを組み合わせ、図書館の内部で答えを導き出します。

仕組み（比喩）

1. 「スマートタグ」（埋め込み）
昔、データベースのレコードは事実のリストに過ぎませんでした（例：「ドライバー：ルイス、チーム：メルセデス」）。RelaNN では、すべてのレコードに隠れた目に見えない「スマートタグ」が付けられます。このタグは、システムが調整を学習する数字のリストです。

比喩： 図書館のすべての本に、隠れた磁気ストリップがあると想像してください。図書館は単にタイトルを読むだけでなく、磁気ストリップを感じて、本が他の本とどのように関連しているかを理解します。

2. 「魔法のクエリ」（言語）
著者たちは、標準的なデータベースクエリ（SQL）のように見えるが、超能力を備えた新しい言語を作成しました。

比喩： 通常、「著者 X の本をすべて見つけて」と図書館員に頼むと、彼らは単に本を渡します。RelaNN では、「著者 X の本をすべて見つけて、ただし、その隠れた磁気ストリップを組み合わせて、著者 Y と最も似ているものを見つけて」と頼むことができます。図書館員は本を取り出す間に、複雑な数学計算を行います。

3. 「組立ライン」（コンパイル）
システムは、あなたの単純なクエリを受け取り、強力なコンピュータチップ（GPU）上で動作する高速な組立ラインに変換します。

比喩： あなたは単純なレシピ（「材料 A と B を混ぜる」）を書きます。システムは自動的にキッチンを作り、シェフを雇い、完璧に調理するためにオーブンを設置します。あなたがキッチンを作る方法を知る必要はありません。

実際に構築しテストしたもの

著者たちは、RelaNNと呼ばれる動作するプロトタイプを構築し、複雑で散らかった「リレー競争」方式と同じ仕事を、より少ない労力でこなせるかどうかをテストしました。

単純さ： 映画のレーティングや薬の相互作用を予測するために使用されるような複雑な AI モデルを、わずか数行のコードで構築できることを示しました。
- 結果： 通常 200 行のコードで書く必要がある複雑な AI モデルが、彼らのシステムを使えば 20〜40 行で書けました。同じ結果を得るために、長編小説を書く代わりに俳句を書くようなものです。
精度： 彼らが構築したモデルは、従来のモデルと同じくらい賢く、同じ正しい答えを得ました。
速度：
- 一部のタスクでは、古い方法とほぼ同じ速さでした。
- 非常に複雑なタスク（具体的には「ディープホモモルフィズムネットワーク」）では、データを「取り出して、戻す」という不器用なダンスを行う必要がないため、14 倍速くなりました。
- 注記： 特定の種類のタスクについては、プロトタイプがまだ完全に磨き上げられていないため、現在はいくぶん遅い（約 30 倍）ですが、著者たちはこれが最初のバージョンに過ぎないと認めています。

結論

この論文は、RelaNNが、高度な AI を行うためにデータベースから離れる必要がないことを証明していると主張しています。データベースのレコードに「スマートタグ」を与え、それらのタグを操作するクエリを書くことで、名前の一覧を尋ねるために使用するのと同じ単純なツールを使って、最先端の AI モデルを構築できます。

これにより、データベースは受動的な収納庫から、能動的で思考するパートナーへと変わり、AI に関係を理解させるプロセスを、質問を書くのと同じくらい単純なものにします。

技術概要：データベースクエリへの深層学習設計の統合

問題定義

深層学習（DL）と関係データベースの統合は、従来「往復（round-trip）」のエンジニアリングオーバーヘッドによって阻害されてきた。従来のアプローチでは、関係データをグラフ表現（レコードをノード、外部キーをエッジとする）に変換し、その後、このデータを外部の機械学習フレームワーク（例：PyTorch Geometric、DGL）にエクスポートしてグラフニューラルネットワーク（GNN）を学習させる必要がある。このプロセスは、開発者にデータ管理には宣言的クエリ言語を、モデル設計には命令型コードを使用するという、異なるパラダイム間での作業を強いる。さらに、既存のデータベース内 ML フレームワークは、テンソル型と線形代数演算子をクエリエンジンに直接統合することでこれらのドメインを橋渡しするが、これには論理データとベクトル表現の間の接続をユーザーが明示的に維持する必要がある。著者らは、この分離は人工的なものであり、関係データに対するニューラルネットワークの指定は、データそのものをクエリすることと同様に自然であるべきだと主張する。

手法：ニューロ関係代数（NRA）と RelaNN

本論文は、関係モデルを拡張することで深層学習をデータベースクエリに直接統合する概念実証システムRelaNNを提案する。中核となる手法は、すべてのデータベースタプルを学習可能なベクトル埋め込みに関連付ける形式枠組み**ニューロ関係代数（NRA）**に基づいている。

1. ニューロ関係データモデル（NRM）

このデータモデルは、標準的な内容関係 $r$ と、各タプルを $\mathbb{R}^d$ 内の埋め込みへマッピングする注釈 $\eta$ からなる埋め込み関係 $(r, \eta)$ を定義することで、古典的な関係モデルを拡張する。これにより、システムは論理ドメイン（内容）と数値ドメイン（埋め込み）の両方を同時に操作できる。

2. ニューロ関係演算子

NRA は、内容と埋め込みの両方を操作する演算子によって標準的な関係代数を拡張する：

結合（ $\bowtie$ ）： 内容に対して標準的な自然結合を行う。埋め込みについては、入力関係からの寄与タプルの埋め込みを連結する。
射影結合（ $\cup_{\alpha, A}$ ）： 射影と結合を統合した統一演算子。タプルを共通の属性列 onto 射影し、同一の内容を持つタプルの埋め込みを多重集合アグリゲータ $\alpha$ （例：和、平均、最大値）を用いて集約する。これは、複数の入力タプルが同じ出力タプルにマッピングされる際に必要な埋め込みの集約を処理する。
変換（ $T_\tau$ ）： 関係の埋め込みに対して微分可能な変換 $\tau$ （例：フィードフォワードネットワーク、ReLU、線形層）を適用する。これは学習可能なパラメータを導入する主要なメカニズムである。
選択、差、リネーム： これらの演算子は、古典的な代数と同様に、埋め込みを変更せずに通過させる。

3. RelaNN 言語

RelaNN は、NRA を基盤とした宣言的言語である。プログラムは、新しい埋め込み関係を導出する方法を定義する規則文から構成される：

結合規則： 結合を通じて関係を組み合わせ、連結された埋め込みに変換を適用し、射影結合を通じて集約する。
結合規則： 同一スキーマを持つ関係を統合し、フィルタリングし、埋め込みを変換する。
Fit 文： 出力関係上で定義された損失関数を最小化し、タプル埋め込みと変換重みの両方を含むグローバルなパラメータ割り当てを更新する言語構文（?fit）。
Predict 文： 現在のパラメータを用いてプログラムを評価し、結果を具体化する。
拡張： この言語は、パラメータ共有のためのエイリアス、コード再利用のための関数定義、内容列と埋め込み間のデータ移動のためのエンコーディング/デコーディング、および反復的な規則の生成（例：マルチヘッドアテンション用）のためのテンプレートをサポートする。

4. 実装パイプライン

RelaNN は、プログラムを項グラフ（NRA 演算子の DAG）にコンパイルする。実行時、このグラフは SQL、cuDF、PyTorch を跨いで実行される物理計画に変換される：

データ読み込み： SQL クエリがデータベースから内容を取得する。
結合/選択： 行インデックステンソルを出力する cuDF DataFrame 操作（マージ、index_select）を通じて実装される。
埋め込み操作： PyTorch 操作（例：torch.index_select、scatter_add）が内容インデックスに基づいて埋め込みを取得・集約し、エンドツーエンドの学習のための完全な微分可能性を維持する。
変換： カスタム nn.Module レイヤーが PyTorch を通じて直接適用される。

主要な貢献

形式枠組み（NRA）： 学習可能なタプル埋め込みによって関係モデルを拡張し、関係クエリ処理とニューラルモデル設計を統合するニューロ関係代数の導入。
宣言的システム（RelaNN）： 慣れ親しんだ SQL/Datalog 風の構文を使用して最先端のグラフ学習アーキテクチャを実装できるオープンソースシステム。
表現力： グラフ畳み込みネットワーク（GCN）、関係 GCN（R-GCN）、異種グラフトランスフォーマー（HGT）、ハイパーグラフニューラルネットワーク（HyGNN）、深部準同型ネットワーク（DHN）を含む複雑なアーキテクチャを、命令型のベースラインよりも大幅に少ない行数で表現できる能力の実証。
パフォーマンス： PyTorch Geometric などの専用ライブラリと比較して、競争力のある予測精度と実行時パフォーマンスを達成する概念実証実装。

実験結果

著者らは、Cora、DBLP、AIFB、CSL、EXP、DrugBank などの複数のデータセットにおける 5 つのアーキテクチャについて、RelaNN を参照実装（PyTorch、PyG）と比較評価した。

コードの簡潔さ： RelaNN プログラムは、ベースライン実装と比較して約4 倍短いものであった。例えば、Deep Homomorphism Network（DHN）の実装は、RelaNN では 76 行であったのに対し、ベースラインでは 259 行を要した。
精度： RelaNN は GCN と HGT について参照精度を再現した。他のモデル（R-GCN、HyGNN、DHN）については、結果はベースラインの 1 標準偏差以内であったか、完全に一致した（例：DHN における CSL データセットでの 100% 精度）。
実行時間：
- GCN と HGT の場合、RelaNN の実行時間はベースラインの 2 倍以内であった。
- DHN の場合、RelaNN はベースラインより2 倍から 14 倍高速であり、これは宣言的コンパイルの効率性と複雑なカスタムテンソルコードの回避に起因する。
- AIFB データセット上の R-GCN については、RelaNN は高度に最適化された torch-rgcn ベースラインと比較して約 30 倍遅かった。著者らは、これを現在の実装が最適化されていない概念実証であり、ベースラインが専門的であることに起因すると帰属している。

意義と主張

本論文は、RelaNN が関係深層学習のための宣言的基盤を提供し、中間グラフ表現なしに直接関係データベース上で最先端のニューラルネットワークを設計・学習することが可能であることを実証していると主張する。

簡素さ： このシステムは、複雑なアーキテクチャの実装をクエリ記述と同様に簡素化し、データ変換とグラフ構築のエンジニアリングオーバーヘッドを排除する。
統合： 埋め込みを関係モデル内の第一級市民として扱うことで、このアプローチは論理的推論と数値的推論を自然に融合させる。
将来の可能性： 現在の実装はプロトタイプであるが、著者らはこれがデータベース上の深層学習を標準的なクエリと同様にアクセス可能にするための「具体的な道筋」を表すと主張する。彼らは、GPU メモリを超えるデータセットへのスケーリング（サンプリングとストリーミングによる）およびクエリ実行の最適化（変換のプッシュダウン、カーネルの融合）による専用ライブラリとのパフォーマンスギャップの解消を、今後の課題として特定している。

著者らは明示的に、自らの仕事がエンタープライズシステムを代替するものではなく、統一アプローチの実現可能性と簡素さを実証するものであり、将来の最適化や関係基盤モデルの実装への道を開くものであると述べている。