GPTKB 2.0: Direct Construction of Disambiguated Knowledge Bases from Large Language Models
本論文は、エンティティ、リレーション、およびクラスのオンザフライでの正規化を実装することで、ネイティブな表現の限界を克服し、大規模言語モデルから直接、百万規模の曖昧さのない知識ベースを構築するスケーラブルな手法であるGPTKB 2.0を導入するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、世界に存在するあらゆるものの究極の図書目録を作ろうとしていると想像してください。何十年もの間、司書たち（コンピュータ科学者）は、本やウェブサイトを読み、事実を切り取り、整理されたカードに貼り付けることで、これを実現しようとしてきました。しかし、厄介な問題があります。名前は非常に紛らわしいのです。「ミュンヘン（Munich）」という言葉は、ドイツの都市を指すこともあれば、スパイ映画を指すこともあります。「イル・ド・フランス（Ile-de-France）」と「イル・ド・フランス地域圏（Ile-de-France region）」というフレーズは、響きは違っても、全く同じ場所を意味していることがあります。もし図書目録を作る際に注意を怠れば、同じもののために2つの異なるカードを作ってしまったり、名前が同じであるために、別々のものを誤って一つにまとめてしまったりすることになります。
最近、「大規模言語モデル（LLM）」と呼ばれる新しい種類の「スーパーブレイン」が登場しました。これらのモデルはインターネット上の膨大な情報を読み込んできたため、物理的な本を必要とせずに事実を知っているかのように振る舞います。一部の研究者は、「なぜこのスーパーブレインに、私たちの代わりに図書目録を作らせないのだろう？」と考えました。しかし、ここには落とし穴があります。スーパーブレインは、実は物事に対する「一意のIDカード」を持っているわけではないのです。それはただ「言葉」を知っているだけです。もしこのモデルに事実を列挙するよう頼むと、例えば「ミュンヘン（都市）」と「ミュンヘン（映画）」を同じ言葉として扱ってしまい、重複したエントリを誤って作成したり、「イル・ド・フランス」と「イル・ド・フランス地域圏」が同じ場所であることを忘れてしまったりすることがあります。この論文は、この混乱を解決するための巧妙な新手法を紹介しています。それは、スーパーブレインの言葉による回答を、クリーンで整理された巨大な図書目録へと変え、たとえ名前が同じであっても、あらゆるものがそれぞれ独自のIDカードを持つようにする手法です。
論文：GPTKB 2.0
この研究の背後にいる研究者たち、Yujia Hu、Tuan-Phong Nguyen、Simon Razniewskiは、人工知能の世界における大きな課題に取り組んでいます。彼らは、既存のデータベース（Wikipediaなど）に何が何であるかを教えてもらうことなく、大規模言語モデル（LLM）から直接、巨大で整理された知識ベースを構築できるかどうかを検証したいと考えました。
問題： 「名前当てゲーム」の混沌
LLMを、膨大な知識を持っているものの、字が非常に汚く、整理整頓が苦手な、とてもお喋りな友人と考えてみてください。もしあなたがこの友人に「ミュンヘン」についての事実を書いてほしいと頼んだら、友人はこう書くかもしれません。
- 「ミュンヘンはドイツの都市である。」
- 「ミュンヘンはスパイに関する映画である。」
もしこれらをそのまま書き留めてしまうと、見た目が同一である「ミュンヘン」という2つの異なるエントリができてしまいます。あるいは、もし友人が「イル・ド・フランス」と言い、「イル・ド・フランス地域圏」と言った場合、あなたはそれらが別々の場所であると考えてしまい、2つの別々のカードを作ってしまうかもしれません。これは、同名異義語（homonymy）（同じ名前だが異なるもの）と、同義語（synonymy）（異なる名前だが同じもの）の問題と呼ばれます。LLMからこれらの図書目録を構築しようとするこれまでの試みの多くは、単に言葉をそのまま使用していたため、重複だらけの乱雑なデータベースになっていました。
解決策： 「コンテキスト探偵」
チームは、GPTKB 2.0と呼ばれる新しいシステムを作成しました。単にLLMに事実を求めるのではなく、探偵のように機能するスマートなパイプラインを構築しました。その仕組みは以下の通りです。
- シード（種）： まず、地面に植えられた一つの種のように、単一のエンティティから始めます（彼らは「ヴァネヴァール・ブッシュ」を起点として使用しました）。
- 問いかけ（引き出し/Elicitation）： 次に、LLMに対して「[シード]についての事実を教えてください」と尋ねます。ただし、単に名前を聞くのではなく、その「説明」も求めます。これにより、もしシードが「ミュンヘン（都市）」であれば、LLMは映画の方ではなく、都市についてのみを話すようになります。
- 探偵の仕事（曖昧さ回避/Disambiguation）： LLMが新しい事実を提示したとき、システムはこう確認します。「待てよ、この名前は以前に見たことがあるか？」
- もし名前が「ミュンヘン」だった場合、システムはその「コンテキスト（文脈）」を確認します。もし文章が「ミュンヘンは首都である」と言っていれば、それを「都市」のカードに一致させます。もし「ミュンヘンは映画である」と言っていれば、全く新しい「映画」のカードを作成します。
- もし名前が「イル・ド・フランス地域圏」であった場合、システムはこれが「イル・ド・フランス」の別の言い方に過ぎないことに気づき、それらを一つのカードに統合します。
- ガード付きの並行処理（Guarded Parallel）： これを一つずつ行うのは時間がかかります。かといって一度にすべてを行うのはリスクがあります（まだ判断がつかないうちに、誤って2つの「ミュンヘン」カードを作ってしまう可能性があるため）。チームは、多くのチェックを一度に行いつつ、判断を下している最中に重複を作らないようにする「ガード付き」の手法を考案しました。
大きな成果
チームはこのシステムを大規模に実行しました。彼らは単に小さなリストを作ったのではありません。以下の内容を含む図書目録を構築しました。
- 3,840万個の事実（「トリプル」と呼ばれます）。
- 160万個の一意で曖昧さのないエンティティ（人、場所、映画などの事柄）。
- 207,633個の関係（どのように繋がっているか）および 66,523個のクラス（事柄の型）。
特筆すべき点は、これらのエンティリティの 36.8% が「新しい」ものであることです。これらは有名なWikidataデータベースには存在しません。つまり、LLMは、人間が管理する図書目録が見落としていたもの、特に「ロングテール」と呼ばれる、マイナーなトピックやあまり一般的ではないトピックを見つけ出したのです。
うまくいったのか？
研究チームは、この図書目録が正確であるかどうかをテストしました。
- 統合（Merging）： 同じものであるべきものを統合しようとした際、彼らの正解率は 91% でした。
- 分割（Splitting）： 異なるものを別々に保とうとした際、テストサンプルにおいて正解率は 100% でした。
- 事実確認（Fact-Checking）： ランダムに選んだ事実をウェブ上の情報と照合しました。約 94.5% の事実は真実であることが確認され、誤っていたのはわずか 2% でした。
なぜこれが重要なのか
これまでは、ほとんどの大きな知識ベースは、整理された状態を保つために人間やWikipediaのような既存のデータベースに依存していました。この論文は、既存の地図を必要とせずに、AIモデルの「脳」から直接、大規模でクリーンな知識ベースを構築できることを示しています。適切な「探偵」ツールがあれば、AIは自らの知識を整理し、ユニークなものを見つけ出し、紛らわしい名前を整理することができることを証明しています。これにより、これまで私たちが構築してきたものよりも大きく、より詳細な図書目録を作り上げることができるのです。
このシステムは現在、誰でも探索できるよう公開されており、AIの混沌とした言葉による知識を、構造化された信頼できる世界の地図へと、ついに変えることができることを示しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。