Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
本論文は、AGIの到来に関する相反する主張を裁定するために、競合する操作化を評価するための順序的基準とガバナンス監査を確立することにより、能力の整合性よりも定義の整合性を優先するデザインサイエンス・フレームワークであるDAF-AGIを提案する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
J. E. アギレラ・ブリオネスによる論文「能力の調整（Capability Alignment）の前に、定義の調整（Definitional Alignment）を」の解説です。分かりやすい言葉とクリエイティブな比喩を用いて説明します。
コアとなる問題：「到着」論争
新しい車が「スーパーカー」であるかどうかについて、人々が言い争っている場面を想像してください。
- Aさんは言います。「時速200マイル出るから、これはスーパーカーだ。」
- Bさんは言います。「いや、違う。ドリフトもできないし、エンジンもV12じゃない。」
- Cさんは言います。「それが何であれ、店まで自動運転で行けるなら、それはスーパーカーだ。」
彼らは皆、同じ車を見ています。事実（速度、エンジン、機能）については一致しています。しかし、何をもって「スーパーカー」と定義するかという異なるルールブックを使っているため、結論に合意できないのです。
この論文は、人工汎用知能（AGI）の分野が、まさにこの議論で行き詰まっていると主張しています。ある企業は、AIが優れたコードを書けることを理由に「我々は到達した！」と言います。一方で、AIが長期的な記憶を持たなかったり、新しいパズルを解けなかったりすることを理由に、「あと数十年かかる！」と言う人々もいます。この不一致はテクノロジーの問題ではなく、「誰がルールブックを書くのか」、そして**「そのルールが実際に何を意味するのか」**という問題なのです。
解決策：「ルールブックの監査役」（DAF-AGI）
唯一の「真のAGIの定義」を書こうとする（著者は、全員の目的が異なるためそれは不可能だと述べています）のではなく、著者は DAF-AGI と呼ばれるツールを構築しました。
DAF-AGIを、誰が勝つかを決める「審判」ではなく、**「透明性の監査役」**と考えてください。それは定義の「栄養成分表示」のようなものです。誰かが「このAIはAGIだ」と主張したとき、監査役は単に「はい」か「いいえ」と答えるのではありません。次のように問いかけます。
- 何を測定しているのか？（速度か？ メモリか？ それとも節約できる金額か？）
- 誰がルールを書いたのか？（そのAIを作った会社自身がルールを書いたのではないか？）
- ルールは変更可能か？（AIが失敗したとき、合格させるためにルールを書き換えることはできないか？）
5つの「ルールブック」（測定ファミリー）
論文では、人々がAGIを定義しようとする際によく使われる5つの方法を検証し、監査しています。
「スピードメーター」（性能の優位性）:
- ルール: 「AIが特定のタスクにおいて人間よりも速い、あるいは優れていれば、それはAGAである。」
- 欠陥: ズルが容易です。AIが得意なタスク（メール作成など）だけを選び、苦手なもの（長期的な計画など）を無視することができます。これは、練習したトラックでのレースには勝てるけれど、砂の上では走れないランナーに対して「オリンピアンだ」と言うようなものです。
- 判定: 信頼性は低い。
「財布」（経済的代替）:
- ルール: 「AIが人間の仕事をより安くこなせるなら、それはAGIである。」
- 欠陥: これは「知能」と「経済」を混同しています。ロボットアームが工場作業員に代わるのは、それが「より賢い」からではなく、「より安い」からです。
- 判定: 混合的。 経済には適していますが、知能の測定には不向きです。
「地図」（能力のオントロジー）:
- ルール: 「様々なスキル（記憶、推論、創造性など）の地図がある。AIはその地図のどこに位置するか？」
- 欠陥: 素晴らしい地図ですが、地図製作者（研究所）が「ゴールライン」をどこに設定するかを決めてしまいます。
- 判定: 構造は良いが、地図製作者がゴールラインを支配している。
「成績表」（心理学的等価性）:
- ルール: 「AIは、教養のある成人レベルの認知プロファイルと一致しなければならない。」
- 欠陥: これは最も難しいテストです。現在のAIは、数学では天才的ですが、記憶力は金魚並みです。彼らは「凹凸（ジャギー）」があるため、このテストに失敗します。
- 判定: 信頼性は高いが、現在のAIはこれに失敗する。
「学習速度」（スキル獲得）:
- ルール: 「知能とは、見たこともない新しいパズルをどれだけ速く学習できるかである。」
- 欠陥: 現在のAIは古いパズルを暗記するのは得意ですが、新しい問題を解くのは苦手です。
- 判定: 信頼性は高いが、現在のAIはこれに失敗する。
大きな事実の判明：「様式化された主張」
論文はある人気のある主張をテストしています。「現在のAIは、多くのタスクにおいて教養のある成人に打ち勝つため、AGIである」 という主張です。
監査役（DAF-AGI）がこれをチェックすると、**「手品」**が見つかります。
- この主張は、**「スピードメーター」**のルール（成人に勝てる「いくつかの」タスク）を使用しています。
- しかし、ラベルとしては**「成績表」**（教養のある成人）を借りています。
- もし実際に「成績表」のルールを適用すれば、AIは記憶の欠落があるため失敗します。
- もし「スピードメーター」のルールを適用すれば、会社側が簡単なタスクを選んだおかげで合格しますが、それはあくまで限定的なものです。
結論: この主張は「未規定（underspecified）」です。AIが実際よりも賢く見えるように、緩いルールと厳しいラベルを混ぜ合わせているのです。論文は、どのルールブックを使うのか、そして誰がそのルールを変更できるのかについて合意できない限り、「AGIに到達した」と宣言することはできないと述べています。
「定義の主権（Definitional Sovereignty）」という概念
これがこの論文における最も重要な政治的概念です。
ある国が、すべての食料を輸入している状況を想像してください。
- シナリオA: 隣国から食料を買う。隣国が「新鮮」の意味を決める。もし隣国が明日、「新鮮」の定義を変えたとしても、その国はそれを受け入れるか、飢えるしかない。
- シナリオB: その国は食料を買うが、独自の検査官を持っている。彼らはこう言える。「今日の『新鮮』の定義は受け入れるが、もし定義が変わるなら、我々はそれを監査し、拒否することもある。」
著者はこれを**「定義の主権」と呼んでいます。
現在、多くの国（および大衆）はシナリオA**にいます。彼らは「定義の受け手（Definition Takers）」です。アメリカや中国の強力なテック・ラボが書いたAGIや「高リスクAI」、あるいは「成熟度」の定義を受け入れているのです。
- もしある研究所が「これはAGIだ」と言い、それが法律や株価の暴落を引き起こす場合、世界はその定義を受け入れざざるを得ません。
- 論文は、国家にはこれらの定義を**「監査し、異議を唱え、修正する」**能力が必要であると主張しています。ゼロから独自の定義を作る必要はありません。ただ、「その定義は我々には通用しない」とか「その主張を検証させてほしい」と言える力が必要なのです。
まとめ：この論文が実際に伝えていること
- AGIが何かについて合意することはできない。 なぜなら、グループごとに目的（マーケティング、安全性、投資など）が異なるからです。
- データが増えても解決しない。 定義の問題を先に解決しない限り、AIがどれほど賢くなっても、それが「汎用的（General）」かどうかについては議論が続くでしょう。
- 現在の「到達」の主張は危うい。 それらは、システムが到達していないにもかかわらず、実際よりも賢く見せるために、易しいルールと難しいラベルを混ぜ合わせることが多いです。
- ガバナンスこそが鍵である。 「これはAGIか？」と問うのをやめ、「誰がこれをAGIとするルールを書いたのか、そして我々はその監査ができるのか？」と問うべきです。
- 主権が重要である。 国や大衆は、テクノロジーの「輸入された定義」に異議を唱える力を持ち続けなければなりません。さもなくば、自分たちが書いたわけでもなく、変えることもできないルールによって統治されることになります。
要するに： ロボットが「生きている」か「賢い」かを議論する前に、まず「誰が辞書を握っているのか」に合意し、彼らが自分の財布のために定義を書き換えていないかを確認する必要があるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。