Foundational values for foundation models

偉大なるAIキッチン：なぜ私たちは「マスターシェフ」か「ゼロからの調理」かを選択するのか

想像してみてください。あなたは、X線写真を見て患者に骨折があるかどうかを判断できるロボットを作ろうとしています。医学の世界において、これは非常に重要なゲームであり、ロボットの「脳」（アルゴリズム）は極めて賢くなければならないだけでなく、安全で理解可能である必要があります。長い間、科学者たちはこれらの脳をゼロから構築し、解剖学や物理学のあらゆるルールを基礎から一つずつ教えてきました。しかし最近、「基盤モデル（Foundation Models）」という新しいトレンドが爆発的に普及しています。これらは、人類の知識の図書館すべてをすでに読み終えた、巨大で事前学習済みのスーパー脳のようなものです。彼らは、あらゆる料理をすでに作ったことのあるマスターシェフのようなものです。あなたはただ特定のスープを作るよう頼むだけで、彼らは原材料から始めるのではなく、レシピをわずかに調整するだけで済みます。

しかし、ここからが厄介なところです。マスターシェフがあなたのスープを作れるからといって、それがあなたのディナーパーティーにとって最善の選択であるとは限りません。例えば、井戸が枯れているために水の消費を極力抑えた料理が必要な場合や、あるいは、味を信頼するために、シェフがなぜ塩を加えたのかという理由を正確に知る必要があるかもしれません。ここで問いは深まります。科学者たちは今、これらの巨大で既製品の脳を使うべきか、それとも独自のより小さなカスタムモデルを作るべきかを巡って議論しています。これは単にどちらが速いか、あるいは賢いかという問題ではありません。どのような「価値観」が最も重要かという問題なのです。エネルギーを節約することを重視しますか？ 医師に対して決定プロセスを説明できることを重視しますか？ あるいは、貧しい国々の科学者がこのゲームに参加できるようにすることを重視しますか？ 本論文は、まさにこの議論を掘り下げ、技術的な選択を左右する隠れた価値観を明らかにしています。

---

価値観のマップ：なぜ私たちはAIツールを選ぶのか

この論文の著者であるジョン・バクスターとエロディ・ジェルマニは、科学界に対して「なぜ？」というゲームを行うことにしました。彼らはこう問いかけました。「なぜ研究者はこれらの巨大な基盤モデルを使うことを選び、なぜ他の人々は独自のモデルをゼロから訓練することを選ぶのか？」 これに答えるため、彼らは「ソクラテス的アプローチ」と呼ばれる手法を用いました。探偵が容疑者に「なぜそうしたのですか？」と尋ね、次に「なぜその理由が重要だったのですか？」と、核心となる信念に突き当たるまで何度も繰り返し問い続ける場面を想像してください。彼らは、異なる価値観がどのように技術的な決定に結びついているかを示す巨大なマップ（グラフ）を作成するために、この方法を用いました。

彼らの調査により、この選択は単純な「善か悪か」のスイッチではないことが明らかになりました。むしろ、それはスペクトルの二つの側面による「綱引き」なのです。一方の側には、（マスターシェフを雇うように）最小限の変更で基盤モデルを使用することがあります。もう一方の側には、（ゼロから調理するように）モデルをゼロから訓練するか、あるいは大幅な変更を加えることがあります。

マスターシェフのケース（基盤モデル）

多くの研究者が、いくつかの非常に実用的な理由から、これらの事前学習済みの巨人を活用する方向に傾いています。

第一に、データ効率です。例えば、希少疾患の診断を学ぼうとしているが、患者の記録が5件しかない状況を想像してください。ゼロから訓練されたモデルは混乱して失敗するでしょう。しかし、基盤モデルはすでに何百万もの画像やパターンを見てきています。それは、あらゆるスパイスの味を知っているシェフがいるようなものです。彼らは、わずかな助けがあれば、あなたの新しい料理の味を推測することができます。これは、膨大なデータへのアクセスを持たない研究者にとって大きな利点となります。

第二に、モデルの再利用です。なぜ車輪を再発明する必要があるのでしょうか？ もし医療画像を理解することに長けたモデルがすでに存在するのであれば、それを使うだけで済みます。これにより、時間と労力が節います。そして、研究のスピードと容易さにつながります。医学研究は困難であり、厳格な規則、倫理的承認、複雑なデータ収集を必要とします。既製品のツールを使うことで、科学者はエンジンの構築という重労働をスキップし、車を運転することに集中できるのです。

第三に、モデルの認知度です。もし誰もが知っている有名なモデルを使えば、あなたの研究はより頻繁に引用されるでしょう。それは、有名なブランド名を使用するようなものです。人々はそれを信頼し、自分の研究を他者に説明することも容易になります。

ゼロからの調理のケース（独自の訓練）

しかし、本論文は、多くの科学者がこれらの巨人に「反対」していることも指摘しており、それには正当な理由があります。

最大の懸念は、**説明可能性（Explainability）**です。もしマスターシェフがスープを作り、「これは美味しいです」と言ったとしても、なぜその特定のハーブを加えたのかを質問できなかったとしたら、あなたはそれを信頼できないかもしれません。医学において、信頼こそがすべてです。医師は、AIがなぜ患者が病気であると判断したのかを知る必要があります。基盤モデルはあまりにも巨大で複雑であるため、その製作者でさえ、どのように決定を下しているのかを正確に説明できないことがよくあります。もし独自のモデルを構築すれば、透明性を確保するように設計でき、臨床的信頼を獲得し、規制のルールを満たすことが容易になります。

次に、速度とメモリの問題があります。基盤モデルは巨大で重いトラックのようなものです。強力ではありますが、大量の燃料（エネルギー）を消費し、巨大なガレージ（コンピュータメモリ）を必要とします。もし小さな荷物を届けるだけでよいのであれば、小さくて効率的な車（カスタムモデル）の方が適しています。論文では、基盤モデルには「デッドウェイト（無駄な重み）」、つまり特定のタスクには使用されないがスペースを占有しているだけの脳の一部が存在することが多いと述べています。もしあなたが環境保護（エネルギーや水の節約）を重視する場合、あるいはコンピュータの計算能力が限られている場合、より小さなカスタムモデルを訓練する方が多くの場合において優れた選択となります。

また、**研究の主権（Research Sovereignty）**という価値観もあります。これは公平性に関するものです。もし一部の豊かな国や大企業だけが巨大なマスターシェフを所有しているならば、研究者はそれらの特定のツールを使用することを許可されない限り、真の意味で参加することはできません。論文は、基盤モデルは強力なツールへのアクセスを提供することで公平な競争環境を作る助けにもなり得る一方で、「インフラストラクチャへのロックイン（固定化）」のリスク、つまり誰もが単一のプロバイダーに依存してしまうリスクがあることを示唆しています。独自のモデルを構築することは、より高い独立性を可能にします。

複雑な中間領域：公平性と新規性

論文は、いくつかの価値観は複雑であり、片方の側にはっきりと収まるものではないことを強調しています。

公平性を例に挙げてみましょう。何百万人もの人々に基づいて訓練された巨大なモデルの方が多様性があり、より公平であると思うかもしれません。しかし、著者は、これらのモデルの多くは実際には単一のセンターによって単一のデータセットに基づいて訓練されており、依然として偏り（バイアス）がある可能性があると指摘しています。したがって、巨大なモデルを使用することは自動的に不公平さを解決するわけではなく、むしろそれを隠してしまう可能性さえあります。論文は、公平性を確保するためには、モデルに対するより多くのコントロールが必要になる可能性があり、それは独自の構築へと傾くものであると示唆しています。

次に、**モデルの新規性（Novelty）**です。科学において、人々は新しい発見を愛しています。既製品のモデルを使うことは、誰かの発明品を使っているように感じられます。もし新しい発見で名を成したいのであれば、新しいアーキテクチャをゼロから構築したいと思うかもしれません。しかし、論文は「新規性」がしばしば物事をより複雑にすることを意味し、それがシンプルでエネルギー効率の高いモデルへの欲求と衝突することを指摘しています。

最終的な結論：それは何を価値とするかに依存する

論文は、唯一の「最善の答え」は存在しないと結論づけています。選択は、研究者が何を最も重視するかによって完全に決まります。

• もしあなたがスピード、データ効率、および使いやすさを重視するなら、基盤モデルを選ぶことになるでしょう。
• もしあなたが説明可能性、環境への影響、および完全なコントロールを重視するなら、独自のモデルを訓練することになるでしょう。

著者らは、科学コミュニティはこれらのトレードオフについて正直である必要があると提言しています。私たちは単に「AIは良い」とか「基盤モデルが未来だ」と言うだけではいけません。「何にとって良いのか？ そして、その代償は何なのか？」と問わなければなりません。これらの根底にある価値観を理解することで、科学者は単に技術的に機能するかどうかだけでなく、社会、環境、そして医学の未来にとって何が適切であるかという観点から、より良い意思決定を行うことができるのです。この論文は問題を解決したと主張しているのではなく、この議論をナビゲートするための明確な地図を提供しているのです。