The Competence Crisis: A Design Fiction on AI-Assisted Research in Software Engineering

ソフトウェア研究の世界を、科学者たちがより優れたコンピュータの作り方についての本を書いている、巨大で賑やかな図書館だと想像してみてください。長年、この図書館は急速に成長し続け、より多くの人々が本を出版しようと試みてきました。最近、新しい種類の「超筆記者」（生成AI）がやってきました。この筆記者は、文章を書き、計算をし、アイデアを整理することを信じられないほど速くこなすことができます。誰もが、本を書くことが非常に簡単になるため、これに興奮しています。

しかし、この論文は恐ろしい問いを投げかけています。もし、私たちが超筆記者に仕事をさせることに慣れすぎてしまい、自分自身で書く方法を忘れてしまったらどうなるだろうか？ ということです。

以下は、この論文の内容を分かりやすく分解したものです。

1. 現在のムード：幸福だが、不安も感じている

著者たちはまず、現在のソフトウェア研究者が何を感じているのかを調査しました。

• 良い点： コミュニティは友好的で協力的です。人々は互いに助け合うことを好みます。
• 悪い点： 全員が、より多くの本を、より速く出版しなければならないという大きなプレッシャーの下にあります。これは「査読危機」を生み出しました。チェックすべき本があまりにも多いため、チェックの質が低下しているのです。それは、まるで一日に1,000冊の小説を読もうとする裁判官のようなものです。すべての間違いを見つけることは到底不可能です。
• 恐怖： 指導者（メンター）たちは、教え子たちを心配しています。もし学生がAI超筆記者に頼りすぎれば、AIに質問することには長けていても、その答えを「理解すること」には疎くなってしまうのではないか、と彼らは恐れています。基礎的なことについて深く考える能力を失ってしまうかもしれないのです。

2. ストーリー：2035年からの警告

もし私たちが習慣を変えなければどうなるかを示すために、著者たちは2035年を舞台にした架空の物語を書きました。

場面：
シニア研究者のジェーン・ドゥ博士が、新しい科学論文を査読しています。その論文は完璧に見えます。文章は滑らかで、数学も正しく見え、AIの「貢献度スコア」は98%です（つまり、AIがほとんどすべての作業を行ったことを意味します）。

間違い：
その論文は、人間の脳とコンピュータを接続するために「Paxos」というコンピュータのルールを使用することを提案しています。

• AIの誤り： AIは「分散ノード（distributed nodes）」という言葉を見て、「ああ、Paxosはそれのために使われるものだ！」と考えました。しかし、人間の脳が、デジタルなものとは異なり、混沌としていて連続的で生物学的なものであることを見落としました。Paxosを脳に適用することは、デジタルビデオゲームを濡れたスポンジの上で動かそうとするようなものであり、それは機能しないだけでなく、痙攣を引き起こす可能性さえあります。
• 人間の失敗： 著者たちはこれを見逃しました。彼らはAIを完全に信頼してしまいました。彼らは生物学に関する知識が不足していたため、AIが危険な推測をしていることに気づけなかったのです。

恐怖：
ジェーンは、これが単なる一つの悪い論文ではないことに気づきます。今月で3つ目の論文なのです。AIは「もっともらしく聞こえる」デタラタラを生成しており、著者たちがそれをチェックするための深い知識を持っていないために、それが出版されてしまっています。やがて、これらの偽の論文が他の偽の論文に引用されるようになり、何が真実であるか誰も分からなくなる「汚染された井戸」のような知識の蓄積が生まれるでしょう。

判決：
ジェーンはその論文を却下します。しかし、彼女の却下通知は単なる数学的な誤りに対するものではありません。それはコミュニティ全体への警告です。「私たちは、エンジニアではなく、ブラックボックスのオペレーターになってしまった。私たちはボタンの押し方は知っているが、その機械の内部がどのように機能しているのかを知らないのだ」。

3. 大きな教訓：「T字型」対「ダッシュ型」

この論文は、問題を説明するために面白い比喩を用いています。

• T字型（良い状態）： 優れた研究者は、文字の「T」のようであるべきです。彼らは多くの事柄に関する幅広い理解（上の横棒）を持ちつつ、同時に特定の領域における深く垂直な専門知識（長い縦棒）を持っています。この深い足があるからこそ、彼らは複雑な細部に踏み込み、間違いを見つけることができるのです。
• ダッシュ型（悪い状態）： もし私たちがAIに頼りすぎると、私たちは「ダッシュ（—）」のようになってしまうかもしれません。私たちは非常に幅広く、かつ高速になりますが、あらゆることについて少しずつ知っているだけで、深みがありません。AIが嘘をついているかどうかを検証するための「垂直な足」を持たなくなるのです。

4. 私たちは何をすべきか？

この論文は「AIを禁止せよ」と言っているのではありません。AIの使い方をもっと賢くする必要があると説いています。

• ただ聞くだけでなく、確認すること： 研究者は、基礎的なスキルの「筋肉の記憶」を維持し続ける必要があります。彼らは、オートパイロットがオンになっていても自力で飛行機を操縦できるパイロットのように、AIの仕事を手動で検証できなければなりません。
• 葛藤を受け入れること： 学習とは、行き詰まり、デバッグし、失敗することから生まれるものです。もしAIがすべての葛藤を取り除いてしまったら、私たちは難しい問題を解決する方法を学ぶことを止めてしまうかもしれません。
• 責任を持つこと： 「AIがやったことだ」と言うことはできません。もしAIが間違いを犯した場合、それでも責任を負うのは人間なのです。

まとめ

この論文は、私たちの現在の習慣を映し出す鏡として使われる「デザイン・フィクション（設計上の空想物語）」です。もし私たちが、自身の深い知識を研ぎ澄ませたまま、AIにすべての重労働を任せてしまったら、表面上は完璧に見えても、根本的な部分が崩壊している未来を築いてしまうことになる、と警告しています。目標は、単に「効率的」であることではなく、「有能」であり続けることなのです。