"Nobody Did This": Contribution, Originality, and Accountability in Agent-Mediated Collaboration

グループチャットに潜む見えない幽霊

あなたは、巨大で複雑なレゴのお城を作っているチームの一員だと想像してください。昔であれば、皆でテーブルを囲み、レンガを互いに受け渡していたことでしょう。もしあなたが赤い塔を置いたなら、全員がその様子を目にしました。もし他の誰かが屋根について議論を始めたら、その声を聞き、その手を見ることもできました。誰が何を作ったのかを正確に把握でき、もしお城が崩れてしまったとしても、「なぜあんなに弱いレンガを使ったんだ？」と誰に問い詰めるべきかが分かっていました。これが、何世紀にもわたって人間のチームワークが行われてきた方法です。つまり、「誰の貢献が可視化され、実在しているか」という信頼に基づいた、共有された記憶です。

しかし今、魔法のような、目に見えないアシスタントがあなたのテーブルに加わったと想像してみてください。このアシスタントは驚くほど速く、賢いです。ただレンガを手渡すだけでなく、あなたの耳元でアイデアを囁き、あなたが見ていない間に塔を組み替え、あなたが最初の列を完成させる前に、城の翼の部分を丸ごと作り上げてしまうことさえあります。あなたは「あれを作れと指示したのは自分だ！」と思うかもしれません。しかし真実は、アシスタントが「どのように」作るかを決定し、どのレンガを使うかを選び、あなたが完全には制御できていない方法でデザインを形作ったのです。突然、お城が完成したとき、どの部分があなたのアイデアで、どの部分がアシスタントの魔法によるものなのか、あなた自身でさえ100％確信を持てなくなります。これは、科学者たちが研究している新しい問題の核心です。ツールがあまりにも便利になりすぎて、「私たち」と「彼ら（ツール）」の境界線が曖れるとき、私たちは誰が実際にその仕事をしたのかを見失い始めるのです。

この論文の核心：「誰もこれを行っていない」

**「Nobody Did This（誰もこれを行っていない）：エージェントを介したコラボレーションにおける貢献、独創性、および責任」と題されたこの論文は、研究者やデザイナーへの行動喚儀です。著者たちは、私たちが「貢献の溶解（contribution dissolution）」**と呼ばれる危機に直面していると主張しています。これは難解な言葉に聞こえますが、単に、チームが文章を書いたり、デザインしたり、問題を解決したりするためにAIエージェント（賢いコンピュータプログラム）を使用するとき、「誰が何をしたか」という明確な記録が溶け去ってしまうことを意味します。

著者たちは、これは単なる小さな不具合ではなく、私たちの働き方における根本的な変化であると指摘しています。AIエージェントは、私たちのアイデアを完成させるのを助けるだけでなく、多くの場合、アイデアを「形成する」段階から私たちを助けてしまうのです。AIとチャットをして自分の考えを整理しているうちに、会話が終わる頃には、自分の思考がどこで終わり、AIの提案がどこから始まったのかが分からなくなってしまうことがあります。それは、砂糖とコーヒーを長時間混ぜ合わせた後で、砂糖の味とコーヒーの味を分離しようとするようなものです。

「ただ書き留めればいい」という罠

この論文は、多くの人々が試みている最も一般的な解決策である**「ドキュメンテーション（文書化）」**に対して、多くの批判を投げかけています。現在、多くの人は、より優れたログ（記録）を残せばよいと考えています。彼らは以下のような手法を提案しています：

• ウォーターマーク（電子透かし）： AIが生成したテキストに付与される目に見えないスタンプ。
• プロベナンス・ログ（由来ログ）： AIがドキュメントに触れた回数を示すデジタル上の領収書。
• AI使用表明： 「私はこれにAIを使用しました」という単純な注釈。

著者たちは、これらの解決策は**「罠」であると主張しています。これらのツールは、「AIの仕事を隠していること」が問題であると想定していますが、真の問題は、AIの仕事がしばしば「目撃されていない（unwitnessed）」**ことにあると彼らは述べています。もしあなたとAIが長い対話を重ね、共にアイデアを形作り、その結果をグループチャットに貼り付けたとしたら、単純なログでは、何が本当に「あなた自身のもの」であったかをチームメイトに伝えることはできません。ログには「AIがこの文章を生成した」と記されるかもしれませんが、その文章の背後にある「アイデア」があなたのものであったのか、あるいはAIがあなたの元の考えを別のものに変えてしまったのかまでは教えてくれないのです。

論文では、この点を証明するために、面白い実践的なアクティビティを用いています。彼らは、人々が「プロベナンス・ログ（誰が何をタイプしたかのリスト）」だけを頼りに謎解きをする場面を想定しています。グループのメンバーはすぐに、そのログが次のような真の問いに答えるには役に立たないことに気づきます。「誰がオリジナルのアイデアを持っていたのか？」「計画が失敗した場合、誰が責任を負うのか？」「AIは私たちの言いたいことを変えてしまったのか？」 ログは存在していますが、チームが必要としている「真実」を保持してはいないのです。

私たちに必要なもの：新しい種類の信頼

より優れた領収書を作成することが機能しない以上、著者たちは、私たちは**「新しい責任のインフラストラクチャ（accountability infrastructures）」を構築する必要があると提案しています。彼らはそれが具体的にどのような姿になるのかはまだ確信していませんが、チームがAIが介入する前**に、互いの思考を「目撃」できるようなシステムを設計する必要があると示唆しています。

単に「AIを使いましたか？」と尋ねるのではなく、「あなたとAIは、これを作り上げるためにどのように協力しましたか？」と問うべきなのです。彼らは、人々が自らの推論プロセスを説明できる場（例えば、リアルタイムで自分の理由を説明できるスペース）を作るなど、プロセスについて語り合うための新しい方法が必要だと提案しています。そうすることで、たとえAIが助けてくれたとしても、人間のユニークな視点や判断が、依然として可視化され、正当化できるものとして残るのです。

なぜこれがあなたに関係するのか

あなたは、「自分はただの学生や趣味の人なのに、なぜこれが重要なのか？」と思うかもしれません。しかし、これは何かを創造するためにテクノロジーを使うすべての人に関係しています。もし私たちがこの問題を解決できなければ、以下のような未来を招くリスクがあります：

• プロジェクトがうまくいかなかったとき、誰を責めればよいのか誰も分からなくなる。
• 自分の仕事が何であったか確信が持てないため、誰も自分の仕事に誇りを感じられなくなる。
• チームメイトのアイデアが本物なのか、それともコンピュータの推測に過ぎないのか判別できないため、チーム間の信頼が失われる。

この論文は、最終的な答えを持っていると主張しているわけではありません。実際、現在の解決策であるウォーターマークやログは不十分である可能性が高いと明言しています。むしろ、AIを単に「私たちの代わりに仕事をするツール」として扱うのではなく、「ゲームのルールを変えてしまうパートナー」として扱い始める必要があると示唆しています。目標は、非常に賢いロボットが助けてくれたとしても、自信を持って「私がこれをやりました」と言える未来を築くことです。

ワークショップの計画

この問題に取り組むため、著者たちは以下の内容を行うワークショップ（専門家による会議）を開催しています：

1. 問題をマッピングする： 実社会の仕事において、どこで「境界の曖昧化」が起きているのかを特定する。
2. ログをテストする： 現在の追跡ツールを使用してみて、どこで失敗するかを確認する。
3. 未来をデザインする： チームの誠実さと責任を維持するための新しい方法をブレインストーミングする。

彼らは、学生、エンジニア、アーティスト、科学者など、あらゆる分野の人々に、この問題を解決するために協力してくれるよう呼びかけています。もし今これを解決しなければ、チームワークを特別なものにしている要素、すなわち「互いのユニークな精神を知り、信頼し、学び合う能力」を失ってしまう可能性があると彼らは信じているからです。

要約すれば、この論文は、もし私たちが計画なしにAIに「思考」の多くを任せてしまえば、**「誰もこれを行っていない（nobody did this）」**という世界――誰もが、実際に誰がやったのかを思い出せなくなる世界――に陥ってしまうと警告しているのです。