Experimental evidence of progressive ChatGPT models self-convergence

この論文は、インターネット上に生成された合成データが訓練に混入した結果、異なるバージョンの ChatGPT モデル間の出力が徐々に類似し、多様性が低下する「モデル自己収束」という現象を実証的に示したものである。

要約

この論文は、**「AI が AI が作った文章ばかり読んで育つと、どうなるのか？」**という非常に重要な問題を、まるで「鏡の迷路」や「料理の味」に例えて解き明かした研究です。

専門用語を抜きにして、わかりやすく解説しますね。

1. 研究の背景：AI の「食生活」が変わった

昔の AI（チャットボット）は、**「人間が書いた本や記事」**という新鮮で多様な食材で育ちました。だから、人間のように面白い話も、少し変な話も、多様な答えができました。

しかし、最近の AI は状況が変わっています。インターネットには、「AI が作った文章」が溢れかえっています。学生が宿題を AI に書かせたり、ニュースが AI 要約されたり。
つまり、最新の AI は、「AI が作った料理（文章）」を、さらに「AI が作った料理」として食べて育つという状態になっているのです。これを「AI によるインターネットの汚染」と呼んでいます。

2. 実験：同じ質問に、何回も答えてみる

研究者たちは、有名な小説の要約（人間が書いたもの）を AI に与え、「これを言い換えて（パラフレーズして）」と命令しました。
そして、**「温度（Temperature）」**という設定を変えて実験しました。

• 温度 0（厳密モード）： 毎回、ほぼ同じ答えを出す、真面目な AI。
• 温度 1（創造モード）： 毎回、違う答えを出そうとする、気まぐれな AI。

本来なら、「温度 1」の AI は、同じ質問に対しても、毎回全く違う言い回しや表現を使って、**「バラエティに富んだ」**答えを出すはずです。

3. 発見：AI が「自分自身」に収束してしまった

実験結果は驚くべきものでした。

• 古い AI（昔のモデル）： 温度 1 で答えると、毎回全く違う表現を使い、人間のように「工夫」していました。
• 新しい AI（最新のモデル）： 温度 1 で答えても、「同じようなフレーズ」や「同じような構成」を繰り返すようになりました。

まるで、「同じ曲を何回も聴き続けたDJ が、いつしか同じリズムしかかけられなくなった」ような状態です。
最新の AI は、インターネットに溢れる「AI による文章」を大量に学習してしまったため、「多様な答え」ではなく、「AI っぽい答え」しか出せなくなっていたのです。

4. この現象の名前：「モデルの自己収束（Self-Convergence）」

論文ではこれを**「モデルの自己収束」**と呼んでいます。

• モデル崩壊（Model Collapse）： 以前から知られていた現象で、「AI が AI の作ったゴミデータを食べて、最終的に意味不明なガラクタ（グーグル）を吐き出す」状態。
• モデルの自己収束（この論文の発見）： 意味不明になる前段階で、**「AI が AI の作ったパターンに染み付いてしまい、個性を失って、全員が同じようなことを言い出す」**状態。

5. 何が怖いのか？

これは、AI が**「創造性」や「驚き」を失う**ことを意味します。

• 人間らしさの消失： AI が人間のように「あえて違う言い方をする」ことができなくなります。
• 情報の劣化： 将来、インターネットにある「人間が書いた本当の新しい情報」が、AI が作った「同じような文章」に埋もれてしまい、AI が新しい知識を吸収できなくなる可能性があります。

まとめ：どんな analogy（比喩）で考えればいい？

この現象は、**「料理の味」**に例えるとわかりやすいです。

• 昔の AI： 世界中の多様な食材（人間が作った本）を使って、毎回違う美味しい料理を作っていました。
• 今の AI： すでに「AI が作った料理」ばかりが市場に溢れています。最新の AI は、「AI が作った料理」だけを材料にして、さらに「AI が作った料理」を作ろうとしています。
• 結果： 最初は「AI っぽい料理」だったものが、何回も繰り返されるうちに、**「味が薄くなり、全員が同じような味（同じ表現）しか出せなくなる」**のです。

この論文は、**「AI が AI によって育てられると、個性を失い、同じような答えしか返せなくなる危険性」**を警告する、重要な研究結果なのです。

技術概要

以下は、提示された論文「Experimental evidence of progressive ChatGPT models self-convergence（進化する ChatGPT モデルの自己収束の実証的証拠）」の詳細な技術的サマリーです。

論文概要

本論文は、大規模言語モデル（LLM）が、インターネット上に存在する「AI によって生成されたデータ（合成データ）」をトレーニングデータとして取り込むことにより、モデルの多様性が失われ、出力が類似化していく現象「モデル自己収束（Model Self-Convergence）」を実証的に示した研究です。従来の「モデル崩壊（Model Collapse）」が再帰的に生成されたデータで訓練された際に意味のない出力（ガベージ）を生む現象であるのに対し、本研究では、意図的な再帰訓練ではなく、インターネットの汚染による自然なデータ混入が、確率的な出力（温度パラメータ 1）においてさえもモデルを収束させ、創造性を失わせていることを指摘しています。

---

1. 問題定義 (Problem Definition)

• 背景: LLM はインターネット上の膨大なデータで学習されます。しかし、LLM の普及に伴い、インターネット上に生成されるテキストの多くが人間ではなく AI によって作成されるようになっています。
• 課題: 従来の研究（Shumailov et al., 2024 など）は、モデルが自らの出力で再帰的に訓練された場合の「モデル崩壊（意味不明な出力の発生）」に焦点を当てていました。しかし、現実には「再帰的訓練」ではなく、インターネット上のデータに AI 生成テキストが混入（汚染）する形でトレーニングデータが更新されています。
• 仮説: この「インターネット汚染」により、LLM は自らの生成パターンを学習し、異なるバージョン間でも出力が徐々に類似化（収束）し、確率的な多様性（Stochasticity）が失われるのではないか。

2. 実験手法 (Methodology)

著者らは、異なるバージョンの ChatGPT モデルが、同じ人間作成のテキストをどのように「言い換え（Paraphrase）」するかを比較する実験を行いました。

• データセット:
  • 原著：CliffNotes と SparkNotes の 2 つの学習ガイドから、443 章分の要約（100〜2,000 語）を使用。これらは LLM 登場以前に作成された人間によるテキストであり、デジタル形式で入手可能です。
  • 対照群：2 つの異なるガイド（CliffNotes と SparkNotes）を比較し、人間同士の言い換えの類似度（SPR）を基準としました。
• モデル:
  • 7 つの異なる ChatGPT バージョン（GPT-3.5 Turbo, GPT-4 Turbo, GPT-4o, GPT-4.1, GPT-5, GPT-5.1, GPT-5.2）を使用。
  • 各モデルの「知識カットオフ日（Knowledge Cutoff Date）」が異なり、新しいモデルほどより多くの（AI 生成を含む）データを学習していると考えられます。
• パラメータ設定:
  • Temperature 0: 決定論的（Deterministic）な出力。
  • Temperature 1: 確率的（Stochastic）な出力。多様性を最大化する設定。
  • 各モデルに対して、同じプロンプトで複数の言い換えテキストを生成させました。
• 評価指標:
  • SPR (Similarity Percentage Ratio): 2 つのテキスト間の「非重複部分の共通パターン」の割合を計算する指標。
  • パターン長: 3 語〜20 語の長さの連続した単語列（パターン）を抽出し、その類似度を測定しました。
  • 定義: 「モデル自己収束」を、異なるバージョンの LLM が同じ元のテキストから生成した言い換え文間での SPR が、バージョンが新しいほど高くなる現象と定義しました。

3. 主要な結果 (Key Results)

実験結果は、モデルの性能向上とは逆の傾向を示しました。

• 温度 1（確率的）における多様性の喪失:
  • 古いモデル（GPT-3.5 など）では、Temperature 1 で生成された言い換え文間での SPR は低く、多様な表現がなされていました。
  • 一方、新しいモデル（GPT-5 シリーズ）では、Temperature 1 であっても SPR が劇的に上昇しました。特に長いパターン（15〜20 語）において、新しいモデルは古いモデルに比べて SPR が 20〜30 倍も高くなり、同じフレーズを繰り返し使用していることが示されました。
  • 人間同士の比較（CliffNotes vs SparkNotes）では、長いパターンでの類似度はほぼゼロでしたが、新しい AI モデル間では高い類似度が観測されました。
• 温度 0 と温度 1 の収束:
  • 本来、Temperature 1 は Temperature 0 よりも多様性が高く、SPR は低くなるはずです。しかし、新しいモデルでは、Temperature 1 の SPR が Temperature 0 の SPR に近づき、両者の差（Spread）が狭まっています。
  • これは、新しいモデルが「確率的な振る舞い」を失い、決定論的な出力と区別がつかなくなっていることを意味します。
• GPT-5.2 の特異性:
  • GPT-5.2 は一部の指標で改善が見られましたが、全体的な傾向として、新しいモデルほど「インターネット汚染」の影響を強く受けていることが示唆されました。

4. 主要な貢献 (Key Contributions)

1. 「モデル自己収束（Model Self-Convergence）」の概念定義と実証:
   • 従来の「モデル崩壊（Gibberish 化）」とは異なり、出力が意味を失うのではなく、「多様性を失って類似化していく」現象を初めて実証的に定義しました。
   • これは、意図的な再帰訓練ではなく、インターネット上の合成データ汚染によって自然発生的に起こる現象です。
2. トレーニングデータ汚染の危険性の提示:
   • LLM のトレーニングデータに AI 生成テキストが混入することが、モデルの創造性や確率的な多様性を損なう主要な要因であることを示しました。
   • 「Strong Model Collapse（強いモデル崩壊）」の一種として、データ重み付けなどの手法では完全に防げない可能性を示唆しています。
3. 長期的な LLM の存続への警告:
   • この収束現象が続けば、LLM は新しい人間の知識を取り込む能力を失い、自らの生成物のみを反復する「閉じたループ」に陥り、最終的に陳腐化する恐れがあることを指摘しています。

5. 意義と結論 (Significance and Conclusion)

• 結論: 本研究は、ChatGPT の新バージョンがアルゴリズム的に優れているにもかかわらず、トレーニングデータに含まれる AI 生成テキストの割合増加により、出力の多様性が低下し、モデル間での収束が進んでいることを実証しました。
• 社会的・技術的意義:
  • AI 検出の重要性: モデル崩壊を防ぐためには、AI 生成テキストを検知し、トレーニングデータから除外する仕組みが不可欠です。
  • データのクリーン化: 将来的な LLM の開発には、LLM 登場以前の「純粋な人間生成データ」のみを使用するか、あるいは AI 生成データを完全に除去したデータセットの構築が必須である可能性を示唆しています。
  • RAG（検索拡張生成）のリスク: インターネットにアクセスする RAG モデルも、汚染された情報源から学習することで同様のリスクにさらされている可能性があります。

本論文は、LLM の進化が「データ供給源の質」に依存しており、現在のインターネット環境が AI にとっての「自己増殖的な汚染源」になりつつあるという、深刻かつ重要な警告を発しています。