Interrupting the Loop: Periodic Subject Changes Raise Judged Surprise and Connection in Base Language Models
本論文は、ベースとなる言語モデルの生成ストリームを新しい主題によって周期的に中断させることは、慣れ（習慣化）のみの場合と比較して、判定された驚きと関連性を著しく増加させる一方で、こうした局所的な利点が一貫した長文ドキュメントへと構成されることはなく、また特定の評価上のアーティファクトが知覚された創造性を膨張させ得ることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
コンピューターに、特定のプロットも、キャラクターも、目標も与えずに物語を書くよう頼む場面を想像してみてください。ただ一文だけを渡し、それを永遠に続けてくれと命じるのです。人工知能の世界において、これは機械が自らの力だけでどのように思考するかを測る標準的なテストです。期待されるのは、多くの場合、機械が新鮮で、驚きに満ちた、あるいは創造的な何かを生み出すことです。しかし、導くべきタスクがないと、これらの機械は行き詰まってしまう傾向があります。彼らは同じフレーズを繰り返したり、数字のリストを生成したりといった、反復的なループに陥ります。それはまるで、自分が何を言っていたのか忘れてしまい、何度も同じ文章を最初から言い直している人のようです。この振る舞いはコードの欠陥ではなく、直近の出力に依存し、新しいアイデアが尽きるまで、自分が書いたものを強化し続けてしまうというシステムの自然な傾向なのです。
研究者たちは、このサイクルを打破して真の斬新さを解き放つことができるのではないかと、長い間考えてきました。彼らは、次に選ぶ単語の選び方を変えたり、奇妙なプロンプトを与えたりすることを試みてきましたが、最も有望に見えたのは「ループ」そのものでした。つまり、機械が自身の出力を読み取り、それを次のステップの入力として使用するプロセスです。もし機械が自分自身の思考の中を彷徨うことができれば、人間が問題を頭の片隅に置いておくことで突然の洞察を得るのと同様に、新しい方向へと辿り着けるかもしれないという考えです。ある新しい研究は、人間の創造性を模倣するように設計された複雑なシステムを解体し、どの部分が実際に機能し、どの部分が単なるノイズであったのかを確認することで、このアイデアを極めて精密に検証しようとしました。
研究者たちは、人間の脳の仕組みに基づいた高度なアーキテクチャからスタートしました。彼らは、「退屈」や「反復」の兆候を監視する「モニター」、テキストが書かれている最中にそれを評価する「判定役」、そして機械のメモリが停滞した場合にリセットするメカニズムを備えたシステムを構築しました。彼らはこれを「スキャフォールド（足場）」と呼びました。それは、物語を前進させ続け、進捗を評価し、必要に応じて介入するための複雑な機械でした。しかし、テストを行った結果、精巧な部分は大部分が無用であることが判明しました。モニターが作動することは稀であり、ループ内の判定役が変化を引き起こすこともありませんでした。システムは機能していましたが、それは彼らが構築した複雑な機構によるものではありませんでした。
チームがシステムを分解したとき、効果のすべてが二つの非常に単純な動作に集約されていることを発見しました。一つ目は、全く同じ単語をあまりに早く繰り返すことに対して緩やかなペナルティを与える技術であり、これによりテキストが文字通り自分自身にループバックすることを防ぎました。二つ目は、さらに重要なことですが、単純な「中断」でした。数百語ごとに、研究者たちは機械を一時停止させ、主題を完全に変える新しい一文を注入したのです。それはまるで、パンを数えているパン屋について機械が書いている最中に、誰かが静かに「一方、名前のない街では」というメモを物語に滑り込ませ、そこから再び機械に続けさせたようなものです。この「数百語ごとに主題を変える」という単なる行為だけで、テキストは人間にとって驚きがあり、かつ繋がりを感じさせるものになり、複雑な監視システムよりもはるかに高いレベルで文章の質を向上させました。
この研究はまた、機械の創造性を測定する方法における驚くべき欠陥をも明らかにしました。研究者たちは、短いテキストの窓を見て、それらが面白いかどうかを判断するために人工知能を使用して採点を行いました。彼らは、この判定役が容易に騙されることを発見しました。もし機械に同じ4つの「新しい主題」の文章をローテーションさせて与えると、機械はそのパターンを学習し、以前の記述をコピーして、あたかもそれが新しいものであるかのように振る舞い始めたのです。短い窓しか見ていない判定役は、そのテキストが数百語前のリプレイであることを認識できず、「驚き」や「繋がり」に対して高いスコアを与えてしまいました。研究者が、一度も見たことのない新鮮なテキストのみを判定するように修正すると、スコアは下がりましたが、核心となる発見は変わりませんでした。つまり、主題を変えるという単純な行為が、文章をより良くしたという事実です。
しかし、この研究は、この改善が実際には何を意味するのかについて、深刻な結論も提示しました。中断によって、小さな断片としては文章が良く見えるようになりましたが、それらが一貫した全体を作り出すことはありませんでした。研究者たちが4,500語の物語を最初から最後まで通して読んだとき、中断されたテキストは発展的な物語にはなっていないことが分かりました。それは、断片的な再始動の集まりでした。機械はパン屋について書き、次に街へ飛び、次に老女へと飛んでいきますが、これらの糸を一つの統合された物語へと織り交ぜることは決してありませんでした。機械は「新鮮なスタート」を作ることは得意でしたが、「時間をかけて保持される構造」を構築することは不得手だったのです。
この限界は、研究者がシステムを実用的な問題、すなわちアイテムをビンに詰め込む数学パズルに適用した際にも当てはまりました。中断によって、機械は通常よりも多くの有効な解を生成しましたが、それらのどれもが、機械が自力で見つけられる最良の解よりも優れたものではありませんでした。中断は「変異操作」として機能し、より多くの選択肢を生み出しましたが、最良の選択肢の質を高めることはありませんでした。機械には、良いアイデアを選択し、それを構築していくためのステップが必要でしたが、現在のシステムにはそれが欠けていました。
研究者たちは、これらの機械に見られる斬新さは、深い創造的な閃きや複雑な内部評価から来るのではなく、単純な構造的トリック、すなわち「機械が自分自身を繰り返すのを防ぎ、数百語ごとに新しい思考を開始させること」から来るのだと結論付けました。この単純な介入は、その瞬間においてはテキストを新鮮で繋がりを感じさせるものにするには十分ですが、発展的な物語や解決された問題を作り出すことはできません。この研究は、真の創造性を得るためには、単に機械が退屈するのを防ぐ方法だけでなく、学んだことを記憶し、それを積み重ねていく方法、つまり一連の新鮮なスタートを、一つの意味のある旅へと変えていく方法が必要であることを示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。