Automatic or Controlled? Repetition Priming Reveals Divergent Processing in Base LLMs, Instruct LLMs, and Humans
この研究は、ベースとなる言語モデルが繰り返される単語を自動的かつ安定的な促進を通じて処理する一方で、指示学習（インストラクト・モデル化）を経ることで、干渉を伴わないラグ感受的な促進という人間の認知特性とは異なる、制御されたラグ感受的な処理へと移行することを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
言語は繰り返しの河である。一つの会話の中で、私たちは同じ言葉を数十回、時には数文の間隔で何度も使うことがある。人間が、たった今聞いた言葉を再び耳にしたとき、脳はその言葉をより速く、より容易に処理する。「反復プライミング」として知られるこの現象は、私たちの学習と記憶の仕組みにおける基本的な特徴である。これは、人間の精神が単語との出会いをすべて新しい出来事として扱うのではなく、前の出会いの痕跡を保持し、次の出会いをよりスムーズにするものであることを示唆している。しかし、人工知能がより洗練されるにつれ、一つの疑問が浮かび上がってきた。チャットボットや検索ツールを動かしている大規模言語モデル（LLM）も、同じように機能しているのだろうか？ これらの機械がすでに処理した単語を目にしたとき、彼らは単に古い記憶を再活性化させているのだろうか、それとも一度立ち止まって、その単語をゼロから再評価しているのだろうか。
この答えが重要である理由は、それがこれらのシステムの内部構造を明らかにするからである。もしモデルが単に記憶を再活性化させているのであれば、それは反射、つまり速くて自動的な反応として機能していることになる。もしモデルが再評価を行っているのであれば、それは慎重な思考者として、次の決定を下す前に文脈を吟味していることになる。長年、研究者たちは、これらの機械が「速い」直感を持っているのか、それとも常に「遅い」熟考的な推論を行っているのかについて議論してきた。イェール大学とカリフォルニア大学ロサンゼルス校の研究者によるこの新しい研究は、異なる種類の言語モデルが繰り返される単語をどのように扱うかをテストすることで、この疑問に決着をつけることを目的としている。彼らは、生の事前学習済みモデルと、指示に従うように微調整（ファインチューニング）されたバージョンを比較し、さらに、機械が私たちとどのように対比されるかを見るために、人間のボランティアを用いた並行実験を行った。
研究者たちは、心理学の古典的な実験を模した一連のテストを設計した。彼らは、15億パラメータの小さなシステムから140億パラメータの巨大なものまで、15種類の異なるモデルに単語と文章を入力した。また、40人の人間の参加者にも同じタスクを実行させた。テストには主に2つの活動が含まれていた。第一に、対象となる単語が生物を表しているか、あるいは無生物の物体を表しているかを素早く判断するというものである。第二に、欠落した単語を補って文章を完成させるというものであり、その文章自体には、欠落した単語が何であるべきかについてのヒントはほとんど含まれていない。鍵となる変数は、「ラグ」、つまり最初のターゲット単語が現れてから二度目に現れるまでの間に存在する他の単語や文章の数であった。この距離を変えることで、研究者たちは、反復による恩恵が時間の経過とともに持続するのか、あるいは消失するのかを確認することができた。
結果は、機械の情報処理における驚くべき分裂を明らかにした。ベースモデル（指示に従うように教えられる前の、システムの生のバージョン）は、一種の自動的な効率性を持って行動した。ターゲットとなる単語に遭遇すると、その間にどれだけの他の単語が現れたとしても、彼らはそれをより速く、より確信を持って処理した。たとえ研究者が会話履歴から以前の回答を取り除いたとしても、ベースモデルは依然としてパフォーマンスの向上を示した。これは、これらのモデルにとって、反復が速い刺激駆動型の反応を引き起こしていることを示唆している。単語そのものが、記憶を呼び覚ますのに十分なのであり、それは反射のようなものである。
対照的に、指示チューニングされたモデルは、全く異なる挙動を示した。これらは、役に立つアシスタントとして、ルールに従い、会話を行うように訓練されたシステムである。これらのモデルが繰り返される単語を目にしたとき、彼らは同じ自動的なブーストを示さなかった。代わりに、彼らのパフォーマンスは文脈に大きく依存した。最初の出現と二度目の出現の間に多くの単語があった場合、反復による恩恵は消失した。さらに悪いことに、最大かつ最も高度な指示チューニング済みモデルにおいては、反復がむしろ妨げとなった。単語を再び見ることは、機械が冗長性に混乱しているかのように、モデルを遅くさせ、精度を低下させた。これは、これらのモデルが単に単語に反応しているのではなく、周囲の会話に基づいて、その単語を能動的に再評価していることを示している。もし文脈が彼らの予想と一致しない場合、反復はエラーとして感じられ、干渉を引き起こすのである。
研究者たちはまた、これらの挙動がモデルの規模に応じてどのように変化するかについても調査した。あるモデルファミリー内では、モデルのサイズが増大するにつれて、二つのタイプの間の差が広がった。ベースモデルは自動的な処理において一貫性を保っていたが、指示チューニングされたモデルは、反復間の距離に対してますます敏感になった。最大スケールにおいて、指示チューニングされたモデルは最も強い干渉の兆候を示しており、これは、指示に従うように教えるプロセスが、彼らの情報の扱い方を根本的に変えてしまうことを示唆している。それは単にタスクが上手くなるということではなく、動作モードにおける質的な変化である。
おそらく最も驚くべき発見は、機械と人間のボランティアを比較した際に得られた。人間は、どちらのカテゴリーにも綺麗には当てはまらなかった。指示チューニングされたモデルと同様に、人間も反復間の距離に敏感であり、ラグが増加するにつれて反応時間は遅くなった。しかし、指示チューニングされたモデルとは異なり、人間は決して干渉に苦しむことはなかった。どれほど長い間隔があっても、単語を再び見ることは常に助けとなり、決して害を及ぼすことはなかった。人間は中間領域を占めていた。彼らは高度な機械のように文脈に敏感であったが、ベースモデルが示したような反復の普遍的な恩恵を保持していたのである。
この研究は、言語モデルを役に立ち従順にするための訓練プロセスが、その認知アーキテクチャを根本的に変えてしまうことを示唆している。生のモデルは、単語が現れた瞬間に反応する、速く自動的なシステムで作動している。しかし、指示チューニングされたモデルは、文脈を常にチェックし、会話の流れに合わない場合は反復を拒絶することもある、制御されたシステムを発達させたようである。研究者たちは、この変化が単なる出力の変化ではなく、基礎となるメカニズムの変化であることを発見した。モデルの内部を調べたところ、ベースモデルは応答を速めるために、単語の前の出現に直接注意を向けていた。しかし、指示チューニングされたモデルは、この注意を最終的な決定から切り離しており、自動的なブーストを事実上フィルタリングしていた。
この研究の意義は、これらの機械がどのように考えるかを理解することにとどまらない。それは、現在の人工知能が人間の認知とどのように具体的に異なるのかを浮き彫りにしている。私たちは長い会話の中で反復によって注意を削がれることはあっても、単語を以前に見たことがあるという基本的な利点を失うことは決してない。指示チューニングされたモデルは、文脈を意識しようとするあまり、基本的な記憶プロセスにおける人間らしさを、図らずも失ってしまった。彼らは目先の文脈に集中しすぎるあまり、時として馴染みのある単語を間違いとして扱ってしまうのである。本研究は、二つの処理モードがどこで分岐するかを示す明確な地図を提供しており、機械が「反応する」ものか、それとも「考える」ものかという違いを、精密かつ測定可能な方法で示している。この研究は、機械知能の謎を解明したと主張するものではないが、反応する機械と考える機械の違いを見るための、正確な尺度を提示しているのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。