技術要約: REPREC

問題定義

逐次推薦（Sequential recommendation）は、ユーザーの過去の行動の時系列順序に基づいて、次にどのようなインタラクションが発生するかを予測することを目的としています。古典的なモデル（例：協調フィルタリング、SASRec、BERT4Rec）は、インタラクションシーケンスからコンパクトなユーザー表現を効果的に学習できますが、大規模言語モデル（LLM）が持つ意味的な世界知識や指示追従能力は欠いています。逆に、LLMを用いて推薦を自然言語タスクとして定式化する最近のアプローチは、構造化された協調信号を保持することに苦慮することがよくあります。

このギャップを埋めようとする既存のソリューションは、通常、以下のいずれか、あるいは複数の戦略に依存しており、これらはデプロイメントにおける重大なトレードオフをもたらします。

• LLMのファインチューニング: （LoRAなどを通じて）LLMのバックボーンを推薦タスクに適応させる。
• アーキテクチャの変更: 専用のクロスアテンションモジュールを追加したり、複数のコンポーネントの共同最適化を行ったりする。
• アイテムレベルのコンディショニング: 全ての履歴アイテムの表現をLLMの入力に注入することで、シーケンス長と計算コスト（FLOPs）がインタラクション履歴に対して線形にスケールしてしまう。
• 表現の蒸留: 複雑な蒸留目的関数を通じて知識を転移させる。

これらの手法は、トレーニングの複雑さ、パラメータ数、および推論レイテンシを増大させることが多く、モジュール性、スケーラビリティ、および低レイテンシが極めて重要となるプロダクション環境には適していません。本論文は、次のような設計上の問いを提示しています：凍結された逐次エンコーダと凍結されたLLMを、軽量なユーザーレベルの表現アライメントのみを通じて接続し、モジュール性を維持しつつデプロイメントの複雑さを最小限に抑えることは可能か？

手法

著者らは、REPREC（Representation-driven Parameter-Efficient Recommendation）を提案します。これは、凍結された逐次レコメンダーと凍結されたLLMを、軽量で学習可能なアライメントモジュールを介して接続するフレームワークです。そのアーキテクチャは、主に3つのコンポーネントで構成されています。

1. 凍結された逐次エンコーダ ($f_\theta$): 次のアイテム予測（next-item prediction）に基づいて学習された標準的な逐次レコメンダー（SASRecまたはBERT4Recとしてインスタンス化）。一度学習されると、そのパラメータは凍結されます。これは、ユーザーのインタラクションシーケンス $S_u$ を固定サイズの $d$ 次元ユーザー埋め込みへとマッピングします。
2. 軽量インジェクター ($g_\phi$): 固定サイズのユーザー埋め込みをLLMの埋め込み空間へと投影する、コンパクトな多層パーセプトロン（MLP）です。
   • インジェクターは、$d$ 次元の埋め込みを、次元 $D$（LLMの隠れ層サイズ）を持つ $m$ 個の「ソフトトークン」（コンディショニングベクトル）の集合へとマッピングします。
   • この変換には、線形投影、非線形活性化（GELU）、および結果のトークンに適用される共有LayerNormが含まれます。
   • 決定的なのは、インジェクターのパラメータ $\phi$ のみが学習対象であり、逐次エンコーダとLLMは凍結されたままという点です。
3. 凍結されたLLMバックボーン ($M$): 事前学習済みのLLM（例：LLaMA、Qwen）であり、候補アイテムを記述するテキストプロンプトに先置（prepend）された注入済みソフトトークンを受け取ります。LLMは、候補アイテムが関連しているかどうかを判断するために、二値分類（Yes/No）を行います。

学習プロセス:
システムは二値決定プロンプトを用いて学習されます。ユーザートークン $Z = g_\phi(u)$ は、プロンプトの埋め込み $E_{prompt}$ と結合され、入力 $E_{input} = [Z; E_{prompt}]$ を形成します。LLMは回答トークンのロジットを生成し、クロスエントロピー損失は回答位置においてのみ計算されます。勾配は、凍結されたLLMの活性化を通じて逆伝播し、インジェクターのパラメータ $\phi$ のみを更新します。

主な貢献

• パラメータ効率性: REPRECは、LLMバックボーンや逐次エンコーダのファインチューニングを必要としません。適応は小さなMLPインジェクターに限定されるため、LoRAやフルファインチューニングと比較して、学習対象のパラメータ数を大幅に削減できます。
• モジュール性と互換性: 本フレームワークはエンコーダに依存せず、バックボーンにも依存しません。内部アーキテクチャを変更することなく、様々な逐次エンコーダ（SASRec、BERT4Rec）やLLM（LLaMA、Qwen）と統合可能です。
• ユーザーレベルのコンディショニング: 履歴の長さに比例してスケールするアイテムレベルのコンディショニング手法とは異なり、REPRECはグローバルなユーザー表現から派生した固定数のソフトトークン（$m$）を使用するため、インタラクション履歴のサイズに関わらず一定の推論レイテンシを保証します。
• スパースなデータへの汎用性: この手法は、逐次エンコーダから協調信号をLLMに転移させるために特別に設計されており、これはデータが限られているユーザーにとって特に有益です。

実験結果

著者らは、5つのAmazon製品レビューデータセット（Beauty, Sports, Toys, Pet Supplies, Tools）を用いて、Zero-shot LLM、Frozen Injector、LoRA-FT、およびLaraRAを含むベースラインに対してREPRECを評価しました。

• 全体的な性能: REPRECは、スタンドアロンの逐次モデル（SASRec、BERT4Rec）およびZero-shot LLMを一貫して上回りました。パラメータ予算が一致している条件下では、REPRECはすべてのデータセットおよびLLMバックボーン（LLaMAおよびQwen）において、LoRA-FTおよびLaraRAと同等またはそれを上回る性能を示しました。
• ユーザーレジーム分析:
  • カジュアルユーザーおよびコアユーザー: REPRECは、インタラクション履歴が短いユーザー（0–20回）において、LoRAに対して顕著な改善を示しました。注入されたユーザー表現が、LLMが欠いている貴重な協調信号を提供します。
  • パワーユーザー: 長い履歴を持つユーザー（>20回）については、REPRECとLoRAの性能差は縮まり、REPRECは同等の性能を発揮しました。
• 効率性と学習・推論のトレードオフ:
  • 学習速度: REPRECの学習はLoRAよりも大幅に高速です。
  • 短期間から長期間への汎用性: 著者らは、短いプロンプト履歴（$\ell=10$）で学習し、長いコンテキスト（$\ell=50$）で評価する調査を行いました。短い履歴での学習はパワーユーザーの性能を低下させますが、ハイブリッドなアプローチ（短期間で学習し、長期間でテストする）を採用することで、パワーユーザーに対するLoRAの性能の85〜100%を回復しつつ、1エポックあたりの平均学習時間を1.51倍短縮できました。
• アブレーション研究: 研究により、学習されていないソフトトークンを単に先置するだけ（Frozen Injector）では不十分であり、学習されたアライメントが不可欠であることが確認されました。さらに、ソフトトークンとテキストによるインタラクション履歴を組み合わせることで、ソフトトークン単独よりも優れた結果が得られることが示されました。

意義と主張

本論文は、REPRECが、協調信号をLLMベースの推薦システムに統合するための、シンプルでモジュール化された実用的なアプローチを確立したと主張しています。その主な意義は、高品質な逐次推薦を実現するために、複雑なアーキテクチャの変更や高価なLLMのファインチューニングは必ずしも必要ないことを示した点にあります。

軽量なアライメント層を介して、協調信号の抽出（凍結されたエンコーダ）と言語推論（凍結されたLLM）を分離することで、REPRECは推薦の質と計算効率のバランスが取れた、プロダクションフレンドリーなパイプラインを提供します。著者らは、このアプローチが、現実世界のシステムにおいてデータスパース性が一般的な課題となる、ユーザーベースの大部分を占める「ロングテール」のユーザー（カジュアルおよびコアユーザー）に対して特に効果的であることを強調しています。本研究は、推薦シナリオにおけるLLMのスケーリングにおいて、ユーザーレベルの表現アライメントがバックボーンの適応に代わる有効な選択肢であることを示唆しています。