LATTE: Forecasting Peer Anchored Preference Trajectories for Personalized LLM Generation

ملخص تقني: LATTE – التنبؤ بمسارات التفضيل المرتكزة على الأقران لتوليد النماذج اللغوية الكبيرة المخصصة

بيان المشكلة
يتطلب التوليد المخصص باستخدام النماذج اللغوية الكبيرة (LLMs) المجمدة إشارة شرطية تكون مدمجة وحديثة في آن واحد. تعتمد الأساليب الحالية عادةً على استرجاع أو تلخيص سجلات المستخدم في شكل نصي، أو ضغطها في ملفات تعريف كامنة ثابتة ومطالبات ناعمة (soft prompts). ورغم كفاءة هذه الطرق، إلا أنها تعامل تاريخ المستخدم كملف تعريف تجميعي، مما يخلط بين الهوية المستقرة، والتحول السلوكي الأخير، ومحتوى العناصر المحدد في تمثيل واحد. هذا التجميع الثابت يفشل في التقاط التحولات الزمنية في تفضيلات المستخدم (على سبيل المثال، تحول المراجع ليصبح أكثر تقنية بمرور الوقت)، وغالباً ما يؤدي إلى ملفات تعريف تهيمن عليها المحتويات أو تصبح قديمة ولا تتوافق مع الحالة الراهنة للمستخدم. التحدي الجوهري يكمن في كيفية تكييف نموذج لغوي كبير مجمد مع حالة تفضيل المستخدم الحالية دون الحاجة إلى ضبط دقيق للنموذج (fine-tuning) أو إضافة معاملات خاصة بالمستخدم.

المنهجية: إطار عمل LATTE
يقترح المؤلفون إطار عمل LAtent Trajectory Tracking and Extrapolation (LATTE)، الذي يعيد صياغة التخصيص باعتباره تنبؤاً بـ "حالة تفضيل نسبية مرتكزة على الأقران". تعمل الطريقة عبر ثلاث مراحل منفصلة ومستقلة:

1. بناء الحالات النسبية المرتكزة على الأقران:
لكل جلسة تاريخية، يقوم LATTE ببناء حالة تعزل تفضيل المستخدم المحدد عن التباينات المشتركة في العناصر.

• خط الأساس للأقران (Peer Baseline): بالنسبة لتفاعل مستخدم مستهدف مع عنصر $i_t$ عند زمن $\tau_t$، يحدد النظام مجموعة من المستخدمين "الأقران" القابلين للمقارنة الذين راجعوا نفس العنصر قبل $\tau_t$.
• حساب البواقي (Residual Calculation): يحسب النظام متوسطاً مرجحاً لتمثيلات استجابة الأقران (خط الأساس) ويطرحها من تمثيل استجابة المستخدم المستهدف.
• التطبيع (Normalization): يتم تطبيع المتجه الناتج لتشكيل حالة نسبية مرتكزة على الأقران. هذه العملية تزيل رياضياً مكون العنصر المشترك (بموجب فرضية نموذج التضمين الجمعي)، مما يترك إشارة تمثل كيفية اختلاف المستخدم عن أقرانه المماثلين في ظل نفس السياق.

2. التنبؤ بالمسار (Trajectory Forecasting):
بدلاً من تجميع هذه الحالات في متوسط ثابت، يعامل LATTE هذه الحالات كسلسلة مرتبة زمنياً.

• يتم تدريب متنبئ تسلسلي خفيف الوزن (مثل GRU، أو Transformer، أو آلية انتباه متعلمة) خارجياً للتنبؤ بالحالة التالية في المسار بناءً على التاريخ الملحوظ للحالات المرتكزة على الأقران.
• هدف التدريب هو خسارة انحدار مباشرة (تشابه جيب التمام وMSE) للتنبؤ بالحالة التالية المنشأة، مما يفصل التنبؤ بالحالة عن خسارة نمذجة اللغة؛ وهذا يمنع متجه التكييف من الانهيار إلى مسار مختصر منخفض الرتبة يعتمد فقط على بيانات وصف العناصر (metadata).

3. جسر الحالة إلى الرمز (State-to-Token Bridge - STB):
يتم حقن الحالة المتنبأ بها في النموذج اللغوي الكبير المجمد.

• تقوم وحدة جسر خفيفة الوزن برسم خريطة للمتجه الكامن المتوقع إلى فضاء تضمين الرموز (token embedding space) الخاص بالنموذج اللغوي.
• يستبدل هذا المتجه رمزاً نائباً واحداً ([PREF_TOKEN]) في المطالبة (prompt).
• يسبق الرمز المدمج مرساة من اللغة الطبيعية لتوجيه النموذج اللغوي حول كيفية تفسير الحالة المحقونة.
• من الضروري أن تظل أوزان النموذج اللغوي مجمدة؛ حيث يتم تدريب الجسر والمتنبئ فقط.

المساهمات الرئيسية

• الصياغة: يصيغ البحث التخصيص للنماذج اللغوية الكبيرة المجمدة كعملية تنبؤ بحالة تفضيل نسبية مرتكزة على الأقران، محولاً تاريخ المستخدم من ملف تعريف ثابت إلى مسار كامن مرتب زمنياً.
• تصميم الإطار: يقدم إطار عمل معياري (LATTE) يبني حالات بقايا الأقران لنفس العنصر، ويتنبأ بالحالة التالية باستخدام نموذج تسلسلي خفيف الوزن، ويحقن التنبؤ عبر رمز ناعم مرسخ واحد.
• التحقق التحليلي والتجريبي: يقدم المؤلفون براهين تحليلية (الفرضيتان 1 و2) تثبت أن الارتكاز على الأقران يقلل من تباين العناصر المشتركة، وأن التنبؤ بالمسار يوفر مقايضة بين الانحياز والتباين (bias-variance trade-off) تتفوق على المتوسط الثابت عندما تتبدل حالات المستخدم. وتجريبياً، يظهرون أن المكاسب مدفوعة بالتنبؤ بمعلومات مسار المستخدم الخاصة بدلاً من مجرد إضافة واجهة مطالبة ناعمة.

النتائج التجريبية
تم تقييم الطريقة على Amazon Reviews 2023 (الكتب، الأفلام، الأقراص المدمجة) و MemoryCD مقابل مجموعة شاملة من النماذج المرجعية، بما في ذلك الطرق القائمة على الاسترجاع، وملخص الذاكرة، والملفات التعريفية الكامنة الثابتة، والملفات التعريفية الثابتة المدركة للاختلاف (أسلوب DEP)، وضغط المطالبة الناعمة (أسلوب PERSOMA).

• الأداء: تفوق LATTE باستمرار على جميع النماذج المرجعية. في Amazon Reviews 2023، حقق LATTE (باستخدام متنبئ GRU) متوسط ROUGE-L قدره 0.259، متفوقاً على أقوى نموذج أساسي كامن ثابت (0.245) وأقوى نموذج ضغط مطالبة ناعمة (0.245).
• دقة التفضيل: بعيداً عن التداخل اللفظي، أظهر LATTE تحسينات كبيرة في معدلات الفوز الزوجي الواعي بالتاريخ (64.0% مقابل 58.6% لـ PERSOMA) ومقاييس دقة التفضيل، لا سيما في محاذاة "الحداثة" (Recency)، والتي ترتبط مباشرة بصياغة المسار.
• الدراسة الاستقصائية والتشخيص:
  • أدى إزالة مرساة الأقران إلى إلغاء مكاسب الأداء تقريباً مقارنة بالضغط الثابت، مما يؤكد ضرورة الارتكاز على الأقران.
  • أدى التدريب من طرف إلى طرف (بدون الانحدار المنفصل) إلى انهيار التمثيل وسوء التوليد، مما يؤكد استراتيجية التدريب المنفصلة.
  • أكدت التشخيصات أن النموذج لا يسرب إجماع الأقران أو محتوى العنصر، وأن الحالات المتعلمة تحتفظ بتباين المستخدم دون الانهيار إلى متجه ثابت.

الأهمية والادعاءات
يدعي البحث أن نمذجة المستخدمين كـ مسارات متطورة بدلاً من تجميعات ثابتة أمر بالغ الأهمية للتوليد المخصص، خاصة في بيئات السجل الطويل حيث يهم السلوك الأخير. تكمن أهمية LATTE في قدرته على:

1. الفصل بين التمثيل والحقن: من خلال فصل التنبؤ بالحالة عن تكييف النموذج اللغوي، يتجنب مشكلة "الاختصار" حيث يتجاهل النموذج إشارة المستخدم.
2. التعامل مع الانجراف الزمني: من خلال التنبؤ بالحالة التالية بدلاً من متوسط الماضي، فإنه يتكيف مع تغير تفضيلات المستخدم بشكل أكثر فعالية من الملفات التعريفية الثابتة.
3. التحكم في المحتوى: باستخدام الارتكاز على الأقران، يعزل LATLE إشارة تفضيل المستخدم المحددة عن الخصائص الجوهرية للعنصر، مما يوفر إشارة تكييف أكثر نقاءً للنموذج اللغوي.

يحافظ المؤلفون على نطاق عمل متواضع، مشيرين إلى أن الطريقة تتطلب تاريخاً كافياً للمستخدم لتقدير المسار وتفترض وجود أقران قابلين للمقارنة للعناصر التاريخية. بالنسبة للمستخدمين في مرحلة البداية (cold-start)، يعود الإطار إلى نماذج النصوص أو النماذج الكامنة الثابتة الموجودة. يركز العمل على تحسين آلية التكييف للنماذج اللغوية الكبيرة المجمدة دون الحاجة إلى الضبط الدقيق للنموذج.