ملخص تقني: تحسين الاسترجاع الواعي بالعدالة لنموذج التوليد المعزز بالاسترجاع (RAG)

1. بيان المشكلة

يعمل نظام التوليد المعزز بالاسترجاع (RAG) على تعزيز النماذج اللغوية الكبيرة (LLMs) من خلال دمج المعرفة الخارجية، ومع ذلك، يمكن لعملية الاسترجاع نفسها أن تُدخل أو تضخم التحيز الذي ينتقل إلى المخرجات المولدة النهائية. وبينما تعالج الأبحاث الحالية التحيز في النماذج اللغية الكبيرة (عبر هندسة الأوامر أو الضبط الدقيق) والعدالة في أنظمة التصنيف (عبر قيود التعرض)، إلا أن هذه المجالات لا تزال منفصلة إلى حد كبير. وتوجد فجوة حرجة في فهم كيفية انتقال التحيز من المستندات المسترجعة إلى المخرجات المولدة، لا سيما في إعدادات "أعلى $k$" (top-k RAG) حيث تؤثر عدة مستندات بشكل مشترك على عملية التوليد.

تعتمد النهج الحالية غالباً على نماذج تضمين (embedding models) "صندوق أسود" أو على الضبط الدقيق، وهي عمليات مكلفة ويصعب التحكم فيها بدقة. علاوة على ذلك، اقتصرت الأعمال السابقة حول انتشار التحيز إلى حد كبير على إعدادات "أعلى 1" (top-1)، بافتراض وجود علاقة خطية بين تحيز مستند واحد والمخرجات. هذا الافتراض يفشل في التقاط التفاعلات المعقدة المعتمدة على الموقع والمتأصلة في استرجاع "أعلى $k$"، حيث تمارس المستندات في رتب مختلفة مستويات متفاوتة من التأثير على توليد النموذج اللغوي الكبير. التحدي الجوهري يكمن في تصميم استراتيجية استرجاع توازن بين الملاءمة (relevance) والعدالة (التكافؤ الإحصائي في المخرجات المولدة) دون المساس بجودة السياق المسترجع.

2. المنهجية

يقترح المؤلفون إطار عمل موحداً يتكون من ثلاث مراحل لتحسين الاسترجاع الواعي بالعدالة في أنظمة top-k RAG.

المرحلة 1: حقن التحيز المتحكم به عبر إعادة التصنيف

بدلاً من تعديل نموذج الاسترجاع الأساسي أو الضبط الدقيق لنماذج التضمين، يستخدم إطار العمل آلية قائمة على إعادة التصنيف (reranker-based mechanism) للتحكم في تحيز المستندات المسترجعة.

• الآلية: يتم تقسيم قاعدة المعرفة إلى مجموعات فرعية محددة (مثل: ليبرالي مقابل محافظ، ذكر مقابل أنثى). وبالنسبة لاستعلام معين، يتم استرجاع المستندات المرشحة من هذه المجموعات الفرعية.
• التحكم: يقوم مُعيد تصنيف احتمالي باختيار وترتيب المستندات بناءً على معامل $m$، الذي يحدد احتمال اختيار مستند من مجموعة معينة. وهذا يسمح بالتحكم الدقيق في تحيز التضمين ($E_b$) عند كل موضع $p$ في قائمة "أعلى $k$"، ويُرمز له بـ $E_b^p$، دون تغيير نموذج الاسترجاع الأساسي.

المرحلة 2: نمذجة انتشار التحيز الواعي بالموقع

يصيغ إطار العمل كيفية انتقال التحيز من السياق المسترجع إلى المخرجات النهائية.

• التقريب الخطي: بناءً على الملاحظة التي تفيد بأن انتشار التحيز يكون خطياً تقريباً في إعدادات top-1، قام المؤلفون بتوسيع ذلك ليشمل top-$k$ من خلال افتراض الجمعية (additivity) والاستقلال الشرطي. يتم نمذجة تحيز المخرجات على مستوى النظام ($R_b$) كمجموع مرجح لتحيزات التضمين حسب الموضع:
  $$R_b = \sum_{p=1}^{k} w_p \cdot E_b^p + L_b + \epsilon$$
  حيث يمثل $w_p$ الوزن المعتمد على الموضع (حساسية النموذج اللغوي الكبير للتحيز عند الرتبة $p$)، و$L_b$ هو التحيز الجوهري للمولد، و$\epsilon$ هو حد البواقي (residual term).
• التقدير: يتم تقدير الأوزان $w_p$ عبر اضطرابات محكومة. ومن خلال تغيير قيم التحيز بشكل منهجي في المواضع المختلفة وقياس تحيز المخرجات الناتج، يتم ملاءمة نموذج انحدار خطي لالتقاط أنماط الانتباه المحددة للنماذج اللغوية الكبيرة المختلفة.

المرحلة 3: تحسين الاسترجاع الواعي بالعدالة (FARO)

في المرحلة الأخيرة، يتم صياغة الاسترجاع كمسألة تحسين لموازنة الملاءمة والعدالة.

• الهدف: تعظيم إجمالي الملاءمة مع ضمان بقاء تحيز النظام $|R_b|$ ضمن نطاق سماح محدد $\tau$.
• التحدي: تؤدي الصياغة المباشرة إلى مسألة توافقية (combinatorial problem) مكلفة حاسوبياً وتؤدي إلى اقتران جميع الأسئلة، مما يمنع التوازي.
• الحل (FARO): قدم المؤلفون العدالة التربيعية عبر تقريب المستوي الفائق المزدوج (Quadratic Fairness via Dual Hyperplane Approximation - FARO).
  • قاموا بإعادة صياغة قيد العدالة الصارم إلى هدف ناعم باستخدام حد عقوبة تربيعي ($-\lambda R_b^2$).
  • باستخدام تمثيل فنتشل-ليجندر المزدوج (Fenchel–Legendre dual representation)، يتم تقريب الحد التربيعي بواسطة عائلة من البدائل الخطية المحددة بالمعامل $\theta$ (أو $\mu$).
  • يعمل هذا التحويل على تفكيك مسألة التحسين العالمية المقترنة إلى مسائل فرعية مستقلة لكل سؤال. وكل مسألة فرعية هي مسألة تخصيص خطي قياسية يمكن حلها بكفاءة عبر خوارزمية هنغاري (Hungarian algorithm).
  • من خلال تعداد مجموعة من قيم $\mu$، يولد إطار العمل جبهة باريتو (Pareto frontier) من الحلول، مما يسمح للممارسين باختيار الحل الأمثل للمفاضلة بين الملاءمة والعدالة.

3. المساهمات الرئيسية

1. خط معالجة حقن التحيز المتحكم به: نهج قائم على إعادة التصنيف يتيح التحكم الدقيق في تحيز التضمين في المستندات المسترجعة دون تعديل المسترجع الأساسي أو الحاجة إلى ضبط دقيق مكلف.
2. نموذج انتشار التحيز الواعي بالموقع: نموذج خطي يلتقط كيفية تأثير المستندات في مواضع الاسترجاء المختلفة بشكل مشترك على تحيز التوليد في أنظمة top-k RAG، مما يوسع تحليلات top-1 السابقة.
3. إطار تحسين قابل للتوسع (FARO): صياغة مبتكرة تحول مسألة تحسين العدالة العالمية المقترنة إلى مسائل فرعية مستقلة، مما يتيح حساباً فعالاً واستكشافاً مرناً للمفاضلة بين الملاءمة والعدالة.
4. تقييم شامل: تجارب واسعة النطاق عبر نماذج متعددة (Llama, Gemma, Mistral, Qwen) وأنواع مختلفة من التحيز (سياسي، جنساني) تثبت صحة نموذج الانتشار الخطي وفعالية إطار التحسين.

4. النتائج التجريبية

تم تقييم إطار العمل على مجموعات بيانات التحيز السياسي والجنساني باستخدام أربعة نماذج لغوية كبيرة مفتوحة المصدر.

• التحقق من انتشار التحيز: أكدت التجارب وجود علاقة خطية قوية بين تحيز التضمين حسب الموضع وتحيز المخرجات عبر نماذج مختلفة وقيم $k$ متنوعة (top-2, top-3, top-5). كشفت الأوزان المتعلمة ($w_p$) عن أنماط انتباه خاصة بكل نموذج (على سبيل المثال، تعطي بعض النماذج الأولوية للمواضع المبكرة، بينما توزع نماذج أخرى الانتباه بشكل أكثر توازناً).
• أداء التحسين:
  • الفعالية: نجح إطار FARano في التخفيف من تحيز التوليد، حيث جعل درجات تحيز المخرجات قريبة من الصفر مع الحفاظ على ملاءمة تنافسية.
  • القابلية للتوسع: مقارنة بخط الأساس القائم على البرمجة الخطية (LP)، أظهر FARano قدرة فائقة على التوسع، لا سيما مع زيادة عدد المستندات والأسئلة. وبينما تدهور أداء LP مع زيادة $k$، حافظ FARano على كفاءته من خلال تفكيك المسألة.
  • المرونة: يمكن لـ FARano توليد حلول متعددة مرشحة على طول جبهة الملاءمة-العدالة، مما يسمح بالتعديل الديناميكي للقيود العدلية المتغيرة دون الحاجة لإعادة تشغيل عملية التحسين بالكامل.
• القيود الملحوظة: وُجد أن فعالية التخفيف من التحيز تعتمد على التحيز الجوهري للنموذج اللغوي الكبير الأساسي. فالنماذج ذات التحيزات القوية (مثل Qwen) أظهرت تحسناً محدوداً، حيث لم يستطع الاسترجاع وحده تصحيح الإزاحة المنهجية بالكامل. بالإضافة إلى ذلك، في إعدادات التحيز الجنساني مع قواعد معرفية منحازة، كانت المفاضلة بين العدالة والملاءمة أكثر وضوحاً بسبب نقص المستندات المرشحة للمجموعة الممثلة تمثيلاً ناقصاً.

5. الأهمية والادعاءات

يدعي البحث تقديم نهج مبدئي وقابل للتوسع للعدالة في أنظمة الاسترجاع لـ RAG. وتكمن أهميته في:

• فصل التحكم في التحيز عن الاسترجاع: تقديم آلية معالجة لاحقة خفيفة الوزن لا تتطلب إعادة تدريب نماذج الاسترجاع.
• سد الفجوة: الربط بين مجالات تحيز النماذج اللغوية الكبيرة والعدالة في التصنيف عبر نمذجة كيفية تأثير قرارات التصنيف على توليد النصوص اللاحقة بشكل صريح.
• القابلية للتطبيق العملي: توفير حل قابل للتنفيذ (FARO) يوازن بين الصرامة النظرية للتحسين والقيود الحسابية لتطبيقات RAG في العالم الحقيقي.

يخلص المؤلفون إلى أنه على الرغم من أن نموذجهم الخطي وتعريفهم الثنائي للعدالة هما تبسيطات، إلا أنهما يقدمان أساساً قوياً للتحكم في التحيز في خطوط أنابيب RAG متعددة المستندات. كما يقرون بأن هناك حاءة لأعمال مستقبلية لمعالضة التفاعلات غير الخطية، والعدالة متعددة المجموعات، والاستراتيجيات التكيفية لتوزيع الأسئلة المتغير.