💬 NLP

C $^2$ -Cite: Contextual-Aware Citation Generation for Attributed Large Language Models

تقترح الورقة البحثية إطار العمل C $^2$ -Cite، وهو إطار عمل مبتكر يعزز النماذج اللغوية الكبيرة المنسوبة إلى مصادر من خلال مواءمة علامات الاستشهاد صراحةً مع محتواها المرجعي عبر آلية مدركة للسياق، مما يحسن بشكل كبير كلاً من جودة الاستشهاد وصحة الاستجابة على مقيما ALCE.

المؤلفون الأصليون: Yue Yu, Ting Bai, HengZhi Lan, Li Qian, Li Peng, Jie Wu, Wei Liu, Jian Luan, Chuan Shi

نُشر 2026-03-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yue Yu, Ting Bai, HengZhi Lan, Li Qian, Li Peng, Jie Wu, Wei Liu, Jian Luan, Chuan Shi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث "C2-Cite: التوليد السياقي للاقتباسات للنماذج اللغوية الكبيرة ذات السمات الملحقة" باستخدام لغة بسيطة وتشبيهات إبداعية.

المشكلة الكبرى: "القلم السحري" الذي لا يعمل

تخيل أنك طالب تكتب ورقة بحثية، وأمامك كومة من الكتب المصدرية على مكتبك. عندما تكتب جملة، تريد أن تثبت صحتها عبر الإشارة إلى كتاب محدد.

في عالم الذكاء الاصطناوي، النماذج اللغوية الكبيرة (LLMs) تشبه الطلاب الأذكياء جداً الذين يمكنهم كتابة أي شيء. ولجعلهم جديرين بالثقة، علمهم الباحثون إضافة علامات صغيرة مثل [1]، أو [2]، أو [3] في نهاية الجمل لتقول: "لقنيت هذه المعلومة من المستند رقم 1".

لكن هنا تكمن المشكلة:
النماذج الحالية تعامل هذه العلامات كأنها علامات سحرية عامة. فهي تضع "[1]" ببساطة لأنها أُمِرت بذلك، لكنها لا تعرف حقاً ماذا يوجد داخل المستند 1. الأمر يشبه طالباً يكتب ورقة بحثية ثم يضع ملصق "المصدر أ" بشكل عشوائي على جملة تتحدث عن الطقس، رغم أن "المصدر أ" هو كتاب طبخ. الذكاء الاصطناعي هنا يخمن، ولا يربط بين الأشياء. وهذا يؤدي إلى:

اقتباسات مزيفة: يشير الذكاء الاصطناعي إلى كتاب لا يدعم الجملة المكتوبة.
قصص مفككة: تبدو الجملة غير متصلة بالأدلة لأن الذكاء الاصطناعي لم "يقرأ" العلاقة فعلياً.

الحل: C2-Cite (الرابط الذكي)

قام الباحثون من جامعة بكين للاتصالات والبريد بتطوير نظام جديد يسمى C2-Cite. فكر في الأمر كترقية تلك العلامات السحرية وتحويلها إلى دبابيس تحديد مواقع (GPS) ذكية وحية.

بدلاً من أن يكون مجرد ملصق ثابت مثل "[1]"، يحول نظام C2-Cite الاقتباس إلى مؤشر معرفي نشط. وإليك كيف يعمل، عبر ثلاث خطوات بسيطة:

1. "حقن النكهة" (التضمين المدرك للسياق)

الطريقة القديمة: يرى الذكاء الاصطناعي العلامة "[1]" ويفكر: "حسناً، أحتاج لوضع رقم هنا". ليس لديه أي فكرة عما يحتويه المستند 1.
طريقة C2-Cite: قبل أن يكتب الذكاء الاصطناعي الجملة، يأخذ المحتوى الفعلي للمستند 1 و"يحقنه" داخل العلامة.
التشبيه: تخيل أنك طباخ.
- الطريقة القديمة: تضع ملصقاً على قدر مكتوب عليه "حساء". أنت لا تعرف ما بداخله.
- طريقة C2-Cite: أنت تصب الحساء الفعلي داخل الملصق نفسه. الآن، عندما يرى الذكاء الاصطناعي العلامة، فإنه "يتذوق" حرفياً المعلومات من المستند. العلامة ليست مجرد رمز؛ بل هي وعاء يحتوي على الحقائق الفعلية.

2. "شرطي المرور" (محاذاة الاقتباس السياقي)

الطريقة القديمة: يكتب الذكاء الاصطنانا جملة ثم يختار رقماً عشوائياً ليلصقه عليها.
طريقة C2-Cite: يمتلك الذكاء الاصطناعي "شرطي مرور" خاص (وظيفة توجيه/Router) يتحقق من كل كلمة يكتبها. يسأل: "هل تنتمي هذه الجملة للمستند 1، أم المستند 2، أم لا تنتمي لأي منهما؟"
التشبيه: تخيل غرفة بريد.
- الطريقة القديمة: عامل يرمي الرسائل في صناديق مصنفة "1، 2، 3" دون النظر إلى العنوان.
- طريقة C2-Cite: العامل يقرأ الرسالة، يفهم محتواها، ثم فقط يضعها في الصندوق الذي يطابق القصة. هذا يضمن أن الاقتباس ذو صلة حقيقية.

3. "الجسر الذهني" (التعزيز الانتباهي السياقي)

الطريقة القديمة: عندما يكتب الذكاء الاصطناعي جملة، ثم اقتباساً، ثم الجملة التالية، فإنه غالباً ما ينسى ما قاله للتو. ينقطع تدفق الكلام.
طريقة C2-Cite: يجبر النظام الذكاء الاصطناعي على إعطاء اهتمام إضافي للجملة التي سبقت الاقتباس مباشرة. إنه يبني جسراً بين الفكرة والدليل.
التشبيه: تخيل حكواتي يروي قصة.
- الطريقة القديمة: "كان التنين ضخماً [1]. ثم أكل شطيرة". (كلمة "ثم" تبدو عشوائية).
- طريقة C2-Cite: الحكواتي ينظر إلى جزء "التنين" أثناء قول "ثم"، مما يضمن تدفق القصة بشكل منطقي. يعمل الاقتباس هنا كغراء، وليس كحائط.

لماذا يهم هذا؟ (النتائج)

اختبر الباحثون هذا النظام الجديد مقابل أفضل نماذج الذكاء الاصطناعي الحالية على ثلاثة أنواع مختلفة من الأسئلة (مثل المعلومات العامة، الشروحات الطويلة، والحقائق من نوع الاختيار من متعدد).

صدق أفضل: كان الذكاء الاصطناعي أكثر دقة بنسبة 17.4% في إجاباته. لم يكن يخمن فحسب؛ بل استخدم المستندات فعلياً.
اقتباسات أدق: كانت الاقتباسات أكثر دقة بنسبة 5.8%. توقف الذكاء الاصطناعي عن الإشارة إلى الكتب الخاطئة.
أسرع وأسلس: على عكس الطرق الأخرى التي تتطلب من الذكاء الاصطناعي كتابة مسودة، ثم فحصها، ثم إعادة كتابتها (وهو أمر بطيء)، يقوم C2-Cite بكل ذلك في تمريرة واحدة سلسة.

الخلاصة

قبل C2-Cite، كانت اقتباسات الذكاء الاصطاني مثل بطاقات الهوية المزيفة—تبدو حقيقية لكنها لا تثبت أي شيء.
مع C2-Cite، أصبحت الاقتباسات مثل الروابط التشعبية (Hyperlinks) التي تعمل فعلياً. إنها تربط الجملة مباشرة بمصدر الحقيقة، مما يجعل الذكاء الاصطناعي ليس مجرد كاتب، بل باحثاً موثوقاً يعرف بالضبط من أين استقى معلوماته.

باخت-القول: يعلّم C2-Cite الذكاء الاصطناعي التوقف عن معاملة الاقتباسات كزينة، والبدء في معاملتها كأساس لمعرفته.

إليك ملخص تقني مفصل لورقة البحث بعنوان "C2-Cite: توليد الاستشهادات الواعي بالسياق للنماذج اللغوية الكبيرة المنسوبة".

1. بيان المشكلة

بينما أدى التوليد المعزز بالاسترجاع (RAG) إلى تحسين الدقة الواقعية للنماذج اللغوية الكبيرة (LLMs)، إلا أن ضمان المصداقية والقابلية للتتبع للمحتوى المولد يظل تحديًا قائمًا. تعاني النماذج المنسوبة الحالية (النماذج التي تولد استشهادات مثل [i]) من خلل جوهري: فهي تعامل علامات الاستشهاد كـ عناصر نائبة عامة وخاملة بدلاً من كونها مؤشرات حساسة للسياق.

المشكلة الجوهرية: غالبًا ما تفشل النماذج المضبوطة بالتعليمات في تفسير العلاقة الدلالية بين رمز الاستشهاد (مثل [1]) والوثيقة المسترجعة المحددة التي يشير إليها.
العواقب: يؤدي هذا إلى:
- مراجع مفككة: استشهادات لا تدعم منطقيًا النص السابق لها.
- استشهادات هلوسة: توليد رموز غير موجودة أو الربط بمصدر خاطئ.
- تكامل ضعيف: يفشل النموذج في دمج المعرفة المسترجعة بسلاسة في السرد، مما يؤدي غالبًا إلى تدهور تماسك الاستجابة عند إجبار النموذج على إدراج الاستشهادات.

2. المنهجية: إطار عمل C2-Cite

يقترح المؤلفون C2-Cite، وهو إطار عمل جديد للضبط الدقيق مصمم لتحويل علامات الاستشهاد من مجرد رموز (tokens) خاملة إلى مؤشرات معرفية نشطة. يعتمد الإطار على بنية نموذج لغوي كبير قياسية من نوع (decoder-only) ويقدم ثلاث آليات رئيسية:

أ. التضمين الواعي بالسياق (CAE)

بدلاً من استخدام تضمينات الرموز القياسية لعلامات الاستشهاد، يقوم C2-Cite بحقن معلومات دلالية مباشرة في رمز الاستشهاد.

الآلية: يتم تحويل علامات الاستشهاد متعددة الرموز (مثل [i]) إلى رموز خاصة مفردة (مثل ⟨c_i⟩).
دمج التضمين: يتم استبدال أو تعزيز تضمين ⟨c_i⟩ بـ التضمين السياقي المتوسط (mean-pooled contextual embedding) للوثيقة المسترجعة المقابلة $d[i]$ .
الأثر: يسمح هذا للنموذج بـ "قراءة" دلالات الوثيقة المصدر مباشرة من خلال رمز الاستشهاد أثناء عملية التوليد، مما يربط الرمز بمحتوى محدد.

ب. محاذاة الاستشهاد السياقي

لضمان تعلم النموذج ربط رمز الاستشهاد الصحيح بالوثيقة الصحيحة، تم تقديم موجه الاستشهاد (Citation Router) و خسارة المحاذاة (Alignment Loss).

موجه الاستشهاد: مصنف ثنائي يحدد ما إذا كان الرمز المولد هو رمز افتراضي أم رمز استشهاد.
آلية المحاذاة: بالنسبة لرموز الاستشهاد، يقوم النموذج برسم الخريطة للحالة المخفية (hidden state) إلى "فضاء استشهاد" ويحسب التشابه مع التضمينات السياقية لجميع الوثائق المتاحة.
دالة الخسارة: تعمل خسارة الإنتروبيا المتقاطعة ( $L_{citation}$ ) على إجبار النموذج على تصنيف رمز الاستشهاد إلى فهرس الوثيقة الصحيح بناءً على التشابه الدلالي، وليس مجرد مطابقة الأنماط.

ج. التعزيز الانتباهي السياقي

لمنع الاستشهادات من تعطيل تدفق النص المولد، يعمل الإطار على تعزيز آليات الانتباه.

الآلية: تفرض دالة خسارة ( $L_{attn}$ ) قيودًا على درجات الانتباه بين الرمز الجديد ورمز الاستشهاد السابق.
الهدف: تشجع هذه الآلية النموذج على الحفاظ على انتباه قوي من النص الذي يلي الاستشهاد عودةً إلى المحتوى الذي يسبقه، مما يضمن التماسك بين الجمل حتى عند إدراج الاستشهادات.

د. التحسين العام

دالة الخسارة الإجمالية هي مجموع مرجح لـ:

خسارة نمذجة اللغة القياسية ( $L_{default}$ )
خسارة محاذاة الاستشهاد ( $L_{citation}$ )
خسارة الموجه ( $L_{router}$ )
خسارة تعزيز الانتباه ( $L_{attn}$ )

3. المساهمات الرئيسية

إطار عمل مبتكر: يعد C2-Cite أول إطار عمل يقوم صراحةً بنمذجة العلاقات الدلالية بين علامات الاستشهاد والمحتوى المشار إليه أثناء عملية الضبط الدقيق.
مؤشرات معرفية نشطة: من خلال ترميز سياق الوثيقة داخل رموز الاستشهاد، يحول الإطار الاستشهادات من عناصر نائبة ثابتة إلى مؤشرات ديناميكية غنية دلاليًا.
ចំនួន.
أداء قوي: يحقق الأسلوب نتائج رائدة (SOTA) عبر مجموعات بيانات متنوعة دون الاعتماد على خطوط إنتاج معقدة لتخليق البيانات متعددة المراحل المستخدمة لدى المنافسين.
مفتوح المصدر: التنفيذ متاح للعموم، مما يعزز قابلية إعادة الإنتاج.

4. النتائج التجريبية

تم تقييم الإطار على معيار ALCE باستخدام ثلاث مجموعات بيانات: ASQA (الأسئلة والأجوبة متعددة الوثائق)، ELI5 (الأسئلة والأجوبة طويلة الصيغة)، و QAMPARI (الأسئلة والأجوبة متعددة الإجابات). كان النموذج الأساسي المستخدم هو Llama3-8B.

المقارنة: تمت مقارنة C2-Cite++ (الإطار الكامل) مع خطوط الأساس القائمة على التلقين (P-ICL)، والتكرار (I-ICL)، والضبط الدقيق (FT)، بما في ذلك خط الأساس الرائد Front.
المقاييس الرئيسية:
- جودة الاستشهاد (F1): تفوق C2-Cite++ على خط الأساس الرائد (Front) بمتوسط قدره 5.8%.
- صحة الاستجابة: تفوق C2-Cite++ على Front بمتوسط قدره 17.4%.
الكفاءة: حقق الإطار أعلى إنتاجية (عدد العينات في الثانية) بين النماذج الأعلى أداءً، مما أظهر كفاءة تشغيلية متفوقة مقارنة بطرق الاسترجاع التكرارية.
دراسات الاستئصال (Ablation Studies):
- أدى حذف التضمين الواعي بالسياق إلى انخفاض بنسبة 25.6% في Citation-F1 وانخفاض بنسبة 21.7% في الصحة (Correctness)، مما يثبت دوره الحاسم.
- أدى حذف التعزيز الانتباهي إلى انخفاض بنسبة 17% في Citation-F1، مما يسلط الض الضوء على أهميته في الحفاظ على تماسك النص.

5. الأهمية والأثر

حل مشكلة "العنصر النائب": تعالج الورقة تحديدًا قصورًا جوهريًا في النماذج اللغوية الكبيرة المنسوبة حاليًا حيث تُعامل رموز الاستشهاد كضجيج تركيبي بدلاً من كونها حاملات دلالية.
الموازنة بين الجودة والنسب: على عكس الطرق السابقة التي غالبًا ما تضحي بسلاسة الاستجابة من أجل دقة الاستشهاد (أو العكس)، ينجح C2-Cite في الموازنة بين كليهما، مما يضمن أن إضافة الاستشهادات لا تؤدي إلى تدهور جودة الإجابة المولدة.
القابلية للتوسع: من خلال دمج تعلم الاستشهاد مباشرة في عملية الضبط الدقيق باستخدام موجه خفيف وآلية تضمين، يعد هذا النهج أكثر كفاءة من طرق الاسترجاع التكرارية المعقدة أو خطوط إنتاج تخليق البيانات الثقيلة.
الموثوقية: من خلال تمكين النماذج من توليد استشهادات متجذرة دلاليًا في النص المصدر، يعزز C2-Cite بشكل كبير من موثوقية وقابلية التحقق من مخرجات النماذج اللغوية الكبيرة، وهي خطوة حاسمة للنشر في العالم الحقيقي في المجالات التي تتطلب دقة واقعية عالية.