💬 NLP

The Impact of Ideological Discourses in RAG: A Case Study with COVID-19 Treatments

تستقصي هذه الورقة كيف تؤثر النصوص الأيديولوجية المسترجعة حول علاجات كوفيد-19 على مخرجات النماذج اللغوية الكبيرة ضمن إطار التوليد المعزز بالاسترجاع، مبرهنةً على أن مثل هذه المعرفة الخارجية تواءم استجابات النموذج بشكل كبير مع أيديولوجيات محددة، وأن تعزيز التلقين يزيد من تضخيم هذا التأثير، مما يسلط الضوء على الحاجة الماسة لتحديد وتخفيف حدة الانحيازات الأيديولوجية ومخاطر التلاعب في أنظمة التوليد المعزز بالاسترجاع.

المؤلفون الأصليون: Elmira Salari (Wichita State University), Maria Claudia Nunes Delfino (Pontifícia Universidade Católica de São Paulo), Hazem Amamou (Institut national de la recherche scientifique), José Victor de Sou

نُشر 2026-03-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Elmira Salari (Wichita State University), Maria Claudia Nunes Delfino (Pontifícia Universidade Católica de São Paulo), Hazem Amamou (Institut national de la recherche scientifique), José Victor de Souza (Institut national de la recherche scientifique), Shruti Kshirsagar (Wichita State University), Alan Davoust (Université du Québec en Outaouais), Anderson Avila (Institut national de la recherche scientifique)

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً آلياً (روبوتاً) ذكياً جداً ومطلعاً (نموذج لغوي كبير، أو LLM). هذا الروبوت يعرف الكثير، لكنه أحياناً يخطئ أو يختلق معلومات لأنه لا يملك أحدث المعلومات. ولإصلاح ذلك، نمنح الروبوت "بطاقة مكتبة" لتمكينه من البحث عن الحقائق في قاعدة بيانات حقيقية قبل الإجابة على أسئلتك. يُسمى هذا النظام RAG (التوليد المعزز بالاسترجاع). فكر في الـ RAG كأن الروبوت يقول: "أنا لا أعرف، دعني أتحقق من المكتبة أولاً".

لكن هنا تكمن المشكلة: ماذا لو كانت كتب المكتبة نفسها منحازة؟

هذه الورقة البحثية تطرح سؤالاً مخيفاً: إذا قمنا بتغذية الروبوت بكتب تحتوي على انحياز سياسي أو أيديولوجي خفي، فهل سيبدأ الروبوت في التحدث مثل هذه الكتب؟

التجربة: "مكتبة كوفيد-19"

لاختبار ذلك، قام الباحثون ببناء مكتبة خاصة حول علاجات كوفيد-19. قاموا بتقسيم الكتب إلى مجموعتين:

مجموعة "الرسميات": مقالات تدعمها منظمات صحية كبرى (مثل منظمة الصحة العالمية أو المعاهد الوطنية للصحة) والتي تتبع قواعد علمية صارمة.
المجموعة "المثيرة للجدل": مقالات تروج لعلاجات غير مثبتة أو متنازع عليها (مثل أدوية معينة لم تكن معتمدة بالكامل).

لم يكتفوا فقط بالنظر إلى ماذا تقول الكتب، بل نظروا أيضاً إلى كيفية قولها. استخدموا أداة خاصة تسمى LMDA (التحليل متعدد الأبعاد اللغوي).

التشبيه: تخيل أن الـ LMDA هو جهاز أشعة سينية لغوي. فهو لا يقرأ الكلمات فحسب؛ بل يمسح "الجو العام" (Vibe) للنص. إنه يجد الأنماط الخفية، مثل كيف تتجمع كلمات معينة دائماً في المجموعة "المثيرة للجدل" ولكنها لا تظهر أبداً في مجموعة "الرسميات". وقد حدد ثلاثة "أجواء" (أبعاد) رئيسية:

الجو 1: "هذا الدواء هو علاج معجز!" مقابل "دعونا ننظر إلى الصحة العقلية".
الجو 2: "لقد اتبعنا أخلاقيات صارمة!" مقابل "دعونا نقارن الأدوية لإثبات فاعلية دوائنا".
الجو 3: "رياضياتنا مثالية!" مقابل "دعونا فقط نشارك البيانات ونتحدث".

الاختبار: طريقتان لسؤال الروبوت

سأل الباحثون الروبوت أسئلة حول علاجات كوفيد-19 باستخدام طريقتين مختلفتين:

المطالبة "الساذجة" (RAG العادي): أعطوا الروبوت سؤالاً وعدة صفحات من المجموعة "المثيرة للجدل"، لكنهم لم يخبروا الروبوت لماذا وُجدت تلك الصفحات هناك.
- التشبيه: أنت تسلم الروبوت جريدة منحازة وتقول له: "اقرأ هذه وأخبرني ما هو الصحيح"، دون ذكر انحياز تلك الجريدة.
المطالبة "المعززة" (RAG المتطور): أعطوا الروبوت نفس الصفحات المنحازة، ولكن هذه المرة أضافوا "ورقة غش" تشرح "الجو العام" (وصف الـ LMDA). لقد قالوا له باختاًصر: "هذه نصوص تؤمن بـ (س). يرجى الإجابة على السؤال باستخدام هذا المنظور".
- التشبيه: أنت تسلم الروبوت الجريدة المنحازة ومعها ملاحظة لاصقة تقول: "هذه الورقة تحب هذا الدواء تحديداً. يرجى كتابة إجابتك كما لو كنت توافقهم الرأي".

النتائج: الروبوت يمضغ ما تطعمه له

كانت النتائج واضحة ومقلقة نوعاً ما:

الروبوت يحاكي المكتبة: عندما قرأ الروبوت الصفحات "المثيرة للجدل"، بدأت إجاباته تبدو تماماً مثل تلك الصفحات. لقد تبنى مفرداتها وآراءها.
"ورقة الغش" جعلت الأمر أسوأ: عندما أضاف الباحثون المطالبة "المعززة" (التي تشرح الانحياز)، لم يكتفِ الروبوت بقراءة الانحياز فح، بل اندفع نحوه بقوة أكبر. أصبحت الإجابات متوافقة مع النصوص المنحازة أكثر مما كانت عليه في السابق.

الاستعارة: فكر في الروبوت كأنه حرباء.

إذا وضعته على ورقة شجر خضراء (معلومات محايدة)، فسيتحول إلى اللون الأخضر.
إذا وضعته على ورقة شجر حمراء (معلومات منحازة)، فسيتحول إلى اللون الأحمر.
إذا قلت للحرباء: "مهلاً، هذه ورقة حمراء، تصرف كحرباء حمراء"، فستصبح أكثر احمراراً.

لماذا يجب أن تهتم؟

هذا الأمر لا يتعلق فقط بكوفيد-19. هذا يتعلق بـ الثقة.

إذا كنت تستخدم طبيباً يعمل بالذكاء الاصطناعي، أو محامياً يعمل بالذكاء الاصطناعي، أو مستشاراً مالياً يعمل بالذكاء الاصطناعي، فأنت تريدهم أن يكونوا محايدين وواقعيين. لكن هذه الدراسة تظهر أنه إذا كانت "المكتبة" التي يفحصها الذكاء الاصطناعي منحازة، فإن الذكاء الاصطناعي سيصبح منحازاً أيضاً.

الخطر: يمكن للجهات السيئة أن تتعمد تغذية الذكاء الاصطناعي بوثائق منحازة لجعلهم ينشرون معلومات مضللة أو يدفعون بأجندة معينة.
الحل: نحن بحاجة لأن نكون مثل أمناء المكتبات. قبل أن نسمح للذكاء الاصطناعي بالقراءة من كتاب ما، نحتاج إلى التحقق مما إذا كان ذلك الكتاب يحاول خداعنا. نحن بحاجة لبناء أنظمة يمكنها رصد هذه "الأجواء" (الأيديولوجيات) الخفية وإيقاف الروبوت عن النسخ الأعمى لها.

باخت-القول: الذكاء الاصطناعي ذكي، لكنه أيضاً مرآة. إذا رفعت أمامه مرآة مشوهة (بيانات منحازة)، فسيظهر لك الذكاء الاصطناعي انعكاساً مشوهاً. وقد وجد الباحثون أنك إذا أخبرت الذكاء الاصطناعي أن ينظر في تلك المرآة المشوهة، فإنه سيعكس التشوه بشكل أكثر وضوحاً.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "الكشف عن التحيز الأيديولوجي في أنظمة التوليد المعزز بالاسترجاع (RAG) باستخدام التحليل اللغوي متعدد الأبعاد: دراسة حالة حول كوفيد-19."

1. بيان المشكلة

بينما تُستخدم النماذج اللغوية الكبيرة (LLMs) بشكل متزايد في المجالات عالية الخطورة مثل الرعاية الصحية، إلا أنها تعاني من الهلوسة وعدم الدقة الواقعية. وقد تم تقديم تقنية "التوليد المعزز بالاسترجاع" (RAG) للتخفيف من هذه المشكلة عبر ربط النماذج اللغوية الكبيرة بمعرفة خارجية. ومع ذلك، تحدد هذه الورقة خطراً حرجاً لم يتم استكشافه بشكل كافٍ، وهو: التحيز الأيديولوجي في الوثائق المسترجعة.

إذا كانت قاعدة المعرفة الخارجية تحتوي على نصوص محملة بأيديولوجيات معينة (على سبيل المثال، الترويج لعلاجات طبية مثيرة للجدل مقابل العلاجات القائمة على الأدلة)، فقد يؤدي نظام RAG دون قصد إلى تضخيم هذه التحيزات، مما يؤدي إلى مخرجات غير موثوقة أو مضللة. ويرى المؤلفون أن أطر عمل RAG الحالية تفتقر إلى آليات للكشف عن كيفية تشكيل الخطابات الأيديولوجية المحددة لاستجابات النماذج أو التخفيف من حدتها، مما يشكل مخاطر تتعين في كل من التحيز غير المقصود والتلاعب الخبيث.

2. المنهجية

تستخدم الدراسة إطار عمل متعدد المراحل يجمع بين اللسانيات المتنية وتقييم النماذج اللغية الكبيرة.

أ. بناء المتن (Corpus Construction)

المصدر: 1,117 مقالاً أكاديمياً يتعلق بعلاجات كوفيد-19 نُشرت بين عامي 2020 و2022.
الفئات:
- المؤيدة (Endorsed): المقالات التي تتماشى مع المعايير الصحية الدولية (تم استرجاعها من LitCovid/NIH).
- المثيرة للجدل (Controversial): المقالات التي تروج لعلاجات غير معتمدة (مثل هيدروكسي كلوروكوين، أزيثرومايسين) أو تشكك في البروتوكولات القياسية (تم استرجاعها من Cureus، Retraction Watch، إلخ).
المعالجة المسبقة: تجريد الكلمات (Lemmatization)، وتوسيم أجزاء الكلام (POS tagging)، واستخراج الكلمات المفتاحية باستخدام درجات الاحتمالية اللوغاريتمية (log-likelihood scores) للتمييز بين نوعي الخطاب.

ب. تحديد الأيديولوجيا عبر التحليل اللغوي متعدد الأبعاد (LMDA)

طبق المؤلفون التحليل اللغوي متعدد الأبعاد (LMDA)، وهو إطار عمل في اللسانيات المتنية، للكشف عن الأبعاد الأيديولوجية الكامنة داخل المتن.

العملية: تم إجراء تحليل العوامل (Factor analysis) على أنماط التلازم اللفظي (collocations) لتحديد المتغيرات الكامنة.
النتيجة: تم تحديد خمسة أبعاد، لكن الدراسة ركزت على الثلاثة ذات أحجام التأثير الأكبر (تداخل واضح بين أقطاب الأبعاد والمجموعات النصية الفرعية).
الأبعاد الرئيسية المحددة (الجدول 1):
1. العلاجات المتنازع عليها (+) مقابل التركيز الواسع (-): تأييد الأدوية المشكوك فيها مقابل التركيز على الصحة العقلية/تأثير الجائحة.
2. أخلاقيات البحث (+) مقابل تحليل العلاج المقارن (-): الالتزام بالمعايير الأخلاقية/توافر البيانات مقابل استخدام التحليل المقارن لإثبات صحة الأدوية المشكوك فيها.
3. الدقة الإحصائية (+) مقابل نشر العلوم (-): استخدام الإحصاء الصارم للإيحاء بفعالية العلاج مقابل تشجيع مشاركة البيانات المفتوحة.

ج. الإعداد التجريبي

قيمت الدراسة أربعة من أحدث النماذج اللغية الكبيرة: GPT-3.5-turbo، وGPT-4o-mini، وGemini-2.0-flash، وQwen2.5:7b-instruct.

الاسترجاع: اختار مرشح البيانات الوصفية (metadata filter) النصوص بناءً على أقطاب أبعاد محددة (على سبيل المثال، فقط النصوص التابعة للقطب "الإيجابي" للبعد الثاني).
استراتيجيات صياغة الأوامر (Prompting Strategies):
1. الأمر العادي (RAG): يحتوي على استعلام المستخدم والنصوص الأيديولوجية المسترجعة (محاكاة للاستخدام غير الواعي).
2. الأمر المعزز (Enhanced Prompt): يحتوي على الاستعلام، والنصوص المسترجعة، بالإضافة إلى واصفات LMDA الصريحة (تسميات الأبعاد، الأوصاف، المفردات النموذجية، ونصوص أمثلة). وهذا يحاكي التأطير الأيديولوجي المتعمد.
مقاييس التقييم:
- التشابه الدلالي (Semantic Similarity): تشابه جيب التمام (Cosine similarity) لتمثيلات جمل BERT (all-MiniLM-L6-v2).
- التشابه اللفظي (Lexical Similarity): تشابه جيب التمام لمتجهات TF-IDF.
- المقارنة: تمت مقارنة مخرجات النماذج اللغية الكبيرة مع النصوص الأيديولوجية المرجعية لقياس مدى التوافق.

3. المساهمات الرئيسية

إطار عمل مبتكر: تقديم إطار عمل قائم على LMDA لتحديد وقياس الخطابات الأيديولوجية داخل المتون المتخصصة في مجال RAG بشكل منهجي.
التحقيق في تحيز RAG: أول دراسة تفحص صراحةً كيف تشكل الخطابات الأيديولوجية في المعرفة الخارجية مخرجات النماذج اللغية الكبيرة تحت نظام RAG، وتحديداً في مجال الرعاية الصحية الحساس.
تأثير هندسة الأوامر (Prompt Engineering): إثبات كيف أن "الأوامر المعززة" (التي تحدد البعد الأيديولوجي صراحةً) تغير سلوك النموذج بشكل كبير مقارنة بالاسترجاع القياسي.
الأدلة التجريبية: تحليل كمي صارم عبر نماذج متعددة يظهر أن أنظمة RAG معرضة بشدة للتماشي مع أيديولوجيا النصوص المسترجعة.

4. النتائج الرئيسية

التوافق الأيديولوجي: كانت استجابات النماذج اللغية الكبيرة المولدة عبر RAG أكثر توافقاً باستمرار مع أيديولوجيا النصوص الخارجية المسترجعة مقارنة بالاستجابات المولدة بواسطة النماذج اللغية الكبيرة وحدها (المعرفة الداخلية).
- مثال: في التشابه الدلالي، ارتفع متوسط درجات التوافق من ~0.73 (النموذج وحده) إلى ~0.83 (RAG) عبر الأبعاد.
التضخيم عبر الأوامر المعززة: أدى تضمين أوصاف LMDA في الأمر إلى زيادة التوافق الأيديولوجي بشكل أكبر.
- انخفض عدد الحالات التي كانت فيها استجابات RAG أقل توافقاً من استجابات النموذج وحده من 5 (في الأوامر العادية) إلى حالة واحدة فقط (في الأوامر المعززة).
- ارتفعت درجات التشابه الدلالي لنموذج GPT-4o-mini، على سبيل المثال، من 0.83 إلى 0.85 في أبعاد محددة عند استخدام الأوامر المعززة.
الدلالة الإحصائية: أكدت نتائج تحليل التباين (ANOVA) أن الفرق بين مخرجات النموذج وحده ومخرجات RAG كان ذا دلالة إحصائية ( $p < 0.05$ ) للأوامر المعززة في التشابه الدلالي، ولنوعي الأوامر في التشابه اللفظي.
تباين النماذج: بينما أظهرت جميع النماذج توافقاً، أظهر نموذج Qwen تراجعاً طفيفاً في التشابه مع الأوامر المعززة، بينما أظهر GPT-4o-mini وGemini أقوى زيادات في التوافق.

5. الأهمية والآثار المترتبة

خطر التلاعب الخبيث: تثبت الدراسة أن أنظمة RAG يمكن التلاعب بها بسهء. فمن خلال تنسيق مجموعة محددة من النصوص الأيديولوجية وتأطيرها بأوصاف محددة، يمكن للمهاجم إجبار النموذج اللغى على تبني موقف معين (مثل الترويج لعلاجات طبية غير مثبتة) بثقة عالية.
سلامة الرعاية الصحية: في المجالات عالية الخطورة مثل الطب، يعد هذا التحيز خطيراً. فالنموذج الذي يتوافق مع أيديولوجيات "العلاجات المثيرة للجدل" قد يقدم نصائح طبية ضارة، مما يؤدي إلى تآكل ثقة المستخدم وموثوقية النظام.
الحاجة إلى التخفيف: تسلط النتائج الضوء على أن مجرد استرجاع النصوص "ذات الصلة" ليس كافياً. يجب أن تتضمن أنظمة RAG المستقبلية آليات لـ:
- الكشف عن التحميل الأيديولوجي في الوثائق المسترجعة.
- مراقبة تأطير الأوامر (Prompts).
- تطوير استراتيجيات لتحييد أو موازنة الخطابات الأيديولوجية المتعارضة قبل عملية التوليد.

ختاماً، تؤكد الورقة أن أنظمة RAG لا تسترجع الحقائق فحسب، بل تسترجع الأيديولوجيات أيضاً. إن التوافق بين النص المسترجع ومخرجات النموذج قوي ويمكن تكثيفه عبر هندسة الأوامر، مما يستوجب رقابة صارمة عند نشر أنظمة RAG في التطبيقات الحرجة.