💻 computer science

First, Do No Harm (With LLMs): Mitigating Racial Bias via Agentic Workflows

تقيم هذه الدراسة التحيز العرقي في خمسة نماذج لغوية كبيرة للمهام السريرية في إطار قانون الذكاء الاصطناعي للاتحاد الأوروبي، وتُظهر أن دمج النموذج الأفضل أداءً (DeepSeek V3) في سير عمل وكيل يعتمد على الاسترجاع يمكن أن يخفف بفعالية من التحيز الصريح في التشخيص التفريقي.

المؤلفون الأصليون: Sihao Xing, Zaur Gouliev

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Sihao Xing, Zaur Gouliev

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتوظيف فريق من الأطباء الرقميين الأذكياء والسريعين جداً لمساعدة في تشخيص المرضى. تريدهم أن يكونوا عادلين، دقيقين، وغير منحازين. ولكن هناك مشكلة: هؤلاء الأطباء الرقميون تم تدريبهم على كميات هائلة من البيانات من العالم الحقيقي، وللأسف، يحتوي العالم الحقيقي على تاريخ من عدم الإنصاف وعدم المساواة العرقية في الرعاية الصحية.

هذه الورقة البحثية تشبه تقرير مراقبة الجودة الذي يختبر خمسة من أشهر "الأطباء الرقميين" (النماذج اللغوية الكبيرة أو LLMs) ليرى ما إذا كانوا يعاملون المرضى من مختلف الأعراق بعدالة. كما اختبر الباحثون حيلة جديدة: وضع هؤلاء الأطباء الرقميين داخل "سير عمل لفريق خارق" لمعرفة ما إذا كان ذلك يساعدهم على أن يكونوا أكثر عدلاً.

إليك تفاصيل رحلتهم، مشروحة ببساطة:

1. المشكلة: "البوصلة المعطلة"

فكر في نماذج الذكاء الاصطنا هذه كأنها بوصلات تحاول الإشارة نحو الحقيقة. ومع ذلك، ولأنها تعلمت من خرائط قديمة (بيانات التدريب) كانت تحتوي على أخطاء، فإن بعض البوصلات تشير قليلاً نحو الاتجاه الخاطئ عندما يتعلق الأمر بالعرق.

التحيز الضمني: هذا يشبه الطبيب الرقمي الذي يفكر لا شعورياً: "أوه، هذا المرض أكثر شيوعاً في المجموعة (أ)،" حتى لو كان المريض من المجموعة (ب). إنه افتراض خفي ودقيق.
التحيز الصريح: هذا هو عندما يرتكب الطبيب الرقمي خطأً واضحاً، مثل اقتراح قائمة مختلفة من الأمراض لمريض أسود مقارنة بمريض أبيض، حتى لو كانت أعراضهما متطابقة تماماً.

2. الاختبار: نوعان من التدريبات

وضع الباحثون النماذج الخمسة تحت اختبارين محددين ليروا كيف كان أداؤهم.

التدريب (أ): "كاتب القصص" (التحيز الضمني)
- المهمة: كان على الذكاء الاصطناعي كتابة قصص مرضى وهمية لـ 10 أمراض مختلفة (مثل السكري أو فيروس نقص المناعة البشرية).
- الهدف: هل كتب الذكاء الاصطناعي قصصاً تتوافق فيها أعراق المرضى مع الإحصائيات الواقعية؟ (على سبيل المثال، إذا كان مرض الذئبة الحمراء أكثر شيوعاً بين النساء السود في الواقع، فهل كتب الذكاء الاصطناعي المزيد من القصص عن نساء سود يعانين من الذئبة الحمراء؟)
- النتيجة: جميع نماذج الذكاء الاصطناعي أخطأت في هذا إلى حد ما؛ فهي لم تطابق الواقع تماماً. ومع ذلك، كان GPT-4.1 هو "الطالب المتفوق" هنا، حيث سجل أصغر فجوة بين قصصه والواقع.
التدريب (ب): "محقق التشخيص" (التحيز الصريح)
- المهمة: تم إعطاء الذكاء الاصطناعي حالات طبية حقيقية ولكن مع تبديل عرق المريض (على سبيل المثال، نفس الأعراض، لكن في مرة يكون المريض أبيض، وفي المرة التالية يكون أسود). وكان على الذكاء الاصطناعي سرد أفضل 10 تشخيصات محتملة.
- الهدف: هل غير الذكاء الاصطناعي قائمة المشتبه بهم بناءً على عرق المريض؟
- النتيجة: هنا تألق DeepSeek V3. لقد كان المحقق الأكثر اتساقاً؛ حيث قدم نفس القائمة عالية الجودة من التشخيصات بغض النظر عن عرق المريض، مما أظهر أقل قدر من عدم الإنصاف.

3. الحل: سير عمل "الفريق الخارق"

سأل الباحثون: هل يمكننا إصلاح التحيز من خلال إعطاء الذكاء الاصطناعي مساعداً؟

لقد بنوا سير عمل وكيلاتي (Agentic Workflow). تخيل أن الذكاء الاصطناعي ليس مجرد عبقري وحيد يجلس في غرفة ويخمن، بل هو محقق لديه فريق:

وكيل البحث: يركض إلى المكتبة (الإنترنت) للبحث عن أحدث الحقائق.
وكيل RAG: يتحقق من كتاب طبي موثوق ومعتمد مسبقاً (قاعدة بيانات من المعرفة الخبيرة) للتحقق من الحقائق.
الذكاء الاصطناعي: يجمع نتائج البحث ومعلومات الكتاب المدرسي لاتخاذ قرار نهائي.

النتيجة:
عندما وضعوا أفضل محقق (DeepSeek V3) في سير عمل "الفريق الخارق" هذا، أصبح أفضل في العدالة.

أصبح أقل عرضة لتقديم تشخيصات مختلفة بناءً على العرق.
أصبح يعتمد أكثر على حقائق "الكتاب المدرسي" الموثوقة بدلاً من تخميناته الخاصة التي قد تكون متحيزة.

4. قواعد اللعبة (قانون الذكاء الاصطناعي للاتحاد الأوروبي)

لم يكتفِ الباحثون باختبار الذكاء الاصطناعي فح فحسب، بل استخدموا قانون الذكاء الاصطناعي للاتحاد الأوروبي ككتاب قواعد. فكر في هذا كأنه مفتش سلامة صارم للأدوات عالية المخاطر. ينص القانون على: "إذا كنت تبني ذكاءً اصطناعياً طبياً، يجب عليك التحقق من التحيز، والاحتفاظ بسجلات، ووجود عنصر بشري في الحلقة". استخدمت الدراسة هذه القواعد لهيكلة اختباراتها، مما يضمن أنهم لا يخمنون فحسب، بل يتبعون بروتوكول سلامة صارم.

الخلاصة الكبرى

لا يوجد ذكاء اصطناعي مثالي بعد: حتى أفضل النماذج (مثل GPT-4.1 و DeepSeek V3) لا تزال تظهر بعض التحيز، خاصة عند كتابة قصص عن المرضى.
النماذج المختلفة تتفوق في مهام مختلفة: كان GPT-4.1 أفضل في كتابة قصص عادلة؛ بينما كان DeepSeek V3 أفضل في إجراء تشخيصات عادلة.
العمل الجماعي يساعد: وضع الذكاء الاصطناعي في سير عمل "الفريق الخارق" (باستخدام البحث وقواعد البيانات الموثوقة) ساعد في تقليل التحيز في اتخاذ قراراته.

باخت de مختصر: لا يمكننا الوثوق في ذكاء اصطناعي واحد ليكون عادلاً. نحن بحاجة إلى اختبارهم بصرامة، واستخدام الأفضل منهم لمهام محددة، ومنحهم الوصول إلى الحقائق الموثوقة (مثل "الفريق الخارق") لمساعدتهم على اتخاذ أكثر القرتا عادلة ممكنة لكل مريض، بغض النظر عن عرقه.

1. بيان المشكلة

تثير عملية الدمج السريع للنماذج اللغوية الكبيرة (LLMs) في الرعاية الصحية (مثل توليد النصوص واتخاذ القرارات السريرية) مخاوف حرجة بشأن التحيز العرقي. فقد حددت الأدبيات الحالية أن النماذج اللغوية الكبيرة يمكن أن تكرس أو تضخم عدم المساواة الهيكلية، مما يؤدي إلى نتائج صحية متباينة للمجموعات الأقليات.

التحيز الضمني: ارتباطات غير واعية بين العرق وخصائص الأمراض في النصوص المولدة.
التحيز الصريح: انحرافات منهجية في الاستنتاج السريري، مثل إعطاء الأولوية لتشخيصات أو توقعات علاجية مختلفة بناءً على عرق المريض.
الفجوة: تركز معظم الدراسات الحالية على نماذج فردية أو تفتقر إلى استراتيجيات تخفيف قوية. هناك حاجة لمقارنات متعددة النماذج وأدلة تجريبية حول ما إذا كانت سير عمل الوكلاء الذكيين (Agentic Workflows) (الأنظمة التي تجمع بين النماذج اللغوية الكبيرة والقدرة على الاسترجاع والبحث) يمكنها التخفيف من هذه التحيزات بفعالية.

2. المنهجية

تستخدم الدراسة تصميماً تجريبياً ذا مرحلتين، باستخدام قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) كإطار حوكمة لهيكلة التقييم، والتوثيق، ومبادئ إدارة المخاطر.

أ. الإعداد التجريبي

النماذج التي تم تقييمها: خمسة نماذج لغوية كبيرة رئيسية: GPT-4.1، وLlama 3.3، وDeepSeek V3، وGrok 3، وGemini 2.5 Pro.
مجموعات البيانات:
1. توليد حالات مرضية اصطناعية: بناءً على 10 أمراض في الولايات المتحدة مع توزيعات وبائية مصنفة عرقياً (أسود، أبيض، هسباني، آسيوي، آخر).
2. ترتيب التشخيص التفريقي (DDx): بناءً على 10 حالات حقيقية من قسم الطوارئ من معيار NEJM Healer، حيث يتم تغيير عرق المريض بشكل منهجي.
مقاييس التقييم:
- التحيز الضمني: اختبار "كا مربع" (Chi-square) لملاءمة جودة التوزيع مقارنة بالبيانات الوبائية في العالم الحقيقي.
- التحيز الصريح: اختبار "مان-ويتني يو" (Mann-Whitney U) لمقارنة ترتيبات التشخيص التي ولدها النموذج مقابل الخطوط المرجعية للخبراء عبر المجموعات العرقية. شملت المقاييس: متوسط/وسيط القيم الاحتمالية (p-values)، ومعدل اكتشاف التحيز، ومتوسط فرق الرتب.

ب. تنفيذ سير عمل الوكلاء (التجربة الثانية)

بعد تحديد النموذج الأفضل أداءً، طبقت الدراسة سير عمل وكيل ذكي (Agentic Workflow) باستخدام Flowise.

البنية الهيكلية:
- وكيل البحث: يستخدم واجهة برمجة تطبيقات (Brave Search API) لاسترجاع المعلومات الطبية في الوقت الفعلي.
- وكيل الاسترجاء المعزز (RAG Agent): يستخدم قاعدة بيانات متجهة تحتوي على قوائم التشخيص التفريقي من الخبراء وأوصاف حالات المرضى.
- التوليف: المخرج النهائي هو توليف مرجح (90% للقاعدة المعرفية، 10% لوكيل البحث) لإعطاء الأولوية للمعرفة الطبية الراسخة مع تعزيزها بالبيانات الخارجية.
الهدف: تحديد ما إذا كان استرجاع المعرفة الخارجية الموثقة من قبل الخبراء يقلل من اعتماد النموذج على بيانات التدريب الداخلية المتحيزة.

3. المساهمات الرئيسية

التحليل المقارن متعدد النماذج: تقييم منهجي لخمسة نماذج لغوية متنوعة عبر مهام التحيز الضمني (التوليد) والصريح (التشخيص)، متجاوزاً الدراسات ذات النموذج الواحد.
تخفيف التحيز عبر سير عمل الوكلاء: إثبات تجريبي أن دمج النماذج اللغوية الكبيرة في سير عمل "التوليد المعزز بالاسترجاع" (RAG) يمكن أن يحسن مقاييس التحيز في مهام اتخاذ القرار السريري.
تطبيق إطار الحوكمة: التطبيق العملي لمبادئ قانون الذكاء الاصطناعي للاتحاد الأوروبي (إدارة المخاطر، الشفافية، القابلية للتتبع) لهيكلة هندسة الأوامر وتقييم التحيز، بدلاً من معاملتها كمجرد تدقيق قانوني.
الموارد المفتوحة: إصدار قوالب الأوامر (Prompt Templates)، ومجموعات البيانات التجريبية، وخطوط الأكواد البرمجية لتسهيل إعادة الإنتاج.

4. النتائج

التجربة الأولى: أداء النماذج الأساسية

التحيز الضمني (توليد الحالات): انحرفت جميع النماذج بشكل كبير عن التوزيعات العرقية في العالم الحقيقي ( $p < 0.05$ $p < 0.05$ ).
- أفضل أداء: أظهر GPT-4.1 أصغر انحراف (متوسط كا مربع: 152.23).
- المركز الثاني: DeepSeek V3 (متوسط كا مربع: 164.06).
التحيز الصريح (التشخيص التفريقي):
- أفضل أداء: تفوق DeepSeek V3 على جميع النماذج الأخرى عبر كافة المقاييس.
  - أعلى متوسط قيمة احتمالية (Mean p-value): 0.7859 (مما يشير إلى اختلاف إحصائي أقل بين المجموعات العرقية).
  - أدنى متوسط فرق: 0.2588.
  - صفر حالات من اكتشاف التحيز ذي الدلالة الإحصائية ( $p < 0.05$ ) في أفضل 3 تشخيصات.
- النماذج الأخرى: أظهرت نماذج Llama 3.3، وGemini 2.5 Pro، وGrok 3 درجات متفاوتة من التحيز الملحوظ، لا سيما في المقارنات بين "الآسيوي مقابل الأسود" و"الآسيوي مقابل الأبيض".

التجربة الثانية: تأثير سير عمل الوكلاء

تم اختيار DeepSeek V3 لاختبار سير عمل الوكلاء.

التحسينات: حسن سير العمل معظم مقاييس التحيز الصريح مقارنة بنموذج DeepSeek V3 المستقل:
- متوسط القيمة الاحتمالية: ارتفع من 0.7859 إلى 0.8207.
- وسيط القيمة الاحتمالية: ارتفع من 0.8834 إلى 1.0000.
- متوسط الفرق: انخفض من 0.2588 إلى 0.1639.
القيود: ارتفع معدل اكتشاف التحيز قليلاً (من 0.0000 إلى 0.0167)، مما يشير إلى أنه بينما انخفض التحيز العام، فإن التحسن لم يكن موحداً عبر كل مقياس محدد.

5. الأهمية والخاتمة

السلامة السريرية: تؤكد الدراسة أنه بينما تمتلك النماذج اللغوية الكبيرة تحيزات عرقية متأصلة، فإن سير عمل الوكلاء القائم على الاسترجاع يمكن أن يعمل كاستراتيجية تقنية للتخفيف من حدة التحيز، مما يقلل من التحيز الصريح في مهام ترتيب التشخيص.
التوافق التنظيمي: تدعم النتائج متطلبات قانون الذكاء الاصطناعي للاتحاد الأوروبي التي تلزم أنظمة الذكاء الاصطناعي عالية المخاطر بتنفيذ إدارة قوية للمخاطر واستراتيجيات تخفيف قابلة للتتبع طوال دورة حياة النظام.
الاتجاهات المستقبلية: يقترح المؤلفون أن العمل المستقبلي يجب أن يشمل:
- مكونات "الإنسان في الحلقة" (Human-in-the-loop) للتحقق السريري الواقعي.
- مقاييس أداء أوسع (الدقة، الاستدعاء) تتجاوز مجرد اكتشاف التحيز.
- توسيع نطاق سير عمل الوكلاء ليشمل مهام توليد النصوص الاصطناعية.

الحكم النهائي: أظهر DeepSeek V3 أدنى مستوى من التحيز الإجمالي في هذه الدراسة، كما أدى دمجه في سير عمل وكيل ذكي إلى تقليل التحيز العرقي الصريح بشكل أكبر في مهام ترتيب التشخيص التفريقي، مما يوفر مساراً واعداً لنشر ذكاء اصطدناعي طبي أكثر أماناً.