ملخص تقني: كشف التحيز السببي في الذكاء الاصطناائي التوليدي

بيان المشكلة

مع تزايد نشر الأنظمة المؤتمتة القائمة على الذكاء الاصطناعي (AI) في المجالات عالية المخاطر (مثل التوظيف، الإقراض، الرعاية الصحية)، تكثفت المخاوف بشأن العدالة واستمرار الفوارق الديموغرافية. وبينما أرست الأعمال السابقة في العدالة السببية إطاراً مبدئياً لإعداد تعلم الآلة (ML) القياسي — حيث يبني صانع القرار دالة تنبؤية واحدة $f_{\hat{Y}}$ بينما يرث الآليات السببية لجميع المتغيرات الأخرى من العالم الحقيقي — فإن هذا الإطار غير كافٍ للذكاء الاصطناعي التوليدي (Generative AI).

تختلف النماذج التوليدية جوهرياً عن متنبئات تعلم الآلة القياسية:

1. بناء الآلية: على عكس تعلم الآلة القياسي، الذي يتعلم رسم خرائط واحدة من المتغيرات المستقلة إلى النتيجة، تقوم النماذج التوليدية ضمنياً ببناء معتقداتها الخاصة حول جميع الآليات السببية (بما في ذلك تلك الخاصة بالمتغيرات $X, Z, W$)، وليس فقط النتيجة $Y$.
2. دقة البيانات: غالباً ما تعمل النماذج التوليدية على أنماط (modalities) ذات مستوى أدنى (نصوص، صور)، بدلاً من البيانات الجدولية المهيكلة، مما يتطلب استنتاج العلاقات بين المتغيرات التي قد تختلف بشكل كبير عن الارتباطات في العالم الحقيقي.
3. انتشار التحيز: تفشل الأساليب الحالية في التمييز ما إذا كانت التفاوتات الملحوظة في مخرجات الذكاء الاصطناعي التوليدي تنشأ من آلية النتيجة التي تعلمها النموذج، أم من آلية المتغيرات المستقلة التي تعلمها، أم من التفاعل بينهما.

تعالج الورقة الحاجة إلى منهجية جديدة للكشف عن التحيز السببي، وقياسه، وتفكيكه في الذكاء الاصطناعي التوليدي، وتحديداً كيفية تغيير النماذج التوليدية للفوارق في العالم الحقيقي من خلال آلياتها السببية الداخلية.

المنهجية

يقترح المؤلفون إطاراً نظرياً موحداً يوسع نموذج العدالة القياسي (SFM) ليشمل الإعداد التوليدي باستخدام النماذج السببية الهيكلية (SCMs).

1. نموذج العدالة القياسي-الموسع (S-SFM)

الابتكار الجوهري هو إدخال عقدة اختيار $S$ تشير إلى مصدر آلية توليد البيانات:

• $S = rw$(أو$0$): آلية العالم الحقيقي ($f^{rw}$).
• $S = gm$(أو$1$): آلية النموذج التوليدي ($f^{gm}$).

في هذا الإطار، تشير عقدة الاختيار $S$ إلى جميع المتغيرات ($X, Z, W, Y$)، مما يسمح بالاستبدال المستقل للآليات. وهذا يتناقض مع نموذج SFM القياسي حيث تؤثر $S$ عادةً فقط على آلية النتيجة. يعرّف النموذج النتائج المحتملة $Y^{s_y}_{x_y, W^{s_w}_{x_w} | X=x_z, S=s_z}$، حيث تشير الأرقات العلوية إلى البيئة (العالم الحقيقي أو النموذج) التي يتم سحب الآلية المحددة منها، وتشير الأرقات السفلية إلى قيم المتغيرات على مسارات سببية محددة.

2. التأثيرات السببية المعدلة بـ S

يعرف المؤلفون التأثيرات المحددة بـ x المعدلة بـ S (المباشرة، غير المباشرة، والزائفة) التي تأخذ في الاعتبار مصدر الآلية. على سبيل المثال، التأثير المباشر المعدل بـ S هو:
$$x\text{-}DE^{s_z, s_w, s_y}_{x_0, x_1}(y | x) = E[Y^{s_y}_{x_1, W^{s_w}_{x_0}} | X=x, S=s_z] - E[Y^{s_y}_{x_0, W^{s_w}_{x_0}} | X=x, S=s_z]$$
يسمح هذا بعزل كيفية تغير التأثير المباشر عندما يتم استبدال آليات معينة (مثل $f_Y$ أو $f_W$ أو $f_{X,Z}$) من العالم الحقيقي إلى النموذج التوليدي.

3. تفكيك فروق التفاوت

تشتق الورقة النظرية 1 التي تفكك الفرق في التباين الكلي (TV) بين العالم الحقيقي والنموذج التوليدي ($\Delta TV$) إلى مساهمات من المسارات المباشرة وغير المباشرة والزائفة. ومن الأهمية بمكان أن كل مساهمة في المسار يتم تفكيكها أيضاً إلى ثلاثة حدود تمثل الاستبدال التدريجي للآليات:

1. T1: استبدال آلية النتيجة ($f_Y$) فقط.
2. T2: استبدال آلية الوسيط ($f_W$)، مع استبدال $f_Y$ بالفعل.
3. T3: استبدال آلية المتغير المستقل ($f_{X,Z}$)، مع استبدال $f_W$ و $f_Y$ بالفعل.

يتيح هذا التفكيك الدقيق للباحثين تحديد الجزء الذي يدفع التحيز في "نظام المعتقدات" الخاص بالنموذج التوليدي بدقة.

4. التحديد والتقدير

تضع الورقة شروط التحديد (Proposition 3) التي تبين إمكانية تقدير هذه النتائج المحتملة باستخدام عينات من بيئات مختلطة. تتضمن استراتيجية التقدير:

• المولد ($\Gamma$): نموذج لغوي كبير (LLM) يتم توجيهه لتوليد روايات بناءً على شروط محددة (مثلاً: "اكتب قصة عن شخص من [عرق] بجنس [جنس] وعمر [عمر]...").
• المُصنف ($A$): نموذج لغوي كبير منفصل يستخرج القيم المهيكلة (مثل الدخل، التعليم، النتيجة) من الروايات المولدة.
• مجموعات البيانات: بناء أربع مجموعات بيانات محددة ($D_{s_0}, D_{s_0,s_0,s_1}, D_{s_0,s_1,s_1}, D_{s_1}$) تمثل الاستبدال التدريجي للآليات، مما يسمح بحساب حدود التفكيك.

المساهمات الرئيسية

1. صياغة العدالة السببية في الذكاء الاصطناعي التوليدي: توحد الورقة إعداد عدالة تعلم الآلة القياسي وإعداد الذكاء الاصطناعي التوليدي تحت مظلة نظرية واحدة (S-SFM)، مع نمذجة بناء النموذج التوليدي لآلياته السببية الخاصة بشكل صريح.
2. نتائج التفكيك السببي الجديدة: تقدم تفكيكاً مبتكراً (النظرية 1) يحدد كمياً تأثيرات العدالة عبر بُعدين:
   • مسارات سببية مختلفة (مباشرة، غير مباشرة، زائفة).
   • الآلية التي يتم استبدالها (الحقيقية مقابل النموذج).
3. التحديد والتقدير: توفر شروط التحديد ومقدرات فعالة لهذه الكميات السببية، وتوضح كيفية توليد البيانات المقابلة (counterfactual data) اللازمة باستخدام النماذج اللغوية الكبيرة.
4. التطبيق التجريبي: تُطبق المنهجية لتحليل التحيز العرقي والجنسي في 10 نماذج لغوية كبيرة (LLMs) عبر ثلاث مجموعات بيانات:
   • NSDUH: التحيز العرقي في إساءة استخدام المواد (استخدام الماريجوانا).
   • BRFSS: التحيز العرقي في عبء الأمراض المزمنة (السكري).
   • ACS: تحيز الجنس في مستويات الدخل.

النتائج

حلل المؤلفون 10 نماذج مفتوحة الأوزان وموجهة تعليمات (بما في ذلك عائلات Llama 3, Qwen, Gemma, DeepSeek, و Phi) عبر مجموعات البيانات الثلاث.

• بصمات التحيز: أنتجت الدراسة "بصمة تحيز" مكونة من 27 بُعداً لكل نموذج. كشف التجميع الهرمي أن تشابه التحيز لا يرتبط ارتباطاً وثيقاً بعائلة النموذج أو حجم المعلمات؛ حيث أظهرت عائلات متميزة تشابهاً في بصمات التحيز أكثر من أخواتها داخل نفس العائلة.
• التعزيز والانعكاس:
  • الانعكاس: غالباً ما قامت النماذج بعكس إشارة التفاوتات في العالم الحقيقي. على سبيل المثال، في مجموعة بيانات NSDUH، أظهرت بيانات العالم الحقيقي أن الأقليات تستخدم الماريجوانا بمعدلات أقل (عند التحكم في المتغيرات)، لكن نماذج مثل Gemma 3 27B عكست ذلك لتظهر أن الأقليات تستخدمها بمعدلات أعلى.
  • التعزيز: في مجموعة بيانات BRFSS، قامت النماذج غالباً بتعزيز التأثير المباشر للعرق على خطر الإصابة بالسكري.
  • التخميد: قامت بعض النماذج بتخميد المزايا الزائفة (مثل الحماية المرتبطة بالعمر ضد السكري للأقليات في BRFSS).
• إسناد الآلية: كشف التفكيك أن التحيز ليس كتلة واحدة.
  • في حالة Gemma 3 27B (NSDUH)، كان انعكاس التأثير المباشر مدفوعاً بشكل أساسي باستبدال آلية الوسيط ($f_W$)، والتي رمزت إلى توزيع نمطي للتعليم/الدخل للأقليات، بدلاً من مجرد آلية النتيجة.
  • في حالة Qwen 3.5 27B (BRFSS)، كان انعكاس التأثير المباشر مهيمناً من قبل آلية النتيجة ($f_Y$)، بينما كان انعكاس التأثير غير المباشر مدفوعاً بآليات الوسيط ($f_W$) والمتغير المستقل ($f_{X,Z}$).

الأهمية والادعاءات

تدعي الورقة أن أهميتها الأساسية تكمن في توفير عدسة سببية دقيقة لفهم التحيز في الذكاء الاصطناعي التوليدي، متجاوزة التفاوتات الإحصائية الإجمالية.

• ما وراء العدالة المقابلة للواقع (Counterfactual Fairness): على عكس العمل السابق الذي يركز فقط على العدالة المقابلة للواقع في التصنيف، يقوم هذا الإطار بنمذجة العملية السببية الكامنة وقياس أي الآليات (توليد النتيجة، الوسيط، أو المتغير المستقل) تساهم في التفاوتات.
• التعميم: يعمم الإطار بصرامة أدبيات العدالة السببية الحالية لتعلم الآلة القياسي (حيث يتم استبدال آلية النتيجة فقط) ليشمل الإعداد التوليدي الأكثر تعقيداً حيث يمكن تغيير جميع الآليات.
• الفائدة التشخيصية: يسمح التفكيك للممارسين بتشخيص ما إذا كان تحيز النموذج ينبع من فهمه للنتيجة (مثلاً: "الأقليات أكثر عرضة لتعاطي المخدرات") أو من فهمه لبنية العالم (مثلاً: "الأقليات لديهم تعليم/دخل أقل")، مما يوفر رؤى مستهدفة للتخفيف من حدة التحيز.

يظل المؤلفون متواضعين فيما يتعلق بالقيود، مشيرين إلى أن الإطار يفترض القدرة على استعلام النماذج لظروف تعسفية (والذي قد يكون صعباً في نماذج الرؤية)، ويتطلب استنباطاً بشرياً للافتراضات السببية (تحديد S-SFM)، وكان مقيداً بالنماذج مفتوحة الأوزان بسبب قيود التكلفة بالنسبة للنماذج المغلقة. كما أشاروا إلى أن الإطار لا يغطي حالياً الاستنتاجات التي تتم بترتيب سببي عكسي (مثل استنتاج العرق من الراتب).