تخيل أنك محقق تحاول حل لغز باستخدام مساعد ذكاء اصطناği فائق الذكاء ومُدرب مسبقاً. هذا المساعد قد قرأ الملايين من ملفات القضايا وتعلم كيفية رصد الأنماط في البيانات، مثل محقق متمرس يمكنه النظر إلى بضع أدلة وتخمين الجاني فوراً. هذا هو عالم نماذج التأسيس الجدولي (Tabular Foundation Models). فكر في هذه النماذج كأنها "محققون عالميون" يمكنهم القفز إلى أي قضية جديدة — سواء كانت التنبؤ بالموافقة على القروض، أو تشخيص الأمراض، أو تقرير من يحصل على منحة دراسية — دون الحاجة إلى إعادة تدريبهم من الصفر. إنهم يستخدمون حيلة تسمى التعلم داخل السياق (In-Context Learning)، وهي تشبه إعطاء المحقق بعض الأمثلة من القضية الحالية في دفتر ملاحظات وقول: "إليك كيف نحل هذه الحالات عادةً؛ الآن قم بحل هذه الحالة".

ولكن هنا تكمن المشكلة: حتى أذكى المحققين قد يكون لديهم تحيزات خفية. إذا تعلم المحقق من ملفات قضايا قديمة حيث عوملت مجموعات معينة من الناس بشكل غير عادل، فقد يعامل عن طريق الخطأ الأشخاص الجدد من تلك المجموعات نفسها بشكل غير عادل أيضاً. هذه هي مشكلة العدالة الخوارزمية. في العالم الحقيقي، توجد قواعد صارمة (مثل قوانين مكافحة التمييز) تنص على أن القرارات لا ينبغي أن تعتمد على سمات حساسة مثل الجنس أو العرق أو العمر. السؤال الكبير الذي يطرحه العلماء هو: هل يمكننا تعليم هؤلاء "المحققين العالميين" أن يكونوا عادلين قبل أن يواجهوا أي قضية حقيقية، حتى لا نحتاج إلى إصلاحهم لاحقاً؟

يقدم هذا البحث طريقة جديدة تسمى FairTFM، والتي تحاول دمج العدالة مباشرة في "دماغ" المحقق أثناء مرحلة التدريب. فبدلاً من تعليم النموذج أن يكون دقيقاً فحسب، يعلّمه الباحثون تجاهل الأدلة "الحساسة" التي لا ينبغي أن تهم. وقد وجدوا أنه باستخدام حيلة تدريب ذكية، يمكنهم إنشاء نموذج يقدم تنبؤات أكثر عدلاً من نظرة واحدة، دون الحاجة إلى إعادة تدريبه لكل مهمة جديدة. وبينما قد يضحي النموذج أحياناً بجزء ضئيل جداً من دقته المثالية، إلا أن النتائج تشير إلى أنه يمكنه تقليل عدم العدالة بشكل كبير — أحياناً بنسبة تزيد عن 70% — مع الاستمرار في أداء مهمته الأساسية بشكل ممتاز.

المشكلة: "المحقق العالمي" ذو النقطة العمياء

البيانات الجدولية هي مجرد معلومات منظمة في صفوف وأعمدة، مثل جدول بيانات ضخم. لعقود من الزمن، كانت أفضل طريقة لإجراء التنبؤات من هذه الجداول هي استخدام النماذج القائمة على الأشجار (فكر فيها كرسوم بيانية انسيابية تطرح سلسلة من الأسئلة بنعم أو لا). ولكن مؤخراً، ظهر نوع جديد من الذكاء الاصطناعي يسمى نموذج التأسيس الجدولي (TFM). هذه النماذج تشبه "المحققين الخارقين" في عالم البيانات؛ فقد تم تدريبها على مجموعات هائلة من البيانات لتتمكن من التكيف مع المهام الجديدة فوراً، باستخدام بضع أمثلة فقط يتم تقديمها لحظة التنبؤ.

المشكلة هي أن هؤلاء المحققين الخارقين يتعلمون من الماضي، والماضي غالباً ما يكون مليئاً بعدم العدالة. إذا أظهرت بيانات بنك تاريخية أن النساء رُفضت طلبات قروضهن بمعدل أكبر من الرجال دون سبب وجيه، فقد يتعلم نموذج TFM قياسي هذا النمط ويستمر في رفض القروض للنساء، حتى لو كان ذلك غير قانوني وخاطئاً.

عادةً، لإصلاح ذلك، يحاول علماء البيانات "تنظيف" البيانات قبل التدريب، أو تعديل النموذج بعد تدريبه بالفعل. ولكن مع نماذج TFM، يعد هذا أمراً صعباً. لأن هذه النماذج مصممة لتكون "مجمدة" (بمعنى أننا لا نغير أوزانها الداخلية لكل مهمة جديدة)، فلا يمكننا بسهولة العودة وإعادة تدريبها لكل بنك أو مستشفى محدد. نحن بحاجة إلى طريقة تجعلها عادلة قبل نشرها، لتكون جاهزة لتكون عادلة في اللحظة التي تُطلب منها حل مشكلة جديدة.

الحل: تدريب المحقق على تجاهل "الأدلة الخاطئة"

يقترح مؤلفو هذا البحث، باتريك كينفاك وفريقه، طريقة جديدة لتدريب هذه النماذج تسمى FairTFM. فكرتهم بسيطة ولكنها قوية: خلال مرحلة التدريب، يعلمون النموذج حل لعبة حيث يتعين عليه التنبؤ بالنتيجة دون استخدام المعلومات الحساسة.

إليكم كيف يفعلون ذلك، باستخدام تشبيه ممتع:

تخيل أنك تدرب محققاً لحل لغز حول من سرق قطعة كعك. لديك قائمة من الأدلة: الوقت من اليوم، نوع أثر الحذاء، واللون المفضل للمشتبه به. ولكن لديك أيضاً دليلاً "حساساً": جنس المشتبه به. أنت تريد من المحقق حل الجريمة بناءً على أثر الحذاء والوقت، ولكن ليس بناءً على الجنس.

في الماضي، ربما كنت ستحاول فقط إخفاء دليل الجنس. لكن المحقق ذكي؛ فقد يستنتج الجنس من خلال أدلة أخرى (مثل أثر الحذاء) ويستخدم ذلك للحصول على ميزة غير عادلة.

تستخدم FairTFM لعبة تدريب مكونة من جزئين:

1. اللعبة الرئيسية: يحاول المحقق تخمين من سرق الكعكة (التنبؤ الرئيسي).
2. لعبة منع الغش: في الوقت نفسه، يُجبر المحقق على تخمين جنس المشتبه به بناءً فقط على الأدلة التي استخدمها لحل الجريمة.

وهنا تكمن الخدعة السحرية: يستخدم الباحثون أداة خاصة تسمى طبقة عكس التدرج (Gradient Reversal Layer). فكر في هذا كـ "ترس عكسي" لدماغ المحقق. عندما يحاول المحقق تخمين الجنس، تقوم الأداة بقلب التغذية الراجعة. إذا نجح المحقق في تخمين الجنس، تقول له الأداة: "لا، هذا سيء! أنت تعتمد كثيراً على الجنس!" وتدفعه لنسيان هذا الارتباط.

من خلال القيام بذلك مراراً وتكراراً مع آلاف السيناريوهات المختلفة لـ "سرقة الكعك" الوهمية (حيث يتغير الدليل الحساس من الجنس إلى العمر إلى العرق بشكل عشوائي)، يتعلم المحقق حل الجريمة باستخدام الأدلة ذات الصلة فقط. يتعلمون بناء خري خريطة ذهنية لعالم يكون فيه دليل الجنس غير مرئي.

النتائج: العدالة دون فقدان جوهر المهمة

اختبر الفريق "المحقق العادل" الجديد الخاص بهم (FairTFM) في 132 مهمة مختلفة، تتراوح بين التنبؤ بالدخل إلى التحقق مما إذا كان الشخص سيعاد اعتقاله. وقارنوه بـ:

• المحققين القياسيين: نماذج TFM المعتادة فائقة الدقة (مثل TabPFN و TabICL) التي لا تهتم بالعدالة.
• المحققين القدامى: النماذج التقليدية مثل الغابات العشوائية (Random Forests) والانحدار اللوجستي (Logistic Regression).
• المنافس "العادل": نموذج آخر يسمى FairPFN، والذي يحاول أن يكون عادلاً ولكنه يستخدم تعريفاً مختلفاً وأكثر تعقيداً للعدالة.

كانت النتائج واعدة. كانت نماذج TFM القياسية فائقة الدقة هي الأكثر دقة بالفعل، لكنها كانت أيضاً الأكثر عدم عدلاً؛ فقد ارتكبت أخطاء كبيرة في كيفية معاملة المجموعات المختلفة من الناس.

أما FairTFM، فقد وجد نقطة التوازن المثالية. من خلال ضبط "مقبض" (يسمى $\lambda$) يتحكم في مدى قوة محاولة النموذج ليكون عادلاً، استطاع الباحثون ضبط التوازن المثالي.

• المقايضة: لكي يحصل على تنبؤات أكثر عدلاً، كان على النموذج التخلي عن جزء بسيط من الدقة الخام. وجد البحث أنه مقابل انخفاض طفيف في الدقة (بين 2% و 11%)، أصبح النموذج أكثر عدلاً بنسبة 32% إلى 75% من النماذج القياسية.
• الفوز من "مرة واحدة": الجزء الأفضل هو أن FairTFM يقوم بذلك في تمريرة أمامية واحدة. لا تحتاج إلى إعادة تدريبه لكل بنك أو مستشفى جديد. فقط أعطه البيانات، وسيقدم تنبؤاً عادلاً فوراً.

وعند مقارنته بالنموذج "العادل" الآخر (FairPFN)، تفوق FairTFM. كان FairPFN عادلاً، لكنه كان أقل دقة بكثير. نجح FairTFM في أن يكون عادلاً ودقيقاً في آن واحد، متفوقاً على FairPFN في كل المقاييس تقريباً.

ماذا يعني هذا للمستقبل؟

يشير البحث إلى أنه ليس علينا الاختيار بين ذكاء الآلة وعدالتها. فمن خلال تدريب النموذج على تجاهل السمات الحساسة خلال "طفولته" (مرحلة ما قبل التدريب)، يمكننا إنشاء أداة جاهزة لتكون عادلة في اللحظة التي تدخل فيها العالم الحقيقي.

بالطبع، يوضح المؤلفون أن هذا ليس عصا سحرية تحل كل مشاكل التمييز. لا يزال النموذج بحاجة إلى الاختبار باستخدام بيانات من العالم الحقيقي، كما أن تعريف "العدالة" يمكن أن يكون معقداً. ولكن هذا العمل يظهر مساراً واضحاً للمستقبل: يمكننا بناء نماذج تأسيسية ليست قوية فحسب، بل أيضاً مبدئية، مما يجعلها أكثر أماناً وموثوقية لاتخاذ القرارات عالية المخاطر في مجالات التمويل والرعاية الصحية والعدالة.

باختصار، لقد أظهر المؤلفون أنه مع التدريب الصحيح، يمكننا تعليم محققي الذكاء الاصطناوي لدينا حل الجرائم دون السماح لتحيزاتهم بالوقوف في طريقهم. وهذا فوز للجميع.