🤖 machine learning

Is Data Shapley Not Better than Random in Data Selection? Ask NASH

تقدم هذه الورقة NASH، وهو إطار عمل جديد لاختيار البيانات يقوم بتفكيك دالات المنفعة المستهدفة إلى مكونات غنية بمعلومات "شابلي" وتجميعها بشكل غير خطي لاختيار مجموعات فرعية من بيانات التدريب عالية الجودة باستمرار وكفاءة، متجاوزاً بذلك قيود طرق "داتا شابلي" القياسية التي غالباً ما لا تؤدي أداءً أفضل من الاختيار العشوائي.

المؤلفون الأصليون: Xiao Tian, Jue Fan, Rachael Hwee Ling Sim, Zixuan Wang, Nancy F. Chen, Bryan Kian Hsiang Low

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xiao Tian, Jue Fan, Rachael Hwee Ling Sim, Zixuan Wang, Nancy F. Chen, Bryan Kian Hsiang Low

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طاهٍ يحاول إعداد الحساء المثالي. لديك مخزن ضخم من المكونات (بيانات التدريب الخاصة بك)، ولكن لديك مساحة كافية فقط في قدرك لكمية محددة وصغيرة (ميزانيتك أو سعة التخزين المحدودة). هدفك هو اختيار أفضل حفنة من المكونات لجعل الحساء مذاقه رائعاً.

لفترة طويلة، استخدم علماء البيانات طريقة تسمى Data Shapley لتقرير أي المكونات يجب اختيارها. فكر في "Data Shapley" كأنها "درجة عدالة"؛ فهي تحاول حساب مدى مساهمة كل مكون بمفرده في المذاق النهائي، مع مراعاة كيفية اختلاطه مع كل التركيبات الممكنة من المكونات الأخرى. والنظرية هي: "إذا كان المكون جيداً، فستكون درجته عالية، لذا لنأخذ أعلى 10 مكونات فقط".

المشكلة: فخ "أفضل 10"
تجادل الورقة البحثية بأن نهج "أفضل 10" هذا غالباً ما يفشل. فأحياناً، المكونات ذات الدرجات الأعلى لا تصنع في الواقع أفضل حساء؛ بل في الواقع قد لا تكون أفضل من مجرد التقاط حفنة من المكونات عشوائياً.

لماذا؟ لأن "الدرجة" (Data Shapley) تحاول القيام بالكثير من المهام في وقت واحد.

عيب "السكين السويسري": تخيل سكيناً رائعاً في تقطيع اللحم ولكنه سيء جداً في تقطيع الخضروات. إذا نظرت فقط إلى درجة السكين "العامة"، فقد تبدو أداة ممتاة. لكن إذا كان حساؤك يحتاج إلى الكثير من الخضروات، فإن هذا السكين سيكون بلا فائدة.
رؤية الورقة البحثية: "مذاق" الحساء (دقة التحقق) يعتمد على العديد من "الأدوار" المختلفة (تقطيع اللحم، تقطيع الخضروات، التتبيل). الدرجة العامة الواحدة (Data Shapley) تخفي هذه القوى النوعية. وتظهر الورقة أن Data Shapley غالباً ما يختار مجموعة من "قاطعي اللحم" ويتجاهل "قاطعي الخضروات"، مما ينتج عنه حساء سيء.

الحل: تعرف على NASH
يقترح المؤلفون إطار عمل جديداً يسمى NASH (التجميع غير الخطي للمكونات المعلوماتية من Shapley). وإليك كيف يعمل، باستخدام تشبيه إبداعي:

التفكيك (Decomposition): بدلاً من السؤال: "ما مدى جودة هذا المكون للحساء بأكمله؟" يسأل NASH: "ما مدى جودة هذا المكون لمجرد اللحم؟ ما مدى جودة هذا المكون لمجرد الخضروات؟ ما مدى جودة هذا المكون لمجرد التتبيل؟"
- تثبت الورقة أنه عندما تنظر إلى هذه الأدوار الصغيرة والمحددة (مثل التنبؤ بمذاق خضروات معينة)، تصبح درجة Data Shapley دقيقة وموثوقة للغاية. هذه هي "المكونات المعلوماتية من Shapley".
الخلط بذكاء (Non-Linear Aggregation): الآن، لدى NASH درجة لكل مكون لكل دور. ولكن لا يقوم بمجرد جمعها جميعاً (لأن ذلك سيعطينا فقط قائمة "أفضل 10" القديمة والمعيبة).
- بدلاً من ذلك، يستخدم استراتيجية خلط ذكية. فكر في الأمر كطاهٍ يدرك: "لدي الكثير من قاطعي اللحم، لكني في أمس الحاجة إلى قاطعي الخضروات".
- يعطي NASH الأولوية للمكونات التي تسد الفجوات. إذا كان الحساء يحتوي بالفعل على تغطية ممتازة للحم، فإن NASH يتوقف عن اختيار المزيد من قاطعي اللحم ويبدأ في البحث عن قاطعي الخضروات، حتى لو كان لهؤلاء القاطعين درجة "عامة" أقل قليلاً. إنه يستخدم قاعدة رياضية "منحنية" (غير خطية) لضمان الحصول على ملف نكهة متوازن وكامل.

النتائج
اختبرت الورقة هذا على العديد من "الوصفات" (مجموعات البيانات) و"أساليب الطهي" (النماذج)، من المسائل الرياضية البسيطة إلى نماذج الذكاء الاصطناعي اللغوية المعقدة.

الطريقة القديمة: غالباً ما كان أداء طريقة Data Shapley القياسية لا يتفوق على عملية اختيار المكونات عشوائياً.
طريقة NASH: من خلال تفكيك المشكلة إلى أدوار محددة، ثم إعادة خلطها بذكاء، نجح NASH باستمرار في اختيار مكونات أفضل، مما أنتج حساءً ألذ بكثير (دقة نموذج أعلى) من الطريقة القديمة، وبدون أي تكلفة أو وقت إضافي تقريباً.

باخت إيجاز
تقول الورقة: "لا تثق فقط في شعبية المكونات العامة. فكك المشكلة إلى مهام محددة، وانظر أين تضعف بياناتك الحالية، واستخدم قاعدة ذكية وغير خطية لسد تلك الفجوات. هكذا تحصل على أفضل اختيار للبيانات".

النقاط الرئيسية من الورقة:

Data Shapley ليس مكسوراً؛ بل يُستخدم بطريقة خاطئة (عن طريق الاختيار الأعمى لأعلى الدرجات).
الأهداف المعقدة (مثل "الحساء الجيد") تتكون من أجزاء بسيطة (لحم جيد، خضروات جيدة). تعمل Data Shapley بشكل رائع على الأجزاء البسيطة.
NASH هو إطار العمل الجديد الذي يستخدم الأجزاء البسيطة لبناء كلٍّ أفضل، مما يضمن أنك لا تختار فقط مجموعة من المكونات المتشابهة، بل مجموعة متوازنة وعالية الجودة.

ملخص تقني: NASH - التجميع غير الخطي للمكونات المعلوماتية لـ Shapley

بيان المشكلة

يهدف اختيار البيانات إلى تحديد مجموعات فرعية عالية الجودة من بيانات التدريب لتحسين فائدة النموذج (مثل دقة التحقق $u_V$ ) تحت قيود الحجم. وبينما تستند "داتا شابلي" (Data Shapley) وتعميماتها (القيم شبه الجزئية/semivalues) إلى أسس نظرية في نظرية الألعاب التعاونية لمراعاة تفاعلات البيانات، تشير الدراسات التجريبية الحديثة إلى أنها غالبًا ما تعمل بشكل غير فعال في الممارسة العملية. وتحديدًا، فإن اختيار أفضل- $m$ من نقاط البيانات بناءً على قيم شابلي (Shapley values) المحسوبة بالنسبة لدوال فائدة معقدة (مثل دقة التحقق) يمكن أن يؤدي إلى مجموعات فرعية لا تزيد جودتها عن الاختيار العشوائي، أو حتى أسوأ منه.

يحدد البحث سببين رئيسيين لهذا الفشل:

نقص المعلوماتية لـ Shapley (Lack of Shapley-informativeness): تتضمن دوال الفائدة المعقدة "أدوارًا" متعددة ومتميزة (على سبيل المثال، فئات أو مجموعات فرعية مختلفة في مجموعة التحقق). وتفشل قيمة شابلي الواحدة لكل بيان في التقاط قوته الفريدة عبر هذه الأدوار. ونتيجة لذلك، قد تحصل البيانات ذات القوى المختلفة على درجات شابلي متطابقة، مما يؤدي إلى معاملتها بشكل تبادلي رغم اختلاف مساهماتها في الفائدة.
التجميع غير الملائم: تقوم الفائدة الحقيقية (مثل دقة التحقق) بتجميع الأداء عبر هذه الأدوار بشكل غير خطي. ومع ذلك، تعتمد طريقة "أفضل- $m$ (top- $m$ )" التقليدية على تجميع خطي (جمع قيم شابلي)، وهو ما يفشل في التقاط التفاعلات التآزرية حيث تعتمد مساهمة البيان على البيانات الأخرى التي تم اختيارها بالفعل (على سبيل المثال، يكون البيان أكثر قيمة إذا كان يغطي دورًا غير ممثل).

المنهجية: إطار عمل NASH

يقترح المؤلفون إطار عمل NASH (التجميع غير الخطي للمكونات المعلوماتية لـ SHapley)، وهو إطار يقوم بتفكيك دالة الفائدة المعقدة إلى مكونات أبسط تكون فيها قيم شابلي فعالة، ثم تجميعها بشكل غير خطي.

1. المعلوماتية لـ Shapley والتفكيك

يصيغ البحث المعلوماتية لـ Shapley كخاصية حيث يكون مجموع قيم شابلي لمجموعة فرعية مؤشرًا على فائدتها الفعلية. ويثبت المؤلفون أن دوال الفائدة التعسفية ليست عمومًا معلوماتية لـ Shapley. ومع ذلك، يوضحون أن دوال الفائدة الأبسط، وتحديدًا صحة التنبؤ لبيان تحقق واحد ( $u_v$ )، هي معلوماتية لـ Shapley بشكل مثبت بموجب فرضية "اللاعب المتسق" (حيث يكون البيان جيدًا أو سيئًا باستمرار بالنسبة لنقطة تحقق محددة).

بدلاً من حساب قيم شابلي لدقة التحقق الإجمالية $u_V$ ، يقوم NASH بتفكيك $u_V$ إلى مكونات فردية $u_v$ لكل بيان تحقق $v \in V$ . ويتم حساب قيم شابلي $\phi_i(u_v)$ لهذه المكونات الأبسط. ومن الجدير بالذكر أن حساب هذه المتجهات لا يتطلب تكلفة زمنية إضافية مقارنة بحساب قيمة شابلي لـ $u_V$ الإجمالية، حيث أن $u_V$ هي مجرد متوسط لـ $u_v$ .

2. التجميع غير الخطي

لإعادة بناء الهدف المعقد من هذه المكونات المعلوماتية، يتجنب NASH الجمع الخطي (الذي يستعيد منهجية top- $m$ المعيبة لـ Shapley)، وبدلاً من ذلك، يقوم بتحسين هدف تجميع غير خطي:
$\max_{M \subseteq N, |M|=m} \sum_{v \in V} F_T(\hat{u}_v(M))$
حيث $\hat{u}_v(M) = \sum_{i \in M} \phi_i(u_v)$ هو مجموع قيم شابلي للمكون $v$ ، و $F_T$ هي دالة توزيع تراكمي (CDF) مستوحاة من منحنيات التعلم (مثل القانون الأسي). تضمن هذه الدالة غير الخطية أن عملية الاختيار تعطي الأولوية للبيانات التي تساعد في "تجاوز العتبة" لنقاط التحقق التي تم التنبؤ بها بشكل ضعيف (الأدوار غير المغطاة) بدلاً من تراكم الدرجات العالية على النقاط التي تم التنبؤ بها جيدًا بالفعل.

3. التحسين

يتم تحسين هدف NASH باستخدام خوارزمية جشعة (greedy algorithm). ويوضح المؤلفون أنه عندما تكون قيم شابلي غير سالبة، فإن الهدف يكون "تحت جزئي رتيب" (monotone submodular)، مما يضمن تقريبًا بنسبة $(1 - 1/e)$ . وحتى مع وجود قيم سالبة (الناتجة عن البيانات المشوشة)، فإن الخوارزمية الجشعة تعمل بشكل جيد تجريبيًا لأن البيانات الضارة (التي تسبب عدم الرتابة تحت الجزئية) يتم استبعاد أولويتها بشكل طبيعي. وتضيف الخوارزمية تكلفة زمنية ضئيلة، حيث يتم مشاركة العمل الشاق (تقريب شابلي) مع الطرق الموجودة.

المساهمات الرئيسية

التحليل النظري: يصيغ البحث خاصية المعلوماتية لـ Shapley، موضحًا لماذا تفشل دوال تعلم الآلة المعقدة (مثل دقة التحقق) في تحقيق هذه الخاصية، مما يؤدي إلى الأداء غير المتسق لـ "داتا شابلي".
المكونات المعلوماتية المثبتة: يحدد المؤلفون ويثبتون أن صحة التنبؤ لبيانات التحقق الفردية تعمل كمكونات معلوماتية لـ Shapley تحت افتراضات معقولة.
إطار عمل NASH: إطار عمل جديد لاختيار البيانات يقوم بتفكيك الأهداف المعقدة إلى مكونات معلوماتية لـ Shapley ثم يجمعها بشكل غير خطي لاختيار مجموعات فرعية عالية الجودة.
التحقق التجريبي: تُظهر التجارب المكثفة عبر مجموعات البيانات القياسية (الانحدار اللوجستي، KNN) وضبط النماذج اللغوية الكبيرة (BERT, Llama-2) أن NASH يتفوق باستمرار على "داتا شابلي" التقليدية، والمنهجيات الأخرى للقيم شبه الجزئية، والاختيار العشوائي.

النتائج

الاختيار العام للبيانات: في الإعدادات التي لا تحتوي على ضجيج محقون (جودة متجانسة)، غالبًا ما يكون أداء "داتا شابلي" التقليدية مساويًا للأداء العشوائي. يحقق NASH دفعة كبيرة في الأداء في هذه السيناريوهات، متفوقًا باستمرار على النماذج المرجعية عبر مختلف نسب الاختيار.
مجموعات البيانات ذات الجودة غير المتجانسة: في الإعدادات التي تحتوي على ضجيج في العلامات (label noise)، يتحسن أداء "داتا شابلي" التقليدي (حيث يمكنها تمييز البيانات السيئة)، ولكن NASH لا يزال يتفوق عليها باستمرار. يشير هذا إلى أن فوائد NASH (التعامل مع تفاعلات الأدوار) متميزة ومكملة لقدرة "داتا شابلي" على تصفية الضجيج.
التوافق: يتوافق NASH مع مختلف القيم شبه الجزئية (مثل Beta Shapley، وData Banzhaf) وطرق التقريب الفعالة (مثل عينات مونت كارلو، وFreeShap)، مما يحسن أداء الاختيار باستمرار.
المتانة: يتميز المنهج بالمتانة تجاه اختيار المعامل الفائق $\lambda$ في دالة التجميع ويعمل بفعالية مع دوال فائدة مختلفة (مثل خسارة التحقق، وMSE).

الأهمية

يزعم البحث أن NASH يقضي إلى حد كبير على القيد الذي يجعل "داتا شابلي" أو القيم شبه الجزئية فعالة فقط في مجموعات البيانات المحدودة أو الإعدادات المحددة (مثل تلك التي تحتوي على ضجيج محقون). ومن خلال توفير إطار عمل يجعل الاختيار القائم على شابلي موثوقًا باستمرار ومتينًا عبر مختلف مجموعات البيانات ونطاقات النماذج، يُمكّن NASH من التبني الأوسع لأساليب تقييم البيانات القائمة على المبادئ. يدعم هذا التقدم الأبحاث المستقبلية في تحسين كفاءة التقريب واختيار البيانات للنماذج التأسيسية، مما يضمن تحقيق الفوائد النظرية لقيم شابلي (التفاعل غير المحدود والإنصاف) في الممارسة العملية.