🤖 machine learning

Quotient Semivalues for False-Name-Resistant Data Attribution

تقدم هذه الورقة آلية "القيم شبه الجزئية للقسمة" (quotient semivalues)، التي تعمل على تجميع مساهمات البيانات في مجموعات مدعومة بالأدلة لتحقيق خاصية "مقاومة الأسماء المستعارة" في عزو البيانات في تعلم الآلة، مما يمنع المساهمين من تضخيم مكافآتهم عبر تقسيم الهوية أو تكرارها، مع توفير حدود نظرية لمكاسب التلاعب وفقدان العدالة في ظل عدم كمال المصدر.

المؤلفون الأصليون: Florian A. D. Burnat, Brittany I. Davidson

نُشر 2026-05-11

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Florian A. D. Burnat, Brittany I. Davidson

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة الكبرى: عملية احتيال "الهوية المزيفة" في أسواق البيانات

تخيل سوقاً يبيع فيه الناس البيانات (مثل الصور أو النصوص) لتدريب الذكاء الاصطناعي. تريد شركة الذكاء الاصطناعي دفع مستحقات البائعين بشكل عادل بناءً على مدى مساهمة بياناتهم في جعل الذكاء الاصطناعي أكثر ذكاءً. عادةً، يستخدمون معادلة رياضية تسمى قيمة شابلي (Shapley Value) لتحديد من يستحق ماذا. هذه المعادلة رائعة لأنها عادلة إذا التزم الجميع بالقواعد.

لكن هنا تكمن الخدعة: في العالم الحقيقي، البائعون ليسوا سلبيين؛ بل هم أذكياء ويريدون كسب المزيد من المال.

يمكن للبائع أن يغش باستخدام أسماء مزيفة (يُطلق عليها أيضاً هجمات سيبيل/Sybil attacks).

التقسيم: بدلاً من تقديم مجموعة بيانات واحدة كبيرة تحت اسم واحد، يقوم البائع بتقسيمها إلى عشر قطع صغيرة ويقدمها تحت عشرة أسماء مزيفة مختلفة.
التكرار: يأخذ البائع أفضل صوره، وينسخها عشر مرات، ويقدمها كعشر مجموعات بيانات "جديدة" مختلفة.
النتيجة: نظرًا لأن المعادلة الرياضية تعامل كل اسم كأنه شخص منفصل، يحصل البائع على مال أكثر بعشر مرات مما يستحق، رغم أنه لم يقدم سوى مجموعة بيانات واحدة. الأمر يشبه ساحرًا يقوم بتقسيم ورقة نقدية واحدة إلى عشر ورقات مختلفة ويطلب دفع عشرة دولارات مقابلها.

تقول الورقة البحثية: لا يمكنك الحصول على نظام عادل تماماً (Shapley) ونظام يمنع هذا الغش في نفس الوقت. إذا حاولت أن تكون عادلاً تماماً تجاه الأسماء الظاهرة على الشاشة، فسيستغل المحتالون الرياضيات ليصبحوا أكثر ثراءً.

الحل: "القيمة شبه الجزئية" (استراتيجية التجميع)

يقترح المؤلفون طريقة جديدة لدفع المستحقات. بدلاً من النظر إلى "الأسماء" على الشاشة، ينظر النظام إلى محتوى البيانات ويجمع الأشياء المتشابهة معاً.

فكر في الأمر كأنه عشاء "بوفيه مفتوح" (Potluck Dinner) بدلاً من طابور من العملاء الفرديين.

رسم بياني للأدلة (عمل المحقق):
يعمل النظام مثل المحقق. ينظر في كل قطعة بيانات يتم تقديمها. إذا رأى صورتين متطابقتين تقريباً (أو نسخاً متطابقة)، فإنه يرسم خطاً بينهما. يفعل ذلك للنصوص والصور والبيانات الأخرى.

التشبيه: تخيل حارس أمن عند ملهى ليلي. إذا حاول شخص الدخول بهوية مزيفة، يتحقق الحارس من وجهه. إذا تطابق الوجه مع شخص موجود بالفعل بالداخل، يتم وضعه في نفس "المجموعة".

العناقيد (المجموعات):
يقوم النظام بتجميع كل البيانات المتصلة في "عناقيد" (Clusters).

إذا قدم محتال 10 نسخ من نفس الصورة تحت 10 أسماء مزيفة، سيرى النظام أنها جميعاً متطابقة ويضعها في مجموعة واحدة فقط.
بعد ذلك، يختار النظام "ممثلاً واحداً" لهذه المجموعة (مثل اختيار أوضح صورة) لتمثيل المجموعة بأكملها.

الدفع (القيمة شبه الجزئية - Quotient Semivalue):
الآن، يتم حساب الرياضيات (قيمة شابلي) على المجموعات، وليس على الأسماء المزيفة.

تحصل المجموعة على مستحقاتها مرة واحدة مقابل مساهمتها.
ثم يتم تقسيم هذا المبلغ بين الأشخاص الذين قدموا بيانات لتلك المجموعة.
قاعدة حاسمة: إذا قام محتال بتقسيم بياناته إلى 10 أسماء مزيفة، ولكن الأسماء العشرة انتهت في نفس المجموعة، يضمن النظام أنه سيحصل فقط على حصة شخص واحد. لا يمكنه خداع النظام ليحصل على دفعات لعشرة أشخاص.

لماذا ينجح هذا (القواعد السحرية)

تثبت الورقة أن هذا النظام يعمل تحت شرطين رئيسيين:

قاعدة "عدم الازدواجية": داخل المجموعة، يجب أن يكون النظام محايداً. لا ينبغي أن يهم ما إذا كنت تقدم بياناتك باسم "باسم" أو "باسم-1" و"باسم-2". إجمالي المال الذي تحصل عليه المجموعة يتم تقسيمه بعدالة بناءً على المحتوى الفريد الفعلي، وليس بناءً على عدد الأسماء.
قاعدة "المجموعة المستقرة": يجب أن يكون النظام جيداً في التعرف على أن النسخة "المزيفة" هي في الواقع نفس النسخة "الحقيقية". إذا ارتبك النظام واعتقد أن النسخة المزيفة هي شخص جديد تماماً، فلا يزال بإمكان المحتال الفوز.

ماذا يحدث عندما لا يكون النظام مثالياً؟

يعترف المؤلفون بأن "المحقق" (فحص التشابه) قد يرتكب أخطاء أحياناً.

التقسيم الخاطئ: يعتقد النظام أن صورتين متطابقتين هما مختلفتان. (هنا ينجح المحتال في الحصول على مبلغ إضافي بسيط).
الدمج الخاطئ: يعتقد النظام أن صور شخصين مختلفين تماماً هي نفس الصورة. (هنا يحصل الأشخاص الشرفاء على أموال أقل).

توفر الورقة "شبكة أمان" رياضية. تقول إنه حتى لو ارتكب النظام أخطاء، فإن المبلغ الذي يمكن للمحتال سرقته هو محدود ويمكن التنبؤ به. ويعتمد ذلك على:

عدد النسخ "الهاربة" التي تمكن المحتال من إخفائها.
مقدار الخطأ في رياضيات النظام.
مدى بُعد نقاط البيانات عن بعضها في ذاكرة النظام.

الاختبار الواقعي (النادي الرياضي - Gym)

قام المؤلفون ببناء بيئة تشبه ألعاب الفيديو تسمى DataMarket-Gym لاختبار ذلك.

أنشأوا سوقاً وهمياً يحتوي على نماذج ذكاء اصطناعي وبائعي بيانات.
سمحوا لـ "المحتالين" بمحاولة تقسيم وتكرار البيانات.
النتيجة:
- الطريقة القديمة (قيمة شابلي القياسية): استطاع المحتالون زيادة مدفوعاتهم بنسبة 74% (الحصول على 1.74 ضعف المال الذي يستحقونه).
- الطالط الجديدة (القيمة شبه الجزئية): استطاع المحتالون زيادة مدفوعاتهم بنسبة 1% فقط (الحصول على 0.96 ضعف، وهو ما يعادل المبلغ العادل تقريباً).

لقد اختبروا ذلك على صور ونصوص حقيقية (مثل القطط والكلاب ومقالات إخبارية). لقد نجح الأمر في كلتا الحالتين، رغم أنهم وجدوا أن "حساسية" المحقق (مدى صرامة فحص التشابه) تتغير اعتماداً على ما إذا كنت تنظر إلى الصور أو الكلمات.

ملخص في جملة واحدة

اخترعت هذه الورقة نظام دفع جديد لبيانات الذكاء الاصطناعي يمنع المحتالين من الثراء عبر استخدام أسماء مزيفة ونسخ البيانات، وذلك من خلال تجميع البيانات المتطابقة معاً ودفع مستحقات المجموعة ككتلة واحدة بدلاً من دفع مستحقات كل اسم مزيف بشكل فردي.

ملخص تقني: القيم شبه الجزئية لـ "الناتج القسمي" (Quotient Semivalues) لمقاومة التلاعب بالأسماء المستعارة في إسناد البيانات

1. بيان المشكلة

صُممت طرق تقييم البيانات، مثل "شابلي للبيانات" (Data Shapley)، لتخصيص المدفوعات وتدقيق مساهمة بيانات التدريب في مسارات تعلم الآلة. ومع ذلك، تفترض هذه الطرق عادةً وجود مجموعة ثابتة من المساهمين السلبيين. وفي أسواق البيانات الواقعية، يكون المساهمون وكلاء استراتيجيين يمكنهم التلاعب بآلية الإسناد لتضخيم حصتهم.

تحدد الورقة البحثية التلاعب بالأسماء المستعارة (False-name manipulation) كنمط فشل حرج. حيث يمكن لمزود خفي واحد أن يقوم بـ:

تقسيم مجموعة بيانات عبر هويات متعددة مستعارة (هجمات Sybil).
تكرار الأمثلة ذات القيمة العالية أو إنشاء نسخ شبه متطابقة (إعادة صياغة، تعزيزات، متغيرات اصطناعية).
غسل المتغيرات الاصطناعية لاستغلال مجموعة التحقق الخاصة بالمقيم.

تكمتمثل المشكلة الجوهرية في أن إسناد "شابلي العادل" (Shapley-fair attribution) فوق الهويات المُبلغ عنها ليس متوافقاً مع الحوافز. ولأن قيمة البيانات غالباً ما تكون غير تراكمية وتكاملية، فإن تقسيم مجموعة البيانات إلى هويات متعددة يمكن أن يزيد من مجموع قيم "شابلي" التي يحصل عليها المهاجم مقارنة بالقيمة التي يحصل عليها هوية واحدة صادقة.

2. المنهجية

2.1 النموذج الرسمي

يصيغ المؤلفون الإطار كمسأية تصميم آلي (Mechanism Design) فوق المزودين الخفيين ( $N$ ) والهويات المُقدمة ( $m$ ).

لعبة قيمة البيانات: لعبة رتيبة (Monotone game) حيث تكون قيمة الائتلاف هي المنفعة التي يحققها المتعلم المدرب على اتحاد حمولات ذلك الائتلاف.
فئات التلاعب:
- تقسيم الاسم المستعار: استبدال هوية واحدة بـ $k \ge 2$ من الهويات التي تحمل تقسيماً أو تكراراً للأصل.
- هجوم المتغيرات: تقديم نسخ محولة (نسخ مكررة، إعادة صياغة، بيانات اصطناعية) تحت هوية واحدة أو أكثر.
مقياس الربح: الربح الجمعي أو الضربي الذي يحققه المهاجم من خلال التلاعب بهيكل الهوية مقارنة بالإبلاغ الصادق.

2.2 نتيجة الاستحالة

تثبت الورقة نظرية استحالة أساسية: الإسناد العادل تماماً وفق نموذج "شابلي" فوق الهويات المُبلغ عنها لا يتوافق مع مقاومة الأسماء المستعارة غير المقيدة.
حتى في الألعاب ذات القيم الثنائية والرتيبة (مثل ألعاب الإجماع)، يمكن للمزود زيادة دفعه الإجمالي عن طريق تقسيم بياناته إلى هويات مستعارة متعددة. على سبيل المثال، في لعبة إجماع مكونة من لاعبين حيث $v(\{A, B\}) = 1$ ، يحصل المزود $A$ على $1/2$ . إذا قام $A$ بالتقسيم إلى $A_1, A_2$ بحيث تتطلب القيمة وجود $A_1, A_2, B$ ، فإن قيم "شابلي" الجديدة ستكون $1/3$ لكل منهما، مما يعطي إجمالياً $2/3$ لـ $A$ . ويمتد هذا الضعف الهيكلي إلى القيم شبه الجزئية العامة (Banzhaf، Beta-Shapley)، وإن اختلف حجم الربح.

2.3 آلية "القيم شبه الجزئية للناتج القسمي" (Quotient Semivalue)

لحل هذه المعضلة، تقترح الورقة آلية القيم شبه الجزئية للناتج القسمي، والتي تنقل الوحدة الاستراتيجية من الهويات المُبلغ عنها الخام إلى عناقيد الإسناد المدعومة بالأدلة.

رسم بياني للأدلة والتجميع (Clustering):
- دالة دليل $e_\theta(u, u')$ تحدد ما إذا كانت وحدتان (أمثلة، وثائق) متشابهتان بما يكفي (بناءً على الهاشات، التضمينات، الأصل، إلخ) ليتم معاملتهما ككائن إسناد واحد.
- يشكل هذا رسماً بيانياً حيث تمثل المكونات المتصلة عناقيد ( $C_1, \dots, C_K$ ).
مشغل الممثل النموذجي ( $R_\theta$ ):
- لمنع التلاعب عبر التكرار داخل العنقود (مثل تقديم 10 نسخ من مثال واحد لزيادة وزنه)، يقوم مشغل الممثل النموذجي برسم كل عنقود إلى مجموعة ثابتة من وحدات التدريب النموذجية.
- تشمل الاستراتيجيات: دمج النسخ المتطابقة تماماً، وضع حد أقصى لعدد الوحدات لكل عنقود، أو الاتحادات ذات الوزن المعياري.
لعبة الناتج القسمي (Quotient Game):
- يتم بناء لعبة تعاونية جديدة حيث اللاعبون هم العناقيد، وليس الهويات.
- قيمة ائتلاف العناقيد هي المنفعة التي يحققها المتعلم المدرب على اتحاد ممثليها النموذجيين.
حساب القيم شبه الجزئية والتخصيص:
- يتم حساب القيم شبه الجزئية (Shapley، Banzhaf، إلخ) فوق لعبة الناتج القسمي.
- التخصيص داخل العنقود: يتم توزيع الدفع على العناقيد ضمن العنقود الواحد. تتطلب الآلية قاعدة تخصيص محايدة للأسماء المستعارة (مثل التخصيص المتناسب مع عدد الوحدات النموذجية التي ساهمت بها كل هوية) لضمان أن تقسيم الهوية داخل العنقود لا يزيد من الحصة الإجمالية.

3. المساهمات الرئيسية

النموذج الرسمي: إطار عمل صارم لتلاعب مزودي البيانات الذي يتضمن مزودين خفيين، وهويات مُبلغ عنها، وهجمات التحويل.
نظرية الاستحالة: إثبات أنه لا توجد آلية يمكن أن تكون عادلة تماماً وفق "شابلي" على الهيات المُبلغ عنها ومقاومة للأسماء المستعارة بشكل غير مقيد في آن واحد.
آلية القيم شبه الجزئية للناتج القسمي: حل بنائي يحسب القيم شبه الجزئية فوق عناقيد مدعومة بالأدلة باستخدام مشغل ممثل نموذجي.
الضمانات النظرية:
- مقاومة الأسماء المستعرفة الدقيقة: تتحقق تحت التلاعبات "المستقرة في الناتج القسمي" (حيث لا يستطيع المهاجم الهروب من عنقوده الصادق أو تغيير الممثل النموذجي) والتخصيص المحايد للأسماء المستعارة.
- الضمانات التقريبية: حدود لربح التلاعب وفقدان العدالة من حيث ثلاثة كميات قابلة للقياس: كتلة العنقود المهربة (المتغيرات التي تشكل عناقيد جديدة)، خطأ تقدير القيمة، ومسافة التجميع (الانحراف في الممثل).
DataMarket-Gym: معيار جديد لتقييم آليات الإسناد تحت هجمات المزود الاستراتيجية، يغطي النسخ المتطابقة تماماً، والنسخ شبه المتطابقة، وغسل البيانات الاصطناعية، وتقسيم Sybil.

4. النتائج التجريبية

قيم المؤلفون الآلية على مجموعات بيانات اصطناعية وحقيقية (CIFAR-10، AG News، STL-10، IMDB).

التصنيف الاصطناعي:
- أظهر نموذج "شابلي" الأساسي على الهويات الخام ربح تلاعب قدره 1.74 في هجمات النسخ المكررة/Sybil.
- قلل "شابلي الناتج القسمي" مع دليل على مستوى المثال (تشابه جيب التمام $\theta=0.99$ ) هذا الربح إلى 0.96، مما أدى فعلياً إلى تحييد الهجوم والعودة إلى المستويات القريبة من الحالة الصادقة.
- الآلية قوية تجاه اختيار نوع القيمة شبه الجزئية (Shapley، Banzhaf، Beta-Shapley).
حساسية العتبة:
- عتبة تشابه جيب التمام $\theta$ حاسمة. العتبة المنخفضة جداً تسبب "دمجاً خاطئاً" (تجميع مزودين مستقلين معاً)، مما قد يضخم مكاسب Sybil. العتبة العالية جداً تفشل في كشف النسخ شبه المتطابقة.
- تحدد الورقة انعكاساً خاصاً بالمجال:
  - في مجالات الصور (CIFAR-10)، تؤدي المعايير العالية إلى تشابهات زوجية عالية؛ لذا يلزم عتبة أكثر صرامة ( $\theta \ge 0.90$ ) لمنع هجمات التسلسل (chaining attacks).
  - في مجالات النصوص (AG News)، تكون تضمينات العناصر الموحدة معيارياً ذات تشابهات زوجية أقل؛ لذا فإن العتبة الأكثر تساهلاً ( $\theta \le 0.90$ ) هي المثلى، حيث تفشل العتبات الصارمة في ربط المتغيرات شبه المتطابقة.
- يمكن التنبؤ بالعتبة المثلى من إحصائيات التضمين (p90 للتشابه الزوجي وكسر المكون المختلط في الأرضية التسلسلية).
النقل إلى العالم الحقيقي:
- تنتقل الآلية إلى خطوط أنابيب الميزات المجمدة (ResNet-18، MiniLM) دون الحاجة لوصول "أوراكل"، مما يؤكد جدواها العملية.
- تظل هجمات التقسيم الصرف (بيانات منفصلة بلا أي تداخل) غير محمية بمجرد دليل التشابه، مما يتطلب إثبات أصل غير متعلق بالمثال (مثل ربط الحسابات أو معرفة العميل - KYC).

5. الأهمية والادعاءات

تدعي الورقة أن إسناد البيانات العادل وفق "شابلي" ليس متوافقاً تلقائياً مع الحوافز عندما تكون الهيات متغيرة. تكمن أهمية العمل في:

نقل العبء الاستراتيجي: نقل وحدة الإسناد من الهيات القابلة للتغيير إلى عناقيد مدعومة بالأدلة، مما يسمح بمقايضة محكومة بين عدالة أسلوب "شابلي" ومقاومة هجمات Sybil.
الإمكانية المشروطة: بينما يستحيل تحقيق عدالة "شابلي" التامة تحت التلاعب غير المقيد، تستعيد آلية الناتج القسمي "مقايضة محكومة" عندما يمكن لإشارات التشابه والأصل دمج المتغيرات المتلاعب بها في نفس الوحدة.
النشر العملي: الآلية "محايدة تجاه القيمة شبه الجزئية"، مما يعني إمكانية نشرها مع مختلف خلفيات التقييم (Shapley، Banzhaf، إلخ) وهي قوية تجاه ضوضاء التقدير.
التكامل: يكمل هذا النهج الأعمال الحالية حول "قيم مجموعة شابلي المخلصة" (التي تدافع ضد تجميع مجموعات البيانات الثابتة عبر شركات وهمية) من خلال معالجة بناء وحدة الإسناد نفسها عندما يمكن تغيير محتوى البيانات (تكرار، إعادة صياغة، تصنيع).

يخلص المؤلفون إلى أن وحدة الإسناد هي خيار في تصميم الآليات، وأن القيم شبه الجزئية للناتج القسمي توفر إطاراً قوياً لأسواق البيانات حيث يكون المزودون استراتيجيين.