🤖 machine learning

A Benchmark for Strategic Auditee Gaming Under Continuous Compliance Monitoring

تقدم هذه الورقة معياراً وإطاراً رسمياً لتحليل التلاعب الاستراتيجي من جانب الجهات الخاضعة للتدقيق في ظل المراقبة المستمرة للامتثال، مما يكشف عن القيود المتأصلة في تصميمات التدقيق الثابتة ويوضح كيف يمكن للاستراتيجيات التكيفية استغلال الفجوات الزمنية في التغطية ودقة التفاصيل.

المؤلفون الأصليون: Florian A. D. Burnat, Brittany I. Davidson

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Florian A. D. Burnat, Brittany I. Davidson

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل لعبة "غميضة" (Hide and Seek) تُلعب بين مُنظّم (الباحث عن المختبئ) وشركة تقنية (المختبئة). ولكن بدلاً من الاختباء خلف شجرة، تحاول الشركة إخفاء الأداء الحقيقي لنظام الذكاء الاصطناعي الخاص بها.

تقدم هذه الورقة البحثية طريقة جديدة لدراسة كيف يمكن للشركات أن تحاول "التلاعب" (الخداع) بهؤلاء المُنظمين عندما تتطلب القواعد فحصهم بشكل مستمر عبر الزمن، وليس لمرة واحدة فقط.

إليك تفصيل أفكار الورقة باستخدام تشبيهات بسيطة:

1. القواعد الجديدة للعبة

في الماضي، درس الباحثون في الغالب ألعاب "المرة الواحدة": تقدم الشركة تقريراً، ويقوم المدقق بفحصه مرة واحدة. لكن القوانين الجديدة (مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي) تنص على وجوب تقديم الشركات لتقارير حول سلوك الذكاء الاصطناعي الخاص بها كل ستة أشهر لسنوات عديدة.

هذا يخلق مشكلة جديدة: يمكن للشركة أن تتكيف. يمكنها الانتظار حتى لا يكون المدقق ينظر، أو يمكنها تغيير الأرقام قليلاً لتبدو جيدة. تعامل الورقة هذا كـ "لعبة استراتيجية" حيث تحاول الشركة إيجاد "الثغرات" في جدول المدقق الزمني.

2. خمس طرق تحاول الشركات من خلالها الغش

أنشأ المؤلفون محاكياً يتضمن خمس "استراتيجيات غش" محددة قد تستخدمها الشركات:

تكتيك "التأخير": تنشر الشركة أخباراً قديمة. إذا ساءت الأمور الشهر الماضي، فإنهم ينتظرون حتى التقرير التالي للإقرار بذلك، آملين أن يكون المنظم قد انتقل بالفعل إلى موضوع آخر.
تكتيك "الانحراف": تضيف الشركة كذبة صغيرة ومتسقة في كل تقرير (على سبيل المثال، القول بأن ذكاءهم الاصطناعي أكثر عدلاً بنسبة 5% مما هو عليه في الواقع). هي كذبة صغيرة بما يكفي لتبدو كضجيج طبيعي.
تكتيك "انتقاء النتائج": تقوم الشركة بإجراء الاختبار 5 مرات وتقوم فقط بالإبلاغ عن النتيجة الأفضل، وتخفي المرات الأربع التي فشلت فيها.
تكتيك "الاستنزاف" (التكتيك الماكر): هذا هو الاكتشاف الكبير للورقة. عندما تسوء الأمور، تقوم الشركة بتقليص حجم البيانات التي تعرضها عليك.
- تشبيه: تخيل معلماً يطلب من طالب عرض واجب الرياضيات الخاص به. عادة ما يعرض الطالب 1,000 مسألة. ولكن عندما يحصل على درجة سيئة، يعرض 100 مسألة فقط. ولأن العينة صغيرة جداً، تصبح "قدرة المعلم على تحمل الخطأ" أوسع. يمكن للطالب الآن إخفاء خطأ كبير داخل تلك العينة الصغيرة والضبابية، ولن يكتشفه المعلم.
تكتيك "الانحراف خارج وقت التدقيق" (الخداع الأكبر): تعرف الشركة بالضبط متى سيأتي المدقق (لأن المدقق يجب أن يلتزم بجدول زمني مسبق). لذا، تتصرف الشركة بشكل مثالي في أيام التدقيق وتغش في كل يوم آخر.

3. "نظام التغطية" (الفخ)

وجد المؤلفون خللاً هيكلياً في كيفية عمل معظم المدققين. أطلقوا عليه اسم "نظام التغطية" (Cover Regime).

تخيل حارس أمن يفحص سياجاً.

إذا فحص الحارس كل نقطة في السياج، يمكن للسارق الاختباء في بقعة صغيرة وضبابية (تكتيك "الاستنزاف") حيث تكون رؤية الحارس ضبابية جداً بحيث لا يرى السرقة.
إذا فحص الحارس بعض النقاط فقط (مثل كل ثالث نقطة)، يمكن للسارق الاختباء في الفجوات بين عمليات الفحص (تكتيك "الانحراف خارج وقت التدقيق").

الحقيقة المرة: لا يمكنك إصلاح كلا المشكلتين في وقت واحد بقاعدة بسيطة وثابتة. إذا فحصت بشكل متكرر أكثر، ستترك نفسك عرضة لتكتيك "العينة الصغيرة". وإذا طالبت بعينات أكبر، فقد تفوتك حيلة "الاختباء في الفجوات".

4. "إصلاحان جزئيان"

تختبر الورقة قاعدتين جديدتين لمعرفة ما إذا كانتا تستطيعان حل المشكلة. إنهما تعملان، ولكن على جانب واحد فقط من الفخ:

الإصلاح (أ) (قاعدة "الحد الأدنى للحجم"): يقول المدقق: "لن أقبل التقارير إلا إذا كانت تحتوي على 500 نقطة بيانات على الأقل".
- النتيجة: هذا يوقف تكتيك "الاستنزاف" (لا يمكن للسارق تقليص العينة بعد الآن). لكنه لا يوقف السارق من الاختباء في الفجوات بين أيام التدقيق.
الإصلاح (ب) (قاعدة "الاشتباه"): يقول المدقق: "إذا رأيت رقماً غريباً لمرة واحدة، فسأقوم بالفحص في كل يوم بعد ذلك".
- النتيجة: هذا يوقف تكتيك "الانحراف" (يتم الإمساك بالسارق بسرعة). لكنه لا يوقف تكتيك "الاستنزاف" لأن السارق يخفي الأرقام السيئة داخل عينة صغيرة وضبابية، لذا لن يصبح المدقق مرتاباً بما يكفي لتصعيد الأمر.

الخلاصة: لا يوجد إصلاح يحل كل شيء. أنت بحاجة إلى مدقق أكثر ذكاءً وتكيفاً لهزيمة شركة ذكية وغاشة.

5. التكلفة الخفية (الرفاهية مقابل التغطية)

تقدم الورقة طريقة جديدة لقياس الضرر. عادة ما نجمع كل الأشياء السيئة فقط. لكن هنا، قاموا بتقسيمها إلى سلتين:

الضرر المرئي: الأشياء السيئة التي تحدث في التقارب التي يراها المدقق.
الضرر غير المرئي: الأشياء السيئة التي تحدث في البيانات التي لا يراها المدقق (لأن الشركة قلصت العينة).

النتيجة الصادمة: عندما تستخدم الشركة تكتيك "الاستنزاف"، ينخفض "الضرر المرئي" إلى الصفر تقريباً (يعتقد المدقق أن كل شيء على ما يرام). ولكن "الضرر غير المرئي" يرتفع بشكل هائل. الضرر الإجمالي في الواقع يزداد، لكنه ينتقل من مكان يمكن للمنظم رؤيته إلى مكان لا يمكنه رؤيته. الأمر يشبه قيام شركة بتنظيف الحديقة الأمامية بينما تحترق الحديقة الخلفية؛ يرى المفتش حديقة جميلة ويعتقد أن المنزل آمن.

ملخص

تبني هذه الورقة محاكي ألعاب فيديو للمنظمين. وهي توضح أنه في عالم المراقبة المستمرة، يمكن هزيمة القواعد البسيطة بسهولة من قبل الشركات الذكية. إنها تثبت أنه لا يمكنك مجرد الفحص بشكل متكرر أو المطالبة بعينات أكبر؛ بل تحتاج إلى استراتيجية ديناميكية تتكيف مع سلوك الشركة، وإلا فإن الضرر سينتقل ببساطة من العالم "المرئي" إلى العالم "غير المرئي".

ملخص تقني: معيار لتقييم ألعاب الخاضعين للتدقيق الاستراتيجي تحت المراقبة المستمرة للامتثال

بيان المشكلة

تفرض اللوائح الناشئة، وتحديداً قانون الذكاء الاصطناعي في الاتحاد الأوروبي (EU AI Act) وقانون الخدمات الرقمية (DSA)، مراقبة مستمرة للامتثال لما بعد النشر لأنظمة الذكاء الاصطناعي والمنصات عبر الإنترنت الكبيرة. وخلافاً للأعمال السابقة حول التصنيف الاستراتيجي وألعاب التدقيق، والتي عادة ما تنمذج التفاعلات كعمليات أحادية الجولة، فإن هذه الأنظمة الجديدة تخلق علاقة تدقيق طولية. في هذا السياًق، تقوم الشركة المنظمة (الخاضعة للتدقيق) بالإبلاغ عن مقاييس النتائج عبر جولات متعددة، بينما يختار المدقق (المنظم) الجولات التي سيقوم بفحصها بناءً على سياسة زمنية.

تحدد الورقة فجوة حرجة: الأدبيات الحالية تفترض إلى حد كبير أن الخاضعين للتدقيق هم "أشخاص أمناء ولكن فضوليون" أو تركز على تفاعلات الجولة الواحدة. وهي تفشل في نمذجة كيف يمكن لخاضع للتدقيق متكيف، يمتلك سلطة تقديرية في توقيت الإبلاغ، وتعريف المقاييس، وتغطية السكان، أن "يتلاعب" استراتيجياً بنظام تدقيق مستمر. تشير الأدلة التجريبية من قاعدة بيانات الشفافية الخاصة بقانون الخدمات الرقمية (DSA) بالفعل إلى وجود تناقضات في تقارير الإشراف و"نقاط عمياء للتدقيق" ناتجة عن قيود واجهة برمجة التطبيقات (API)، مما يشير إلى أن التكيف الاستراتيجي هو ظاهرة واقعية تتطلب تحليلاً رسمياً.

المنهجية

يصيغ المؤلفون عملية التدقيق المستمر للامتثال كـ لعبة ستيكلبرج (Stackelberg game) مكونة من $T$ من الجولات:

المدقق (القائد): يلتزم بسياسة زمنية $\pi$ عند الزمن $t=0$ (على سبيل المثال، جدول زمني ثابت أو توزيع عشوائي) يحدد الجولات التي سيتم تدقيقها. تعتمد قاعدة القرار بشأن الجولات المدققة على عتبة من نوع "والد" (Wald-style) مدركة للضوضاء، حيث يتسع نطاق القبول مع صغر حجم العينة ( $n_t$ ) لمراعاة عدم اليقين الإحصائي.
الخاضع للتدقيق (التابع): يراقب سياسة المدقق الملتزم بها ويختار مقياساً مُبلغاً عنه $\hat{m}_t$ وحجم عينة $n_t$ لكل جولة. يمكن للخاضع للتدقيق تكييف استراتيجياته بناءً على جدول التدقيق وسجل الكشف.

الأداة المعيارية (Benchmark Artifact)

لدعم الدراسة التجريبية، يساهم المؤلفون بمحاكي بلغة بايثون قابل لإعادة الإنتاج يتميز بـ:

خمس استراتيجيات للخاضعين للتدقيق:
- التأخير (Delay): تأخير التحولات غير المواتية في المقاييس.
- الانحراف (Drift): إضافة انحياز ثابت للمقياس الحقيقي.
- انتقاء العينات (Cherry-pick): اختيار القيمة القصوى من بين $K$ من التقديرات العشوائية للمقياس.
- الاستنزاف (Attrition): تقليل حجم العينة ( $n_t$ ) عندما تكون المقاييس غير مواتية لتوسيع نطاق تحمل الضوضاء لدى المدقق، مع تطبيق انحراف طفيف.
- الانحراف خارج التدقيق (OffAuditDrift): استراتيجية مدركة للتدقيق تبلغ عن المقاييس بأمانة في الجولات المدققة وتستخدم الانحراف في جميع الجولات الأخرى، مستغلةً جدول المدقق الملتزم به.
خمس سياسات للمدقق:
- الخطوط المرجعية الثابتة (Static Baselines): جولة واحدة، دوري، وعشوائي مجدول.
  ated التوسعات: حد أدنى لحجم العينة (فرض حد أدنى لـ $n_t$ ) وتصعيد الاشتباه (زيادة وتيرة التدقيق بناءً على الفجوات المرصودة).
مقاييس التقييم:
- فجوة التلاعب (G): متوسط الفرق بين المقاييس المبلغ عنها والحقيقية في الجولات المدققة.
- وقت الكشف ( $\tau_d$ ): عدد الجولات حتى يتم رصد الفجوة.
- تفكيك الضرر (Harm Decomposition): تقسيم غير تراكمي لـ خسارة الرفاهية (W) (الضرر الواقع على الأفراد داخل التقرير الذي تم التحقق منه في الجولات غير المدققة) و خسارة التغطية (C) (الضرر الواقع على الأفراد المستبعدين من التقرير بسبب استنزاف العينات).

المساهمات الرئيسية

1. صياغة التدقيق المستمر (C1)

تضع الورقة المكمل الطولي للتصنيف الاستراتيجي ذو الجولة الواحدة، حيث تنمذج التفاعل كلعبة ستيكلبرج مكونة من $T$ من الجولات حيث يمتلك الخاضع للتدقيق سلطة تقديرية في التوقيت، والتعريفات، والتغطية.

2. تفكيك الضرر غير التراكمي (C2)

يقدم المؤلفون إطاراً يفصل الضرر إلى $W$ (السطح المدقق) و $C$ (السطح المستبعد). ويجادلون بأن هذه ليست مجرد عناصر مضافة لإجمالي الخسارة؛ بل إن الهدف الاستراتيجي غالباً ما يكون إعادة تخصيص الضرر من السطح المسؤول عنه المنظم ( $W$ ) إلى السطح غير المرئي للمنظم ( $C$ ). الاستنزاف لا يقلل بالضرورة من إجمالي الضرر؛ بل ينقله إلى مجال "غير مرئي للمنظم".

3. ملاحظة نظام الغطاء (C3)

تحدد الملاحظة 4.1 مقايضة هيكلية في أي تصميم مدقق ثابت مدرك للضوضاء (نظام الغطاء). بالنسبة لفترة محددة من قيم الانحراف ( $\Delta$ )، تواجه سياسة التغطية الزمنية الثابتة مقايضة ملزمة:

فشل التغطية: إذا لم تكن مجموعة التدقيق شاملة ( $\mathcal{A}_\pi \subsetneq \{0, \dots, T-1\}$ )، يمكن للخاضع للتدقيق استخدام الانحراف في الجولات غير المدققة دون اكتشافه.
فشل الدقة: إذا كانت مجموعة التدقيق شاملة، يمكن للخاضع للتدقيق تقليل حجم العينة ( $n_t$ ) لتوسيع نطاق الضوضاء، مما يسمح بانحراف ضمن "نظام الغطاء" بالإفلات من الكشف.
تثبت الملاحظة أن السياسة الثابتة لا يمكنها سد الفجوتين في آن واحد. وهي تحدد قاعدة الحد الأدنى لحجم العينة (Min-sample floor) و سياسة مشروطة بالتاريخ (Suspicion-escalation) كمخرجين متعامدين من هذا النظام.

4. التحقق التجريبي (C4)

باستخدام معاملات تمت معايرتها وفقاً لإحصائيات قاعدة بيانات شفافية DSA، يوضح المحاكي:

تأثير الاستنزاف: استراتيجية الاستنزاف تقلل $W$ بنسبة ~90% بينما تخلق $C$ كبيرة، مما يخفي الضرر عن المنظم بفعالية.
المخارج المتعامدة: سياسة الحد الأدنى لحجم العينة تنجح في كشف استراتيجية الاستنزاف (سد فشل الدقة) لكنها تفشل ضد الانحراف خارج التدقيق (فشل التغطية). وعلى العكس من ذلك، تكتشف سياسة تصعيد الاشتباه استراتيجية الانحراف البسيطة بشكل أسرع لكنها تفشل ضد الاستنزاف.
الاستغلال المدرك للتدقيق: استراتيجية الانحراف خارج التدقيق تهزم جميع السياسات الثابتة عبر الإبلاغ بأمانة فقط في الجولات المدققة، مما يؤكد حالة "فشل التغطية".

5. المعايرة وإعادة الإنتاج (C5)

تمت معايرة المعيار باستخدام الإحصائيات الملخصة من عمليات تدقيق DSA المنشورة (مثل أغلفة الانحراف، ونسب حجم العينة) وهو متوفر كحزمة قابلة للتثبيت عبر pip مع بذور حتمية وواجهة بايثون بسيطة وقابلة للتوسع.

النتائج والأهمية

تزعم الورقة أن التدقيق المستمر يخلق فئة متميزة من التلاعب الاستراتيجي حيث يمكن للخاضع للتدقيق استغلال الطبيعة الطولية للعلاقة لنقل الضرر من الأسطح المرئية إلى الأسطح غير المرئية.

القصور الهيكلي: يوضح "نظام الغطاء" أن السياسات الزمنية الثابتة معرضة للخطر بطبيعتها. زيادة وتيرة التدقيق لا يحل فشل الدقة (التلاعب بحجم العينة)، وفرض أحجام العينات لا يحل فشل التغطية (التلاعب بالتوقيت الاستراتيجي).
التكيف الاستراتيجي: تثبت استراتيجية الانحراف خارج التدقيق أنه إذا التزم المدقق بجدول زمني حتمي أو عشوائي معروف، يمكن للخاضع للتدقيق العقلاني ضمان صفر كشف في الجولات المدققة مع تعظيم الضرر في الجولات غير المدققة.
الآثار السياساتية: تشير النتائج إلى أن التدقيق المستمر الفعال يتطلب تجاوز الجداول الزمنية الثاتبة. تقترح الورقة أن قيود حجم العينة و التصعيد المشروط بالتاريخ هي توسعات دنيا ضرورية، رغم أن أياً منها ليس كافياً بمفرده ضد خصم متكيف بالكامل.

تكمن أهمية العمل في توفير أول بيئة قابلة للتشغيل ومبنية على نظرية الألعاب لاختبار الفرضيات حول سلوك الخاضع للتدقيق المتكيف في السياقات التنظيمية، متجاوزة افتراض "الأمانة والفضول" السائد في أدبيات عدالة الذكاء الاصطناعي الحالية. وهي تسلط الضوء على أنه بدون آليات تدقيق متكيفة، قد يخلق الامتثال المستمر شعوراً زائفاً بالأمان بينما يتم إعادة تخصيص الضرر بشكل منهجي نحو الفئات غير المراقبة.