An Empirical Audit of k-NAF Budget Accounting for Anchored Decoding

ملخص تقني: تدقيق تجريبي لمحاسبة ميزانية k-NAF لفك التشفير المرتكز (Anchored Decoding)

بيان المشكلة
تتناول هذه الورقة الصلاحية التجريبية لـ فك التشفير المرتكز (Anchored Decoding)، وهي آلية مصممة لفرض "القرب من خلو الوصول" (k-NAF) في النماذج التوليدية. الهدف الجوهري لفك التشفير المرتكز هو الحد من التباعد بين فك تشفير محكوم (مدرب على بيانات قد تكون محمية بحقوق الطبع والنشر) ونموذج مرجعي آمن محدد (مدرب بدون مثل هذه البيانات). ويتم تفعيل ذلك من خلال فرض ميزانية "كلينبلر-ليبلر" (KL) على مستوى التسلسل، $K = kT_{max}$، عبر تكوين من القيود المحلية لكل رمز (token).

السؤال المركزي الذي يتم استقصاؤه هو ما إذا كان التنفيذ الملموس لهذه الآلية يحقق بالفعل سلوك المحاسبة المقصود تحت أعباء عمل واقعية وظروف عدائية ضاغطة. وبشكل أدق، هل يمكن إجبار فك التشفير على استنفاد ميزانيته، أو هل يتصرف نظام المحاسبة (تحديداً الوكيل المستند إلى "بيرنستاين" التجريبي المستخدم لتقدير الإنفاق) بشكل موثوق في ظل ظروف العينات الصغيرة؟

المنهجية
يستخدم التدقيق تصميماً ذا مرحلتين يحاكي الفصل بين "المختبِر" و"الواجد" المستخدم في تدقيق الخصوصية التفاضلية:

1. المرحلة الأولى: التقييم التشخيصي لحمل العمل الثابت

• النطاق: حوالي 8,500 تنفيذ عشوائي عبر ست فئات من المطالبات (محايدة، تحقق، اختبار، هجوم تدريبي، واقعية، إبداعية) باستخدام قيمتين لمعامل ميزانية الرمز الواحد $k \in \{3, 5\}$ (مع $T_{max}=200$).
• المقاييس: تسجل الدراسة الإنفاق المحلي لـ KL في كل خطوة وتجمعه لحساب وكيل الإنفاق التراكمي، وهو UEBB (الحد العلوي لبيرنستاين التجريبي). يجمع هذا الوكيل بين المتوسط العيني، وحداً للتباين، وحداً حتمياً يعتمد على النطاق الفعال ($R_{eff}$) وحجم العينة ($M$).
• الضوابط: تستخدم عمليات التنفيذ دفعات من الأرقام العشوائية المشتركة لضمان دقة التشخيصات المرتبطة بالبروتوكول. كما يتم حساب مقاييس التداخل (ROUGE-L و 5-gram Jaccard) مقابل المراجع المتاحة لقياس نسخ الصيغة السطحية.

2. المرحلة الثانية: البحث العدائي التكيفي

• الهدف: تعظيم نسبة وكيل الإنفاق $\rho = \text{UEBB} / B_{eff}$، حيث $B_{eff}$ هي الميزانية الفعالة المتبقية.
• العملية: يقترح نموذج مُحسِّن مطالبات مرشحة، يتم ترتيبها بواسطة بديل متعلم (شبكة MLP فوق تضمينات Sentence-T5 و TF-IDF). يستخدم البحث تقييماً متعدد الدقة: تبدأ المطالبات بتخصيص أدنى قدره $N=4$ من المسارات. يحدد "اختبار الناجين" ما إذا كانت المطالبات ستخضع لعملية "تعزيز" لتخصيصات أكبر (تصل إلى $N=20$ أو $30$) بناءً على ما إذا كان UEBB الحالي يظل تحت عتبة معينة من الميزانية.
• اختبار الإجهاد: يستمر البحث لأربعة أجيال لتحديد المطالبات التي تدفع نسبة الوكيل لتقترب من أو تتجاوز الواحد الصحيح.

المساهمات الرئيسية

1. تدقيق حمل العمل الثابت: يثبت أنه تحت حمل عمل ثابت ومصنف طبقياً، يظل متوسط الإنفاق التراكمي لـ KL أقل بكيد من ميزانيات مستوى التسلسل المكونة ($K \in \{600, 1000\}$)، حيث يشغل عادةً $\approx 30\%$ فقط من الميزانية. يظل وكيل بيرنستاين التجريبي (UEBB) تحت $K$ لجميع الفئات، ومقاييس التداخل السطحي منخفضة.
2. نتائج البحث التكيفي: نجح إجراء البحث في رفع نسبة وكيل الإنفاق إلى $\rho \approx 0.988$ عند $k=3$ وإلى $\rho \approx 0.760$ عند $k=5$. ومع ذلك، لم ينتج البحث مطالبات تؤدي بوضوح إلى استنفاد الميزانية من منظور المسار الواحد.
3. تشخيص آثار الوكيل: حددت الورقة أن "الانتهاكات" الظاهرية (حيث $\rho > 1$) التي لوحظت في حمل عمل خاص بنطاق حقوق الطبع والنشر في مجموعة محجوزة عند $k=3$ هي آثار ناتجة عن وكيل بيرنستاين التجريبي في ظل أحجام العينات الصغيرة ($N=4$).
   • عند $N=4$، يهيمن الحد الحتمي في حد بيرنستاين على عملية الحساب، مما يؤدي لتضخيم تقدير UEBB حتى عندما يكون متوسط الإنفاق منخفضاً.
   • إعادة تقييم هذه المطالبات ذاتها بتخصيصات أكبر ($N=20$) أو بميزانية أعلى ($k=5$) أدى إلى انهيار النسبة إلى $\rho \in [0.26, 0.40]$، مما يؤكد أن فك التشفير لم يتجاوز ميزانيته فعلياً.

النتائج

• فائض الميزانية: في حمل العمل الثابت، يكون متوسط الإنفاق باستمرار $\lesssim 0.3K$. وحتى مع استخدام معامل نطاق محافظ، يظل UEBB تحت $K$.
• التداخل السطحي: سجلت درجات ROUGE-L قيم $\le 0.20$ ودرجات 5-gram Jaccard قيم $\le 0.05$، مما يشير إلى محدودية النسخ الحرفي في حمل العمل الثابت.
• أثر "الانتهاك": أظهرت ثلاث مطالبات في المجموعة المحجوزة أن $\rho > 1$ عند $k=3$. كشف التحليل أن:
  • متوسط الإنفاق كان $\approx 180-200$ (أقل بكثير من $K=600$).
  • الحد الحتمي لبيرنستاين وحده كان مسؤولاً عن 71-97% من الميزانية الفعالة عند $N=4$.
  • زيادة $N$ إلى 20 أو مضاعفة $K$ إلى 1000 ($k=5$) عالج "الانتهاك"، مما أعطى $\rho < 0.5$.
• محدودية البحث: لم يحسن البحث العدائي من المطالبات الأولية بشكل كبير. ظل الحد الأقصى للأرشيف عند $k=3$ ثابتاً منذ الجيل الأول، مما يشير إلى أن البديل (Surrogate) قد وصل لحالة التشبع وأن البحث كان مدفوعاً بجودة البذور بدلاً من التحسين.

الأهمية والادعاءات
تخلص الورقة إلى أن تنفيذ فك التشفير المرتكز يظهر فائضاً جوهرياً بالنسبة لميزانياته المكونة ولا يفشل في ظل الظروف المختبرة. تكمن الأهمية الأساسية لهذا العمل في كونه تشخيصاً لمنهجية التدقيق نفسها:

• الوكيل مقابل الآلية: تميزت الدراسة بين سلوك آلية فك التشفير وسلوك الوكيل الإحصائي المستخدم لتدقيقها. لم تكن "الانتهاكات" دليلاً على استنفاد الميزونة من قبل فك التشفير، بل كانت دليلاً على فشل الوكيل في أن يكون دقيقاً (Tight) تحت تخصيص العينات الصغيرة ($N=4$).
• توصيات البروتوكول: يقترح المؤلفون تعديلات محددة على البروتوكول لمنع مثل هذه الآثار في عمليات التدقيق المستقبلية:
  1. فرض حد أدنى لحجم العينة (مثلاً $N \ge 20$) للمطالبات ذات نسب الإنفاق الأولية العالية.
  2. الإبلاغ عن عرض حد بيرنستاين جنباً إلى جنب مع التقدير النقطي للإشارة إلى عدم اليقين.
  3. استخدام معاملات نطاق تعتمد على البيانات ($R_{eff}$) بدلاً من الحدود القصوى المحافظة.
  4. ضمان مطابقة القدرات بين المرساة الآمنة والهدف المحفوف بالمخاطر لتجنب الخلط بين فجوات القدرة وبين تباعد الحفظ (Memorization Divergence).

يصرح المؤلفون صراحةً أن هذا تدقيق تجريبي وليس تحققًا رسميًا، وأن النتائج تسلط الضال على ضرية المعايرة الدقيقة للوكيل عند تقييم آليات السلامة تحت أخذ العينات التكيفي.