ملخص تقني: عينات WorldCup للعلامات المائية متعددة البتات لنماذج اللغات الكبيرة (LLM)

بيان المشكلة

مع تزايد إنتاج نماذج اللغات الكبيرة (LLMs) لنصوص يصعب تمييزها عن الكتابة البشرية، أصبحت قضايا الإسناد والتعقب الموثوقة تحديات بالغة الأهمية. وبينما تنجح العلامات المائية صفرية البت في اكتشاف النصوص المولدة آلياً، إلا أنها تفتقر إلى القدرة على تضمين بيانات وصفية غنية للمصدر (مثل هوية النموذج والطوابع الزمنية). تحاول طرق العلامات المائية متعددة البتات الحالية توسيع نطاق أنظمة الصفر بت عبر تضمين الرسائل في عملية التوليد العشوائية. ومع ذلك، تعتمد هذه الأساليب عادةً على انحيازات اللوجيت الثابتة (static logit perturbations) وفك التشفير القائم على العد (counting-based decoding). وتعاني هذه التصاميم من قصورين رئيسيين:

1. تدهور جودة النص: تتداخل انحيازات اللوجيت الثابتة مع ديناميكيات التوليد الطبيعية، لا سيما مع زيادة سعة الحمولة، مما يؤدي إلى انخفاض السلاسة.
2. متانة دون المستوى الأمثل: يعامل فك التشفير القائم على العد الرموز (tokens) كنتائج ثنائية منفصلة ذات وزن متساوٍ، مما يخلق عدم توافق بين التضمين الاحتمالي الناعم والتجميع الصلب. ويؤدي هذا إلى توازن ضعيف بين سعة الرسالة ومتانة فك التشفير، خاصة تحت الهجمات أو مع الرموز ذات الإنتروبيا المنخفضة.

المنهجية: إطار عمل WorldCup

يقترح المؤلفون WorldCup، وهو إطار عمل للعلامات المائية متعددة البتات يعيد تصور عملية أخذ عينات LLM كقناة اتصال مهيكلة. بدلاً من انحياز اللوجيت الثابت، يدمج WorldCup تشفير الرسالة مباشرة في اختيار الرمز عبر آلية منافسة هرمية.

1. التشفير: أخذ عينات البطولة الهرمية (Hierarchical Tournament Sampling)

يعمل WorldCup على نمذجة توليد رمز واحد كبطولة متعددة الجولات:

• اختيار المرشحين: عند كل خطوة توليد $t$، يتم أخذ عينات من $N^m$ من الرموز المرشحة من توزيع النموذج $P_\Theta$.
• دوال قيم $g$ المتكاملة: لتشفير بت الرسالة، يستخدم إطار العمل عائلتين من الدوال شبه العشوائية، $g_0$ و $g_1$. ومن الأهمية بمكان أنها مصممة كـ أزواج متكاملة ($g_1 = 1 - g_0$). وهذا يستحث ارتباطاً عكسياً تاماً، مما يدفع التوزيعات الإحصائية للرموز التي تشفر '0' و '1' إلى أطراف متقابلة، وبالتالي تعظيم القدرة على التمييز.
• عملية البطولة: يتم تجميع المرشحين ومقارنتهم طبقة تلو الأخرى باستخدام عائلة دالة قيمة $g$ المختارة. يتقدم الرمز صاحب أعلى درجة في كل مجموعة إلى الطبقة التالية حتى يتبقى "بطل" واحد.
• التضمين العام متعدد البتات: لزيادة السعة، يعمم الإطار العمل إلى $k$ من مجموعات دوال قيمة $g$، مما يسمح لرمز واحد بتشفير $k$ من البتات في وقت واحد.
• التعديل الواعي بالإنتروبيا: لموازنة القدرة على الكشف مع جودة النص، يقدم WorldCup عامل ضبط ديناميكي $\lambda$ بناءً على الإنتروبيا المحلية لتوزيع مخرجات النموذج. تسمح المواضع ذات الإنتروبيا العالية (غير المؤكدة) بفصل أقوى للعلامة المائية، بينما تستخدم المواضع ذات الإنتروبيا المنخفضة (عالية الثقة) تعديلاً متحفظاً للحفاظ على السلاسة.

2. فك التشفين: التجميع الواعي بالثقة (Confidence-Aware Aggregation)

ينفصل WorldCup عن الكواشف التقليدية القائمة على العد عبر استخدام استراتيجية فك تشفير واعية بالثقة:

• التجميع الناعم (Soft Aggregation): بدلاً من رسم خرائط الرموز بشكل منفصل إلى نتائج ثنائية، يقوم فك التشفير بتجميع درجات الرموز الدقيقة عبر المجموعات المرتبطة بنفس موضع الرسالة.
• توزين الموثوقية: تحسب الطريقة متوسط قيم $g$ التجريبي لكل مجموعة رموز. ومن خلال مقارنة درجات الدوال المتكاملة ($g$ مقابل $\bar{g}$)، يستنتج فك التشفير البتات المضمنة. وتزن هذه الطريقة الأدلة بناءً على موثوقيتها الإحصائية، مما يخفف من التأثير غير المتناسب للرموز ذات الإنتروبيا المنخفضة التي غالباً ما تربك الطرق القائمة على العد.
• اختبار الفرضية: يتم تأطير الكشف كاختبار فرضية باستخدام درجة $z$-standardized مشتقة من الإحصائيات التراكمية الواعية بالموضع.

المساهمات الرئيسية

يحدد البحث ثلاث مساهمات رئيسية:

1. إطار عمل WorldCup: نظام علامة مائية متعدد البتات متعدد الاستخدامات تم التحقق من صحته من خلال التحليل النظري والتقييم التجريبي المكثف، والذي ينمذج أخذ العينات كقناة اتصال مهيكلة.
2. فك التشفير الواعي بالثقة: نموذج فك تشفير جديد يستبدل العد الصلب بالتجميع الناعم الموزون بالموثوقية، مما يحسن بشكل كبير من دقة وكفاءة فك التشفير.
3. التحليل المنهجي: فحص شامل لمكونات التصميم (مثل قيم $g$ المتكاملة، وتعديل الإنتروبيا، والمعلمات الفائقة)، مما يوفر رؤى قابلة للتطبيق للأبحاث المستقبلية.

النتائج التجريبية

قيم المؤلفون WorldCup على نماذج LLaMA3-8B و Gemma2-9B عبر مهام متنوعة (الترجمة، التلخيص، الأسئلة والأجوبة، والاستدلال الرياضي) وأطوال رسائل (من 16 إلى 48 بت).

• دقة فك التشفير: تفوق WorldCup باستمرار على النماذج المرجعية (MPAC, SegMark, StealthInk, BiMark). على سبيل المثال، في LLaMA3-8B مع رسائل 16 بت، حسن دقة البت بنسبة 3.2% عن StealthInk وحقق دقة شبه مثالية (99.8% AUC) في سيناريوهات الكشف صفرية البت.
• جودة النص: حافظ WorldCup على تشتت (perplexity - PPL) أقل من معظم النماذج المرجعية، مما يشير إلى حفظ أفضل للسلاسة. وقد ثبت أن التعديل الواعي بالإنتروبيا أمر بالغ الأهمية؛ حيث أدى إزالته إلى ارتفاع كبير في PPL.
• المتانة: تحت هجمات مختلفة (حذف الكلمات، استبدال المترادفات، النسخ واللصق، وإعادة الصياغة عبر Dipper)، أظهر WorldCup متانة فائقة، محققاً قيم AUROC ودقة بت أعلى مقارنة بالطرق الحالية.
• الكفاءة: يتميز إطار العمل بكفاءة عالية، حيث يبلغ متوسط أوقات فك التشفير 0.01-0.02 ثانية لكل عينة، وهو أسرع بكثير من الطرق التي تتطلب بحثاً شاملاً أو معالجة لاحقة معقدة.

الأهمية والادعاءات

يزعم البحث أن WorldCup يضع أساساً قابلاً للتوسع ومنهجياً للأبحاث المستقبلية حول العلامات المائية متعددة البتات في نماذج اللغات الكبيرة. من خلال معاملة عملية أخذ العينات كقناة اتصال والاستفادة من الإشارات المتكاملة، يحقق إطار العمل توازناً قوياً عبر خمسة أبعاد حاسمة:

1. سعة الرسالة
2. القدرة على الكشف
3. المتانة
4. جودة النص
5. كفاءة فك التشفير

يؤكد المؤلفون أن WorldCup يتيح إسناد المحتوى بشكل موثوق دون التضحية بجودة النص المولد، مما يعالج عقبة رئيسية في تقنيات العلامات المائية متعددة البتات الحالية. ويضعون هذا العمل كخطوة نحو النشر العملي للتحقق من سلامة المحتوى وأصله في نماذج اللغات الكبيرة.

ملاحظة: يقر البحث بوجود قيود، وتحديداً الافتقار إلى تحليل نظري رسمي للأمثلية في سعة المعلومات على مستوى الرمز والحاجة إلى مزيد من الدراسة حول عدم القابلية للتزوير في الإعدادات متعددة البتات.