🤖 AI

A Unified Framework for LLM Watermarks

تقترح هذه الورقة إطاراً موحداً ومبنياً على أسس متينة يعتمد على التحسين المقيد، والذي يشتق معظم مخططات العلامات المائية الحالية للنماذج اللغوية الكبيرة، ويكشف عن مقايضة حرجة بين الجودة والتنوع والقدرة، ويُمكّن من تصميم طرق علامات مائية مبتكرة ومثلى مصممة خصيصاً لتلبية متطلبات محددة.

المؤلفون الأصليون: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

نُشر 2026-02-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك خباز يصنع خبزاً لذيذاً (نص ذكاء اصطناعي). تريد إثبات أن رغيفاً معيناً جاء من فرنك وليس من فرن منافس، لكن لا يمكنك ببساطة وضع شعارك عليه لأن ذلك سيفسد المذاق. بدلاً من ذلك، قررت أن تخبز سراً "نكهة خفية" داخل العجين. إذا تذوق شخص ما الخبز، فلن يستطيع تمييز وجود النكهة، ولكن إذا كان لديه "عدة اختبار تذوق" خاصة، يمكنه اكتشاف تلك النكهة المحددة ومعرفة أن: "نعم، هذا بالتأكيد خبزي".

هذه الورقة البحثية تدور حول إنشاء كتاب وصفات عالمي لنكهات هذه العلامات المائية الخفية في نصوص الذكاء الاصطناعي.

إليك تفصيل أفكار الورقة باستخدام تشبيهات بسيطة:

1. المشكلة: الكثير من الوصفات المختلفة

قبل هذه الورقة، كان الباحثون مثل الطهاة الذين يحاولون ابتكار نكهات سرية خاصة بهم من الصفر.

الشيف (أ) أضاف رشة ملح إلى العجين.
الشيف (ب) غير سرعة العجن.
الشيف (ج) استخدم خميرة خاصة.

كل الطرق نجحت، لكنها كانت جميعها مختلفة. كان من الصعب مقارنتها أو معرفة أي منها هو "الأفضل" دون تذوق كل رغيف على حدة. لم يكن هناك كتاب قواعد واحد يشرح لماذا نجحت تلك الطرق أو كيف يتم تصميم طريقة جديدة.

2. الحل: "الوصفة الرئيسية" (الإطار الموحد)

أدرك مؤلفو هذه الورقة أن كل هذه الطرق المختلفة هي في الواقع مجرد نسخ مختلفة من نفس المسألة الرياضية. لقد بنوا إطاراً موحداً، وهو بمثابة كتاب وصفات رئيسي.

بدلاً من ابتكار حيل جديدة، عليك الآن فقط الإجابة على سؤالين:

ما مدى قوة النكهة التي نريدها؟ (هذه هي "القوة" أو مدى سهولة اكتشافها).
ما مقدار التغيير الذي يمكن أن يطرأ على المذاق الأصلي؟ (هذه هي "الجودة" أو مدى طبيعية النص لا تزال تبدو).

تقول الورقة: "إذا أخبرتنا بحدك الأقصى لمدى تغير المذاق، فإن رياضياتنا ستعطيك الطريقة المثالية لإضافة النوات المائية لتحقيق ذلك الحد".

3. شد الحبل ثلاثي الاتجاهات

اكتشفت الورقة قاعدة أساسية حول هذه العلامات المائية، والتي يسمونها مقايضة الجودة-التنوع-القوة. فكر في الأمر كشد حبل بين ثلاثة أطراف:

القوة (Power): مدى علو الإشارة السرية.
الجودة (Quality): مدى جودة النص (هل لا يزال منطقياً؟).
التنوع (Diversity): مدى تنوع إجابات الذكاء الاصطناعي.

العقبة: لا يمكنك الحصول على كل شيء.

إذا جعلت الإشارة عالية جداً (قوة عالية) لتسهيل اكتشافها، فقد تضطر لإجبار الذكاء الاصطناعي على اختيار كلمات محددة، مما يجعل النص يبدو آلياً أو مكرراً (تنوع منخفض).
إذا كنت تريد أن يبدو النص طبيعياً تماماً (جودة عالية)، فيجب أن تكون الإشارة خفية جداً، مما يجعل اكتشافها أصعب.
إذا كنت تريد للذكاء الاصطناعي أن يكون مبدعاً للغاية (تنوع عالٍ)، فقد تضيع الإشارة وسط الضجيج.

توضح الورقة أن بعض الأساليب الموجودة تركز على الحفاظ على طبيعية النص ولكنها تفقد التنوع (حيث يعلق الذكاء الاصطناعي في قول نفس الأشياء مراراً وتكراراً)، بينما أساليب أخرى تحافظ على قوة الإشارة ولكن تجعل النص يبدو غريباً بعض الشيء.

4. ما قاموا به بالفعل

لم يكتف المؤلفون بالحديث النظري؛ بل اختبروا "وصفاتهم الرئيسية" في المختبر:

الهندسة العكسية للأساليب القديمة: أظهروا أن العلامات المائية الشهيرة الموجودة حالياً (مثل طريقة "الأحمر-الأخضر" أو "SynthID") هي مجرد إجابات محددة لمسألتهم الرياضية. الأمر يشبه إدراك أن خدعة الملح للشيف (أ) وخدعة العجن للشيف (ب) تحلان في الواقع نفس المعادلة.
ابتكار أساليب جديدة: باستخدام إطارهم العملي، صمموا علامات مائية جديدة مضبوطة خصيصاً للحفاظ على "الارتباك" (Perplexity) (وهي طريقة رياضية لوصف "مدى مفاجأة أو طبيعية النص).
النتائج: كانت أساليبهم الجديدة أفضل من الأساليب القديمة. فعندما وضعوا حداً لمدى تغيير النص، حصلت طريقتهم على أقوى إشارة ممكنة ضمن ذلك الحد.

5. القيد "الصارم" مقابل القيد "المرن"

تميزت الورقة أيضاً بين طريقتين للتحكم في المذاق:

القيد الصارم (Hard Constraint): "كل قضمة من الخبز يجب أن يكون مذاقها تماماً مثل الأصل". هذا يحافظ على طبيعية النص بشكل كبير ولكنه يجبر الذكاء الاصطناعي على أن يكون متوقعاً للغاية (تنوع منخفض).
القيد المرن (Soft Constraint): "متوسط مذاق الرغيف بأكمله يجب أن يكون قريباً من الأصل". هذا يسمح لبعض القضمات بأن يكون مذاقها مختلفاً قليلاً، مما يتيح للذكاء الاصطناعي أن يكون أكثر إبداعاً وتنوعاً، مع الحفاظ على النكهة العامة جيدة.

الملخص

توفر هذه الورقة خريطة عالمية للعلامات المائية للذكاء الاصطناعي. فهي تخبرنا أن جميع الأساليب الحالية هي مجرد مسارات مختلفة نحو قمة نفس الجبل. وهي تثبت أن هناك حداً صارماً لمدى جودة العلامة المائية دون الإضرار بالنص، وتمنحنا الأدوات لبناء أفضل علامة مائية ممكنة لأي هدف محدد (على سبيل المثال: "أريد أن يبدو النص مثالياً" أو "أريد أن تكون الإشارة غير قابلة للكسر").

ملاحظة هامة: تركز الورقة بالكامل على الرياضيات والميكانيكا لإنشاء هذه العلامات المائية. وهي لا تناقش كيف ينبغي للحكومات أو المحاكم استخدامها، كما لا تدعي أن هذه العلامات المائية مثالية لمنع جميع سوء استخدام الذكاء الاصطناعي. إنها ببساطة تقول: "إليك أفضل طريقة لبناء الإشارة بناءً على قواعد الرياضيات".

ملخص تقني: إطار عمل موحد لعلامات النماذج اللغوية الكبيرة (LLM) المائية

بيان المشكلة

صُممت العلامات المائية للنماذج اللغوية الكبيرة (LLM) لإدراج إشارات يمكن اكتشافها في النصوص المولدة لتتبع أصول الذكاء الاصطائي. وبينما تم اقتراح العديد من خوارزميات العلامات المائية (مثل Red-Green، وAAR/KTH، وSynthID)، إلا أنها طُورت عادةً باستخدام نهج من الأسفل إلى الأعلى بتصاميم ودوافع متبا�ينة. وبناءً على ذلك، لا يوجد صياغة عامة ومبدئية لعلامات الـ LLM المائية. هذا النقص في النظرية الموحدة يجعل من الصعب مقارنة المخططات الحالية على مستوى أساسي، أو ربطها ببعضها البعض، أو تصميم طرق جديدة بطريقة منهجية. علاوة على ذلك، لا تزال المقايضات بين جودة العلامة المائية، وتنوع المخرجات، وقوة الكشف غير مدروسة بشكل كافٍ.

المنهجية

يقترح المؤلفون إطار عمل موحداً يصيغ العلامة المائية للـ LLM كـ مشكلة تحسين مقيدة (constrained optimization problem). الهدف الجوهري هو تعظيم قابلية اكتشاف إشارة العلامة المائية المدرجة مع الحد من تأثيرها على جودة النص المولد.

صياغة التحسين

بفرض أن $p$ هو توزيع احتمالية التوكن التالي، و $g$ هي درجات شبه عشوائية (يتم أخذ عينات منها من توزيع $G$ عبر آلية تجزئة/hashing)، فإن الهدف هو إيجاد توزيع مائي $q(g)$ يعظم الدرجة المتوقعة:
$\max_{q: G \to \Delta(\Sigma)} \mathbb{E}_G[G \cdot q(G)]$

لمنع العلامة المائية من تشويه جودة النص الأصلي، يتم إدخال قيد $D$ :
$\text{s.t. } \forall g \in G, \quad D(q(g), \mathbb{E}_G[q(G)], p) \leq \varepsilon$

يميز الإطار بين نوعين من القيود:

القيود الصارمة (Hard Constraints): يتم التحكم في التشويه لكل تحقق محدد من الدرجات $g$ (على سبيل المثال، $KL(q(g) || p) \leq \varepsilon$ ).
القيود المرنة (Soft Constraints): يتم التحكم في التشويه فقط في التوقع على توزيع الدرجات (على سبيل المثال، $KL(\mathbb{E}_G[q(G)] || p) \leq \varepsilon$ ).

يناقش المؤلفون أيضاً صياغة جزائية حيث يتم نقل القيد إلى دالة الهدف مع مُعامل لاجرانج $\delta$ ، وهو ما يكون غالباً أكثر عملية للتنفيذ.

اشتقاق وتوسيع المخططات

يوضح الإطار أن معظم مخططات العلامات المائية الحالية هي تجليات محددة لمشكلة التحسين هذه مع اختيارات معينة لقيود $D$ وتوزيع الدرجات $G$ :

علامات Red-Green المائية: مشتقة كحل لقيد $KL$ صارم.
علامات AAR/KTH المائية: مشتقة كحل لقيد $KL$ مرن (خالٍ من التشويه) باستخدام درجات Gumbel؛ ويوسع الإطار هذا ليشمل متغيراً مشوهاً عبر السماح بـ $\varepsilon > 0$ .
SynthID: يُنظر إليه كسلسلة من $m$ من مشا المسائل التحسينية المتسلسلة، حيث يحل كل منها قيد مسافة $\chi^2$ بالنسبة لتوزيع الطبقة السابقة.
علامة $\chi^2$ المائية: تعميم لـ SynthID أحادي الطبقة باستخدام قيد مسافة $\chi^2$ .

المخططات الجديدة

باستخدام هذا الإطار، صمم المؤلفون مخططات جديدة مصممة خصيصاً لمقاييس جودة معينة، وتحديداً باستخدام الارتباك (Perplexity - PPL) كوسيط للجودة:

قيد PPL الصارم: يحسن قوة الكشف موضوعاً لقيد صارم على فرق اللوغاريتم الاحتمالي (log-likelihood difference).
قيد PPL المرن: يحسن قوة الكشف موضوعاً لقيد مرن على اللوغاريتم الاحتمالي.

المساهمات الرئيسية

الصياغة الموحدة: يصيغ البحث العلامة المائية للـ LLM كمسألة تحسين مقيدة عامة، موضحاً أن الأعمال المتنوعة السابقة (Red-Green، AAR/KTH، SynthID) هي حلول لهذه المسألة تحت قيود محددة.
التصميم المبدئي: يوفر الإطار طريقة لاشتقاق مخططات علامات مائية مثالية لأي قيد معطى، مما يسمح بإنشاء مخططات جديدة (مثل تلك القائمة على PPL) تكون مثالية نظرياً فيما يتعلق بأهدافها المحددة.
المقايضة بين الجودة-التنوع-القوة: يحدد العمل ويتحقق من وجود مقايضة جوهرية بين جودة النص المولد، وتنوع المخرجات، وقوة الكشف. وبشكل محدد، يسلط الضوء على أن العلامات المائية ذات القيود المرنة (التي تحافظ على الجودة جيداً) تميل إلى أن تكون حتمية وتقلل التنوع، بينما العلامات المائية ذات القيود الصارمة تحافظ على التنوع على حساب زيادة التشويه.

النتائج التجريبية

تحقق المؤلفون تجريبياً من صحة الإطار باستخدام LLAMA3.1-8B و MINISTRAL-3-14B على مجموعة بيانات ELI5.

المثالية: أظهرت المخططات المشتقة من قيد معين أنها مثالية (Pareto-optimal) فيما يتعلق بذلك القيد. على سبيل المثال، تحقق علامات Red-Green أفضل مقايضة بين الكشف و $KL$ ، ويحقق مخطط Soft PPL أفضل مقايضة بين الكشف و $PPL$ .
مقايضة الكشف-الجودة: يتفوق مخطط Soft PPL الجديد على الأعمال السابقة (بما في ذلك AAR/KTH و SynthID) في مقايضة الكشف-الجودة. وحتى عندما تُقاس الجودة عبر اختبارات معايير النماذج اللغوية الكبيرة (HumanEval, MBPP, GSM8K) بدلاً من الارتباك (Perplexity)، يظل مخطط Soft PPL متفوقاً.
تأثير التنوع: تؤكد التجارب أن العلامات المائية ذات القيود المرنة (مثل AAR/KTH و Soft PPL) تقلل بشكل كبير من تنوع المخرجات (درجات Self-BLEU عالية)، مما يؤدي غالباً إلى مخرجات حتمية لنفس المطالبة (prompt). في المقابل، تحافظ العلامات المائية ذات القيود الصارمة على تنوع أعلى ولكنها قد تسبب مزيداً من التشويه.

الأهمية والادعاءات

يزعم البحث أن إطاره الموحد يقدم ثلاث مساهمات رئيسية:

التفسير: يوفر طريقة مبدئية لتفسير وربط مخططات العلامات المائية الموجودة، كاشفاً عن القيود المحددة التي تحسنها.
التصميم: يتيح التجسيد العملي لمخططات جديدة قوية مصممة لتلبية متطلبات محددة (مثل الحفاظ على الارتباك/Perplexity) دون تصميم عشوائي.
الرؤية: يقدم منظوراً جديداً للمقايضة الأساسية بين الجودة-التنوع-القوة، موضحاً أن المخططات الخالية من التشويه غالباً ما تأتي على حساب تنوع المخرجات.

يشير المؤلفون إلى القيود، بما في ذلك قصر التحسين على مستوى التوكن (بدلاً من مستوى التسلسل) والتركيز على تحسين آلية أخذ العينات بشكل مستقل عن الكاشف. كما يقرون بأن العلامات المائية التشفيرية الكاملة تقع خارج نطاق هذا الإطار الإحصائي.