💬 NLP

PMark: Towards Robust and Distortion-free Semantic-level Watermarking with Channel Constraints

تقدم هذه الورقة البحثية PMark، وهي طريقة علامة مائية على المستوى الدلالي قوية وخالية من التشويه للنماذج اللغوية الكبيرة، تستخدم إطاراً نظرياً مبتكراً لوظائف الوكيل وقيود القنوات المتعددة لتقدير وسائط الجمل ديناميكياً، مما يحسن بشكل كبير من مقاومة هجمات إعادة الصياغة مع الحفاظ على جودة النص.

المؤلفون الأصليون: Jiahao Huo, Shuliang Liu, Bin Wang, Junyan Zhang, Yibo Yan, Aiwei Liu, Xuming Hu, Mingxun Zhou

نُشر 2026-03-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jiahao Huo, Shuliang Liu, Bin Wang, Junyan Zhang, Yibo Yan, Aiwei Liu, Xuming Hu, Mingxun Zhou

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك فنان يرسم مناظر طبيعية خلابة. وتريد حماية أعمالك من السرقة أو ادعاء شخص آخر بملكيتها، لذا تقرر التوقيع على كل لوحة.

المشكلة في "التوقيعات" الحالية
في الوقت الحالي، معظم "توقيعات" الذكاء الاصطناعي النصية (العلامات المائية) تشبه نقاط الحبر الصغيرة غير المرئية الموضوعة على كل ضربة فرشاة (كلمة).

الخلل: إذا سرق لص لوحتك، وقام بكشط ضربات الفرشاة ثم أعاد رسم المشهد بأسلوب مختلف ولكن مع الحفاظ على نفس الصورة، ستختفي تلك النقاط الصغيرة من الحبر. حينها يمكن للسارق أن يدعي أن اللوحة الجديدة ملكه. وهذا ما يحدث عندما يستخدم شخص ما الذك الذكاء الاصطناعي لـ "إعادة صياغة" أو إعادة كتابة النص الناتج عن الذكاء الاصطناعي؛ حيث تتلاشى العلامات المائية القديمة.
التشويه: لكي تعمل هذه العلامات المائية القديمة، تضطر بعض الأساليب إلى إجبار الذكاء الاصطناعي على اختيار كلمات محددة، مثل استخدام اللون الأزرق فقط بينما كان يريد استخدام اللون الأحمر. هذا يجعل الصورة النهائية تبدو غريبة أو غير طبيعية (مشوهة).

الحل الجديد: PMARK
تقدم الورقة البحثية PMARK، وهي طريقة جديدة لوضع علامة مائية على نص الذكاء الاصطعي. بدلاً من التوقيع على كل كلمة، يقوم PMARK بالتوقيع على الجملة بأكملة كوحدة واحدة. فكر في الأمر ليس كتوقيع على ضربات الفرشاة، بل كتوقيع على المشهد الطبيعي بأكمله.

إليك كيف يعمل PMARK، باستخدام تشبيه بسيط:

1. "دالة الوكيل" (البوصلة السحرية)

تخيل أن لديك بوصلة سحرية (تسمى دالة الوكيل - Proxy Function) تشير إلى اتجاه محدد وعشوائي.

عندما يولد الذكاء الاصطناعي جملة، يتحقق PMARK: "هل تشير هذه الجملة إلى اتجاه 'الأخضر' أم اتجاه 'الأحمر' وفقاً لبوصلتنا السرية؟"
إذا كانت الجملة تشير إلى "الأخضر"، فهي مرشح صالح. أما إذا كانت "حمراء"، فهي ليست كذلك.

2. خدعة "الوسيط" (لا يوجد تشويه)

الأساليب القديمة كانت تستبعد جميع الجمل "الحمراء" وتجبر الذكاء الاصطناعي على اختيار جملة "خضراء". هذا يشبه قولك لطباخ: "يمكنك الطبخ بالجزر فقط، بغض النظر عما تقتضيه الوصفة". عندها سيكون طعم الطعام سيئاً (التشويه).

خدعة PMARK الذكية:
بدلاً من التخلص من الجمل "الحمراء"، يبحث PMARK في مجموعة من الجمل المرشحة ويجد النقطة الوسطى (الوسيط).

يقول: "حسناً، نصف الجملات تقع 'فوق' المنتصف، والنصف الآخر يقع 'تحت' المنتصف".
ثم يختار عشوائياً أحد الجانبين (الأعلى أو الأسفل) ليكون منطقة "الأخضر" لهذه الجملة المحددة.
لماذا هذا عبقري؟ لأنه يختار من المنتصف، فهو لا يجبر الذكاء الاصطناعي على اختيار جمل غريبة أو متطرفة. إنه يختار من التدفق الطبيعي لأفكار الذكاء الاصطناعي. لذا يظهر النص طبيعياً تماماً، وكأن بشراً هو من كتبه. لا يوجد تشويه.

3. دفاع "متعدد القنوات" (الحصن)

هذه هي المشكلة الأكبر في العلامات المائية للجمل السابقة: فهي تستخدم بوصلة واحدة فقط. إذا قام شخص ما بإعادة كتابة الجملة بما يكفي لتغيير اتجاه تلك البوصلة الواحدة من "الأخضر" إلى "الأحمر"، ستختفي العلامة المائية. الأمر يشبه امتلاك قفل بفتحة مفتاح واحدة فقط؛ يمكن لص thief ماهر فتحها.

ترقية PMARK:
يستخدم PMARK بوصلات متعددة (تسمى القنوات - Channels) في نفس الوقت.

تخيل أن لديك 4 بوصلات سرية مختلفة، تشير جميعها إلى اتجاهات مختلفة.
لكي تكون الجملة "ذات علامة مائية" صالحة، يجب أن تستوفي قواعد كل هذه البوصلات في وقت واحد.
حتى لو أعاد شخص ما كتابة الجملة لخداع البوصلة رقم 1، فمن المرجح أنها ستظل تستوفي شروط البوصلة رقم 2 و3 و4.
النتيجة: من الصعب جداً إزالة العلامة المائية. إنها تشبه امتلاك حصن بأربعة طبقات من الأمن. لكسره، يجب على السارق كسر جميع الأقفال الأربعة في آن واحد، وهو أمر مستحيل تقريباً دون تدمير معنى الجملة.

4. الوضع "غير المتصل" (الاختصار)

هناك نسختان من PMARK:

النسخة المتصلة (Online): يتحقق الذكاء الاصطناعي من "النقطة الوسطى" للبوصلات في كل مرة يكتب فيها جملة. هذه الطريقة دقيقة جداً ولكنها تتطلب قوة حوسبة أكبر (مثل التحقق من الخريطة في كل خطوة).
النسخة غير المتصلة (Offline): أدرك الباحثون أنه في عالم اللغة الواسع، تكون "النقطة الوسطى" دائماً تقريباً صفراً (أمام مباشرة). لذا، يفترضون أن المنتصف هو صفر ويتجاوزون خطوة التحقق. هذا يجعل العملية سريعة ورخيصة للغاية، تماماً مثل القيادة باستخدام نظام GPS يعرف الطريق جيداً لدرجة أنه لا يحتاج للتحقق من الخريطة بعد الآن.

لماذا هذا مهم؟

للمبدعين: يمكنك أخيراً إثبات أن قصة طويلة ومعقدة أو مقالاً قد كُتب بواسطة ذكاء اصطناعي، حتى لو حاول شخص ما إعادة كتابته لإخفاء المصدر.
للقراء: يظل النص يبدو طبيعياً وعالي الجودة. لا يبدو آلياً أو متكلفاً.
للمستقبل: يضع معياراً جديداً لكيفية حماية محتوى الذكاء الاصطناعي، بالانتقال من التوقيعات الهشة على مستوى "الكلمة" إلى الأختام القوية على مستوى "الجملة".

باختاً مختصراً: PMARK يشبه وضع ختم غير مرئي، ثقيل ومتعدد الطبقات، على فقرة كاملة من النص. إنه قوي جداً لدرجة أنه حتى لو حاول شخص ما إذابة الشمع وإعادة تشكيل الحرف، فسيظل الختم سليماً، وسيظل الحرف يبدو مثالياً.

1. بيان المشكلة

أثار التقدم السريع في النماذج اللغوية الكبيرة (LLMs) مخاوف حرجة تتعلق بقابلية تتبع المحتوى المُنشأ بواسطة الذكاء الاصطناعي وحماية حقوق الطبع والنشر. وبينما تُعد العلامات المائية على مستوى الرموز (Token-level watermarking) (مثل مخططات Green-Red) فعالة، إلا أنها عرضة بطبيعتها لـ هجمات إعادة الصياغة (Paraphrasing attacks)، حيث يقوم المهاجم بإعادة صياغة النص للحفاظ على المعنى مع إزالة الانحيازات الإحصائية على مستوى الرموز.

تحاول العلامات المائية على المستوى الدلالي (Semantic-Level Watermarking - SWM) حل هذه المشكلة من خلال التعامل مع الجملة كوحدة أساسية. ومع ذلك، تعاني الأساليب الحالية للعلامات المائية الدلالية (مثل SemStamp وk-Semstamp) من قصورين رئيسيين:

تشويه التوزيع (Distribution Distortion): تعتمد عادةً على أخذ العينات بالرفض (Rejection sampling) (التقسيم والرفض)، مما يؤدي إلى تحيز توزيع المخرجات بعيداً عن النموذج الأصلي، وبالتالي تدهور جودة النص.
الافتقار إلى الضمانات النظرية: لا يوجد إطار عمل صارم يضمن بقاء توزيع العلامة المائية مطابقاً لتوزيع النموذج غير المميّز (خالٍ من التشويه) أو ضمان صمود العلامة المائية ضد الهجمات العدائية.
الأدلة المتفرقة (Sparse Evidence): تؤدي قيود القناة الواحدة غالباً إلى أدلة علامة مائية متفرقة، مما يجعل النظام عرضة للهجمات التي تغير تمثيل الجملة (Embedding) بشكل طفيف.

2. المنهجية: PMARK

يقترح المؤلفون PMARK، وهو إطار عمل جديد للعلامات المائية على المستوى الدلالي يحقق توليداً خالياً من التشويه (Distortion-free) وقوة عالية من خلال قيود متعددة القنوات (Multi-channel constraints).

أ. الإطار النظري: الدوال الوكيلية (Proxy Functions - PFs)

يقدم البحث إطاراً نظرياً موحداً يعتمد على الدوال الوكيلية.

التعريف: تقوم الدالة الوكيلية $F: \Sigma^* \to \mathbb{R}$ برسم خريطة لجملة كاملة دلالياً إلى قيمة عددية (Scalar).
الدالة الوكيلية لـ PMARK: تُعرف الدالة بأنها تشابه جيب التمام (Cosine similarity) بين تمثيل الجملة (Sentence Embedding) ومتجه محور (Pivot vector) عشوائي محدد مسبقاً $v$ : $F_v(s) = \langle v, T(s) \rangle$ .
شرط الخلو من التشويه: يثبت المؤلفون أنه إذا قامت عملية أخذ العينات باختيار الجمل بناءً على وسيط (Median) توزيع الدالة الوكيلية، فإن التوزيع الهامشي للمخرجات يظل مطابقاً لتوزيع النموذج الأصلي، بشرما كانت عملية الاختيار متماثلة (على سبيل المثال، اختيار النصف العلوي أو السفلي باحتمالية متساوية).

ب. التوليد المقيد متعدد القنوات

لمعالجة تشتت الأدلة وتحسين القوة، يستخدم PMARK متجهات محور متعددة ومتعامدة (Orthogonal pivot vectors) (قنوات).

أخذ العينات: يقوم النموذج بأخذ عينات من $N$ من الجمل المرشحة من التوزيع الطبيعي.
قيود القنوات: لكل من متجهات المحور المتعامدة $b$ ، يتم تقسيم المرشحين إلى مجموعتين بناءً على وسيط درجات الدالة الوكيلية (النصف العلوي مقابل النصف السفلي).
الاختيار: يحدد بذرة عشوائية (Random seed) أي نصف (علوي أو سفلي) سيتم الاحتفاظ به لكل قناة. يتم اختيار الجملة النهائية من تقاطع هذه المجموعات الصالحة.
النتيجة: تضمن هذه العملية أن المخرج النهائي يستوفي عدة قيود مستقلة في آن واحد، مما يزيد بشكل كبير من كثافة أدلة العلامة المائية دون تشويه توزيع النص.

ج. نسختان

النسخة المتصلة (Online PMARK): تقوم بتقدير وسيط توزيع الدالة الوكيلية للسياق الحالي ديناميكياً باستخدام المرشحين الذين تم أخذ عينات منهم. هذا يضمن خلو التشويه من الناحية النظرية بدقة.
النسخة غير المتصلة (Offline PMARK): تستفيد من الملاحظة التجريبية التي تفيد بأن المتجهات العشوائية في الفضاءات عالية الأبعاد تكون متعامدة تقريباً، مما يجعل وسيط تشابه جيب التمام يتركز حول الصفر. وهي تستخدم الصفر كوسيط ثابت مسبق، مما يلغي الحاجة إلى التقدير الديناميكي أثناء التوليد. هذا يقلل من التكلفة الحسابية مع الحفاظ على انخفاض التشويه.

د. آلية الكشف: اختبار Soft-z-Test

للكشف عن العلامات المائية، يستخدم PMARK اختبار Soft-z-Test:

يقوم بإعادة بناء الوسيط المتوقع (سواء كان ديناميكياً أو عبر الوسيط المسبق الثابت).
يحسب "عدداً ناعماً" (Soft count) لأدلة العلامة المائية لكل جملة وقناة. إذا كان درجة الدالة الوكيلية للجملة تتماشى مع الاتجاه المتوقع (بناءً على المفتاح السري)، فإنها تساهم بدرجة 1؛ وإلا، فإنها تساهم بقيمة أسية متناقصة بناءً على المسافة من الوسيط.
يتم حساب إحصائية z عالمية لتحديد ما إذا كان النص يحمل علامة مائية، مما يوفر القوة ضد الضوضاء وإعادة الصياغة الطفيفة.

3. المساهمات الرئيسية

إطار عمل نظري موحد: قدم مفهوم الدوال الوكيلية (Proxy Functions) لتحليل وتوحيد أساليب العلامات المائية الدلالية الحالية، مما يوفر أساساً رياضياً صلباً لتقييم التشويه والقوة.
علامة مائية دلالية خالية من التشويه: اقترح أول أسلوب للعلامات المائية الدلالية يتمتع بضمانات مثبتة للخلو من التشويه من خلال استخدام أخذ العينات القائم على الوسيط، متجاوزاً تدهور الجودة المتأصل في أخذ العينات بالرفض.
قيود متعددة القنوات: حدد أن تشتت الأدلة هو السبب الجذري لضعف العلامات المائية الدلالية. قدم قيود متعددة القنوات لتكثيف أدلة العلامة المائية، مما عزز القوة بشكل كبير ضد هجمات إعادة الصياغة والهجمات على مستوى الكلمات.
تنفيذ فعال: طور نسخة Online (مثالية نظرياً) ونسخة Offline (فعالة حسابياً مع مقدمات ثابتة)، مما يجعل الطريقة عملية للنشر في العالم الحقيقي.

4. النتائج التجريبية

قيم المؤلفون PMARK على نماذج OPT-1.3B و Mistral-7B باستخدام مجموعات بيانات C4 و BookSum، مقارنة بالنماذج المرجعية على مستوى الرموز (KGW, UPV, SynthID) وعلى المستوى الدلالي (SemStamp, k-Semstamp, SimMark).

القوة (Robustness):
- يتفوق PMARK بشكل كبير على جميع النماذج المرجعية تحت هجمات إعادة الصياغة (باستخدام Pegasus وParrot وGPT-3.5-turbo).
- حققت نسخة Online PMARK معدل إيجابيات حقيقية (TPR) بنسبة >93% عبر مختلف أدوات إعادة الصياغة، متفوقة على أفضل العلامات المائية السابقة (SemStamp) بنسبة تصل إلى 20.8% وعلى الأساليب على مستوى الرموز بنسبة تصل إلى 55.6%.
- كما أظهرت قوة فائقة ضد الهجمات على مستوى الكلمات (الحذف واستبدال المرادفات)، حيث فشلت العلامات المائية الدلالية السابقة بسبب تشتت الأدلة.
جودة النص:
- يحافظ PMARK على خصائص الخلو من التشويه، محققاً درجات إرباك (Perplexity - PPL) مماثلة أو أفضل من النص غير المميّز.
- في اختبار BookSum، حققت نسخة Online PMARK درجة PPL تترا-واح 4.37–4.71، متفوقة على أفضل نموذج مرجعي (EXP) بنحو 0.7 نقطة على نموذج Mistral-7B.
الكفاءة:
- تتطلب نسخة Offline PMARK حوالي 240 رمزاً (Tokens) فقط لكل جملة للتوليد، وهو تحسن هائل مقارنة بـ SemStamp الذي يتطلب ~1,694 رمزاً.
- حققت أفضل توازن بين استهلاك الرموز والقوة بين جميع أساليب العلامات المائية الدلالية.

5. الأهمية

يمثل PMARK تحولاً جذرياً في العلامات المائية لنماذج LLM:

الدقة النظرية: نقل العلامات المائية الدلالية من أخذ العينات بالرفض القائم على الاستدلال إلى إطار عمل رياضي رصين وخالٍ من التشويه.
الجدوى العملية: من خلال حل مشكلات "فشل أخذ العينات" و"التشويه العالي" للأساليب السابقة، جعل العلامات المائية على المستوى الدلالي قابلة للتطبيق في التطبيقات الواقعية.
الأمن: يواجه نهج تعدد القنوات بفعالية الاستراتيجية العدائية الأكثر شيوعاً (إعادة الصياغة)، مما يضمن إمكانية تتبع النصوص المُنشأة آلياً بشكل موثوق حتى بعد التعديل الدلالي.

في الختام، يقدم PMARK حلاً قوياً وعالي الجودة ومنضبطاً نظرياً للكشف عن النصوص المُنشأة بواسطة الذكاء الاصطناعي، واضعاً معياراً جديداً للعلامات المائية على المستوى الدلالي.