🤖 machine learning

Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States

تقدم هذه الورقة أول حد تقاربي للخصوصية التفاضلية في التحسين من الدرجة الصفرية عبر تقديم آلية ضوضاء هجينة وتحليل اقتران مبتكر يتغلب على قيود أطر التباعد المزاح القياسية الناتجة عن التحديثات متباينة المناحي.

المؤلفون الأصليون: Eli Chien, Wei-Ning Chen, Pan Li

نُشر 2026-05-04

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Eli Chien, Wei-Ning Chen, Pan Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

الصورة الكبيرة: إخفاء الأثر أثناء حل لغز عملاق

تخيل أن لديك لغزاً ضخماً ومعقداً (نموذج ذكاء اصطناعي ضخم) وعليك حله. تريد حله باستخدام طريقة محددة تسمى التحسين من الدرجة صفر (Zeroth-Order Optimization).

المشكلة:
عادةً، لحل لغز ما، تنظر إلى القطع وتعرف بالضبط الاتجاه الذي يجب أن تحركها فيه (التدرجات/gradients). ولكن في "الدرجة صفر"، لا يُسمح لك بالنظر إلى القطع مباشرة. بدلاً من ذلك، عليك تخمين حركة، ثم ترى كيف يبدو الشكل، ثم تخمن حركة مختلفة، وترى كيف يبدو ذلك، ثم تجمع متوسط تخميناتهما لمعرفة أفضل اتجاه. الأمر يشبه محاولة إيجاد مخرج في متاهة مظلمة عن طريق الاصطدام بالجدران والاستماع إلى الأصداء، بدلاً من رؤية الخريطة.

تحدي الخصوصية:
تريد حل هذا اللغز باستخدام بيانات من أشخاص كثيرين، ولكن يجب عليك حماية خصوصيتهم (الخصوصية التفاضلية/Differential Privacy). للقيام بذلك، عليك عادةً إضافة "ضجيج" (تشويش) إلى تخميناتك بحيث لا يستطيع أحد معرفة ما إذا كانت بيانات شخص معين قد استُخدمت أم لا.

الطريقة القديمة (فخ "التراكم"):
تعاملت الطرق السابقة مع كل خطوة من خطوات حل اللغز كحدث منفصل. كانوا يعتقدون: "إذا أضفنا الضجيج للخطوة 1، والخطوة 2، والخطوة 3... وهكذا، فإن تكلفة الخصوصية الإجمالية ستتراكم مثل الفاتورة". إذا قمت بـ 1000 خطوة، تصبح تكلفة الخصوصية ضخمة، وفي النهاية تضطر للتوقف لأنك "أنفقت" ميزانية الخصوصية الخاصة بك. الأمر يشبه دفع رسوم مرور مقابل كل ميل تقطعه؛ في النهاية لن تستطيع تحمل التكلفة لإكمال الرحلة.

الاختراق الذي حققته الورقة:
تقول هذه الورقة: "انتظر لحظة! لسنا بحاجة لدفع رسوم مقابل كل خطوة إذا أبقينا الخطوات المتوسطة مخفية".

لقد قدموا مفهوماً يسمى تعزيز الخصوصية عبر التكرار (PABI). فكر في الأمر كالتالي:

الطريقة القديمة: أنت تخبر الجميع بموقعك كل 10 أقدام. يمكنهم تتبع مسارك بدقة.
الطريقة الجديدة: أنت تخبر الجميع فقط من أين بدأت وأين انتهيت. وتجعل المسار الذي بينهما سراً. ولأن المسار مخفي، فإن "الضجيج" الذي أضفته في البداية يقوم بعمل أفضل بكثير في حماية هويتك بحلول الوقت الذي تصل فيه إلى النهاية. تكلفة الخصوصية تتوقف عن النمو وتستقر فعلياً.

العقبات المحددة التي تغلبوا عليها

واجه المؤلفون مشكلتين رئيسيتين عند محاولة تطبيق فكرة "المسار المخفي" هذه على طرق الدرجة صفر:

1. مشكلة الضجيج "غير المتماثل" (الضجيج أحادي الاتجاه)
في الطرق القياسية، تضيف الضجيج في جميع الاتجاهات (مثل التشويش على شاشة التلفاز في كل مكان). أما في الدرجة صفر، فأنت تضيف الضجيج فقط على طول الاتجاه الذي خمنته (مثل التشويش على خط واحد فقط).

المشكلة: الأدوات الرياضية المستخدمة لإثبات الخصوصية للضجيج "في جميع الاتجاهات" لا تعمل مع الضجيج "في اتجاه واحد". الأمر يشبه محاولة استخدام وتد مربع في ثقب مستدير. الرياضيات القياسية تقول: "هذا لا يعمل لأن الضجيج ليس موحداً".

2. حاجز "ليبتشيتز" (المنحدر الزلق)
لإثبات الخصوصية، يحتاج الرياضيون عادةً إلى إثبات أن النظام "مستقر" — أي أن التغيير الصغير في المدخلات يؤدي إلى تغيير صغير ومتوقع في المخرجات.

المشكلة: في الدرجة صفر، وبسبب كون الاتجاهات عشوائية، فإن النظام ليس مستقراً تماماً طوال الوقت. هو مستقر فقط في معظم الأوقات. الأدوات الرياضية القديمة تتطلب أن يكون مستقراً دائماً، لذا فشلت.

الحل: محرك هجين وعملية "شبحية"

بنى المؤلفون محركاً جديداً لحل هذه المشكلات:

1. آلية الضجيج الهجين
بدلاً من الاختيار بين "الضجيج في كل مكان" أو "الضجيج في اتجاه واحد"، ابتكروا مزيجاً.

يضيفون الضوضاء على طول الاتجاه المحدد الذي يخمنونه (للحفاظ على كفاءة حل اللغز).
ويضيفون أيضاً القليل من الضجيج في جميع الاتجاهات الأخرى (بقدر يكفي فقط لتلبية المتطلبات الرياضية).
النتيجة: يمنحهم هذا أفضل ما في العالمين: أداء جيد في حل اللغز وهيكل رياضي يسمح بإثباتات الخصوصية.

2. العملية "الشبحية" (خدعة الاقتران)
بما أنهم لم يستطيعوا استخدام الأدوات الرياضية القديمة، فقد ابتكروا خدعة جديدة.

تخيل شخصين، أليس وبوب، يحاولان حل اللغز ببيانات مختلفة قليلاً.
أنشأ المؤلفون نسخة "شبحية" من العملية تقع تماماً في المنتصف بين أليس وبوب.
أثبتوا أن أليس و"الشبح" قريبين جداً من بعضهما، وبوب و"الشبح" قريبين جداً من بعضهما.
باستخدام هذا "الشبح" كجسر، استطاعوا إثبات أن أليس وبوب قريبان أيضاً بما يكفي لاعتبارهما خاصين، حتى بدون الأدوات الرياضية القديمة.

الاكتشاف المذهل: المزيد من الاتجاهات = خصوصية أفضل

أحد أروع النتائج في الورقة البحثية يتعلق بـ $K$ ، وهو عدد الاتجاهات التي تخمنها في المرة الواحدة.

الاعتقاد القديم: استخدام المزيد من الاتجاهات ( $K > 1$ ) يجعل حل اللغز أسهل (فائدة أفضل) ولكنه يكلف المزيد من الخصوصية.
النتيجة الجديدة: تحت تحليل "المسار المخفي" هذا، استخدام المزيد من الاتجاهات في الواقع يحسن الخصوصية مع الحفاظ على جودة حل اللغز عالية.
التشبيه: تخيل أنك تحاول العثور على إبرة في كومة قش. إذا نظرت إلى مكان واحد فقط، فستحتاج إلى الكثير من "الغطاء" (الضجيج) لإخفاء ما تفعله. إذا نظرت إلى 10 أماكن في وقت واحد، فإن "الغطاء" ينتشر بشكل أكثر فعالية، مما يجعل من الصعب على المراقب معرفة المكان المحدد الذي كنت تنظر إليه.

ملخص لما يدعون به

لقد قدموا أول إثبات رياضي بأن التحسين من الدرجة صفر يمكن أن يتمتع بـ تكلفة خصوصية متقاربة. وهذا يعني أن تكلفة الخصوصية تتوقف عن النمو بعد عدد معين من الخطوات، بدلاً من النمو إلى الأبد.
أثبتوا أنه من خلال إخفاء الخطوات المتوسطة لعملية التحسين، تحصل على ضمانات خصوصية أقوى بكثير مما كان يُعتقد سابقاً.
أظهروا أن استخدام اتجاهات عشوائية متعددة في وقت واحد (اتجاهات متعامدة) ليس مفيداً للسرعة فحسب، بل هو في الواقع سلاح سري للخصوصية.
قدموا وصفة "الضجيج الهجين" الجديدة التي تجعل هذا ممكناً.

ما لا يدعون به:

لا يدعون أن هذا يعمل لكل أنواع نماذج الذكاء الاصطناعي أو مجموعات البيانات فوراً؛ فرياضياتهم تعتمد على افتراضات محددة (مثل أن تكون دالة الخسارة "سلسة" و"محدبة").
لا يدعون أن هذا يحل جميع مشكلات الخصوصية في الذكاء الاصطناعي، بل يوفرون حداً نظرياً أفضل لهذا النوع المحدد من عمليات التحسين.
لا يقدمون أداة برمجية جاهزة للاستخدام من قبل الجمهور بعد؛ فهذا إطار نظري يمهد الطريق لأدوات مستقبلية.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تعزيز الخصوصية في التحسين من الدرجة الصفرية ذي الحالات المخفية مع الخصوصية التفاضلية" (Privacy Amplification in Differentially Private Zeroth-Order Optimization with Hidden States).

1. بيان المشكلة

تتناول الورقة تحدي تدريب النماذج ضخمة النطاق (مثل النماذج اللغوية الكبيرة LLMs) تحت قيود الخصوصية التفاضلية (DP) مع إدارة قيود الذاكرة الصارمة.

السياق: تتطلب طرق الدرجة الأولى القياسية (مثل DP-SGD) تخزين تدرجات كل عينة أثناء الانتشار العكسي (backpropagation)، مما يؤدي إلى عبء هائل على الذاكرة يتناسب سوءًا مع حجم النموذج.
توجه الحل: برزت طرق التحسين من الدرجة الصفرية (Zeroth-order optimization - ZO) كبديل فعال من حيث استهلاك الذاكرة لأنها تتطلب فقط عمليات التمرير الأمامي (تقييم الخسارة) ولا تقوم بحساب التدرجات الصريحة.
الفجوة: رغم أن طرق الدرجة الصفرية الحالية (مثل DPZero) تعمل بشكل جيد تجريبيًا، إلا أن تحليل الخصوصية النظري الخاص بها يعتمد على نظريات التركيب القياسية (standard composition theorems). ينتج عن ذلك تكاليف خصوصية تنمو خطيًا مع عدد خطوات التدريب ( $T$ )، مما يفرض مقايضة بين المنفعة والخصوصية.
التحدي الجوهري: تمديد تقنية "تعزيز الخصوصية عبر التكرار" (Privacy Amplification by Iteration - PABI) — وهي تقنية تؤدي إلى حدود خصوصية متقاربة (ثابتة) لطرق الدرجة الأولى — لتشمل طرق الدرجة الصفرية.
- لماذا يصعب ذلك: تعتمد تقنية PABI للدرجة الأولى على إضافة ضوضاء غاوسية متناحية (isotropic) (مستقلة عن الاتجاه) إلى التدرجات، مما يسمح باستخدام ليمات "تباعد ريني المزاح" (shifted Rényi divergence). في المقابل، تضيف طرق الدرجة الصفرية الفعالة ضوضاء غير متناحية (anisotropic) (تعتمد على الاتجاه) عبر قيم عددية عشوائية على اتجاهات التحديث. هذا التباين في التناحي يكسر خاصية "ليبشيتز العالمية" (global Lipschitz) المطلوبة لأطر عمل التباعد المزاح، مما يجعل أدوات PABI الحالية غير قابلة للتطبيق.

2. المنهجية

تقترح المؤلفة إطار عمل جديد يجمع بين آلية الضوضاء الهجينة (Hybrid Noise Mechanism) وتحليل الاقتران (Coupling Analysis) لتجاوز القيود التحليلية.

أ. آلية الضوضاء الهجينة (Noisy-ZOGD)

بدلاً من اختيار ضوضاء اتجاهية بحتة (فعالة ولكن يصعب تحليلها) أو ضوضاء متناحية بحتة (سهلة التحليل ولكنها تهدر المنفعة)، تقترح المؤلفة قاعدة تحديث موحدة:
$w_{t+1} = \Pi_{\mathcal{B}_R} \left[ w_t - \frac{\eta}{K} \sum_{k=1}^K \hat{g}_t(w_t; u_{t,k}) + \frac{\eta}{\sqrt{K}} \sum_{k=1}^K G^{(1)}_{t,k} u_{t,k} + \eta \sqrt{d} G^{(2)}_t \right]$

تحديثات $K$ -أبعاد: تستخدم $K$ من الاتجاهات العشوائية في كل خطوة لتقليل تباين تقدير التدرج.
الضوضاء الهجينة:
1. الضوضاء الاتجاهية ( $G^{(1)}$ ): ضوضاء غاوسية عددية تُضاف على طول اتجاهات التحديث $u_{t,k}$ . وهي تحافظ على المنفعة من خلال تركيز الضوضاء حيث توجد الحساسية.
2. الضوضاء المتناحية ( $G^{(2)}$ ): ضوضاء غاوسية متناحية صغيرة تُضاف عبر جميع الأبعاد. وهي ضرورية للتحليل النظري للتعامل مع "الإزاحة" في عملية الاقتران.
الاتجاهات المتعامدة (Orthonormal Directions): يتم أخذ عينات من اتجاهات التحديث $\{u_{t,k}\}$ كمجموعة متعامدة من "متشعب ستيفل" (Stiefel manifold) (بدلاً من نواقل عشوائية مستقلة وموزعة بشكل متماثل i.i.d.)، مما يؤدي إلى تشديد حدود الخصوصية.

ب. تحليل الاقتران المبتكر (تجاوز التباعد المزاح)

يعتمد إثبات PABI القياسي على ليمة "تباعد ريني المزاح" (Shifted Rényi Divergence)، والتي تتطلب شرط "ليبشيتز عالمي" (global Lipschitz). وبما أن خريطة تحديث الدرجة الصفرية ليست "ليبشيتز عالمية" (بل هي "ليبشيتز نقطية" باحتمالية عالية)، فقد قامت المؤلفة ببناء عملية مساعدة مقترنة (coupled auxiliary process) $\tilde{W}_t$ :

البناء: قاموا بتعريف مسار مساعد $\tilde{W}_t$ يقع "في المنتصف" بين عمليتي تدريب متجاورتين ( $W_t$ على مجموعة البيانات $D$ و $W'_t$ على مجموعة البيانات $D'$ ).
التفكيك: تم تقسيم تحليل الخصوصية إلى جزأين:
- حد التباين الكلي (Total Variation - TV): يقيس احتمالية فشل الاقتران (أي تباعد $W_t$ و $\tilde{W}_t$ ). يتم تحديد هذا الحد باستخدام خاصية "ليبشيتز النقطية" لتحديث الدرجة الصفرية (والتي تتحقق باحتمالية عالية).
- حد تباعد ريني (Rényi Divergence): يقيس التباعد بين العملية المساعدة $\tilde{W}_t$ والعملية المتجاورة $W'_t$ . وبما أن $\tilde{W}_t$ قد صُممت لتتوافق مع هيكل الضوضاء، فيمكن تحليل هذا الجزء باستخدام آليات غاوس المزاحة القياسية.
النتيجة: يتجنب هذا النهج الحاجة إلى ثابت ليبشيتز عالمي، مما يسمح بالحصول على حد خصوصية متقارب حتى مع وجود ضوضاء غير متناحية.

3. المساهمات الرئيسية

أول PABI متقارب للدرجة الصفرية: تقدم الورقة أول إثبات نظري بأن التحسين من الدرجة الصفرية ذي الحالات المخفية يحقق حد خصوصية متقارب (تكلفة الخصوصية تتشبع بعد عدد ثابت من الخطوات) بدلاً من النمو الخطي مع $T$ .
آلية الضوضاء الهجينة: تقدم مخطط حقن ضوضاء يوازن بين المنفعة (عبر الضوضاء الاتجاهية) والقابلية للتحليل (عبر مكون متناحٍ صغير).
دور بُعد التحديث ( $K$ ):
- تكشف أن التحليل تحت الحالات المخفية يجعل زيادة عدد اتجاهات التحديث $K$ يقلل من فقدان الخصوصية (على عكس تحليل التركيب القياسي حيث تزيد $K$ من التكلفة).
- تثبت أن استخدام اتجاهات تحديث متعامدة يحسن حدود الخصوصية بشكل كبير مقارنة بالاتجاهات العشوائية المستقلة (i.i.d.).
تقنية الاقتران المبتكرة: طورت بناءً لعملية مساعدة محددة يتجاوز حاجز "ليبشيتز العالمي"، وهي تقنية يمكن تطبيقها على إعدادات التحسين الأخرى غير السلسة أو غير "ليبشيتز".

4. النتائج الرئيسية

حد الخصوصية: بالنسبة لخسائر "سلسة ومتينة التحدب" (smooth, strongly convex)، يحقق خوارزمية Noisy-ZOGD المقترحة $(\epsilon, \delta)$ $(ϵ, δ)$ -DP بـ:
$\epsilon = O\left( \sqrt{\frac{\Delta^2 \log(1/\delta)}{n^2 \sigma^2} \min\left(T, \frac{R n \sqrt{d}}{K \Delta}\right)} \right)$
- يتشبع الحد عند $T \approx \frac{R n \sqrt{d}}{K \Delta}$ ، مما يعني أن التكرارات الإضافية لا تزيد من تكلفة الخصوصية.
- الحد يتناسب عكسيًا مع $K$ ، مما يوضح أن استخدام المزيد من الاتجاهات يحسن الخصوصية.
المقارنة:
- مقابل التركيب القياسي: يعطي التحليل القياسي $\epsilon \propto \sqrt{T}$ ، والذي ينمو بلا حدود. الطريقة المقترحة تتقارب.
- مقابل اضطراب المخرجات (Output Perturbation): بينما يكون اضطراب المخرات (إضافة الضوضاء في النهاية فقط) مستقلاً عن $T$ ، فإنه عمومًا يكون أضعف بالنسبة لقيم $T$ العملية. الطريقة المقترحة تقدم حداً أكثر إحكاماً للقيم المتوسطة لـ $T$ .
المنفعة: تحافظ آلية الضوضاء الهجينة على نفس ضمانات المنفعة مثل الضوضاء الاتجاهية البحتة (DPZero) لأن إجمالي تباين الضوضاء يظل محفوظًا.

5. الأهمية

القابلية للتوسع: يمهد هذا العمل الطريق لتبرير تدريب النماذج الضخمة (بمليارات المعلمات) باستخدام الخصوصية التفاضلية وذاكرة محدودة، وهو ما يعد عائقًا حرجًا في ضبط النماذج اللغوية الكبيرة حاليًا.
تصميم الخوارزميات: يقلب هذا العمل الاعتقاد السائد بأن استخدام اتجاهات متعددة من الدرجة الصفرية ( $K > 1$ ) هو مجرد مقايضة في المنفعة. تثبت الورقة أنه هو أيضًا فائدة للخصوصية، مما يشجع على استخدام تحديثات ذات أبعاد أعلى في خوارزميات DP-ZO.
التقدم النظري: من خلال حل مشكلة "الضوضاء غير المتناحية" في PABI، تسد الورقة فجوة كبيرة بين نظرية الدرجة الأولى ونظرية الدرجة الصفرية، وتقدم مجموعة أدوات جديدة (الاقتران مع العمليات المساعدة) لتحليل ديناميكيات التحسين المعقدة وغير السلسة تحت قيود الخصوصية.
الأثر العملي: توفر إرشادات ملموسة للممارسين: استخدم الاتجاهات المتعامدة، واضبط معامل الضوضاء الهجين $\beta_t$ ، واستغل قيم $K$ الأكبر لتحقيق أفضل مقايضات بين الخصوصية والمنفعة دون زيادة تكاليف الذاكرة.