Information-Theoretic Privacy Control for Sequential Multi-Agent LLM Systems

إليك ملخص تقني مفصل لورقة البحث بعنوان "التحكم في الخصوصية القائم على نظرية المعلومات للأنظمة متعددة الوكلاء المتسلسلة لنماذج اللغات الكبيرة (LLM)".

1. بيان المشكلة

تعالج الورقة فجوة حرجة في أمن الخصوصية في الأنظمة متعددة الوكلاء المتسلسلة لنماذج اللغات الكبيرة (LLM). وبينما قد يستوفي كل وكيل (Agent) في خط الإنتاج (Pipeline) قيود الخصوصية المحلية، فإن التكوين المتسلسل لهؤلاء الوكلاء يخلق ثغرة نظامية حيث يمكن استنتاج المعلومات الحساسة من خلال التمثيلات الوسيطة.

• المشكلة الجوهرية: في خطوط الإنتاج المتسلسلة (على سبيل المثال، الوكيل أ $\leftarrow$ الوكيل ب $\leftarrow$ الوكيل ج)، يقوم الوكيل (أ) بمعالجة بيانات محلية حساسة ($S_1$) ويمرر تمثيلاً وسيطاً ($O_1$) إلى الوكيل (ب). وحتى لو كان الوكيل (أ) "خاصاً" في عزلة، فإن التبعيات الإحصائية بين $S_1$ و $O_1$ يمكن أن تتضخم وتتحول بواسطة الوكلاء اللاحقين.
• فشل الضمانات المحلية: تعامل طرق الخصوصية التقليدية (مثل الخصوصية التفاضلية أو التطهير المحلي) الوكلاء ككيانات معزولة. ويجادل المؤلفون بأن هذه القيود المحلية غير كافية لأنها لا تأخذ في الحسبان التسرب التراكمي الذي يحدث مع انتقال المعلومات عبر خط الإنتاج.
• نموذج التهديد: يراقب المهاجم مخرجات النظام النهائية ($O_N$) ويحاول استنتاج المتغيرات الحساسة ($S_1, \dots, S_N$) التي يمتلكها أي وكيل في السلسلة، مستغلاً الارتباطات الإحصائية المستحثة عن طريق المعالجة المتسلسلة.

2. المنهجية

يقترح المؤلفون إطار عمل يجمع بين التحليل القائم على نظرية المعلومات مع استراتيجية تدريب منظمة للخصوصية.

أ. التحليل النظري: التسرب التكويني

صاغ المؤلفون تسرب الخصوصية باستخدام المعلومات المتبادلة (Mutual Information - MI).

• نموذج النظام: خط إنتاج مكون من $N$ من الوكلاء حيث $O_i = A_i(O_{i-1}, D_i, S_i)$.
• تعريف التسرب العالمي: $L_{global} = I(O_N; S_1, \dots, S_N)$، والذي يمثل المعلومات حول جميع المتغيرات الحساسة التي يمكن استنتاجها من المخرج النهائي.
• الحد النظري (النظرية 4.1): اشتقوا حداً يوضح أنه حتى لو استوفى كل وكيل قيد تسرب محلي $I(O_i; S_i) \le \epsilon_i$، فإن التسرب العالمي يمكن أن يتضخم أسياً مع عمق خط الإنتاج:
  $$I(O_N; S_1, \dots, S_N) \le \sum_{i=1}^{N} 2^{N-i} \epsilon_i$$
• الرؤية الجوهرية: التسرب الناتج عن الوكلاء الأوائل يهيمن على المخاطر العالمية (يتوسع كـ $2^{N-i}$)، مما يعني أن تسرباً صغيراً في بداية خط الإنتاج يتضخم أسياً بواسطة الوكلاء اللاحقين.

ب. الحل المقترح: التدريب المنظم بالخصوصية (MINE-Reg)

للتخفيف من ذلك، قدموا إطار عمل للتدريب يقيد صراحةً تدفق المعلومات في كل مرحلة.

• دالة الهدف: تجمع دالة الخسارة الإجمالية بين منفعة المهمة وتنظيم الخصوصية:
  $$L_{total} = L_{utility} + \sum_{i=1}^{N} \beta_i \hat{I}_{MINE}(O_i; S_i)$$
  حيث تتحكم $\beta_i$ في المقايضة بين الخصوصية والمنفعة للوكيل $i$.
• تقدير المعلومات المتبادلة: نظراً لأن حساب المعلومات المتبادلة للتمثيلات عالية الأبعاد لنماذج LLM أمر مستعصٍ، فقد استخدموا تقدير المعلومات المتبادلة العصبية (MINE) بناءً على تمثيل Donsker-Varadhan.
  • تقوم شبكة ناقد عصبية ($T_{\psi}$) بتقدير المعلومات المتبادلة بين مخرج الوكيل ($O_i$) ومتغيره الحساس ($S_i$).
  • أثناء التدريب، يتم تحديث معاملات الوكيل لـ تقليل هذه المعلومات المتبادلة المقدرة، بينما يتم تحديث الناقد لـ تعظيمها (تقدير تنافسي/عدائي).
• الآلية: هذا يخلق عنق زجاجة للمعلومات (Information Bottleneck) عند كل حدود للوكيل، مما يجبر الوكلاء على تعلم تمثيلات تكون كافية للمهمة ولكنها تحتوي على الحد الأدنى من المعلومات حول سياقهم الحساس المحلي.

3. المساهمات الرئيسية

1. صياغة التسرب التكويني: أثبتوا أن قيود الخصوصية المحلية لا تتكون؛ إذ يؤدي التنفيذ المتسلسل إلى تضخم أسي للتسرب، خاصة من الوكلاء في المراحل المبكرة.
2. الحد النظري: اشتقوا حداً رياضياً يصف كيفية توسع التسرب المحلي مع عمق خط الإنتاج تحت افتراضات ماركوف.
3. إطار عمل MINE-Reg: اقترحوا هدف تدريب جديد يعاقب مباشرةً المعلومات المتبادلة بين التمثيلات الوسيطة والمتغيرات الحساسة باستخدام المقدرات العصبية.
4. منظور على مستوى النظام: أظهروا أن الخصوصية في الأنظمة الوكيلية يجب أن تُعامل كخاصية عالمية تتطلب تحكماً على مستوى النظام، وليس مجرد قيود محلية للوكلاء.

4. النتائج التجريبية

تم تقييم إطار العمل على ثلاثة معايير مرجعية: MedQA (الاستدلال الطبي)، و FinQA (الاستدلال المالي)، و PrivacyLens (معايير الخصوصية السياقية)، باستخدام نماذج مثل LLaMA-3B/7B و Qwen-2B/4B مع خطوط إنتاج تتراوح من 2 إلى 5 وكلاء.

• كبح التسرب:
  • قلل MINE-Reg متوسط المعلومات المتبادلة ($MI_{avg}$) بنسبة 75-90% مقارنة بالنماذج المرجعية غير المنظمة.
  • والأهم من ذلك، أنه قام بتسطيح منحنى تضخم التسرب. فبينما زاد تسرب النموذج المرجعي بشكل رتيب مع عمق الوكيل، حافظ MINE-Reg على بقاء التسرب محدوداً حتى في خطوط الإنتاج العميقة (5 وكلاء).
• المقايضة بين الخصوصية والمنفعة:
  • المنع الحساس (SB): تحسنت القدرة على منع المهاجمين من استنتاج البيانات الحساسة بشكل كبير (على سبيل المثال، من ~0.38 إلى ~0.82 في MedQA).
  • النجاح الحميد (BS): ظلت منفعة المهمة (الدقة في المهام غير الحساسة) مستقرة، مع انخفاض طفيف فقط (عادة 6-10 نقاط)، مما يثبت أن الطريقة لا تؤدي إلى تدهور كارثي في الأداء.
  • مؤشر PARI (مؤشر الاستدلال الواعي بالخصوصية): أظهر مقياس مركب مكاسب كبيرة، مما يشير إلى نقطة تشغيل متفوقة حيث يتم الحفاظ على كل من الخصوصية والمنفعة.
• التحقق من النظرية: أكدت التجارب التنبؤ النظري بأن الوكلاء الأوائل يساهمون بأكبر قدر في التسرب العالمي. وقد أدى تنظيم الوكلاء الأوائل فقط إلى تقليل التسرب بشكل كبير، ولكن كان التنظيم الكامل مطلوباً للتحكم الأمثل.

5. الأهمية والأثر

• تحول في النموذج الفكري: تتحدى الورقة الافتراض السائد بأن تأمين المكونات الفردية يؤمن النظام بأكمله. فهي تثبت أن التكوين المتسلسل هو ناقل رئيسي لفشل الخصوصية في أنظمة الذكاء الاصطناوليّة الوكيلية.
• النشر العملي: مع توجه الصناعات (الرعاية الصحية، التمويل) نحو بنيات نماذج LLM متعددة الوكلاء، يوفر هذا العمل مجموعة أدوات ضرورية لضمان أن خطوات الاستدلال الوسيطة لا تسرب البيانات المملوكة أو الحساسة دون قصد.
• القابلية للتوسع: يسمح استخدام MINE بالتحكم في الخصوصية هذا بالتوسع إلى خطوط إنتاج كبيرة وعميقة دون الحاجة إلى الوصول الصريح إلى البيانات الحساسة الخام أثناء استدلال الوكلاء اللاحقين، مما يجعله مناسباً للأنظمة الوكيلية الموزعة أو النمطية.

في الختام، توضح الورقة أن الخصوصية في نماذج LLM متعددة الوكلاء المتسلسلة هي خاصية على مستوى النظام تتطلب تنظيماً صريحاً قائماً على نظرية المعلومات أثناء التدريب لمنع التضخم الأسي لمخاطر الخصوصية.