Privacy-Preserving Fully Distributed Gaussian Process Regression

تخيل عالماً تتعلم فيه أجهزتك الذكية، مثل هاتفك أو منظم الحرارة في منزلك، باستمرار من عاداتك لتقديم تنبؤات أفضل. إنها تستخدم أداة رياضية ذكية تسمى انحدار العملية الغاوسية (Gaussian Process Regression - GPR). فكر في GPR كأنه محقق فائق الذكاء لا يكتفي بمجرد التخمين، بل يخبرك أيضاً بمدى ثقته في هذا التخمين. وهذا أمر مفيد للغاية لأشياء مثل السيارات ذاتية القيادة أو المراقبة الطبية، حيث يكون معرفة "عدم اليقين" (uncertainty) لا يقل أهمية عن التنبؤ نفسه.

عادةً، لجعل هؤلاء المحققين فائقي الذكاء، ستحتاج إلى صب كل البيانات من كل جهاز في "دماغ مركزي" عملاق واحد. لكن هذا يمثل كابوساً للخصوصية. فبياناتك الصحية أو روتينك اليومي لا ينبغي أن تكون موجودة في خادم واحد حيث يمكن تسريبها. لذلك، ابتكر العلماء التعلم الموزع (Distributed Learning)، حيث يحتفظ كل جهاز ببياناته الخاصة ويشارك فقط "استنتاجاته" مع جيرانه. ومع ذلك، يمكن لتلك الاستنتاجات أحيناً أن تكشف عن أسرار حول البيانات الأصلية عن طريق الخطأ. تعالج هذه الورقة البحثية المشكلة المعقدة المتمثلة في كيفية السماح لهذه الأجهزة بالتعاون والتعلم معاً دون أن يتمكن أي شخص (حتى لو كان مجموعة متواطئة من الجيران) من معرفة ما تبدو عليه بيانات الآخرين الخاصة حقاً.

---

النادي السري لآلات التعلم

في هذه الورقة، يقترح المؤلفون، ييونغجون جانغ وفريقه، طريقة جديدة لمجموعة من الوكلاء (لنسمهم "روبوتات التعلم") لحل لغز معاً دون إظهار قطعهم الخاصة لبعضهم البعض أبداً. إنهم يسمون حلهم بروتوكول "انحدار العملية الغاوسية الموزع بالكامل والمحافظ على الخصوصية".

إليك السيناريو: تخيل مجموعة من المستشفيات تحاول التنبؤ بكيفية استجابة مريض جديد لعلاج ما. كل مستشفى لديه قائمته الخاصة والسرية من المرضى السابقين. يريدون دمج معرفتهم للحصول على إجابة أفضل، لكن لا يمكنهم مشاركة قوائم المرضى الخاصة بهم بسبب قوانين الخصوصية الصارمة. كما أنهم لا يثقون في "خادم فائق" مركزي لحمل البيانات، لأن ذلك الخادم قد يتعرض للاختراق أو قد يكون منافساً.

الفكرة الكبيرة للمؤلفين هي استخدام خدعة تشفيرية تسمى الحوسبة متعددة الأطراف الآمنة (SMPC). لفهم هذا، تخيل أن المستشفيات تحاول حساب متوسط طول جميع مرضاها، لكنها لا تريد إخبار أي شخص بطول مريضها المحدد.

سحر "المشاركة السرية"

تستخدم الورقة تقنية تسمى المشاركة السرية الجمعية (Additive Secret Sharing). إليك كيف تعمل في قصتنا:

1. التقسيم: بدلاً من إرسال رقمهم الحقيقي (مثلاً 170 سم)، يقوم المستشفى بتقسيمه إلى "شظايا" عشوائية. على سبيل المثال، قد يحتفظ المستشفى (أ) بشظية قدرها +50، ويرسل شظية قدرها -30 إلى المستشفى (ب)، وشظية قدرها -20 إلى المستشفى (ج).
2. الضجيج: بالنسبة للجيران، تبدو هذه الشظايا كأنها ضجيج عشوائي. يرى المستشفى (ب) الرقم "-30" وليس لديه أدنى فكرة عما إذا كان الرقم الأصلي هو 170 أو 500 أو -100. ومن المستحيل رياضياً تخمين الرقم الأصلي بدون الحصول على جميع الشظايا.
3. إعادة التجميع: تمر المستشفيات بهذه الشظايا في دائرة. وفي النهاية، يقومون بجمع كل الشظايا التي يتلقونها. ولأن الرياضيات معدة بشكل مثالي، فإن الضجيج العشوائي يلغي بعضه البعض، ويظهر المجموع الصحيح (أو المتوسط) دون أن يرى أي شخص الأرقام الفردية.

لقد بنى المؤلفون نظامهم بالكامل على هذا المفهوم، لكن كان عليهم حل بعض المشكلات الصعبة لجعل ذلك يعمل مع بيانات العالم الحقيقي.

عقبة "التكميم" (Quantization)

تتضمن بيانات العالم الحقيقي (مثل أطوال المرضى أو درجات الحرارة) أرقاماً عشرية. لكن المشاركة السرية تعمل بشكل أفضل عادةً مع الأعداد الصحيحة. ولحل هذه المشكلة، قدم المؤلفون "مسطرة" أو عامل قياس (scale factor). فهم يطلبون من الروبوتات تقريب أرقامهم إلى أقرب علامة على المسطرة.

• المقايضة: إذا كانت المسطرة تحتوي على علامات دقيقة جداً (عامل قياس صغير)، فستكون الرياضيات دقيقة للغاية، لكن الأرقام ستصبح ضخمة، مما يجعل التواصل بطيئاً. أما إذا كانت العلامات خشنة (كبيرة)، فستكون العملية سريعة ولكن أقل دقة.
• النتيجة: أثبت الفريق أنه يمكنك جعل الخطأ الناتج عن هذا التقريب ضئيلاً جداً بقدر ما تريد عبر اختيار مسطرة دقيقة بما يكفي وتشغيل البروتوكول لعدد كافٍ من الجولات. لقد أظهروا أنه حتى مع هذا التقريب، فإن النتيجة النهائية مطابقة عملياً لما قد تحصل عليه إذا شارك الجميع بياناتهم الخام علانية.

رقصة "القناع" (Masking)

كان هناك خطر واحد آخر: ماذا لو تواطأ مستشفيان؟ إذا كان المستشفى (أ) والمستشفى (ب) جارين، فهل يمكنهما معرفة ما يخفيه المستشفى (ج)؟
لإيقاف ذلك، أضاف المؤلفون خطوة "القناع" (masking). قبل إرسال شظاياهم، تولد الروبوتات أرقاماً "وهمية" إضافية تلغي بعضها البعض تماماً. الأمر يشبه مجموعة من الراقصين الذين يمررون ملاحظة سرية؛ يمررونها في مثلث بحيث لا يمكن لشخصين أبداً رؤية المسار الكامل للملاحظة. تثبت الورقة أنه طالما أن شبكة الروبوتات متصلة بما يكفي (تحديداً إذا كان كل زوج من الجيران لديه صديق مشترك واحد على الأقل)، فإن مجموعة صغيرة من الروبوتات "شبه الأمينة" (التي تتبع القواعد ولكنها تحاول التلصص) لا يمكنها تعلم أي شيء أكثر من النتيجة النهائية للمتوسط.

تحسين "الخلطة السرية"

تتناول الورقة أيضاً مشكلة غالباً ما يتم تجاهلها في أبحاث الخصوصية وهي: تحسين المعلمات الفائقة (Hyperparameter Optimization).
في انحدار العملية الغاوسية (GPR)، توجد "مقابض" (تسمى المعلمات الفائقة) تتحكم في كيفية تعلم النموذج. وتدوير هذه المقابض بشكل صحيح أمر حيوي للدقة. عادةً، تحتاج إلى النظر في جميع البيانات للعثور على أفضل الإعدادات. أظهر المؤلفون كيف يمكن للروبوتات ضبط هذه المقابض معاً، باستخدام نفس رقصة المشاركة السرية، دون الكشف عن بياناتهم المحلية أبداً. لقد سمحوا للروبوتات باتخاذ خطوات صغيرة نحو الإعداد الأفضل، مع حساب متوسط تقدمهم بشكل آمن في كل خطوة.

ما وجدوه

اختبر الفريق طريقتهم باستخدام مجموعتين من بيانات العالم الحقيقي:

1. SARCOS: وهي مجموعة بيانات تتعلق بحركات ذراع الروبوت (تُستخدم لاختبار المشكلات واسعة النط scale).
2. Diabetes (السكري): وهي مجموعة بيانات تتعلق بسجلات صحة المرضى (حيث تكون الخصوصية أمراً بالغ الأهمية).

قارنوا طريقتهم بالتقنيات الأخرى التي تعتمد على خادم مركزي أو تشفير ثقيل.

• السرعة: كانت طريقتهم أسرع بكثير من البدائل التي تعتمد على خادم مركزي أو تشفير ثقيل. فبينما كانت الطرق الأخرى تستغرق وقتاً طويلاً أو تتجاوز 300 ثانية، انتهت طريقتهم في حوالي 0.59 ثانية لشبكة مكونة من 20 وكيل بـ 4 جيران لكل منهم. وإذا كانت الشبكة أكبر (40 وكيلاً) أو أكثر اتصالاً (19 جاراً لكل وكيل)، يزدل الزمن إلى حوالي 0.99 ثانية أو 6.69 ثانية اعتماداً على مجموعة البيانات. ورغم أنها ليست دائماً تحت الثانية الواحدة، إلا أنها تظل أسرع بعدة مراتب من الطرق المنافسة.
• الدقة: كانت النتائج قريبة جداً من النسخة "المثالية" غير الخاصة. وكان الفرق (المقاس كجذر متوسط مربع الخطأ - RMSE) ضئيلاً جداً، وغالباً أقل من 0.02.
• الخصوصية: أثبتوا رياضياً أن البروتوكول آمن ضد مجموعات تصل إلى حجم معين من الوكلاء المتواطئين. ويعتمد حجم هذه "المجموعة الآمنة" على عدد الجيران الذين يمتلكهم كل روبوت؛ فكلما زادت الاتصالات، زادت الخصوصية.

الخلاصة

هذه الورقة لا تقترح مجرد فكرة رائعة، بل تقدم وصفة عمل. لقد أظهر المؤلفون أنه يمكنك الحصول على كل ما تريد: يمكن لمجموعة من الوكلاء تعلم نموذج قوي ودقيق معاً مع إبقاء بياناتهم الفردية مخفية تماماً عن بعضهم البعض، دون الحاجة إلى مدير مركزي موثوق. لقد أثبتوا أنه باستخدام المشاركة السرية والقليل من "التقريب" الرياضي، يمكنك تحقيق ذلك بطريقة موزعة بالكامل تتسم بالسرعة والأمان.

تشير النتائج إلى أن هذا النهج جاهز للاستخدام في العالم الحقيقي، مما يوفر مساراً عملياً للتطبيقات الحساسة للخصوصية مثل الرعاية الصحية، والتمويل، والمدن الذكية، حيث تكون البيانات ذات قيمة كبيرة ولكن من الصعب مشاركتها.