Geometric Data Perturbation with Noisy-Anchor Alignment for Privacy-Preserving Collaborative Learning
تقترح هذه الورقة إطار عمل للتعلم التعاوني الحافظ للخصوصية يعمل على تعزيز طريقة الاضطراب الهندسي للبيانات من خلال إضافة الضجيج إلى تمثيلات المرتكزات المشتركة بدلاً من البيانات الخاصة، مما يقلل بفعالية من هجمات التواطؤ بين المحلل والمشارك مع الحفاظ على فائدة تعلم عالية مقارنة بالنهج القائمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الرقمي الحديث، غالبًا ما تمتلك المؤسسات قطعًا من أحجية أكبر. فقد يمتلك المستشفى سجلات المرضى، وقد يمتلك البنك سجلات المعاملات، وقد تمتلك الجامعة بيانات أداء الطلاب. ولبناء ذكاء اصطناعي أفضل، تحتاج هذه المجموعات إلى دمج معلوماتها. ومع ذلك، فإن القوانين والمخاوف المتعلقة بالخصوصية تمنعها عادةً من مشاركة بياناتها الخام ببساطة. وهذا يخلق مشكلة صعبة: كيف يمكن للمجموعات أن تعمل معًا للتعلم من بعضها البعض دون الكشف أبدًا عن أسرارها الخاصة؟ يتضمن أحد الحلول الواعدة تقنية تسمى "الاضطراب الهندسي للبيانات". تخيل التقاط صورة وتدويرها أو إزاحتها قليلاً دون تغيير المسافة بين أي نقطتين في الصورة؛ ستبدو الصورة مختلفة، لكن هيكلها الداخلي يظل سليمًا. ومن خلال تطبيق هذه الإزاحات الرياضية على البيانات، يمكن للمؤسسات إرسال نسخة مشوهة من معلوماتها إلى محلل مركزي، حيث يمكن للمحلل بعد ذلك تدريب نماذج قوية على البيانات المشوهة المجمعة، بينما تظل السجلات الخاصة الأصلية مخفية.
تنشأ التحديات عندما يقرر المحلل المركزي وإحدى المؤسسات المشاركة العمل معًا لكسر خصوصية الآخرين. فإذا استخدمت جميع المؤسسات نفس الإزاحة الرياضية تمامًا، فبإمكان الزوج المتواطئ عكس العملية بسهء ورؤية البيانات الخاصة للجميع. ولإيقاف ذلك، اقترح الباحثون سابقًا وجوب استخدام كل مؤسسة لإزاحتها الفريدة الخاصة. ومع ذلك، فإن هذا يخلق مشكلة جديدة: تنتهي بيانات المجموعات المختلفة بتنسيقات غير متوافقة، مما يجعل من المستحيل تدريب نموذج واحد بفعالية. وقد تم تطوير حيلة ذكية تسمى "محاذاة المرتكز" (anchor alignment) لإصلاح ذلك؛ فهي تستخدم مجموعة مرجعية اصطناعية مشتركة من نقاط المرجع — مثل شبكة خريطة مشتركة — تقوم كل مؤسسة بتحويلها مع بياناتها الخاصة. ويستخدم المحلل نقاط المرجع المحولة هذه لمحاذاة مجموعات البيانات المختلفة في تنسيق واحد قابل للاستخدام. لكن دراسة جديدة تكشف عن خلل حرج في هذا النهج: إذا كشف شريك متواطئ خريطة المرجع الأصلية، فيمكن للمحلل عكس الإزاحات الفريدة لجميع المشاركين رياضيًا، مما يكشف بياناتهم الخاصة بالكامل.
اقترح باحثون من جامعة تسوكوبا طريقة جديدة لحل هذه الثغرة الأمنية المحددة. فقد أدركوا أن إضافة الضجيج، أو التشويش العشوائي، مباشرة إلى البيانات الخاصة لحمايتها من شأنها أن تفسد جودة النموذج النهائي. وبدلاً من ذلك، قرروا إضافة الضجيج إلى خريطة المرجع نفسها. في نظامهم الجديد، لا تزال كل مؤسسة تستخدم إزاحتها الفريدة الخاصة لبياناتها الخاصة، ولكن عندما تقوم بتحويل خريطة المرجع المشتركة، فإنها تضيف طبقة من الضجيج العشوائي إليها قبل إرسالها إلى المحلل. هذا الضجيج يجعل من المستحيل رياضيًا على المحلل والشريك المتواطئ عكس الإزاحات الفريدة للمشاركين الآخرين بدقة. لا يزال بإمكان المحلل محاذاة البيانات بشكل جيد بما يكفي لتدريب نموذج مفيد، لكن الطريق لسرقة المعلومات الخاصة أصبح مسدودًا بالضجيج.
اختبر الفريق هذه الفكرة باستخدام مجموعتين كبيرتين من مجموعات الصور: إحداهما تحتوي على أرقام مكتوبة بخط اليد، والأخرى تحتوي على آلاف الوجوه لمشاهير. لقد قاموا بمحاكاة سيناريو يتآمر فيه محلل ومشارك واحد لسرقة بيانات الآخرين. وعندما أضافوا الضجيج إلى البيانات الخاصة نفسها، انخفضت دقة النموذج بشكل كبير مع زيادة حماية الخصوصية. ومع ذلك، عندما أضافوا الضجيج إلى خريطة المرجع فقط، وجدوا توازنًا أفضل بكثير. فقد حافظ النظام على دقة عالية لنموذج تعلم الآلة مع جعل إعادة بناء الصور الأصلية أمرًا صعبًا للغاية على المهاجمين. وفي تجاربهم، سمحت الطريقة الجديدة للنظام بتحقيق دقة تعلم عالية حتى عندما ظلت مخاطر تسرب البيانات منخفضة. وقد أظهر الباحثون أنه من خلال حماية إشارة المحاذاة بدلاً من البيانات نفسها، استطاعوا إنشاء نظام يكون مفيدًا للتعاون وقويًا ضد التهديدات الداخلية في آن واحد. يقدم هذا النهج طريقة عملية للمؤسسات للتعاون في المشاريع الحساسة دون الاضطرار للاختيار بين الخصوصية والأداء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.