A Privacy Study of Sparse Collaborative Inference
تتحدى هذه الورقة الافتراض القائل بأن تقليل كثافة التنشيطات في الاستدلال التعاوني يحسن الخصوصية، حيث تثبت أن مواقع القيم المتبقية وحدها تشكل خطراً جسيماً على الخصوصية قادراً على تمكين إعادة بناء المدخلات وإعادة تحديد الهوية بدقة عالية، حتى عندما يتم تقليل تكاليف الإرسال بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا يحتاج فيه هاتفك الذكي للقيام بكل العمل الشاق للتعرف على وجه أو فهم أمر صوتي. بدلاً من ذلك، يقوم الهاتف بالخطوات الأولى من عملية التفكير ويرسل نتيجة وسيطة صغيرة إلى خادم قوي في السحابة لإتمام المهمة. هذا الترتيب، المعروف باسم "الاستدلال التعاوني" (collaborative inference)، هو وسيلة شائعة لتوفير عمر البطارية وقوة المعالجة في أجهزتنا. ومع ذلك، فإنه يخلق نوعاً جديداً من المخاطر. فعلى الرغم من أن الصورة الأصلية أو التسجيل الصوتي لا يغادر هاتفك أبداً، إلا أن النتيجة الوسيطة التي ترسلها ليست مجرد مجموعة عشوائية من الأرقام؛ بل هي لقطة مضغوطة لبياناتك الخاصة. إذا تمكن مخترق أو خادم فضولي من اعتراض هذه اللقطة، فقد يتمكن من هندستها عكسياً لرؤية وجهك أو سماع صوتك مرة أخرى. ولحل هذه المشكلة، حاول المهندسون مؤخاً استخدام تقنية تسمى "التخلخل" (sparsification). الفكرة بسيطة: بدلاً من إرسال كل رقم في تلك اللقطة، يرسل الهاتف الأرقام الأكثر أهمية فقط، ويتخلص من البقية لتوفير عرض النطاق الترددي. وكان الأمل هو أنه بإرسال أرقام أقل، ستُرسل أيضاً معلومات خاصة أقل، مما يجعل البيانات أكثر أماناً بطبيعتها.
قرر فريق من الباحثين في معهد فراونهوفر هيرتز التقني وجامعة برلين التقنية اختبار ما إذا كان هذا الأمل حقيقياً بالفعل. لقد سعوا لمعرفة ما إذا كان إرسال أرقام أقل يعني حقاً مخاطر خصوصية أقل، أم أن عملية اختيار الأرقر التي سيتم إرسالها قد خلقت خطراً جديداً خفياً. وللقيام بذلك، بنوا نظاماً يمكنه تفكيك البيانات التي يتم إرسالها إلى جزأين متميزين: القيم الفعلية للأرقام التي تم الاحتفاظ بها، والمواقع المحددة التي وجدت فيها تلك الأرقام ضمن المجموعة الأكبر. وفي تجاربهم، عاملوا هذين الجزأين كرسالتين منفصلتين. في أحد السيناريوهات، أرسلوا فقط قائمة المواقع التي وجدت فيها الأرقام المهمة، مع إخفاء الأرقام نفسها تماماً. وفي سيناريو آخر، أرسلوا الأرقام ولكن وضعوها في أماكن عشوائية وغير ذات معنى بحيث فُقدت معلومات الموقع. ثم طلبوا من نوعين من المهاجمين محاولة إعادة بناء الصورة الأصلية من هذه الرسائل الجزئية. كان أحد المهاجمين برنامج كمبيوتر قياسي حاول تخمين الصورة باستخدام القواعد الرياضية للنظام فقط، بينما كان الآخر نموذج تعلم آلي ذكي تم تدريبه على مجموعة كبيرة من الصور المماثلة لتعلم كيفية فك الرموز.
جاءت نتائج دراستهم مفاجئة وقلبت الافتراض الشائع بأن إرسال بيانات أقل يعني تلقائياً بيانات أكثر أماناً. فقد وجدوا أن المواقع المحددة للأرقام، والتي تُسمى غالباً "المواقع" أو "القناع" (mask)، حملت تقريباً كل المعلومات الخاصة. فعندما أرسل الباحثون قائمة المواقع فقط دون الأرقام الفعلية، تمكن المهاجمون من إعادة بناء صورة يمكن التعرف عليها للمدخل الأصلي. وفي الاختبارات التي أجريت على صور طبيعية، كانت الصور المعاد بناؤها من قائمة المواقع وحدها تبدو واضحة تقريباً مثل تلك المعاد بناؤها من مجموعة الأرقام الكاملة. والأمر الأكثر إثارة للقلق هو أنه عندما اختبروا ذلك على الوجوه، كانت قائمة المواقع وحدها كافية لتحديد هوية الشخص. فقد استطاع المهاجمون مطابقة الوجه المعاد بناؤه مع الفرد الصحيح بدقة عالية، رغم غياب التفاصيل الدقيقة للوجه واختفاء الأرقام نفسها. حدث هذا حتى عندما كانت كمية البيانات المرسلة ضئيلة جداً، مما يمثل تقليصاً هائلاً في الحجم مقارنة بالأصل. اكتشف الباحثون أن عملية اختيار الأرقام التي سيتم الاحتفاظ بها كانت في حد ذاتها شفرة سرية تصف المدخلات. فالنمط المحدد للأماكن التي كانت نشطة أخبر المهاجم بالضبط كيف يبدو شكل الصورة، بغض النظر عما إذا كانت القيم الفعلية موجودة أم لا.
كشفت الدراسة أيضاً أن الطريقة التي نختبر بها الأمن حالياً غالباً ما تكون ضعيفة للغاية. فالطريقة القياسية، التي تعتمد على برنامج كمبيوتر يحاول عكس العملية رياضياً دون أي مساعدة خارجية، فشلت في رؤية الخطر. اعتقد هذا الاختبار القياسي أن بيانات الموقع وحدها آمنة لأنه لم يستطع إعادة بناء صورة واضحة. ومع ذلك، عندما استخدم الباحثون المهاجم الأكثر ذكاءً والمدرب على بيانات إضافية، أصبح الخطر واضحاً. فقد استطاع المهاجم المدرب بسهولة تحويل قائمة المواقع مرة أخرى إلى وجه يمكن التعرف عليه بما يكفي لتحديد هوية الشخص. وهذا يعني أن الأنظمة التي تعتمد على الاختبار القياسي قد تعتقد أنها آمنة بينما هي في الواقع مفتوحة للهجوم. وجد الباحثون أن هذا الخطر استمر حتى عندما تم ضبط النظام عند نقطة كانت بالكاد مفيدة لمهمته المقصودة، مثل التعرف على جسم ما. كانت البيانات متخلخلة لدرجة أن الخادم بالكاد يستطيع تمييز ما يتم عرضه، ومع ذلك ظلت قائمة المواقع تحتوي على معلومات كافية لتحديد وجه بشري.
في النهاية، خلصت الورقة البحثية إلى أن الافتراض بأن التخلخل يحسن الخصوصية هو افتراض خاطئ إلى حد كبير. فبينما ينجح في تقليل كمية البيانات المرسلة، فإنه لا يقلل من خطر الكشف عن المعلومات الخاصة بنفس النسبة. لقد انتقل الخطر ببساطة من قيم الأرقام إلى نمط الأماكن التي توجد فيها تلك الأرقام. ويجادل الباحثون بأنه لا ينبغي معاملة قائمة المواقع كمعلومات جانبية غير ضارة مطلوبة فقط لفك التشفير، بل كبيانات حساسة يجب حمايتها. فإذا أرسل النظام تنشيطاً متخلخلاً، فإنه يرسل فعلياً خريطة للمدخلات الخاصة، وهذه الخريطة خطيرة بقدر خطورة المدخلات نفسها. ولحماية الخصوصية حقاً في هذه الأنظمة، يجب على المهندسين التوقف عن افتراض أن إرسال أرقام أقل هو أمر كافٍ، والبدء في معاملة نمط تلك الأرقام بنفس مستوى السرية الذي تمثله البيانات نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.