Keyed Provenance Watermarking with Complementary Lattice-Based Secure Aggregation for Federated Learning
تقترح هذه الورقة إطار عمل للتعلم الاتحادي الهجين يدمج مخططاً لعلامات مائية للصور قائماً على شبكات الخصومة التوليدية (GAN) ومتوافقاً مع مبدأ كيركوفز، باستخدام بيانات وصفية لمرتكزات فيزيائية من أجل تتبع مصدر البيانات، مع بروتوكول تجميع آمن يعتمد على المعرفة الصفرية والشبكات المعتمدة على المشبكات لمواجهة عصر ما بعد الكم، وذلك لتوفير حماية شاملة وقابلة للتحقق ضد تسرب البيانات والتلاعب الضار بالتدرجات في نظام واحد متكامل من البداية إلى النهاية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الرقمي الحديث، يتم تدريب الذكاء الاصطناعي بشكل متزايد ليس على حاسوب فائق واحد، بل عبر آلاف الأجهزة المنفصلة، من الهواتف الذكية إلى خوادم المستشفيات. هذه الطريقة، المعروفة باسم "التعلم الاتحادي" (Federated Learning)، تسمح للآلات بالتعلم معاً دون مشاركة بياناتها الخاصة أبداً. فبدلاً من إرسال الصور الخام أو السجلات الطبية إلى مركز رئيسي، يقوم كل جهاز بتدريب جزء صغير من النموذج محلياً ويرسل فقط التحديثات الرياضية عائدةً إلى المركز. وبينما يحمي هذا الخصوصية، فإنه يخلق مجموعة جديدة من الثغرات؛ لأنه لا تخرج البيانات أبداً من جهاز المالك، فمن الصعب التحقق من مصدرها أو ما إذا كان قد تم التلاعب بها. وبالمثل، نظرًا لأن الخادم لا يرى سوى التحديثات الرياضية، فإنه لا يستطيع بسهولة معرفة ما إذا كان أحد المشاركين يحاول تخريب المجموعة عبر إرسال تعليمات مزيفة أو خبيثة. يعتمد النظام على الثقة، ولكن في عالم مليء بالهجمات السيبرانية المتطورة، لا تكفي الثقة وحدها.
لطالما سعى الباحثون لإيجاد طرق لحل هذه المشكلات، لكنهم عادةً ما عالجوا جانبي القضية بشكل منفصل. يعمل أحد مجموعات الخبراء على حماية الصور أو البيانات نفسها، بينما تركز مجموعة أخرى على تأمين التحديثات الرياضية المرسلة بين الأجهزة. هذا النهج المنقسم يترك فجوة: فقد يكون النظام آمناً ضد الرياضيات السيئة ولكنه معرض للبيانات المسروقة، أو العكس. وقد نجح فريق من الباحثين الآن في سد هذه الفجوة عبر إنشاء إطار عمل موحد يحمي كلاً من البيانات والرياضيات في آن واحد. إن عملهم، الذي نُشر في دراسة حديثة، يقدم نظام أمان ثنائي الطبقات يعمل بمثفي بصمة رقمية للبيانات وختم تشفيري للتحديثات، مما يضمن بقاء عملية التعلم بأكملها صادقة وقابلة للتحقق.
تركز الطبقة الأولى من هذا النظام الجديد على البيانات نفسها، وتحديداً الصور المستخدمة في التدريب. ولإثبات أن الصورة أصلية وتنتمي لمالك معين، طور الباحثون طريقة لدمج علامة مخفية غير قابلة للتزوير مباشرة داخل الصورة. وخلافاً للعلامات الرقمية البسيطة التي يمكن نزعها بسهولة، فإن هذه العلامة منسوجة في النسيج البصري للصورة. تبدأ العملية بإنشاء رمز فريد بناءً على حقائق من العالم الحقيقي، مثل الوقت الدقيق الذي التقطت فيه الصورة، وموقعها، وخادم شبكة الطاقة المحدد الذي كان نشطاً في تلك اللحظة. تُجمع هذه الحقائق من بنية تحتية موثوقة، مما يجعل تزييفها أمراً مستحيلاً تقريباً. ثم يتم تشفير هذا الرمز باستخدام مفتاح سري يعرفه المالك فقط، ليتحول إلى حمولة آمنة.
ولإخفاء هذه الحمولة داخل صورة، استخدم الباحثون نموذج ذكاء اصطناعي متخصص مصمم ليكون غير مرئي ومرناً. يعمل هذا النموذج مثل "نساج ماهر"، حيث يجد المواضع المثالية في الصورة لوضع الرسالة المخفية. فهو يتجنب المناطق التي تكون فيها العين البشرية أكثر حساسية، ويضع العلامة بدلاً من ذلك في الأنسجة أو الأنماط المعقدة حيث لن تُلاحظ. وحتى إذا تعرضت الصورة للضغط أو القص أو الضجيج، تظل الرسالة المخفية سليمة. اختبر الباحثون هذا النظام على آلاف الصور ووجدوا أن الصور التي تحمل العلامة المائية تبدو مطابقة للأصلية للعين البشرية، دون أي تشويه مرئي. والأهم من ذلك، يمكن استعادة الرسالة المخفية بدقة تقارب الكمال حتى بعد تعرض الصور لهجمات شديدة، مثل الضغط العالي أو الضجيج العشوائي. وهذا يضمن أنه إذا حاول شخص ما سرقة مجموعة بيانات أو استبدال الصور بأخرى مزيفة، فسيتم اكتشاف الاحتيال فوراً.
أما طبقة الحماية الثانية، فتعالج التحديثات الرياضية المرسلة خلال عملية التعلم. في شبكة التعلم الاتحادي، ترسل الأجهزة تغييراتها المحسوبة إلى خادم مركزي لتحسين النموذج العالمي. ومع ذلك، يمكن لفاعل خبيث إرسال تحديث مشوه لتدمير النموذج أو سرقة المعلومات. ولمنع ذلك، طبق الباحثون بروتوكولاً يسمح لكل جهاز بإثبات صحة تحديثه دون الكشف عن البيانات الفعلية بداخله. ويتم تحقيق ذلك من خلال تقنية تسمى "إثبات المعرفة الصفرية" (Zero-Knowledge Proof)، وهي تشبه إثبات معرفتك بكلمة مرور سرية دون نطق الكلمة فعلياً. في هذا النظام، يمكن للجهاز إثبات أن تحديثه يتبع القواعد رياضياً — مثل البقاء ضمن حد حجم معين أو التوجه في الاتجاه الصحيح — دون أن يرى الخادم الأرقام الخام أبداً.
بُنيت عملية التحقق هذه على أساس من "تشفير الشبكة" (Lattice-based Cryptography)، وهي طريقة مصممة لتكون آمنة حتى ضد أجهزة الكمبيوتر الكمومية المستقبلية. يتحقق النظام من ثلاثة أشياء محددة: أن الجهاز يستخدم المفاتيح الصحيحة، وأن التحديث ليس كبيراً جداً، وأنه يتماشى مع الاتجاه العام لتعلم المجموعة. إذا حاول جهاز إرسال تحديث ضخم أو فوضوي أو يشير إلى اتجاه خاطئ، فسيفشل الإثبات، وسيرفضه الخادم. وجد الباحثون أن عملية التحقق هذه لا تضيف إلا وقتاً ضئيلاً جداً للعملية، حتى عند التعامل مع مجموعات بيانات كبيرة والعديد من المشاركين. فهي تعمل بفعالية على تصفية المحاولات الخبيثة لتسميم النموذج مع الحفاظ على سلاسة وكفاءة عملية التعلم المشروعة.
وعند دمج هاتين الطبقتين، فإنهما تشكلان درعاً قوياً ضد مجموعة واسعة من الهجمات. قام الباحثون بمحاكاة سيناريوهات معقدة حيث حاول خصم القيام بالأمرين معاً: استبدال صور التدريب ببيانات مزيفة وفي الوقت نفسه إرسال تحديثات رياضية فاسدة. وفي هذه الاختبارات، نجح النظام ثنائي الطبقات في كشف كل حالة تلاعب بالبيانات ورفض كل تحديث خبيث. رصد النظام استبدالات البيانات غير المصرح بها بدقة 100% ومنع النموذج من التعلم من التعليمات السيئة. والأهم من ذلك، أن هذا المستوى العالي من الأمن لم يأتِ على حساب الأداء؛ فقد حقق النموذج النهائي المدرب بهذه الحمايات دقة مقاربة جداً للنموذج المدرب بدونها، مما يثبت إمكانية تعايش الأمن القوي مع الفائدة العالية.
كما سلطت الدراسة الضوء على قيود التكنولوجيا الحالية. فبينما يعد النظام ممتازاً في التحقق من سياق الصورة وصحة التحديث الرياضي، فإنه لا يستطيع بعد منع المهاجم من نسخ علامة مائية صالحة من صورة مشروعة ولصقها على صورة مزيفة. يظل هجوم "إعادة التشغيل" (Replay Attack) هذا تحدياً للمستقبل. بالإضافة إلى ذلك، يركز البحث الحالي على بيانات الصور، وتوسيع هذه الأساليب لتشمل أنواعاً أخرى من المعلومات، مثل النصوص أو الصوت، سيتطلب مزيداً من العمل. ورغم هذه الأسئلة المفتوحة، تمثل النتائج خطوة كبيرة للأمام. فمن خلال الجمع بين ركائز العالم المادي للبيانات والتشفير المتقدم للحوسبة، قدم الباحثون مخططاً لنظام ذكاء اصطناعي أكثر موثوقية، حيث لا تكون الخصوصية والأمن مجرد وعود، بل حقائق مضمونة رياضياً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.