Privacy-Preserving Continual Learning for Detecting Concept Drift in Distributed Artificial Intelligence Systems

في العالم الحديث، لا تُبنى أنظمة الذكاء الاصطناعي في مراكز بيانات ضخمة ومركزية، بل تُبنى عبر آلاف الأجهزة المنفصلة: المستشفيات، والمدارس، والبنوك، والهواتف الذكية. هذا النهج، المعروف باسم التعلم الموزع، يسمح لهذه الأنظمة بالتعلم من البيانات المحلية دون الحاجة مطلقاً لنقل تلك المعلومات الحساسة إلى موقع مركزي. ومع ذلك، فإن العالم الحقيقي ليس ثابتاً؛ فالأنماط التي تتعلم منها هذه الأنظمة تتغير بمرور الوقت: هجوم سيبراني جديد من نوع ما يظهر، أو تحول موسمي يغير استهلاك الطاقة، أو تغير في التركيبة السكانية للطلاب يؤدي إلى تحول في سلوكيات التعلم. وفي مجال تعلم الآلة، يُسمى هذا المشهد المتغير "انزياح المفهوم" (concept drift). وإذا لم يتمكن النظام من اكتشاف هذه التغييرات، فإنه يبدأ في ارتكاب الأخطاء، متمسكاً بقواعد قديمة لم تعد صالحة للتطبيق. ويصبح التحدي الذي يواجه الأنظمة الموزعة مزدوجاً: يجب عليها اكتشاف هذه التغييرات بسرعة لتبقى دقيقة، ولكن يجب عليها أيضاً القيام بذلك دون التلصص على البيانات الخاصة التي تسببت في التغيير في المقام الأول.

لقد عالج الباحثون في جامعة أتلانتس هذا التوازن الصعب من خلال تصميم إطار عمل جديد يسمح للذكاء الاصطناعي الموزع برصد هذه التحولات مع الحفاظ على خصوصية البيانات الفردية بشكل صارم. وتتمثل الفكرة الجوهرية في التعامل مع الإشارة التي تنذر بحدوث تغيير كقناة منفصلة ومحمية. فبدلاً من إرسال بيانات خام أو حتى تقارير أخطاء غير مشفرة، يرسل النظام ملخصاً مشوشاً للغاية حول مدى أداء النموذج. يتم خلط هذا الملخص بضوضاء رياضية، وهي تقنية تضمن الخصوصية من خلال جعل من المستحيل عكس هندسة البيانات الأصلية من الإشارة. بعد ذلك، يراقب الخادم المركزي هذه الملخصات المشوبة بالضوضاء ليقرر ما إذا كان النظام بحاجة إلى إعادة تعلم قواعده. وقد اختبر الباحثون هذه الطريقة على ثلاثة أنواع مختلفة من تدفقات البيانات: الطلب على الكهرباء، وحركة مرور الشبكة المحاكية، وبيانات اصطناعية مصممة لمحاكاة الاتجاهات المتغيرة. ووجدوا أن النظام يمكنه بنجاح اكتشاف متى تغير العالم، بشرط ألا تكون إعدادات الخصوصية صارمة للغاية.

تكشف الدراسة عن نقطة تحول واضخة في كيفية تأثير الخصوصية على الأداء. فعندما سمح الباحثون بمستوى متوسط من حماية الخصوصية، اكتشف النظام التغييرات أبطأ بنسبة ثلاثين بالمائة فقط مقارنة بنظام لا يتضمن أي حماية للخصوصية على الإطلاق. وهذا التأخير، الذي يُقاس بجولات التواصل بين الأجهزة، غالباً ما يكون مقبولاً في التطبيقات الواقعية مثل مراقبة شبكات الطاقة أو الاتجاهات التعليمية. ومع ذلك، فإن العلاقة بين الخصوصية والأداء ليست انزلاقاً ناعماً؛ فإذا تم تشديد حماية الخصوصية بما يتجاوز عتبة حرجة معينة، فإن النظام لا يتباطأ فحسب، بل يتعطل تماماً. فدون هذه العتبة، تصبح الضوضاء المضافة لحماية الخصوصية عالية جداً لدرجة أنها تطغى على إشارة التغيير الفعلية، ويبدأ النظام في إطلاق إنذارات كاذبة، حيث يخلط بين الضوضاء العشوائية وبين التحول الحقيقي، أو يفشل تماماً في ملاحظة التغييرات الحقيقية. وقد حدد الباحثون هذا الحد الحرج عند قيمة خصوصية محددة وهي (واحد)؛ فدون هذا الرقم، يصبح النظام أعمى فعلياً عن رؤية التغييرات التي من المفترض أن يتتبعها.

وبعيداً عن مجرد رصد التغييرات، كان على إطار العمل أيضاً حل مشكلة "النسيان". ففي العديد من أنظمة التعلم، عندما يتعلم النموذج مفهوماً جديداً، فإنه غالباً ما يمحو ما عرفه عن المفهوم القديم، وهي ظاهرة تُعرف باسم "النسيان الكارثي". ويستخدم الحل المقترح حيلة ذاكرة ذكية لا تتطلب تخزين أي أمثلة فعلية للبيانات السابقة، وهو ما قد يشكل خطراً على الخصوصية. بدلاً من ذلك، يتذكر النظام "الشعور" الرياضي للإجابات القديمة التي قدمها، بدلاً من الأسئلة نفسها. وهذا يسمح للنظام بالتكيف مع الاتجاهات الجديدة مع التمسك بمعرفته بالأنماط السابقة. وفي الاختبارات التي تحول فيها تدفق البيانات ذهاباً وإياباً بين نمطين مختلفين، حسنت هذه الطريقة قدرة النظام على تذكر الأنماط القديمة بنسبة تصل إلى إحدى عشرة نقطة مئوية مقارنة بالطرق القياسية التي تكتفي بإعادة التدريب على البيانات الجديدة. وهذا يعني أن النظام يمكنه تعلم مهارة جديدة دون فقدان المهارة القديمة، كل ذلك مع إبقاء البيانات الأساسية مخفية.

كما سلط البحث الضوء على قصور كبير عندما لا يؤثر التغيير على الجميع بالتساوي. ففي العالم الحقيقي، قد ينطبق قانون جديد على منطقة معينة فقط، أو قد يستهدف فيروس جديد مجموعة فرعية من الأجهزة فقط. ووجدت الدراسة أنه عندما يواجه جزء فقط من الشبكة تغيراً ما، فإن النظام يكافح لاكتشافه ما لم تكن إعدادات الخصوصية فضفاضة للغاية. فآلية حماية الخصوصية ذاتها — وهي خلط البيانات من مصادر متعددة معاً — تعمل أيضاً على تخفيف الإشارة القادمة من المجموعة الصغيرة التي تشهد التغيير. وإذا أثر التغيير على أقل من أربعين بالمائة من المشاركين، فإن النظام غالباً ما يخطئه تماماً ما لم يتم زيادة ميزانية الخصوصية بشكل كبير. وهذا يشير إلى أنه بينما تعمل هذه الطريقة بشكل جيد مع التغييرات الواسعة والشاملة للنظام، إلا أنها قد تحتاج إلى نهج مختلف، مثل تجميع الأجهزة حسب المنطقة أو المؤسسة، لرصد التحولات المحلية الصغيرة دون التضحية بالخصوصية.

في نهاية المطاف، يحدد هذا العمل الحدود العملية للخصوصية في أنظمة التعلم التكيفية. فهو يوضح أنه من الممكن بناء ذكاء موزع يكون خاصاً واستجابياً في آن واحد، ولكن فقط ضمن نطاق محدد من الإعدادات. وتشير النتائج إلى أنه بالنسبة للعديد من التطبيقات، مثل تحليلات التعليم أو مراقبة البنية التحتية، فإن توفير مستوى متوسط من حماية الخصوصية يقدم "نقطة مثالية" حيث يظل النظام دقيقاً ومتجاوباً. ومع ذلك، بالنسبة للبيئات عالية المخاطر حيث تحدث التغييرات فورياً، مثل الأمن السيبراني، قد يكون التأخير الناتج عن إجراءات الخصوصية الصارمة كبيراً جداً. وتخلص الدراسة إلى أنه لا يوجد إعداد واحد يصلح لكل حالة؛ وبدلاً من ذلك، يجب على مصممي الأنظمة اختيار مستوى خصوصية يتناسب مع السرعة التي يتغير بها عالمهم الخاص، مع إدراك أن الدفع بالخصوصية إلى أقصى حد سيؤدي في النهاية إلى جعل النظام عاجزاً عن رؤية العالم وهو يتغير من حوله.