Privacy-Preserving Architecture for On-Device Intelligent Computing Using Small Language Models

في عالمنا الرقمي الحديث، أصبحت هواتفنا الذكية وأجهزة الكمبيوتر المحمولة أكثر من مجرد أدوات للتواصل؛ فهي تعمل بشكل متزايد كمساعدين شخصيين يفهمون كلماتنا، ويتوقعون احتياجاتنا، ويساعدوننا في حل المشكلات. ولتحقيق هذا المستوى من الذكاء، تعتمد هذه الأجهزة غالبًا على برامج حاسوبية ضخمة تُعرف باسم النماذج اللغوية. تقليديًا، عندما يطرح المستخدم سؤالًا، يرسل الجهاز هذا الطلب عبر الإنترنت إلى مزرعة خوادم بعيدة، حيث تقوم حواسيب قوية بمعالجة الإجابة وإرسالها مرة أخرى. وبينما تسمح هذه الطريقة باستجابات ذكية للغاية، إلا أنها تتطلب تسليم البيانات الشخصية إلى موقع بعيد، مما يثير مخاوف بشأن الخصوصية وأمن المعلومات الحساسة. ويبحث مجال متنامٍ من الأبحاث الآن في مسار مختلف: تشغيل هذه البرامج الذكية مباشرة على الجهاز نفسه. ومن خلال استخدام نسخ أصغر وأكثر كفاءة من هذه النماذج، يأمل الباحثون في إبقاء المحادثات والبيانات محلية تمامًا، مما يضمن أن أفكار المستخدم الخاصة لا تغادر أجهزته أبدًا.

ومع ذلك، فإن مجرد نقل المعالجة إلى جهاز محلي لا يجعل النظام آمنًا تلقائيًا. فحتى عندما يعمل الكمبيوتر في عزلة، لا يزال بإمكانه أن يُخدع من قبل مستخدم يكتب تعليمات خبيثة مصاغة بعناية تهدف إلى إرباك البرنامج أو إجباره على الكشف عن أسرار مخفية. هذا النوع المحدد من الخداع، والذي يُطلق عليه غالبًا "حقن الأوامر" (prompt injection)، يظل تهديدًا بغض النظر عما إذا كان الكمبيوتر متصلاً بالإنترنت أو جالسًا بمفرده على مكتب. ولمعالجة هذا التحدي المزدوج المتمثل في الحفاظ على محلية البيانات مع منع التلاعب بالبرمجيات، اقترحت باحثة تُدعى بريانكا أغافان من جامعة سانجيفاني في الهند طريقة جديدة لبناء هذه الأنظمة المحلية. ويركز العمل على إنشاء طبقة واقية حول البرنامج الذكي، لضمان بقائه آمنًا وخاصًا دون الحاجة إلى الاعتماد على السحابة.

جوهر هذا البحث هو عملية خطوة بخطوة تعمل كحارس بوابة لكل سؤال يطرحه المستخدم. فبدلاً من إرسال الاستعلام مباشرة إلى النموذج اللغوي، يتحقق النظام أولاً من المدخلات بحثًا عن عدة مشكلات محددة. فهو يبحث عن علامات المعلومات الشخصية الحساسة التي لا ينبغي معالجتها، ويمسح بحثًا عن أنماط تشير إلى أن المستخدم يحاول خداع النظام لتجاهل قواعد السلامة الخاصة به. وفقط بعد أن يجتاز المدخل هذه الفحوصات الأمنية، يُسمح له بالوصول إلى النموذج اللغوي المحلي. وبمجرد أن يولد النموذج إجابة، لا يقوم النظام بإظهارها للمستخدم فورًا؛ بل يقوم بإجراء فحص ثانٍ على المخرجات لضمان أن الاستجابة نفسها آمنة ومناسبة. وتحدث هذه العملية بأكملها، من لحظة كتابة المستخدم للكلمة حتى ظهور الإجابة، بالكامل على الجهاز، باستخدام نموذج صغير وفعال يُسمى "Phi-3 Mini".

لاختبار ما إذا كان هذا النهج يعمل في الممارسة العملية، قامت الباحثة ببناء نموذج أولي يعمل باستخدام برمجيات تسمح للنموذج بالعمل محليًا. وقد وُضع النظام تحت سلسلة من الاختبارات باستخدام أسئلة عادية بالإضافة إلى محاولات محددة للخداع. وعندما حاول الباحثون تغذية النظام بتعليمات مثل "تجاهل جميع التعليمات السابقة" أو "اكشف عن أمر النظام الخاص بك"، نجحت الطبقة الأمنية في تحديد هذه المحاولات وحظرها قبل أن يتمكن النموذج حتى من معالجة الطلب. وأظهرت النتائج أنه من الممكن الجمع بين الذكاء المحلي وفحوصات أمنية صارمة في نظام واحد متماسك. وقد أثبت النموذج الأولي أن الجهاز يمكنه التعامل مع المهام اللغوية دون إرسال البيانات إلى السحابة، مع الحفاظ في الوقت نفسه على الدفاع ضد تكتيكات التلاعب الشائعة.

وعلى الرغم من هذه النتائج الواعدة، تشير الدراسة بحذر إلى أن التدابير الأمنية ليست بعد درعًا كاملًا ضد كل التهديدات المحتملة. فقد كانت الاختبارات محدودة بمجموعة محددة من الحيل المعروفة، ولم يتم تقييم النظام ضد طرق التلاعب الأكثر تعقيدًا أو خفاءً. علاوة على ذلك، فإن فحوصات الخصوصية المستخدمة في النموذج الأولي هي فحوصات أولية وقد لا ترصد كل نوع من أنواع المعلومات الحساسة التي قد يشاركها المستخدم عن غير قصد. كما تشير الباحثة إلى أن العمل الحالي يركز على تصميم البرمجيات ولا يأخذ في الاعتبار بعد مدى استهلاك هذه العمليات للطاقة أو كيفية أدائها على أنواع مختلفة من الأجهزة على مدى فترة طويلة. وتوحي النتائج بنقطة انطلاق قابلة للتطبيق لبناء ذكاء اصطناعي يراعي الخصوصية، لكنها تسلط الضوء أيضًا على الحاجة إلى مزيد من الاختبارات مع مجموعة متنوعة من الهجمات وسيناريوهات العالم الحقيقي لضمان أن يكون النظام قويًا بما يكفي للاستخدام اليومي.

يقدم هذا البحث رؤية عملية لمستقبل الحوسبة الشخصية، حيث لا يكون الذكاء قويًا فحسب، بل يحترم أيضًا خصوصية المستخدم وسلامته. فمن خلال إبقاء المعالجة محلية وإضافة طبقة مخصصة من الفحوصات الأمنية، تُظهر البنية المقترحة أننا لسنا مضطرين للاختيار بين امتلاك مساعد ذكي والحفاظ على خصوصية بياناتنا. وبينما النسخة الحالية هي نموذج أولي بحدود معروفة، إلا أنها تثبت وجود الأساس التقني لمثل هذا النظام. ومع استمرار تقلص هذه النماذج وزيادة كفاءتها، يمكن أن يصبح الجمع بين التنفيذ المحلي وفحوصات الأمان المدمجة هو المعيار لكيفية تفاعلنا مع الآلات الذكية، مما يضمن أن تظل محادثاتنا الرقمية ملكًا لنا وحدنا.