APrivacy-Preserving Architecture for On-Device Intelligent Computing Using a Small Language Model with Input and Output Guardrails: Prototype Implementation and Preliminary Evaluation

في العالم الحديث، غالبًا ما نطلب من أجهزة الكمبيوتر أن تفكر نيابة عنا، باستخدام ذكاء اصطناعي قوي لكتابة رسائل البريد الإلكتروني، أو حل المشكلات، أو الإجابة على الأسئلة. معظم هذه الأنظمة الذكية تعيش في السحابة، مما يعني أن كلماتك تسافر عبر الإنترنت إلى خادم بعيد ليتم معالجتها. وبينما يعمل هذا بشكل جيد، فإنه يثير قلقًا هادئًا: في كل مرة تكتب فيها تفصيلًا شخصيًا مثل عنوان بريد إلكتروني أو رقم هاتف، فإن تلك المعلومات تغادر جهازك وتدخل في نظام شخص آخر. ولحل هذه المشكلة، طور الباحثون نسخًا أصغر وأكثر دمجًا من هذه الآلات المفكرة التي يمكنها العمل مباشرة على جهاز الكمبيوتر أو الهاتف الخاص بك، مما يبقي بياناتك حيث تنتمي تمامًا، أي على جهازك. ومع ذلك، مجرد كون الكمبيوتر محليًا لا يعني أنه آمن. إذ يمكن لخدعة ذكية تُعرف باسم "حقن الأوامر" (prompt injection) أن تخدع الآلة لجعلها تتجاهل قواعدها أو تكشف أسرارها، وقد تقوم الآلة عن غير قصد بإخراج معلومات خاصة كان من المفترض أن تبقيها مخفية. لذا، فإن التحدي يكمن في بناء نظام يظل محليًا ولكنه يعمل أيضًا كحارس يقظ، يفحص ما يدخل وما يخرج.

قام باحث يُدعى هارشال غاديكار من جامعة سانجيفاني في الهند ببناء نموذج أولي عامل لاختبار هذه الفكرة تحديدًا. لقد أنشأ مساعدًا يركز على الخصوصية يعمل بنموذج لغوي صغير يسمى "Phi-3 Mini" بالكامل على جهاز كمبيوتر محلي، باستخدام أداة تسمى "Ollama" لإدارة العملية. تم تصميم النظام بطبقة أمان مزدوجة، تشبه نقطة تفتيش أمنية تفحص الركاب قبل صعودهم للرحلة ومرة أخرى بعد وصولهم. فقبل أن يفكر الكمبيوتر في الإجابة، يقوم "حاجز حماية المدخلات" (input guardrail) بفحص رسالة المستخدم؛ حيث يبحث عن علامات تدل على أن شخصًا ما يحاول خداع النظام، مثل الأوامر لتجاهل التعليمات السابقة أو الكشف عن القواعد المخفية للآلة. وإذا وجد مثل هذه الخدعة، فإنه يوقف الطلب فورًا. كما يقوم بمسح التفاصيل الشخصية الحساسة، مثل عناوين البريد الإلكتروني، ويخفيها قبل أن يقرأها الكمبيوتر. وبمجرد أن يولد الكمبيوتر المحلي استجابة، يقوم "حاجز حماية المخرجات" (output guardrail) الثاني بفحص الإجابة للتأكد من عدم تسرب أي معلومات خاصة عن طريق الخطأ.

اختبر الباحث هذا النظام بمجموعة صغيرة من الأسئلة المختارة بعناية ليرى كيف سيتصرف في العالم الحقيقي. عندما سُئل سؤالًا بسيطًا وغير ضار مثل "ما هو الذكاء الاصطناعي؟"، عمل النظام بشكل مثالي؛ حيث عالج الطلب محليًا، واجتاز جميع الفحوصات الأمنية، وأعاد إجابة في غضون ثلاث ثوانٍ فقط. أظهرت الشاشة أن المدخلات كانت نظيفة، ولم يتم اكتشاف أي خدع، وأن الإجابة النهائية كانت آمنة للعرض. ثم واجه النظام سلسلة من أربعة محاولات مختلفة للخداع، حيث حاول المستخدمون أمر الآلة بالكشف عن تعليماتها السرية أو تجاهل قواعد السلامة الخاصة بها. وفي كل حالة من هذه الحالات، رصد حاجز حماية المدخلات المحاولة. فقد حدد النظام الخدعة، وحظر الطلب، وأظهر رسالة تحذير بدلاً من السماح للكمبيوتر بتوليد استجابة. أثبت هذا أنه حتى عندما يعمل الكمبيوتر على مكتبك الخاص، فإنه لا يزال بحاجة إلى حارس لمنعه من التعرض للتلاعب.

تضمنت التجربة أيضًا سؤالًا يحتوي على بيانات شخصية وهمية، وتحديدًا عنوان بريد إلكتروني ورقم هاتف مفبركين. وهنا، أظهر النظام كلاً من قوته ونقطة ضعف واضحة. فعندما كتب المستخدم عنوان البريد الإلكتروني، رصده النظام، واستبدل النص بنص نائب يقول "تم حذف البريد الإلكتروني" (email redacted)، ومرر الرسالة إلى الكمبيوتر. وأظهرت الإجابة النهائية النص المحذوف، مما يعني أنه تمت حماية البريد الإلكتروني بنجاح. ومع ذلك، فشل النظام في رصد رقم الهاتف المكون من ثمانية أرقام؛ حيث سمح بمرور الرقم دون تغيير، وعرضت المخرجات النهائية رقم الهاتف كاملاً كما لو لم يحدث شيء. كما فات حاجز حماية المخرجات رصد الرقم، حيث أفاد بعدم وجود بيانات حساسة في الإجابة. وتبرز هذه النتيجة أنه بينما تكون فكرة الحوسبة المحلية والآمنة قابلة للتطبيق، فإن القواعد الحالية لرصد المعلومات الخاصة ليست مثالية بعد. لقد نجح النظام في صد الخدع ورصد البريد الإلكتروني، لكنه ترك رقم الهاتف مكشوفًا.

تخلص الدراسة إلى أنه من الممكن الجمع بين الحوسبة المحلية وفحوصات الأمان في مسار عمل واحد خفيف الوزن. لقد أثبت النظام قدرته على العمل على جهاز شخصي، وحظر محاولات الخداع الشائعة، وإخفاء بعض أنواع البيانات الخاصة. ومع ذلك، يشدد الباحث على أن هذه النتائج أولية؛ إذ كانت مجموعة الاختبار صغيرة جدًا، وتتكون من عدد قليل من الأسئلة فقط، كما لوحظت النتائج على جهاز واحد دون قياس مدى تكرار وقوع النظام في الأخطاء أو سرعته تحت ضغط العمل الثقيل. إن الفشل في رصد رقم الهاتف يشير إلى ضرية توسيع قواعد الكشف لتغطي المزيد من تنسيقات البيانات الشخصية. وقبل أن يمكن اعتبار هذا النهج موثوقًا تمامًا للاستخدام اليومي، يحتاج النظام إلى الاختبار على مجموعة أكبر بكثير من المدخلات، بما في ذلك الخدع الأكثر تعقيدًا وأنواع مختلفة من المعلومات الشخصية. وفي الوقت الحالي، يقف هذا العمل كإثبات مفهوم واعد، يوضح أن المساعد الذكي الآمن والخاص بات في المتناول، بشرط تحسين الحراس الأمنيين باستمرار.