PrivScope: Task-scoped Disclosure Control for Hybrid Agentic Systems
تُعد PrivScope نظاماً موثوقاً للتحكم في الحمولة على الجهاز للأنظمة الوكيلة الهجينة، حيث تفرض ضبطاً للإفصاح على نطاق المهمة من خلال تصفية السياق غير ذي الصلة وتجريد التفاصيل الحساسة إلى أقل أشكالها كشفاً، مما يؤدي إلى القضاء على تسرب الملفات الشخصية وتقليل مخاطر إعادة تحديد الهوية مع الحفاظ على معدلات نجاح عالية للمهام عبر مختلف نماذج اللغة السحابية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعدًا شخصيًا ذكيًا ومفيدًا للغاية (المتحكم المحلي) يعيش داخل هاتفك. هذا المساعد يعرف كل شيء عنك: عنوانك، ورقم تأمينك، وتاريخك الطبي، وجدول مواعيدك. عندما تطلب منه شيئًا معقدًا، مثل "ابحث لي عن طبيب أسنان بسبب ألم في أسناني"، يقوم هذا المساعد بالعمل الشاق محليًا.
ومع ذلك، في بعض الأحيان لا يكون هاتفك قويًا بما يكفي للبحث في الإنترنت بأكمله أو القيام بعمليات استنتاج معقدة. لذا، يتعين على المساعد أن يطلب المساعدة من عقل فائق الذكاء موجود في السحابة (نموذج اللغة الكبير في السحابة - Cloud LLM).
المشكلة: المساعد "كثير الكلام"
المشكلة هي أنه عندما يطلب مساعدك المحلي المساعدة من العقل الموجود في السحابة، فإنه يميل إلى أن يكون "ثرثارًا" أكثر من اللازم. فهو يرسل إلى عقل السحابة القصة بأكملها، بما في ذلك:
- عنوان منزلك الدقيق (حتى لو كان يحتاج العقل السحابي فقط لمعرفة مدينتك).
- رقم تأمينك (حتى لو كان يحتاج العقل السحابي فقط لمعرفة شركة التأمين التي تتبع لها).
- تفاصيل حول زيارة طبيب أسنان قمت بها قبل ثلاث سنوات (رغم أنك تسأل عن موعد جديد اليوم).
هذا يشبه توظيف وكيل سفر لحجز رحلة طيران، ولكنك سلمته قصة حياتك بالكامل، وأرقام حساباتك المصرفية، ومذكرات طفولتك. وكيل السفر لا يحتاج إلى هذه المعلومات لحجز التذكرة، ولكن بمجرد تسليمها له، تصبح خطرًا على خصوصيتك.
الحل: PRIVSCOPE (المرشح الذكي)
يقدم البحث نظام PRIVSCOPE، وهو نظام يعمل كـ حارس بوابة صارم ولكن مفيد مباشرة قبل أن يرسل هاتفك المعلومات إلى السحابة. هو لا يمنع إنجاز العمل، بل يضمن فقط أن السحابة لا ترى إلا ما تحتاجه بالضبط للقيام بالمهمة المحددة.
إليك كيف يعمل PRIVSCOPE، باستخدام تشبيه بسيط:
1. "فحص المخزون" (الاستخراج)
عندما يجهز مساعدك المحلي الرسالة للسحابة، يقوم PRIVSCOPE أولاً بتفكيك الرسالة إلى قطع فردية (مثل فصل المكونات في وصفة الطعام). فهو يحدد أشياء مثل "الاسم"، "العنوان"، "الأعراض"، و"رقم التأمين".
2. "صندوق الأمان" (الربط المحلي)
يقوم PRIVSCOPE فورًا بالتقاط العناصر الحساسة التي لا يحتاجها العقل السحابي أبدًا، مثل عنوان منزلك الدقيق أو رقم تأمينك المحدد، ويغلقها بعيدًا في "صندوق أمان" داخل هاتفك مباشرة. لن يرى العقل السحابي هذه المعلومات أبدًا.
3. فلتر "الحاجة إلى المعرفة" (ضرورة السحابة)
بعد ذلك، يسأل: "هل يحتاج عقل السحابة حقًا لهذه المعلومة لإيجاد طبيب أسنان؟"
- إذا كانت الإجابة نعم: يحتفظ بها، ولكن...
- إذا كانت الإجابة لا: يتخلص منها.
- إذا كانت "معلومة موروثة" من مهمة سابقة: يصبح شديد الصرامة. إذا كنت قد سألت عن طبيب أسنان الشهر الماضي، فإن تلك المعلومات القديمة لا تُرسل تلقائيًا إلى السحابة لطلب هذا الشهر، ما لم تطلب ذلك تحديدًا.
4. "تأثير التمويه" (التجريد)
هذا هو الجزء الأكثر ذكاءً. إذا كان العقل السحابي يحتاج بالفعل إلى بعض المعلومات، فإن PRIVSCOPE لا يرسل النسخة الحساسة الدقيقة، بل يرسل نسخة غامضة ولكنها مفيدة:
- بدلاً من إرسال "123 شارع مابل، شقة 4B"، يرسل "روتشستر، نيويورك".
- بدلاً من "ألم في الأسنان ونزيف اللثة"، يرسل "انزعاج في الأسنان".
- بدلاً من "18 و19 مارس"، يرسل "الأسبوع الثالث من مارس".
لا يزال بإمكان عقل السحابة العثور على أطباء الأسنان المناسبين باستخدام هذه المعلومات الغامضة، لكنه لا يستطيع تحديد هويتك بدقة أو معرفة جدول مواعيدك بالتحديد.
5. "الإنهاء المحلي" (التحليل)
بمجرد أن يرسل العقل السحابي قائمة بالأطباء المحتملين، تعود الرسالة إلى هاتفك. يقوم مساعدك المحلي (الذي لا يزال يمتلك "صندوق الأمان" الذي يحتوي على عنوانك الحقيقي ورقم تأمينك) بأخذ هذه القائمة ويقوم بالحجز النهائي. إنه يطابق القائمة الغامضة من السحابة مع تفاصيلك الحقيقية لإتمام المهمة.
لماذا هذا مهم (النتائج)
اختبر الباحثون هذا النظام مع 100 سيناريو مختلف لحجز المواعيد الطبية. وإليكم ما وجدوه:
- الخصوصية: في الطريقة القديمة (بدون PRIVSCOPE)، شاهدت السحابة تفاصيل ملفك الشخصي الخاص بنسبة 17.7% من الوقت. مع PRIVSCOPE، انخفضت هذه النسبة إلى 0%.
- إعادة تحديد الهوية: إذا حاول مخترق تخمين هويتك بناءً على المعلومات الغامضة المرسلة إلى السحابة، فقد نجح في الطريقة القديمة بنسبة 64.3%. أما مع PRIVSCOPE، فقد نجح بنسبة 23.1% فقط.
- الفائدة (المنفعة): هل ظل النظام يعمل؟ نعم! لا يزال العقل السحابي يجد أفضل أطباء الأسنان، وتم إكمال المهمة بنجاح بنفس الوتيرة تقريبًا.
- السرعة: لم يضف النظام سوى بضع ثوانٍ من التأخير على هاتفك، وهو ثمن ضئيل مقابل الحفاظ على أسرارك آمنة.
باخت ملخص
PRIVSCOPE هو بمثابة مرشح للخصوصية لمساعدك الرقمي. فهو يضمن أنه عندما يطلب هاتفك المساعدة من السحابة، فإنه لا يشارك إلا "الحد الأدنى" الضروري لإنجاز العمل، مما يبقي أكثر تفاصيلك حساسية مغلقة بأمان داخل جهازك. إنه يحل مشكلة "الإفراط في المشاركة" دون جعل المساعد أقل فائدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.