Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation
تقترح هذه الورقة نسخة احتمالية من التفويض الواعي بالخصوصية تستخدم مقياس تقدير الـ k-anonymity المدفوع بنماذج اللغات الكبيرة (LLM) ومجموعة بيانات PUPA-SD التي تم إنشاؤها حديثاً لحماية المستخدمين بشكل أفضل من مخاطر الخصوصية الناجمة عن الإفصاحات الذاتية الخالية من معلومات الهوية الشخصية (PII)، مما يثبت أن هذا النهج يحقق توازناً أمثلاً بين الخصوصية والمنفعة لنماذج مثل Llama-3.2-3B.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدردش مع صديق آلي فائق الذكاء يعرف كل شيء في العالم. قد تشعر بالأمان لمشاركة سر ما، مفكرًا: "لن أخبره باسمي أو عنواني، لذا فأنا بخير!" ولكن إليك المفاجأة: حتى بدون معرفة اسمك، يمكن للروبوت أن يخمن من أنت بمجرد تجميع أدلة صغيرة. الأمر يشبه محاولة الاختباء في غرفة مزدحمة عبر ارتداء قناع، لكنك تترك قبعتك الفريدة وحذاءك وندبة معينة ظاهرة للعيان. إذا كان لدى الكثير من الناس في الغرفة نفس هذه القبعة، فأنت في أمان. أما إذا كان شخص واحد فقط في المدينة بأكملها يمتلك تلك القبعة، وتلك الأحذية، وتلك الندبة، فإن القناع لن يفيدك كثيرًا. هذا هو عالم "الخصوصية"، حيث يقلق العلماء من أنه حتى عند إزالة الأسرار الواضحة (مثل الأسماء)، فإن مزيج التفاصيل الصغيرة التي نشاركها يمكن أن يسمح للغرباء بمعرفة هويتنا بدقة.
تتعمق هذه الورقة البحثية في طريقة جديدة لحمايتنا عندما نطلب المساعدة من هؤلاء الأصدقاء الآليين. يعمل الباحثون على نظام حيث يقوم روبوت صغير وآمن على هاتفك ("النموذج المحلي") بإعادة كتابة سؤالك قبل إرساله إلى الروبوت الكبير والقوي في السحابة ("النموذج البعيد"). الهدف هو جعل السؤال لا يزال منطقيًا بالنسبة للروبوت الكبير، مع تجريده من أي شيء يمكن أن يحدد هويتك. تقترح الورقة أن مجرد إزالة الأسرار الواضحة ليس كافيًا. بدلاً من ذلك، يقترحون "درجة خصوصية" جديدة تسمى k-anonymity. فكر في هذه الدرجة كمقياس لعدد الأشخاص الآخرين في العالم الذين يمكن وصفهم بنفس مجموعة الأدلة. إذا كان سؤالك المعاد كتابته يصف "ممرضة تبلغ من العمر 34 عامًا في أوستن"، فهذه مجموعة صغيرة جدًا (درجة منخفضة). أما إذا كان يصف "شخصًا يدير مشكلة صحية"، فقد يكون ذلك ملايين الأشخاص (درجة عالية). وكلما زادت الدرجة، زادت صعوبة تحديد هويتك بدقة.
قام المؤلفون ببناء ساحة لعب خاصة لأسئلة مستخدمين حقيقيين لاختبار فكرتهم، حيث أنشأوا مجموعة بيانات تسمى PUPA-SD تحتوي على 166 مثالاً لأشخاص يشاركون قصصًا شخصية. ثم حاولوا تعليم الروبوت المحلي كيفية إعادة كتابة هذه الأسئلة، ليس فقط لإخفاء الأسماء، بل لزيادة "درجة الخصوصية" تلك. وجدوا أنه بالنسبة لبعض الروبوتات، نجح هذا التدريب الجديد بشكل مذهل. وتحديدًا، أصبح نموذج يسمى Llama-3.2-3B أفضل بكثير في أداء المهمة: فبعد التدريب، حافظ على جودة الإجابات مرتفعة (مسجلًا 67.4 من 100) بينما قلل بشكل كبير من عدد الأسرار التي سربها بالخطأ (انخفضت إلى 11.0). ومع ذلك، تشير الورقة إلى أن هذا ليس حلاً سحريًا للجميع. فالروبوتات الأصغر، مثل نموذج Qwen-2.5-0.5B، عانت لتحقيق التوازن بين كونها مفيدة وتحقيق الخصوصية؛ فعندما حاولت أن تصبح أفضل في الخصوصية، بدأت أحيانًا في تسريب المزيد من الأسرار أو تقديم إجابات أسوأ. ويقترح الباحثون أن استخدام "درجة الخصوصية" هذه كدليل هو خطوة واعدة، لكنهم يعترفون أيضًا بأن أدواتهم الحالية لعد الأشخاص الذين يتطابق وصفهم مع الوصف تعتمد على ذاكرة الروبوت للعالم، والتي قد لا تكون محدثة تمامًا. في النهاية، تظهر الدراسة أنه بينما لا يمكننا الاختباء في حشد بشكل مثالي بعد، يمكننا البدء في تعليم مساعدي الذكاء الاصطناعي لدينا كيف يندمجون بشكل أفضل قليلًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.