Privacy-Preserving RAG by Concealing Sensitive Information from External LLMs
تقدم هذه الورقة البحثية إطار عمل SEAG، وهو إطار عمل يحافظ على الخصوصية ويستخدم نموذجاً خفيف الوزن لتحديد الكيانات الحساسة واستبدالها بأسماء مستعارة في كل من استعلامات المستخدم والمستندات المسترجعة، مما يتيح الاستخدام الآمن للنماذج اللغوية الكبيرة الخارجية في عملية التوليد المعزز بالاسترجاع دون الكشف عن المعلومات السرية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك في مكتبة سحرية ضخمة، حيث الكتب مكتوبة بواسطة روبوتات فائقة الذكاء تسمى النماذج اللغوية الكبيرة (LLMs). هذه الروبوتات مذهلة في الإجابة على الأسئلة، لكنها لا تعرف كل شيء عن العالم بمفردها. لذا، لمساعدتها، نستخدم نظامًا يسمى RAG (التوليد المعزز بالاسترجاع). فكر في RAG كمساعد باحث: عندما تطرح سؤالاً، يقوم المساعد بسرعة بجلب الصفحات الأكثر صلة من رفوف المكتبة ويقدمها للروبوت. ثم يقرأ الروبوت تلك الصفحات ويكتب لك إجابة مثالية.
لكن الجزء الصعب هنا هو: أحياناً، قد تحتوي صفحات المكتبة تلك على أشياء سرية للغاية، مثل سجلاتك الطبية، أو أرقام حساباتك المصرفية، أو الوصفة السرية لشركة ما. عادةً، نقلق من أن ترى أنت بالخطأ أسراراً لا يُفترض بك رؤيتها. ولكن ماذا لو كانت المشكلة هي الروبوت نفسه؟ إذا أرسلت تلك الصفحات السرية إلى روبوت يعيش في سحابة شركة أخرى (مثل خدمة ذكاء اصطناعي تابعة لجهة خارجية)، فإن هذا الروبوت سيرى كل شيء. وقد يسرب أسرارك بالخطأ أو يستخدمها بطرق لم تكن تنويها أبداً. السؤال الكبير الذي يتناوله هذا البحث هو: كيف يمكننا استخدام هذه الروبوتات القوية والخارجية للحصول على إجابات رائعة دون أن ترى أسرارنا الخاصة أبداً؟
إطار عمل العميل السري: SEAG
ابتكر مؤلفو هذا البحث، وهم فريق من المملكة العربية السعودية، حلاً ذكياً يسمى SEAG (مولد أسماء الكيانات المستعارة). تخيل أن لديك مهمة تجسس سرية للغاية. تحتاج إلى إرسال تقرير إلى مقر قيادة صديق ولكنه بعيد (الذكاء الاصطنا_الخارجي) للحصول على المساعدة، ولكن لا يمكنك السماح لهم برؤية أسماء الجواسيس، أو مواقع القواعد، أو الأسماء الرمزية للأسلحة.
في نظام RAG العادي، ستكتفي بإرسال التقرير الخام إلى المقر، وسيقومون بقراءة كل كلمة. ولكن مع SEAG، تقوم بإدراج مترجم محلي صغير وسريع للغاية مباشرة قبل إرسال التقرير. هذا المترجم هو نموذج ذكاء اصطناعي صغير يعيش بأمان على جهاز الكمبيوتر الخاص بك.
إليك كيف يحدث السحر:
- المسح: يقرأ مترجمك المحلي سؤالك والوثائق السرية التي وجدتها. إنه يرصد "الكيانات الحساسة" — الأسماء، والتواريخ، والأماكن، والأرقام التي تحتاج إلى حماية.
- الاستبدال: ينشئ كتاب رموز سرياً ("جدول استبدال الكيانات"). يقوم باستبدال "د. سميث" بـ "د. جونز"، و"نيويورك" بـ "شيكاغو"، و"5 ملايين دولار" بـ "10 ملايين دولار". والأهم من ذلك، أنه يتأكد من أن عملية الاستبدال منطقية؛ فإذا قام بتغيير اسم دولة، فإنه يغير أيضاً عاصمتها لتتناسب مع الدولة الجديدة، حتى يظل السياق متسقاً لغوياً ومنطقياً.
- الإرسال: يرسل هذه النسخة "المُنقحة" إلى الروبوت الخارجي القوي. يقوم الروبوت الخارجي بعمله، ويجيب على السؤال بناءً على الأسماء والأرقام المزيفة. ليس لديه أدنى فكرة أنه يعمل مع بيانات متنكرة.
- الكشف: عندما يرسل الروبوت الخارجي إجابته، يمسك مترجمك المحلي بكتاب الرموز مرة أخرى. يقوم باستبدال "د. جونز" بـ "د. سميث" و"10 ملايين دولار" بـ "5 ملايين دولار".
- النتيجة: تحصل على الإجابة المثالية والدقيقة مع الحفاظ على جميع أسرارك الحقيقية، بينما لم يرَ الروبوت الخارجي أي شيء.
ما وجدوه
اختبر الفريق هذه الفكرة من خلال بناء مجموعتين خاصتين من الأسئلة والوثائق التدريبية. استُخدمت مجموعة واحدة لتعليم مترجمهم المحلي كيفية استبدال الأسماء بشكل صحيح، واستُخدمت المجموعة الأخرى لمعرفة ما إذا كان النظام بأكمله يعمل بالفعل. جربوا ذلك مع ثلاثة نماذج مختلفة من المترجمين الصغار: Qwen-3، و LLaMA-3.2، و Phi-4. ثم أرسلوا الأسئلة المموهة إلى اثنين من أقوى الروبوتات الخارجية في العالم: GPT-5 و Claude-4 sonnet.
كانت النتائج واعدة للغاية. نجح النظام في إخفاء المعلومات الحساسة في معظم الحالات. وعندما قاسوا مدى جودة حفاظ النظام على الأسرار (درجة "الخصوصية")، كان نموذج LLaMA-3.2 هو النجم المتألق، حيث أخفى حوالي 89.67% من الأسرار عند اقترانه بمولد Claude-4.
لكن إخفاء الأسرار ليس سوى نصف المعركة؛ إذ يجب أن تكون الإجابة صحيحة بالنسبة لك أيضاً. قاس الفريق ذلك باستخدام درجة "المستخدم". ووجدوا أن الجمع بين LLaMA-3.2 كمترجم و Claude-4 sonnet كبوت للإجابة أعطى أفضل النتائج، بدرجة بلغت 83.67%. وهذا يعني أنه في أكثر من 8 من أصل 10 محاولات، حصل المستخدم على الإجابة الصحيحة مع بقاء أسراره آمنة، رغم أن الروبوت الخارجي كان يعمل ببيانات مزيفة.
ومن المثير للاهتمام، عندما نظروا في مدى قدرة النماذج على إخفاء كل كلمة حساسة في الوثائق (ليس فقط الكلمات اللازمة للإجابة)، حقق كل من Qwen-3 و LLaMA-3.2 أداءً متقارباً جداً، بدقة إجمالية بلغت 77.83% و 76.73% على التوالي. أما نموذج Phi-4 فقد كان أقل فعالية في هذا الاختبار الشامل المحدد، حيث سجل حوالي 74.91%.
العقبة والمستقبل
يشير المؤلفون بحذر إلى أن هذه المشكلة لم تُحل تماماً بعد. فقد أُجريت اختباراتهم على وثائق يبلغ طولها حوالي 300 كلمة مع وجود حوالي 15 عنصراً حساساً في كل منها. ويعترفون بأنه إذا أصبحت الوثائق أطول بكثير أو احتوت على مئات الأسرار، فقد يواجه النظام صعوبة في الحفاظ على اتساق القصة وإخفاء الأسرار.
ومع ذلك، يقترح هذا البحث مساراً مثيراً للاهتمام للغاية. فهو يظهر أننا لسنا بحاجة إلى بناء حواسيب ضخمة ومكلفة للحفاظ على أمان بياناتنا. بدلاً من ذلك، يمكننا استخدام نموذج محلي صغير ورخيص ليعمل كـ "فلتر للخصوصية"، مما يسمح لنا بالاستمتاء بقدرات روبوتات الذكاء الاصطناعي العملاقة والخارجية دون تسليم مفاتيح مملكتنا إليها أبداً. ويقترح المؤلفون أن العمل المستقبلي سيحتاج إلى اختبار ذلك على وثائق أطول وأكثر تعقيداً لمعرفة مدى صمود النظام تحت الضغط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.