Where Privacy Risk Lives in English-Source Multilingual RAG: A Stage-Decomposed Audit Across Five Query Languages
تتحدى هذه الورقة الافتراض القائل بأن الاستعلامات غير الإنجليزية تزيد بطبيعتها من مخاطر الخصوصية في أنظمة استرجاع المعلومات المعززة بالتوليد (RAG) متعددة اللغات ذات المصادر الإنجليزية، وذلك من خلال إثبات أن اللغة الإنجليزية تُظهر في الواقع أعلى معدلات تسريب معلومات الهوية الشخصية (PII) غير المهيكلة تحت نظام تصفية المخرجات فقط، عبر تدقيق مسار عمل نموذج Qwen2.5-7B، بينما تستمر المخاطر المتبقية في اللغتين العربية والسواحيلية حتى مع وجود قضاة للمدخلات والترجمة العكسية، رغم أنه يمكن التخفيف من حدتها إلى حد كبير من خلال تزويد قاضي المدخلات بسياق المستند.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أمين مكتبة فائق الذكاء يمكنه الإجابة على الأسئلة بأي لغة تتحدثها. تسأله سؤالاً باللغة الإسبانية، فيجد الكتاب المناسب المكتوب باللغة الإنجليزية، ويقرأه، ثم يعطيك الإجابة باللغة الإسبانية. هكذا تعمل أنظمة "الاسترجاع المعزز بالتوليد متعدد اللغات" (Multilingual RAG) الحديثة: فهي تجسر الفجوة بين لغتك الأم ومكتبة ضخمة من المستندات المكتوبة بلغة أخرى. ولكن إليك العقبة: ماذا لو كان أمين المكتبة حريصاً جداً على إرضائك؟ ماذا لو حاول، في سعيه للإجابة على سؤالك، أن يفشي سراً لم يكن من المفترض مشاركته بالخطأ؟
في عالم أمن الكمبيوتر، نقلق بشأن "مخاطر الخصوصية". يحدث هذا عندما يسرب النظام معلومات شخصية — مثل عنوان بريد إلكتروني وهمي، أو رقم هاتف، أو عنوان منزل — كان من المفترض إبقاؤها مخفية. لفترة طويلة، قلق الخبراء من أن الانتقال إلى لغة غير الإنجليزية قد يجعل هذه الأنظمة أسهل في الخداع. كان الخوف هو أن حراس الأمن (الفلاتر) المدربين في الغالب على اللغة الإنجليزية قد يكونون "نائمين" جداً بحيث لا يكتشفون سؤالاً ماكراً باللغة العربية أو السواحيلية. الأمر يشبه وجود حارس عند باب ملهى يعرف فقط كيفية رصد المشاكل باللغة الإنجليزية؛ قد تعتقد أن شخصاً يتحدث لغة أخرى يمكنه التسلل بسهولة وتجاوزه.
تقرر هذه الورقة اختبار هذا الخوف. قام الباحثون بإنشاء ساحة لعب رقمية تحتوي على مكتبة من 100 مستند اصطناعي (وهمي) تحتوي على أسرار شخصية مختلقة. كما استعانوا بفريق من "المهاجمين" من الذكاء الاصطناعي لمحاولة سرقة هذه الأسرار باستخدام أسئلة بخمس لغات مختلفة: الإنجليزية، الصينية، الألمانية، العربية، والسواحيلية. ومن الأهمية بمكان ملاحظة أن هذه الأسئلة غير الإنجليزية لم يكتبها متحدثون أصليون؛ بل تم إنشاؤها عن طريق ترجمة نماذج إنجليزية باستخدام نفس نموذج الذكاء الاصطناعي (Qwen) الذي يدير النظام. استخدموا نظام دفاع مكون من طبقتين: أولاً، "قاضٍ" من الذكاء الاصطناعي يقرأ السؤال ليرى ما إذا كان يبدو مشبوهاً، وثانياً، "فلتر" يمسح الإجابة لاكتشاف أي أرقام أو أسماء مسربة. كان الهدف هو معرفة أي لغة كانت الأكثر خطورة ولماذا.
عملية السرقة الكبرى للغات: ما وجدوه
قام الباحثون بتشغيل 1,500 محاولة "سرقة" مختلفة، في محاولة لسرقة الأسرار من مكتبتهم الوهمية. توقعوا أن تكون اللغات غير الإنجليزية هي الأكثر نجاحاً في التسلل عبر حراس الأمن. لكن النتائج جاءت كتحول مفاجئ في الحبكة.
مفاجأة "الإنجليزية هي الأسوأ"
عندما استخدموا الطبقة الثانية فقط من الدفاع (الفلتر الذي يمسح الإجابة النهائية)، كانت الأسئلة الإنجليزية هي الأكثر نجاحاً في تسريب الأسرار! في الواقع، سجلت الإنجليزية أعلى معدل تسريب بلغ 0.875 (بمعنى أنها سربت الأسرار في حوالي 87.5% من المحاولات). أما اللغات غير الإنجليزية فقد سربت أقل، حيث كانت السواحيلية هي "الأكثر أماناً" بنسبة 0.425. الفرق الواضح الوحيد الذي تمكن الباحثون من رصده بثقة عالية كان بين الإنجليزية والسواحيلية. يشير هذا إلى أنه في هذا الإعداد المحدد، فإن فكرة أن "اللغات الأجنبية خطيرة تلقائياً" ليست صحيحة تماماً. كانت الأسئلة الإنجليزية هي الأكثر دهاءً في الواقع.
الدفاع ذو المرحلتين ومشكلة "الضياع في الترجمة"
بعد ذلك، أضاف الباحثون طبقة الدفاع الأولى: "القاضي" من الذكاء الاصطناعي. يقرأ القاضي السؤال قبل أن ينظر أمين المكتبة إلى الكتاب. إذا بدا السؤال وكأنه محاولة سرقة، يقول القاضي: "إيقاف" (BLOCK).
هنا تصبح القصة مثيرة للاهتمام. عند إضافة "القاضي"، انخفضت تسريبات الإنجليزية والصينية والألمانية إلى الصفر. كان النظام مثالياً لتلك اللغات! ولكن بالنسبة لـ العربية والسواحيلية، ظل النظام يفشل.
- لا تزال العربية تسرب الأسرار في 7.5% من الحالات.
- كانت السواحيلية هي المسبب للمشاكل، حيث سربت الأسرار في 17.5% من الحالات.
لماذا حدث هذا؟ يشتبه الباحثون في وجود تأثير "الضياع في الترجمة". ربما قام المترجم الآلي (الذي حول الأسئلة الإنجليزية إلى السواحيلية) بتخفيف "نية السارق" دون قصد. بدت الأسئلة السواحيلية وكأنها طلب غير ضار بدلاً من كونها محاولة سرقة مباشرة. "القاضي" (الذكاء الاصطناعي)، الذي يتحدث الإنجليزية فقط ويضطر لتخمين نية اللغة الأجنبية، تعرض للخداع. فكر قائلاً: "أوه، هذا السؤال السواحيلي يبدو غير ضار، ليمر!". ولكن بمجرد وصول السؤال إلى أمين المكتبة (المولد)، الذي كان لديه بالفعل الكتاب أمامه، تمكن أمين المكتبة من إفشاء السر.
اختبار "النظارات السحرية"
لإثبات نظريتهم، أجرى الباحثون اختباراً خاصاً على الحالات الـ 17 التي حدثت فيها تسريبات السواحيلية والعربية. لقد أعطوا "القاضي" زوجاً من "النظارات السحرية" — وتحديداً، أظهروا للقاضي المستند الفعلي الذي كان أمين المكتبة على وشك استخدامه (باستخدام مسترجع "مثالي/أوراكل"). مع هذا السياق الإضافي، أدرك القاضي فجأة: "مهلاً، هذا السؤال يحاول سرقة سر!" وقام بحظر 15 من أصل 17 من تلك التسريبات.
يشير هذا إلى أن المشكلة ليست في أن اللغة السواحيلية خطيرة بطبيعتها. المشكلة هي أن حارس الأمن (القاضي) كان ينظر إلى السؤال في فراغ، دون رؤية الكتاب الذي أوشك على فتحه. عندما رأى الحارس الكتاب، قام بعمله على أكمل وجه.
الخلاصة
لا تقول هذه الورقة إن اللغات غير الإنجليزية آمنة للأبد، ولا تقول إن الإنجليزية هي الخطر الوحيد. بدلاً من ذلك، توضح أنه في نظام يتم فيه ترجمة كل شيء بواسطة نفس عائلة الذكاء الاصطناعي (Qwen)، يعتمد الخطر على مدى قدرة الترجمة على الحفاظ على "روح" أو "نبرة" السؤال.
الدرس الرئيسي المستف गए هو أن مخاطر الخصوصية في هذه الأنظمة لا تتعلق فقط باللغة التي تتحدثها. بل تتعلق بكيفية تواصل الأجزاء المختلفة من النظام مع بعضها البعض. إذا لم يفهم "القاضي" الفروق الدقيقة في سؤال مترجم، أو إذا جعلت الترجمة سؤالاً خطيراً يبدو بريئاً، فيمكن للأسرار أن تتسلل. وجد الباحثون أن منح القاضي مزيدًا من السياق (مثل إظهار المستند له) يحل المشكلة، لكنهم يحذرون من أن هذا مجرد أداة تشخيصية، وليس حلاً نهائياً. هم بحاجة إلى مزيد من الاختبارات مع نماذج ذكاء اصطناعي مختلفة وأسئلة مكتوبة بواسطة بشر حقيقيين (وليس مجرد نماذج مترجمة) للتأكد. في الوقت الحالي، تذكرنا القصة أنه في عالم أمن الذكاء الاصطناعي، الحلقة الأضعف ليست دائماً اللغة التي تتحدثها، بل مدى فهم فريقك الأمني للسياق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.