← أحدث الأبحاث
💻 computer science

Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations

يقدم هذا البحث ProxyDrift، وهو إطار عمل يحافظ على الخصوصية ويكتشف ويتعافى من انحراف البيانات في تطبيقات النماذج اللغوية الكبيرة (LLM) واسعة النطاق عبر تحليل تمثيلات وكيلة غير مرتبطة بمعلومات الهوية الشخصية (non-PII) لمراقبة حركة مرور الإنتاج باستمرار وتوليد مجموعات بيانات تقييم اصطناعية مستهدفة دون الوصول إلى بيانات المستخدمين الخام.

المؤلفون الأصليون: Michael Levit, Josh Ledgard, Haoyu Dong, Vishwas Suryanarayanan, Eyal Kolman, Sharon Tan, Qiang Gan, Vishal Chowdhary

نُشر 2026-08-11
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Michael Levit, Josh Ledgard, Haoyu Dong, Vishwas Suryanarayanan, Eyal Kolman, Sharon Tan, Qiang Gan, Vishal Chowdhary

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك رئيس طهاة في مطعم ضخم وصاخب يخدم الملايين من الناس يومياً. تريد التأكد من أن طعامك لذيذ، لذا تقوم بتذوق الوصفات الجديدة في مطبخ هادئ قبل تقديمها. لكن هنا تكمن العقبة: الزبائن في قاعة الطعام يرتدون أقنعة، وقواعد الخصوصية الصارمة في المطعم تمنعك من رؤية وجوههم أو سماع طلباتهم المحددة. لا يمكنك الخروج إلى هناك، أو إلقاء نظرة على القوائم، أو سؤالهم: "ماذا أكلت للتو؟". أنت تعرف فقط أن الناس يأكلون، وعليك أن تخمن ما يريدونه بناءً على ملاحظة صغيرة مجهولة الهوية تُترك على الطاولة.

هذا هو الواقع اليومي لنماذج الذكاء الاصطنا-الضخمة التي تشغل حياتنا الرقمية الحديثة. هذه النماذج اللغوية الكبيرة (LLMs) تشبه الطهاة الفائقين الذين يكتبون الأكواد البرمجية، ويصيغون رسائل البريد الإلكتروني، وينشئون المستندات لمئات الملايين من المستخدمين. ولكن بسبب قوانين الخصوصية الصارمة، لا تستطيع الشركات التي تدير هذه الأنظمة رؤية الأسئلة الفعلية التي يطرحها الناس أو الإجابات التي يحصلون عليها. إنهم يعملون كمن يسير في الظلام. إذا بدأ "الزبائن" (المستخدمون) فجأة في طلب أشياء مختلفة تماماً — مثل الانتقال من كتابة الشعر إلى تصحيح الأكواد البرمجية — فقد تصبح بيانات تدريب الذكاء الاصطناعي قديمة وغير مواكبة. يُسمى هذا "انزياح البيانات" (Data Drift). وبدون رؤية حركة المرور الحقيقية، قد يستمر الذكاء الاصطناعي في تقديم نفس القائمة القديمة لأشخاص يريدون شيئاً جديداً، مما يؤدي إلى تجارب سيئة. السؤال الكبير هو: كيف تصلح وصفة وأنت غير مسموح لك بتذوق الطعام؟

إليك PROXYDRIFT، وهو إطار عمل ذكي ومبتكر طوره باحثون في مايكروسوفت لحل هذا اللغز دون كسر قواعد الخصوصية أبداً. فكر فيه كمترجم سحري يحول طلبات الزبائن السرية إلى قائمة مرجعية بسيطة وآمنة. بدلاً من النظر إلى النص الخام لسؤال المستخدم (الذي يعد خاصاً)، يستخدم النظام ذكاءً اصطناعياً لتصنيف السؤال إلى مجموعة من "الوسوم" (Tags) غير الحساسة. على سبيل المثال، بدلاً من رؤية "اكتب قصة مخيفة عن محمصة خبز مسكونة"، سيرى النظام مجرد قائمة من الوسوم: الهدف: كتابة إبداعية، النبرة: مخيفة، التنسيق: قصة، الطول: متوسط. هذه الوسوم هي "التمثيلات الوسيطة" (Proxy Representations). إنها تلتقط شكل وأسلوب المحادثة دون الاحتفاظ بأي من الكلمات الفعلية.

توضح الورقة البحثية أنه باستخدام هذه الوسوم، يمكن للفريق القيام بثلاثة أشياء مذهلة. أولاً، يمكنهم قيال مدى اختلاف طلبات المستخدمين الحالية عن بيانات الاختبار القديمة لديهم؛ حيث يستخدمون درجة رياضية خاصة (تسمى "درجة المحاذاة المعايرة بالاحتمال") لمعرفة ما إذا كانت قائمة الاختبار الخاصة بهم تتوافق مع غرفة الطعام الحقيقية. إذا كانت الدرجة منخفضة، فهم يعرفون أنهم غير متوافقين. ثانياً، يمكنهم بناء قائمة اختبار جديدة تماماً تحاكي المستخدمين الحقيقيين بشكل مثالي؛ حيث يستخدمون طريقة أخذ عينات ذكية (تعتمد على ما يسمى "شجرة تشو-ليو" (Chow-Liu tree)، وهي تشبه شجرة العائلة لكيفية ترابط الوسوم المختلفة عادةً) لإنشاء آلاف الأسئلة الوهمية ولكن الواقعية التي تتوافق مع التوجهات الحالية. وأخيراً، يمكنهم معرفة أنواع الأسئلة التي تجعل المستخدمين غير راضين بالضبط؛ وذلك عبر ربط الوسوم بردود الفعل البسيطة مثل "أعجبني" أو "لم يعجبني"، مما يمكنهم من رصد نقاط الخلل — مثل إدراك أن المستخدمين يشعرون بالإحباط عند السؤال عن معادلات محددة في برنامج إكسل — دون الحاجة أبداً لقراءة جداول البيانات الخاصة بالمستخدمين.

في تجاربهم، وجد الباحثون أن طريقتهم الجديدة تعمل بشكل جيد للغاية. فعندما قارنوا مجموعات الاختبار المختارة يدوياً بمجموعاتهم القديمة بالواقع، كانت المجموعات القديمة غير متوافقة تماماً (سجلت حوالي 0.28 من 1)، ولكن مجموعات الاختبار الجديدة التي أنشأها الذكاء الاصطناعي توافقت مع العالم الحقيقي بشكل شبه مثالي (سجلت حوالي 0.91). كما اختبروا ما إذا كان بإمكان البشر التمييز بين سؤال مستخدم حقيقي وسؤال الذكاء الاصطناعي الوهمي؛ وبدون أي تلميحات خاصة، لم يستطع البشر التمييز بينهما. والأهم من ذلك، استخدموا هذا النظام لإصلاح مشكلة حقيقية في "مايكروسوفت كوبايلوت" (Microsoft Copilot). فمن خلال ملاحظة أن المستخدمين غير راضين عن كيفية تعامل الذكاء الاصطناعي مع مخططات ومعادلات إكسل، قاموا بتعديل النظام للاهتمام بتلك التفاصيل بشكل أكبر. وكانت النتيجة؟ أصبح الذكاء الاصطناعي أفضل بك كثيراً في الإجابة على تلك الأسções المحددة، مما يثبت أنه يمكنك تحسين نظام ذكاء اصطناعي ضخم وإبقائه متوافقاً مع مستخدميه، كل ذلك مع الحفاظ على خصوصية بيانات الجميع تماماً.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💻 cs →