← أحدث الأبحاث
🤖 machine learning

LEMUR: Latent Entropy-aware Multimodal Unlearning via Visual-anchored Reasoning Redirection

تقدم هذه الورقة البحثية إطار عمل LEMUR، وهو إطار عمل للاستدلال لا يتطلب تدريباً، يستفيد من ديناميكيات الإنتروبيا على مستوى الرمز (token) المستحثة بواسطة التعلم المعزز (RL) للكشف عن مسارات الاستدلال الحساسة وإعادة توجيهها في نماذج الاستدلال اللغوية متعددة الوسائط عبر الحقن الكامن المرتكز بصرياً، مما يكبح تسريب الخصوصية بفعالية مع الحفاظ على فائدة النموذج.

المؤلفون الأصليون: Xinhao Zhong, Yuxia Qiao, Junhao Li, Hao Fang, Yi Sun, Bin Chen

نُشر 2026-08-13
📖 2 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Xinhao Zhong, Yuxia Qiao, Junhao Li, Hao Fang, Yi Sun, Bin Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صديقاً آلياً فائق الذكاء يمكنه النظر إلى صورة وإخبارك بقصة عنها. مؤخراً، علم العلماء هذه الروبوتات خدعة جديدة: قبل إعطاء إجابتها النهائية، يُسمح لها بـ "التفكير بصوت عالٍ". فهي تكتب مذكرات طويلة وخطوة بخوة عن أفكارها، وتفحص الأدلة وتخمن الاحتمالات، تماماً مثل محقق يحل لغزاً. هذا "التفكير" يجعلها أفضل بكثير في الإجابة على الأسئلة الصعبة.

لكن هناك مشكلة؛ فأحياناً تسرب مذكرات التفكير هذه أسراراً. تخيل أنك طلبت من الروبوت نسيان حقيقة معينة عن شخص ما، مثل عنوان منزله. قد ينجح الروبوت في إخفاء هذا العنوان في جملته النهائية، قائلاً: "لا أعرف أين يعيش". ومع ذلك، إذا ألقيت نظرة خاطفة على "مذكرات تفكيره"، فقد تجد أنه كتب: "هممم، إنه يعيش في فانكوفر"، قبل أن يقرر شطب ذلك. السر لا يزال موجوداً، مخبأً في العملية، وليس فقط في النتيجة. هذا يمثل مشكلة كبيرة للخصوصية. إذا أردنا جعل هذه الروبوتات تنسى معلومات حساسة، فعلينا مسح المذكرات بالكامل، وليس فقط الإجابة النهائية.

هنا يأتي دور طريقة جديدة تسمى LEMUR. فكر في LEMUR كأنه محرر حاد الذكاء لمذكرات الروبوت. اكتشف الباحثون أنه عندما يوشك الروبوت على كتابة سر يُفترض به نسيانه، فإن "أسلوب تفكيره" يتغير بطريقة محددة للغاية. يصبح متوتراً ومتردداً لثانية من الزمن (مثل التلعثم)، ثم يصبح فجأة واثقاً جداً وآلياً أثناء كتابة السر.

يراقب LEMUR هذا التلعثم الناتج عن التوتر. وفي اللحظة التي يرى فيها الروبوت يستعد لإفشاء سر ما، يمسك LEMUR يد الروبوت بلطف ويعيد توجيه أفكاره. بدلاً من ترك الروبوت يكتب "فانكوفر"، يهمس LEMUR له: "مهلاً، انظر إلى الصورة مرة أخرى!" ويوجهه لكتابة شيء آمن، مثل "لا يمكنني معرفة ذلك من الصورة".

أفضل ما في الأمر؟ لا يحتاج LEMUR إلى إعادة تدريب الروبوت أو تغيير دماغه. إنه يعمل في الوقت الفعلي، مثل مدقق إملائي لا يتفعل إلا عندما يسمع كلمة محظورة. اختبر الباحثون هذه الطريقة على عدة روبوتات ذكية ووجدوا أن LEMUR أفضل بكثير في تنظيف الأسرار من مذكرات التفكير مقارنة بالطرق السابقة، كل ذلك مع الحفاظ على ذكاء الروبوت وودوديته في كل شيء آخر. إنها طريقة ذكية لحماية الخصوصية دون تعطيل قدرة الروبوت على التفكير.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.LG →