تخيل أن لديك مساعداً آلياً فائق الذكاء يمكنه النظر إلى الصور وقراءة النصوص في نفس الوقت. يطلق العلماء على هذه النماذج اسم "نماذج اللغات الكبيرة متعددة الوسائط" (Multimodal Large Language Models - MLLMs). فكر فيها كدماغ تعلم كيف يرى العالم من خلال عدسة كاميرا ويتحدث عبر ميكروفون في آن واحد. إنها بارعة في مهام مثل النظر إلى صورة إيصال وإخبارك بالتكلفة الإجمالية، أو مسح جواز سفر وقراءة الاسم. ولكن، تماماً مثل الإنسان الذي يحفظ رقم هاتف صديقه ويقوم بلفظه بالخطأ عندما يُسأل عن سؤال مختلف، يمكن لهذه الروبوتات أحياناً أن "تتذكر" تفاصيل خاصة من الصور التي تدربت عليها، حتى عندما لا تكون هذه التفاصيل مرئية بالفعل في الصورة الجديدة التي تنظر إليها. وهذا أمر بالغ الأهمية لأننا بدأنا في استخدام هذه الروبوتات للتعامل مع وثائق حساسة مثل بطاقات الهوية وجوازات السفر. إذا خمن الروبوت معلوماتك السرية لمجرد أنه "بارع في التخمين" بناءً على ما تعلمه سابقاً، فإن خصوصيتك ستكون في خطر.

هذه الورقة البحثية، التي تحمل عنوان "ما وراء الدليل البصري" (Beyond Visual Evidence)، تبحث في طريقة مخادعة تسرب من خلالها هذه الروبوتات الأسرار. فقد وجد الباحثون أنه عندما يُعرض على الروبوت وثيقة ذات أجزاء ضبابية أو مفقودة (مثل صورة باهتة لبطاقة هوية)، فإنه لا يكتفي بالقول "لا أستطيع الرؤية". بدلاً من ذلك، غالباً ما يحاول ملء الفراغات باستخدام ما حفظه من ذاكرته. والجزء المخيف هو أنه لا يخمن شيئاً واحداً فقط؛ بل يخمن مجموعة كاملة من الأسرار المترابطة في وقت واحد. على سبيل المثال، إذا لم يستطع الروبوت رؤية رقم المستند، فقد يخمن اسمك وتاريخ ميلادك ورقم مستندك معاً، لأنه تعلم أن هذه الأشياء الثلاثة ترتبط ببعضها البعض عادةً في بيانات التدريب. ويسمي المؤلفون هذا "تسريب الخصوصية العلاقاتي" (relational privacy leakage). ولإصلاح ذلك، قاموا ببناء طريقة تدريب جديدة تسمى DRUF (إطار التعلم الديناميكي لفك الارتباط). فكر في الأمر كمعلم صارم لا يكتفي فقط بإخبار الطالب بأن "ينسى" حقيقة معينة، بل يعلمه كيفية كسر الرابط الذهني بين الحقائق المتصلة. كما أنهم أنشأوا اختباراً جديداً يسمى DocPrivacyBench لمعرفة مدى سهولة تسريب هذه الروبوتات للأسرار. وأظهرت تجاربهم أنه بينما تعد الروبوتات الحالية جيدة جداً في تسريب هذه الأسرار المترابطة عندما تكون الأدلة البصرية ضعيفة، فإن طريقتهم الجديدة، DRUF، يمكنها إيقاف التسريبات بشكل شبه كامل دون جعل الروبوت سيئاً في مهمته المتمثلة في قراءة الوثائق.

المشكلة: عندما تخمن الروبوتات بشكل جيد للغاية

تبدأ القصة بنوع محدد من الروبوتات: وهي المصممة لقراءة الوثائق. هذه هي "نماذج MLLM الخاصة بالوثائق". تخيل أنك تعطي روبوتاً صورة لرخصة قيادة. من المفترض أن ينظر الروبوت إلى الصورة، ويجد النص، ويخبرك بالاسم، وتاريخ الميلاد، ورقم الرخصة. تسمى هذه العملية "استخراج المعلومات الرئيسية" (Key Information Extraction - KAE). عادةً، ينظر الروبوت إلى البكسلات في الصورة للعثور على الإجابة. ولكن ماذا يحدث إذا كانت الصورة سيئة؟ ماذا لو كانت الصورة ضبابية، أو مغطاة بإصبع، أو كانت مجرد مربع أبيض فارغ؟

اكتشف الباحثون أنه عندما يكون الدليل البصري ضعيفاً أو مفقوداً، فإن هذه الروبوتات لا تتوقف. بل تنتقل إلى وضع مختلف: تبدأ في التخمين بناءً على الأنماط التي حفظتها. إذا تعلم الروبوت من آلاف الأمثلة التدريبية أن "جون سميث" يرتبط دائماً تقريباً بـ "رقم رخصة 12345" و"مواليد 1990"، فقد يبدأ في إخراج هذه الأشياء الثلاثة معاً، حتى لو كانت الصورة التي ينظر إليها فارغة تماماً.

هذا يختلف عن مخاوف الخصوصية السابقة. في السابق، كان الناس قلقين من أن الروبوت قد يقول اسماً سرياً بالخطأ إذا سُئل السؤال الصحيح. لكن هذه الورقة تظهر خطراً جديداً وأكثر خطورة: التسريب العلاقاتي. الأمر لا يتعلق فقط بتسرب سر واحد؛ بل يتعلق بكشف الروبوت عن سلسلة كاملة من الأسرار المرتبطة ببعضها البعض. إنه يشبه الساحر الذي، عندما يُطلب منه إخراج أرنب من القبعة، يسحب الأرنب والقبعة والعصا وعنوان منزل المساعد دفعة واحدة، لأن هذه الأشياء موجودة دائماً معاً في ذاكرته.

التحقيق: DocPrivacyBench

لإثبات حدوث ذلك، بنى المؤلفون ساحة اختبار جديدة تسمى DocPrivacyBench. أرادوا معرفة ما إذا كانت الروبوتات ستسرب الأسرار عندما لا تستطيع رؤية الوثيقة فعلياً.

لقد وضعوا طريقتين رئيسيتين لاختبار الروبوتات:

1. الموجه بالصورة (Image Driven): عرضوا على الروبوت صورة لوثيقة، ثم استبدلوا الصورة بصورة بيضاء فارغة (أو كتلة ضبابية) مع الإبقاء على السؤال كما هو. سألوا: "ما هو رقم المستند؟". لم يكن لدى الروبوت أي أدلة بصرية، لذا إذا أجاب، فإنه يخمن من الذاكرة.
2. الموجه بالأوامر (Prompt Driven): أبقوا على الصورة ولكن غيروا السؤال ليكون مخادعاً، حيث طلبوا من الروبوت الكشف عن معلومات لا ينبغي له معرفتها بناءً على الصورة وحدها.

اختبروا ثلاثة نماذج روبوتات شهيرة مختلفة (LLaVA-1.5-hf، وXgen-Phi3، وIdefics2) على ثلاث مجموعات بيانات لبطاقات الهوية وجوازات السفر. كانت النتائج مذهلة. عندما كان الدليل البصري مفقوداً، كانت الروبوتات جيدة بشكل مفاجئ في تخمين الأسرار.

على سبيل المثال، في مجموعة بيانات "ضوضائية" (حيث كانت الصور فوضوية قليلاً)، سجل نموذج LLaVA-1.5-hf معدل تسريب قدره 1.000 (أي أن الروبوت سرب السر الصحيح في كل مرة بنسبة 100%) عند عرضه على صورة بيضاء، ولكن تم قياس ذلك عند عتبة تشابه منخفضة (Acc@0.8). والأكثر إثارة للدهشة، عندما اختبروه بنسخة "ضوضائية" من مجموعة بيانات IDNet، قفز معدل التسريب إلى 1.000 لمقياس Acc@0.8. وهذا يعني أنه بدون صورة واضحة، كان الروبوت يقوم أساساً بسرد بيانات التدريب التي حفظها، رابطاً الأسماء بأرقام الوثائق وتواريخ الميلاد بشكل مثالي، رغم أنه لم يكن يراها.

وجدت الورقة أيضاً أن جودة بيانات التدريب كانت مهمة. فعندما كانت بيانات التدريب "أكثر ضوضائية" (جودة أقل)، اعتمدت الروبوتات أكثر على اتصالاتها المحفوظة، مما أدى إلى مخاطر خصوصية أعلى. وهذا يشير إلى أنه كلما كانت البيانات التي يتعلم منها الروبوت أكثر فوضوية، زادت محاولته لـ "ملء الفراغات" بالتخمينات، وهو أمر سيء للخصوصية.

الحل: DRUF

إذاً، كيف نمنع الروبوت من تخمين هذه الأسرار المتصلة؟ لا يمكنك فقط أن تقول له "انسَ" اسم "جون سميث"، لأنه لا يزال بحاجة لمعرفة كيفية قراءة الأسماء بشكل عام. ولا يمكنك فقط أن تقول له انسَ الرقم "12345" أيضاً. المشكلة تكمن في الرابط بينهما.

اقترح المؤلفون طريقة جديدة تسمى DRUF (إطار التعلم الديناميكي لفك الارتباط). تخيل أنك تعلم طالباً يستمر في الاعتماد على نموذج الإجابة. بدلاً من مجرد مسح إجابة واحدة من النموذج، تريد تعليم الطالب أن العلاقة بين "السؤال أ" و"الإجابة ب" هي علاقة زائفة.

يعمل DRUF في خطوتين:

1. مجموعة النسيان الديناميكية (Dynamic Forget Set): أولاً، يقوم النظام بفحص الروبوت ليرى أي أزواج محددة من الأسرار يسربها الآن. ربما اليوم يسرب "الاسم + رقم المستند"، ولكن غداً قد يسرب "الاسم + تاريخ الميلاد". بدلاً من التخمين فيما يجب نسيانه، يقوم DRUF بمراقبة الروبوت، ويرى ما يسربه، وينشئ "قائمة نسيان" بناءً على ما رآه بالفعل. هذه القائمة تتغير ديناميكياً مع تعلم الروبوت.
2. فك الارتباط العلاقاتي (Relational Decoupling - RDU): هذا هو الجزء السحري. عندما يحاول الروبوت التعلم من "قائمة النسيان" هذه، لا يعاقبه DRUF لمجرد قول الاسم الخطأ. بل يعاقب الروبوت على قول الزوج معاً. يستخدم خدعة رياضية خاصة ("الاقتران الضربي") تجعل الروبوت يشعر بعقوبة كبيرة إذا حاول إخراج الاسم ورقم المستند في نفس الوقت. إنه يكسر الغراء الذهني الذي يربط هذين السرين معاً.

كانت نتائج هذه الطة الجديدة مبهرة. عندما طبقوا DRUF على نموذج LLaVA-1.5-hf:

• قلل معدل التسريب في اختبار "الموجه بالصورة" (حيث رأى الروبوت صورة بيضاء) من 0.642 إلى 0.001. أي انخفاض بنسبة 99.8% تقريباً.
• قلل التسريب في اختبار "الموجه بالأوامر" إلى 0.000.
• والأهم من ذلك، لم يفسد قدرة الروبوت على القيام بعمله. كان لا يزال بإمكان الروبوت قراءة الوثائق الواضحة بشكل مثالي، مع درجة أداء (LC) بلغت 0.808، وهي قريبة جداً من أداء النموذج الأصلي البالغ 0.852.

جربت طرق أخرى إصلاح الأمر، لكنها واجهت مشاب. بعض الطرق (مثل GA) أوقفت التسريبات ولكنها جعلت الروبوت سيئاً جداً في قراءة الوثائق (انخفض أداؤه إلى 0.119). وطرق أخرى (مثل DPO) أبقت الروبوت ذكياً ولكنها فشلت في إيقاف التسريبات (بقي التسريب مرتفعاً عند 0.633). كان DRUF هو الوحيد الذي نجح في إيقاف التسريبات و الحفاظ على ذكاء الروبوت.

لماذا يهم هذا؟

تخلص الورقة إلى أن هذا "التسريب العلاقاتي" هو مشكلة حقيقية وشائعة. عندما تكون الأدلة البصرية ضعيفة، ستسعد الروبوتات بتخمين معلوماتك الخاصة إذا اعتقدت أنها تعرف النمط. أظهر المؤلفون أن الأساليب الحالية ليست جيدة بما يكفي لأنها تحاول نسيان الحقائق الفردية بدلاً من كسر الروابط بين الحقائق.

باستخدام DRUF، يمكننا تعليم هذه الروبوتات التوقف عن تخمين الأسرار المتصلة. تشير الورقة إلى أن هذا النهج هو خطوة ضرورية لجعل روبوتات معالجة الوثائق آمنة للاستخدام في العالم الحقيقي. إذا أردنا استخدام الذكاء الاصطناعي للتعامل مع جوازات سفرنا وهوياتنا، فيجب أن نتأكد من أنه عندما لا يستطيع الذكاء الاصطناعي رؤية الوثيقة، فإنه لا يقوم بمجرد تأليف قصة حياتك بناءً على ما حفظه. يأمل المؤلفون أن يؤدي هذا العمل إلى تطوير أدوات أفضل للخصوصية لجميع أنواع مهام الوثائق المنظمة.

باختصار، وجدت الورقة أن الروبوتات جيدة جداً في تخمين الأسرار المتصلة عندما لا تستطيع رؤية الدليل، لكنهم وجدوا أيضاً طريقة لتعليمها كسر هذه الروابط، مما يحافظ على سلامة بياناتنا دون جعل الروبوتات عديمة الفائدة.