DeepInvert: Semi-Supervised Embedding Inversion Against Obfuscated Language Models
تقدم هذه الورقة البحثية DeepInvert، وهو هجوم استرداد تمثيل شبه مُشرف يستغل البنية الدلالية المحفوظة في تمثيلات النماذج اللغوية المموّهة لاستعادة الرموز الأصلية بدقة أعلى بكثير من الطرق السابقة، مما يكشف أن دفاعات التمويه الحالية غالباً ما تفشل في تحقيق التوازن بين حماية الخصوصية وفائدة المهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك ترسل رسالة سرية إلى صديق يعيش في مكتبة ضخمة ومتطورة تقنيًا. لا تريد لأمين المكتبة أن يقرأ رسالتك، لذا قررت كتابتها بشفرة سرية. ربما تستبدل كل كلمة بكلمة أخرى بلا معنى، أو تخلط جملك ببعض العبارات العشوائية، أو تضيف طبقة من الضجيج الساكن إلى الصفحة. هذه هي الفكرة الأساسية وراء "التعمية" (obfuscation) في عالم الذكاء الاصطنا-عي. اليوم، يستخدم الكثير من الناس خدمات الذكاء الاصطناعي القائمة على السحابة لكتابة القصص، أو تحليل السجلات الطبية، أو حل المشكلات المعقدة. ولكن بما أنهم لا يمتلكون الحواسيب التي تشغل هذه الأدمغة الاصطناعية، فعليهم الوثوق بالشركة فيما يتعلق ببياناتهم الخاصة. ولحماية أنفسهم، يحاول المستخدمون "تشفير" أو "خلط" رسائلهم قبل إرسالها، آملين أن يظل بإمكان الذكاء الاصطناعي فهم النسخة المشفرة للقيام بمهمته، مع إبقاء المعنى الأصلي مخفيًا عن الأعين المتطفلة.
لفترة من الوقت، بدت حيل التشفير هذه وكأنها درع متين. فقد اقترح الباحثون طرقًا متنوعة لخلط الكلمات أو إضافة الضجيج، معتقدين أنه بمجرد تشفير الرسالة، سيكون من المستحيل فك تشفيرها بدون المفتاح السري. كان الأمر يشبه وضع رسالة في صندوق مقفل ورمي المفتاح، بافتراض أن الصندوق قوي جدًا بحيث لا يمكن كسرُه. ولكن ماذا لو لم يكن الصندوق بالقوة التي اعتقدها الجميع؟ ماذا لو كانت هناك طريقة ذكية لإلقاء نظرة داخل الصندوق، ليس عن طريق كسر القفل، بل من خلال ملاحظة الأنماط الخافتة التي تركها التشفير خلفه؟ هذا هو السؤال الذي سعى فريق من الباحثين للإجابة عليه، مستكشفين ما إذا كانت هذه الرسائل "المشفرة" آمنة حقًا أم أنها تنتظر فقط من يفك رموزها.
هنا يظهر DeepInvert، وهو أداة كشف رقمية جديدة ابتكرها باحثون في "Ant Group". فكر في DeepInvert كخبير في حل الألغاز لا يحتاج إلى المفتاح الأصلي لمعرفة ما بداخل الصندوق المشفر. فبدلاً من مجرد التخمين، يستخدم استراتيجية ذكية مكونة من خطوتين. أولاً، يتدرب على مجموعة من "ألغاز الظل" — وهي رسائل يعرف إجاباتها مسبقًا، حيث يقوم بتشفيرها بنفسه ليتعلم كيف يعمل التشفير. ولكن هنا تكمن الخدعة السحرية: إنه ينظر أيضًا إلى الرسائل المشفرة الحقيقية التي يحاول فك شفرتها، رغم أنه لا يعرف ما تقوله. إنه يستخدم تقنية تسمى "التعلم شبه المُشرف" (semi-supervised learning)، وهي تشبه الطالب الذي يدرس كتابًا مدرسيًا (بيانات الظل) ولكنه يتعلم أيضًا من خلال مراقبة الأنماط في العالم الحقيقي (البيانات غير المصنفة) لسد الثغرات.
وجد الباحثون أن DeepInvert بارع للغاية في مهمته. فعندما اختبروه ضد بعض أشهر دفاعات التشفير، كانت النتائج مذهلة. على سبيل المثال، ضد دفاع رفيع المستوى يسمى ObusLM، لم تتمكن أفضل المحاولات السابقة من تخمين الكلمات الأصلية بشكل صحيح إلا بنسبة 26.2% من المرات. ومع ذلك، تمكن DeepInvert من استعادة الكلمات الصحيحة بنسبة 73.5% من المرات. وفي اختبار سؤال وجواب طبي باستخدام نموذج ذكاء اصطناعي ضخم، قفز معدل الاستعادة إلى 80.4%، وبالنسبة لنموذج أكبر، وصل إلى 85.2%. تشير الورقة البحثية إلى أن دفاعات التشفير هذه أقل أمانًا بكثير مما كان يعتقده الناس. اكتشف الباحثون مقايضة محبطة: إذا كان التشفير ضعيفًا بما يكفي للسماوت للذكاء الاصطناعي بأداء مهمته جيدًا، فيمكن لـ DeepInvert فك تشفيره بسهولة. أما إذا كان التشفير قويًا بما يكفي لإيقاف DeepInvert، فإن الذكاء الاصطناعي غالبًا ما يصاب بالارتباك لدرجة أنه لا يستطيع أداء المهمة على الإطلاق.
الورقة البحثية لا تكتفي بإظهار أن هذه الدفاعات يمكن كسرها فحسب، بل تشرح أيضًا لماذا تفشل. فأساليب التشفير غالبًا ما تترك وراءها "هيكلاً دلاليًا" (semantic skeleton) — وهو هيكل خفي للمعنى ينجو من الضجيج. وقد صُمم DeepInvert للعثور على ذلك الهيكل. فهو يستخدم نظام "المعلم والتلميذ"، حيث يقوم نموذج "معلم" مستقر بتوجيه نموذج "تلميذ"، مما يساعده على التعلم من البيانات المشفرة والفوضوية دون الارتباك. كما أظهر الباحثون أن هذا الهجوم يعمل حتى عندما لا يمتلك المهاجم نفس "وصفة التشفير" الخاصة بالضحية، طالما يمكنه محاكاة وصفة مماثلة.
ومع ذلك، فإن الورقة البحثية حذرة في عدم القول بأن كل الخصوصية قد ضاعت. فقد أشارت إلى أنه بالنسبة للمهام البسيطة جدًا، مثل تحديد ما إذا كانت الجملة سعيدة أم حزينة، فقد تصمد بعض الدفاعات بشكل أفضل قليلاً. ولكن بالنسبة للمهام المعقدة التي تتطلب فهم كلمات محددة، مثل التشخيصات الطبية أو توليد نصوص جديدة، يبدو أن طرق التشفير الحالية توفر شعورًا زائفًا بالأمان. ويخلص المؤلفون إلى أننا قد نحتاج إلى إعادة التفكير في كيفية حماية البيانات في السحابة. فبدلاً من الاعتماد على حيل التشفير الخفيفة هذه، قد نحتاج إلى التطلع نحو حلول أكثر ثقلًا وتعقيدًا مثل التشفير المتقدم (cryptography)، والتي يصعب كسرها ولكنها أيضًا أبطأ وأكثر تكلفة في الاستخدام. في الوقت الحالي، يعمل DeepInvert كصافرة إنذار عالية الصوت: إذا كنت تقوم بتشفير بياناتك لإخفائها عن الذكاء الاصطنا-عي، فقد ترغب في التحقق من قفلك مرتين، لأن شخصًا ما وجد للتو طريقة فعالة جدًا لفتح هذا القفل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.