When Speculation Spills Secrets: Side Channels via Speculative Decoding In LLMs
تكشف هذه الورقة أن فك التشفير التخميني في النماذج اللغوية الكبيرة يخلق ثغرة أمنية جديدة من نوع القنوات الجانبية، حيث يمكن للمهاجمين استنتاج استعلامات المستخدم وتسريب البيانات السرية من خلال مراقبة أعداد الرموز أو أحجام الحزم، بينما تقترح أيضاً وتقيم تدابير مضادة فعالة مثل حشو الحزم وتجميع الرموز.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك في مطعم مزدحم. طلبت وجبة معقدة، وبدأ الشيف (الذكاء الاصطناعي) في الطهي. ولتوفير الوقت، يمتلك الشيف مساعد شيف يتوقع المكونات القادمة التي ستحتاجها ويجهزها مسبقًا.
- إذا خمن مساعد الشيف بشكل صحيح، يأخذ الشيف صينية كاملة من المكونات المُجهزة دفعة واحدة.
- إذا خمن مساعد الشيف بشكل خاطئ، يضطر الشيف للتوقف، ورمي الصينية، والبدء في تقطيع مكون واحد تلو الآخر، واحدًا تلو الآخر.
هذه التقنية التي تسمى "التخمين المسبق" تُعرف باسم "التشفير الاستدلالي" (Speculative Decoding)، وهي تجعل روبوتات الدردشة بالذكاء الاصطناعي أسرع بكثير.
المشكلة:
تكشف ورقة بحثية بعنوان "عندما يسرب التخمين الأسرار" عن طريقة ماكرة يمكن من خلالها للمخترقين التجسس على محادثاتك الخاصة مع روبوتات الدردشة هذه، ليس عن طريق كسر التشفير، بل من خلال مراقبة حجم طرود التوصيل.
تسريب "حجم الطرد"
فكر في رد الذكاء الاصطناعي كتدفق من الطرود الرقمية التي تُرسل إلى هاتفك.
- طرد كبير: لقد خمن الذكاء الاصطناعي بشكل صحيح! لقد أرسل 5 كلمات دفعة واحدة. الطرد كبير.
- طرد صغير: لقد خمن الذكاء الاصطناعي بشكل خاطئ! لقد أرسل كلمة واحدة فقط. الطرد صغير جدًا.
على الرغم من أن محتوى الرسالة مغلق داخل خزنة آمنة (مشفر)، إلا أن حجم الصندوق مرئي لأي شخص يراقب شاحنة التوصيل (مخترق على شبكة الواي فاي الخاصة بك أو مزود خدمة الإنترنت الخاص بك).
الهجوم: "الشفرة السرية للأحجام"
اكتشف الباحثون أن نمط الطرود الكبيرة والصغيرة فريد من نوعه لكل سؤال تطرحه. إنه يشبه بصمة مصنوعة من أحجام الصناديق.
- الإعداد: يتظاهر المخترق بأنه زبون. يطرح على الذكاء الاصطناعي 50 سؤالًا مختلفًا (مثل: "ما هي أعراض الإنفلونزا؟" مقابل "ما هي أعراض كسر الساق؟").
- صنع البصمة: يقوم بتسجيل نمط أحجام الطرود لكل سؤال.
- السؤال (أ) قد يبدو هكذا: كبير، كبير، صغير، كبير، كبير.
- السؤال (ب) قد يبدو هكذا: صغير، صغير، كبير، صغير.
- التجسس: لاحقًا، يراقب المستخدم الحقيقي وهو يتحدث إلى الذكاء الاصطناعي. يرى المستخدم أحجام طرده: كبير، كبير، صغير، كبير، كبير.
- النتيجة: يطابق المخترق النمط ويعرف فورًا: "آه! هذا المستخدم يسأل عن الإنفلونزا!"
في اختباراتهم، نجح هذا الأمر بشكل مذهل. بالنسبة لبعض أنظمة الذكاء الاصطناعي، تمكنوا من تخمين سؤال المستخدم بدقة تتجاى 90%، حتى لو كان المستخدم يسأل عن مسائل طبية حساسة أو تفاصيل تأمين خاصة.
"سرقة البيانات"
الأمر يزداد سوءًا. تستخدم بعض أنظمة الذكاء الاصطناعي "مكتبة" من المحادثات السابقة لجعل التخمينات أفضل. أظهر الباحثون أنه يمكن للمخترق خداع الذكاء الاصطناعي للكشف عن محتويات هذه المكتبة السرية. من خلال طرح أسئلة محددة ومراقبة أي التخمينات كانت "صحيحة" (طرود كبيرة) وأيها كانت "خاطئة" (طرود صغيرة)، يمكنه سرقة المكتبة الكاملة للبيانات الخاصة التي يستخدمها الذكاء الاصطناعي ببطء، مسربًا حوالي 25 كلمة في الثانية.
الحل: "حشو الصناديق"
كيف نوقف هذا؟ تقترح الورقة البحثية حلين، باستخدام تشبيه المطعم:
استراتيجية "الصندوق الموحد" (الحشو):
تخيل أن المطعم قرر أن كل عملية توصيل، سواء كانت كلمة واحدة أو 10 كلمات، يجب أن تذهب في صندوق ضخم ومتطابق. إذا كان لدى الذكاء الاصطناعي كلمة واحدة فقط، فسيقوم بحشو الصندوق بورق فارغ وهمي حتى يصبح بنفس حجم أكبر صندوق.- المزايا: لا يستطيع المخترق معرفة عدد الكلمات المرسلة. السر في أمان.
- العيوب: إنها عملية غير فعالة. أنت تشحن الكثير من الورق الفارغ، مما يبطئ عملية التوصيل ويكلف مالاً أكثر.
استراتيجية "التسليم بالدفعة" (التجميع):
بدلاً من إرسال طرد في كل مرة يفكر فيها الذكاء الاصطناعي في كلمة، ينتظر المطعم حتى يفكر الذكاء الاصطناعي في 10 كلمات مثلاً، ثم يرسلها جميعًا في دفعة واحدة كبيرة.- المزايا: يخفي نمط "التخمين الصحيح" مقابل "التخمين الخاطئ".
- العيوب: يجب على المستخدم الانتظار لفترة أطول لرؤية أول كلمة من الإجابة، مما يجعل الدردشة تبدو بطيئة وثقيلة.
الخلاصة
هذه الورقة البحثية هي بمثابة جرس إنذار. غالبًا ما نعتقد أننا بأمان إذا كانت بياناتنا مشفرة. لكن هذا البحث يوضح أن السرعة وحجم القطع التي تُرسل بها البيانات يمكن أن تسرب معلومات بقدر ما يسربه المحتوى نفسه.
مع ازدياد سرعة وذكاء الذكاء الاصطناعي، نحتاج للتأكد من أننا لا نترك "الباب الخلفي" مفتًا عن طريق السماح لحجم طرودنا الرقمية بكشف أسرارنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.