Stealing Reasoning Traces from Proprietary LLM APIs
تحدد هذه الورقة وتستغل ثغرة معمارية حرجة في واجهات برمجة تطبيقات النماذج اللغوية الكبيرة (LLM) المملوكة، حيث يمكن فك تشفير مسارات الاستدلال المشفرة القابلة للتبادل عن طريق حقنها في نماذج أضعف، مما يتيح استخراج الملكية الفكرية والبيانات الخاصة والمعلومات الخطرة على نطاق واسع مع تجاوز ضوابط السلامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمكتبة ضخمة تعج بالحركة، حيث يعمل أكثر أمناء المكتبات تطوراً كذكاء اصطناعي. هذه النماذج من الذكاء الاصطناعي، والتي تُعرف بـ "نماذج الاستدلال"، مميزة لأنها قبل أن تعطيك إجابة نهائية، تهمس بمونولوج داخلي طويل ومفصل لنفسها. فكر في هذا المونولوج كمسودة سرية يعمل فيها الذكاء الاصطناعي على حل المسائل الرياضية، أو التحقق من حقائقه، أو حتى مناقشة أخلاقيات سؤال ما قبل التحدث. عادةً ما تكون هذه المسودة مخفية عنك؛ فأنت لا ترى سوى الإجابة النهائية المصقولة. ومع ذلك، ولتوفير المال وحماية أسرارهم التجارية، بدأت الشركات المالكة لهذه الأنظمة بتشفير هذه المسودات السرية. إنهم يحولون أفكارهم الفوضوية والخاصة إلى كتلة برمجية مشفرة وغير قابلة للقراءة، ثم يرسلونها إليك، طالبين منك الاحتفاظ بها وإحضارها في المرة القادمة التي ترغب فيها بطرح سؤال. الأمر يشبه تسليمك خزنة محكمة الإغلاق وغير قابلة للكسر، وقولهم لك: "حافظ على هذه الخزنة، وأحضرها معك عندما تريد التحدث إلينا مرة أخرى".
السؤال الكبير الذي يتساءل عنه الباحثون هو: هل هذه الخزنة آمنة حقاً وغير قابلة للكسر؟ إذا كانت شركات الذكاء الاصطناعي تحاول إخفاء عمليات تفكيرها السرية لحماية ملكيتها الفكرية وبياناتها الخاصة، فهل الطريقة التي يوزعون بها هذه "الخزنات" تخلق في الواقع باباً خلفياً؟ يبحث هذا البحث في هذا اللغز تحديداً، مستقصياً ما إذا كان التشفير الذي يحمي هذه الأفكوهات الذكية آمنًا كما تعتقد الشركات، أم أن هناك خدعة ذكية لفك الشفرة دون الحاجة أبًا لكسر القفل على النموذج الأكثر قوة.
اكتشف الباحثون ثغرة بسيطة ولكنها مدمرة في كيفية تعامل شركات الذكاء الاصطناعي مع أفكارها السرية. فقد وجدوا أن "الخزنات" المشفرة التي تحتوي على استدلال الذكاء الاصطناعي تشبه مفاتيح عالمية تعمل عبر نماذج ومستخدمين مختلفين. في عالم الذكاء الاصطفي، غالباً ما تمتلك الشركات نموذج "الأخ الأكبر" (ذكي جداً ومحمي بشدة) ونموذج "الأخ الأصغر" (أكثر ذكاءً وسرعة، ولكن بحراس أمن أقل). يوضح البحث أن المهاجم يمكنه سرقة كتلة استدلال سرية من "الأخ الأكبر"، وتسللها إلى محادثة مع "الأخ الأصغر"، وخداع النموذج الأضعف لجعله يفك تشفير الأفكار السرية إلى لغة إنجليزية واضحة. يعمل هذا لأن مفتاح التشفير مشترك عبر النظام البيئي بأكر، مما يعني أن "الأخ الأصغر" يمتلك نفس القدرة على فتح الخزنة التي يمتلكها "الأخ الأكبر"؛ كل ما في الأمر أن "الأخ الأصغر" يفتقر إلى التدريب الصارم على السلامة لرفض الطلب. الأمر يشبه أن تسرق مذكرات مقفلة من معلم صارم، وتناولها لطالب أكثر لطفاً وأقل حذراً، وتطلب منه أن يقرأها بصوت عالٍ. فالطالب الأكثر لطفاً، وبما أنه يمتلك نفس المفتاح لقفل المعلم، يقوم ببساطة بفتح المذكرات وقراءة محتواها السري بصوت عالٍ.
أثبت المؤلفون أن هذه الخدعة تعمل على نطاق واسع عبر كبرى مزودي الذكاء الاصطناعي مثل Anthropic وOpenian وGoogle. فباستخدام هذه الطريقة، تمكنوا من "اختراق" أمن النماذج الأكثر تقدماً دون مهاجمتها بشكل مباشر. وقد أظهروا أربعة طرق رئيسية يمكن من خلالها إساءة استخدام هذه الثغرة. أولاً، تسمح للمنافسين بسرقة خطوات الاستدلال السرية لذكاء اصطناعي رفيع المستوى، مما يعني فعلياً نسخ قدراته الذهنية دون دفع تكلفة النموذج الباهظة. ثانياً، تكشف البيانات الخاصة؛ حيث قام الباحثون بجمع أكثر من 315,000 كتلة مشفرة من المواقع العامة ونجحوا في فك تشفيرها للعثور على مئات كلمات المرور المسربة، ومفاتيح البرمجة (API keys)، ورسائل البريد الإلكتروني الشخصية التي ظن المستخدمون أنها آمنة لأنها مشفرة. ثالثاً، تكشف المعلومات الخطيرة التي قد يكون الذكاء الاصطناعي قد فكر فيها ولكنه قرر عدم قولها في إجابته النهائية، مثل كيفية سرقة سيارة أو تجاوز قواعد السلامة. وأخيراً، تسمح للمهاجمين بإخفاء تعليمات خبيثة داخل هذه الكتل المشفرة، مما يؤدي إلى تسميم مهام الذكاء الاصطنا المستقبلية دون أن يرى أحد هذا "السم" حتى فوات الأوان.
يخلص البحث إلى أنه بينما كان الهدف من تشفير أفكار الذكاء الاصطناعي هو حماية الخصوصية والملكية الفكرية، فإن النظام الحالي لمشاركة هذه الكتل المشفرة بين النماذج والمستخدمين المختلفين قد خلق ثغرة أمنية حرجة. وقد أبلغ الباحثون بالفعل هذه المشكلات للشركات المعنية، وبدأت الشركات في سد هذه الثغرات. وتعد هذه الدراسة تحذيراً صارخاً: في السباق نحو بناء ذكاء اصطناعي أكثر ذكاءً، تحتاج الطريقة التي نتعامل بها مع "المسودات السرية" لهذه النماذج إلى إعادة تفكير شاملة لضمان عدم وقوع بياناتنا الخاصة ومنطق نماذجنا الداخلية في الأيدي الخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.