From Role Prompt to Infinite Thinking: Exploiting Persona Conditioning for Inference Cost Attacks in LLMs
تقدم هذه الورقة "RolePlay"، وهو إطار هجوم مبتكر يستغل اتساق الشخصية في النماذج اللغوية الكبيرة لاستحثاث سلوكيات متماسكة دلاليًا ولكنها غير فعالة حوسبيًا، محققًا تضخيمًا في الرموز (tokens) يصل إلى 207.64 مرة ومتفوقًا بشكل كبير على أساليب هجمات تكلفة الاستدلال الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا تكتفي فيه الحواسيب بالإجابة على الأسئلة، بل تمتلك شخصيات أيضاً. هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي الأدمغة الذكية الخارقة وراء برامج الدردشة الآلية، ومولدات الأكواد البرمجية، والمساعدين الرقميين. تعمل هذه النماذج مثل طالب سريع جداً وكثير الكلام، يقرأ سؤالك ثم يكتب إجابته كلمة بكلمة. كل كلمة يكتبها تكلف قدراً ضئيلاً من الكهرباء وقوة المعالجة. عادةً ما يكون هذا فعالاً: تسأل "ما هو 2+2؟"، فيقومون بسرعة بكتابة "4". ولكن ماذا لو استطعت خداع الكمبيوتر ليكتب ألف كلمة فقط ليقول "4"؟ هذا هو المشكل الذي تعالجه هذه الورقة البحثية. فهي تستكشف طريقة جديدة لجعل نماذج الذكاء الاصطناعي تهدر الطاقة والوقت، ليس عن طريق الصراخ في وجهها أو كسرها، بل عبر إعطائها "دوراً" محدداً لتلعبه يجعلها تفرط في التفكير في كل شيء.
اكتشف الباحثون وراء هذه الدراسة، "زيي مو" وفريقه، نقطة ضعف خفية في كيفية تعامل نماذج الذكاء الاصطناعي هذه مع "الشخصيات" (Personas). وببساطة، الشخصية تشبه الزي أو الشخصية التي يرتديها الممثل. إذا قلت للذكاء الاصطناعي: "تظاهر بأنك طالب مجتهد ومتوتر، يخشى ارتكاب الأخطاء"، فسيحاول الذكاء الاصطناعي بذل قصارى جهده للبقاء في الشخصية. وجد الفريق أنه إذا اخترت الشخصية المناسبة، سيبدأ الذكاء الاصطناعي بشكل طبيعي في القيام بأشياء غير فعالة، مثل مراجعة عمله مائة مرة، أو الشك في إجاباته، أو شرح الأشياء البسيطة بطرق معقدة للغاية. وقد أطلقوا على طريقتهم الجديدة اسم RolePlay.
إليك الاكتشاف الكبير: من خلال تعيين شخصية محددة وغير فعالة قليلاً للذكاء الاصطناعي، تمكنوا من جعله يولد نصوصاً أكثر بكثير مما هو ضروري دون أن يدرك الذكاء الاصطناعي أنه يتعرض للخداع. في اختباراتهم، نجحت هذه الطريقة مع العديد من نماذج الذكاء الاصطناعي المختلفة. في المتوسط، جعلت هذه الطريقة النماذج تولد كلمات أكثر بنسبة 7.64 ضعف مما تولده عادةً. وفي الحالات الأكثر تطرفاً، ولد الذكاء الاصطناعي نصاً أكثر بمقدار 207.64 ضعفاً! على سبيل المثال، مهمة تستغرق عادةً 3 ثوانٍ و12 كلمة، امتدت لتستغرق ما يقرب من 142 ثانية وأكثر من 1,500 كلمة.
تجادل الورقة البحثية بأن هذه مشكلة خطيرة لأن من الصعب إيقافها. الطرق القديمة لمحاولة جعل الذكاء الاصطناعي يهدر الوقت تضمنت استخدام جمل غريبة أو أوامر واضحة مثل "فكر بعمق أكثر"، والتي يمكن لمرشحات الكمبيوتر رصدها وحظرها بسهولة. لكن RolePlay طريقة مخادعة؛ فالطلبات تبدو كطلبات عادية ومهذبة مثل "تقمص دور طالب مبتدئ" أو "كن خبيراً مرتبكاً". ولأن الذكاء الاصطناعي بارع جداً في اتباع التعليمات والبقاء في الشخصية، فإنه يسعد بهدر الموارد في فعل ما طلبته منه بالضبط، حتى لو كان ذلك يعني أن يكون بطيئاً ومكرراً بشكل مفرط.
اختبر الباحثون هذه الطريقة على مجموعة واسعة من المهام، من حل المسائل الرياضية إلى كتابة الأكواد البرمجية والإجابة على الأسئلة العامة. ووجدوا أنه بغض النظر عن المهمة، فإن خدعة "الشخصية" تنجح دائماً. كما قارنوا طريقتهم بطرق أخرى معروفة لإبطاء الذكاء الاصطناعي، وتفوقت RolePlay في كل مرة. فعلى سبيل المثال، في نموذج محدد يسمى Gemini-3.5-Flash، جعلت RolePlay الذكاء الاصطناعي يولد رموزاً (tokens) أكثر بمقدار 7.64 ضعفاً، بينما لم تنجح الطرق الأخرى إلا في حوالي 3.5 ضعف. وحتى في النموذج الذي لديه عادةً حداً أقصى لما يمكنه كتابته، تمكنت RolePlay من دفعه لتوليد محتوى أكثر بمقدار 3.19 ضعفاً من المعتاد.
أحد أكثر الأجزاء إثارة للاهتمام في الدراسة هو كيفية بناء هذه الشخصيات. لم يعتمدوا على التخمين فحسب؛ بل استخدموا نظاماً ذكياً لتحليل السؤال أولاً. إذا كان السؤال مسألة رياضية صعبة، سيقوم النظام بإنشاء شخصية طالب "قلق" و"مهووس بالتناقضات"، مما يجعل الذكاء الاصطناعي يشك في نفسه مراراً وتكراراً. وإذا كان السؤال حول التاريخ، فقد تكون الشخصية "خبيراً عنيداً" يرفض إعطاء إجابة بسيطة. هذا النهج "المدرك للمهمة" يعني أن عدم كفاءة الذكاء الاصطناعي يبدو طبيعياً ويتناسب مع القصة، مما يجعل من الصعب جداً على مرشحات الأمان اكتشافه.
تحقق الفريق أيضاً مما إذا كان هذا مجرد صدفة أم أنه يعمل حقاً. لقد أجروا آلاف الاختبارات عبر أنواع مختلفة من نماذج الذكاء الاصطناعي، بما في ذلك بعض النماذج من شركات التكنولوجيا الكبرى وبعض النماذج مفتوحة المصدر. كانت النتائج متسقة: استمرت نماذج الذكاء الاصطناعي في الوقوع في حلقات مفرغة من الإفراط في الشرح والتصحيح الذاتي. تشير الدراسة إلى أن "اتساق الشخصية" هذا — أي رغبة الذكاء الاصطناعي في البقاء مخلصاً للشخصية التي أعطيتها إياها — هو نوع جديد من الثغرات الأمنية. إنه ليس خطأً في الكود البرمجي، بل هو ميزة من ميزات كيفية تعلم الذكاء الاصطناعي ليكون مفيداً، ويمكن استغلالها ضده.
إذاً، ماذا يعني هذا للمستقبل؟ لا تقول الورقة البحثية إن هذا سيؤدي إلى إغلاق الإنترنت غداً، لكنها تسلط الض الضوء على طريقة جديدة يمكن من خلالها للجهات السيئة استنزاف موارد خدمات الذكاء الاصطناعي. إذا أراد شخص ما جعل خدمة الذكاء الاصطناعي بطيئة ومكلفة للتشغيل، فلن يحتاج إلى إرسال ملايين الطلبات؛ بل يمكنه فقط إرسال بعض الطلبات المصاغة بذكاء والتي تحول الذكاء الاصطناعي إلى شخصية متمادلة في التفكير ومفرطة في التحليل. ويأمل الباحثون أن يؤدي تسليط الضوء على هذا الأمر إلى تمكين المطورين من بناء دفاعات أفضل لمنع الذكاء الاصطناعي من هدر الطاقة في الثرثرة غير الضرورية المدفوعة بالشخصية.
باختصار، تكشف الورقة أن الشيء ذاته الذي يجعل نماذج الذكاء الاصطناعي جيدة جداً في تقمص الأدوار — وهو البقاء في الشخصية — يمكن استخدامه لجعلها غير فعالة. من خلال إلباس الذكاء الاصطناعي زي طالب متوتر أو خبير مرتبك، أظهر الباحثون أن بإمكانهم مضاعفة تكلفة سؤال واحد بمئات المرات. إنه تذكير بأنه في عالم الذكاء الاصطناعي، أحياناً لا تكون الأداة الأكثر قوة هي خوارزمية معقدة، بل هي مجرد زي بسيط ومختار بعناية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.