Intertemporal Preference Steering in Qwen3 via Contrastive Activation Addition
تُثبت هذه الورقة أن التمثيلات الخطية للأفق الزمني في نموذج Qwen3-32B يمكن تحديدها عبر مجسات خطية تباينية واستخدامها من خلال إضافة التنشيط لتوجيه تفضيلات النموذج بين الفترات الزمنية وقدراته على التخطيط بفعالية في كل من الاتجاهات قصيرة وطويلة المدى.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى روبوت ذكي للغاية وسريع جداً، وقد قرأ كل ما تقريباً من الكتب الموجودة على الإنترنت. قد تعتقد أن هذا الروبوت يكتفي فقط ببث الحقائق، لكنه في الواقع يشبه شخصاً ذا شخصية؛ لديه تفضيلات، وعادات، وحتى حس بـ "متى" يفعل الأشياء. أحياناً يريد الحصول على قطعة كعك الآن (على المدى القصير)، وأحياناً أخرى يكون مستعداً للانتظار من أجل كعكة أكبر لاحقاً (على المدى الطويل). يتحدث هذا البحث عن طريقة جديدة لإلقاء نظرة داخل دماغ الروبوت للعثور على "المفتاح" المحدد الذي يتحكم في حسه بالوقت. يسمي العلماء هذا "التفضيل عبر الزمن" (intertemporal preference)، وهو مجرد طريقة معقدة للسؤال: "هل تريدها الآن، أم لاحقاً؟". فهم هذا الأمر أمر بالغ الأهمية، لأنه إذا لم نتمكن من التحكم في كيفية موازنة الروبوت بين المكافآت الفورية والفوائد المستقبلية، فقد يعطينا نصائح سيئة بشأن ادخار المال، أو التخطيط لرحلة، أو حتى اتخاذ قرارات حياتية كبرى.
قرر الباحثون في هذه الدراسة اختبار ذلك على دماغ روبوت قوي ومحدد يسمى Qwen3-32B. لم يكتفوا بسؤال الروبوت أسئلة، بل حاولوا "توجيه" أفكاره فعلياً أثناء تفكيره. تخيل دماغ الروبوت كأنه نهر ضخم من الكهرباء يتدفق عبر طبقات من الأنابيب. وجد الفريق اتجاهاً محدداً في هذا النهر يمثل "التفكير طويل المدى". ومن خلال دفع الكهربة برفق في ذلك الاتجاه (أو سحبها للخلف)، استطاعوا جعل الروبوت يغير رأيه فجأة. لقد أثبتوا أنه بإمكانهم جعل الروبوت أكثر صبراً، ومستعداً للانتظار لسنوات من أجل مكافأة ضخمة، أو أكثر نفاداً للصبر، ومتلهفاً لمكافأة صغيرة في هذه اللحظة تماماً. إنه يشبه امتلاك جهاز تحكم عن بعد لصبر الروبوت.
سر "قرص الوقت" في دماغ الروبوت
بدأ الفريق بتعليم الروبوت الإجابة على أسئلة تتعلق بالوقت. قدموا له أزواجاً من الأسئلة حيث تكون إحدى الإجابات حول "ماذا ستفعل في الثلاثين يوماً القادمة" والأخرى حول "أين ستكون بعد عشر سنوات". وبينما كان الروبوت يعالج هذه الإجابات، راقب الباحثون الكهرباء وهي تتدفق عبر دماغه. واكتشفوا أن الفرق بين إجابة "قصيرة المدى" وإجابة "طويلة المدى" لم يكن فوضوياً أو عشوائياً؛ بل كان خطاً مستقيماً ونظيفاً. استطاعوا رسم متجه (سهم رياضي) يشير من "الآن" إلى "لاحقاً".
ولاختبار ما إذا كان هذا السهم حقيقياً، استخدموا تقنية تسمى إضافة التنشيط التبايني (Contrastive Activation Addition - CAA). تخيل أن دماغ الروبوت عبارة عن سيارة تسير على طريق. وجد الباحثون "مقود توجيه" مخفياً داخل المحرك. عندما أداروا هذا المقود قليلاً نحو اليسار (بإضافة دفعة سالبة)، انحرفت السيارة نحو "العمل الفوري". وعندما أداروه نحو اليمين (بإضافة دفعة موجبة)، انحرفت السيارة نحو "التخطيط للمستقبل". لم يكتفوا بالتخمين، بل قاموا بالقياس؛ وجدوا أنه من خلال إضافة جزء صغير من "متجه الوقت" هذا إلى دماغ الروبوت أثناء إجابته، يمكنهم إجباره على تغيير رأيه في الخيارات الثنائية (أ مقابل ب) بموثوقية عالية جداً، مما يغير تفضيلات النموذج بشكل كبير في كلا الاتجاهين.
اختبار المال: هل يمكننا تغيير محفظته؟
حدث السحر الحقيقي عندما اختبروا ذلك على نوع مختلف تماماً من الأسئلة: المال. لم يعلموا الروبوت عن المال؛ بل علموه فقط عن الأطر الزمنية "القصيرة مقابل الطويلة". ثم طرحوا عليه معضلة بشرية كلاسيكية: "هل تفضل الحصول على 100 دولار اليوم أم 1,000 دولار في غضون عام؟"
بدون أي توجيه، كان للروبوت "نقطة عدم اكتراث" معينة—وهي مبلغ محدد من المال في المستقبل يجعله يقول: "لا بأس، سأنتظر". ولكن عندما طبق الباحثون "توجيه المدى الطويل"، ارتفع صبر الروبوت بشكل صاروخي. فجأة، أصبح مستعداً لانتظار مكافأة مستقبلية حتى لو كان "العائد الإضافي" الذي سيحصل عليه مقابل الانتظار صغيراً نسبياً. بعبارة أخرى، انخفض "العلاوة" التي يطالب بها مقابل الانتظار بشكل ملحوح. وعلى العكس من ذلك، عندما طبقوا "التوجيه قصير المدى"، أصبح الروبوت جشعاً، مطالباً بمكافأة ضخمة لمجرد الانتظار يوماً واحداً.
كانت الأرقام مذهلة. عند أقوى مستوى للتوجيه، تغير تفضيل الروبوت بشكل جذري لدرجة أنه عند أفق زمني مدته 10 سنوات، تطلب أكثر من 56 ضعف المكافأة المستقبلية ليكون مستعداً للانتظار عندما تم توجيهه نحو المدى القصير، مقارنة بما كان عليه عندما تم توجيهه نحو المدى الطويل. يشير هذا إلى أن إحساس الروبوت بالوقت ليس مجرد إعداد ثابت؛ بل هو "قرص" يمكن رفعه أو خفضه، حتى في المهام التي لم يتم تدريبه عليها صراحة.
التخطيط للرحلات: هل يجعل الصبر من الروبوت وكيل سفر أفضل؟
أخيراً، تساءل الفريق عما إذا كان جعل الروبوت أكثر صبراً سيجعله أفضل في المهام المعقدة. استخدموا معياراً يسمى TravelPlanner، حيث يتعين على الروبوت إنشاء مسار رحلة متعدد الأيام يتضمن فنادق ورحلات طيران ومطاعم. هذه مهمة صعبة لأن عليك التفكير في الأسبوع بأكه، وليس في الساعة القادمة فقط.
وجدوا "نقطة مثالية". عندما أعطوا الروبوت دفعة "طويلة المدى" متوسطة، أصبحت خطط السفر الخاصة به أكثر منطقيةية وواقعية. توقف عن ارتكاب الأخطاء السخيفة التي قد يرتكبها مخطط قصير النظر. ومع ذلك، إذا دفعوا "قرص المدى الطويل" بقوة كبيرة (الإعداد الأقوى)، يصاب الروبوت بالارتباك ويبدأ في تأليف أشياء غير منطقية. يبدو أنه بينما يساعد القليل من التفكير في المستقبل، فإن الكثير منه قد يكسر قدرة الروبوت على التركيز على التفاصيل.
ماذا يعني هذا بالنسبة لنا؟
الخلاصة الكبرى هي أن نماذج الذكاء الاصطناي لديها "أفق زمني" قابل للقياس، ويمكننا تغييره. هذا ليس مجرد خدعة رائعة؛ بل هو قضية سلامة. إذا كان الذكاء الاصطناعي يقدم لك نصيحة بشأن الاستثمار، أو الصحة، أو تغير المناخ، فإن نصيحته تعتمد بشدة على ما إذا كان يهتم بالأسبوع القادم أو بالقرن القادم. لقد أظهر الباحثون أننا نستطيع قياس هذا التفضيل وتوجيهه.
ومع ذلك، فهم حذرون في قول إن هذا ليس عصا سحرية تصلح كل شيء. فقد يكون "قرص الوقت" متشابكاً مع أشياء أخرى، مثل مدى تجريد أو إلحاح ما يشعر به الروبوت. وإذا أدرت القرص كثيراً، فقد يتوقف الروبوت عن تقديم أي معنى. لكن حقيقة أننا استطعنا العثور على هذا المفتاح وقلبه تشير إلى أن الطريقة التي يفكر بها الذكاء الاصطناي في المستقبل ليست لغزاً لا يمكننا لمسه. إنه ميزة يمكننا فهمها، وقياسها، والتحكم فيها المحتمل، وهذا يمثل خطوة كبيرة للأمام لضمان بقاء الذكاء الاصطناي مفيداً ومتوافقاً مع أهدافنا طويلة المدى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.