💻 computer science

Latent Action Reparameterization for Efficient Agent Inference

تقترح هذه الورقة البحثية إعادة تمثيل الفعل الكامن (LAR)، وهو إطار عمل يتعلم فضاء أفعال كامن مدمج ومتعدد الخطوات من مسارات الوكيل لتقليل أفق اتخاذ القرار الفعلي وتكاليف الاستدلال لوكلاء النماذج اللغوية الكبيرة بشكل كبير، مع الحفاظ على معدلات نجاح المهام أو تحسينها.

المؤلفون الأصليون: Wenhao Huang, Qingwen Zeng, Qiyue Chen, Zijie Guo, Yu Sun, Cheng Yang, Siru Ouyang, Jiri Gesi, Fang Wu, Jiayi Zhang, Huaming Chen, Bang Liu, Xiangru Tang, Chenglin Wu

نُشر 2026-05-19

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Wenhao Huang, Qingwen Zeng, Qiyue Chen, Zijie Guo, Yu Sun, Cheng Yang, Siru Ouyang, Jiri Gesi, Fang Wu, Jiayi Zhang, Huaming Chen, Bang Liu, Xiangru Tang, Chenglin Wu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعطي روبوتاً قائمة طويلة ومفصلة من التعليمات لبناء منزل.

الطريقة القديمة (المشكلة):
حالياً، عندما نطلب من وكيل (Agent) يعتمد على نموذج لغوي كبير (LLM) القيام بشيء معقد، فإننا نجبره على التفكير والتحدث في خطوات ذرية صغيرة جداً. الأمر يشبه قولك للروبوت: "ارفع المطرقة. الآن حرك يدك بمقدار بوصتين. الآن أرجح يدك. الآن اضرب المسمار. الآن ارفع المطرقة مرة أخرى".

حتى لو كان الروبوت ذكياً، فعليه توليد كمية هائلة من النصوص لمجرد قول "أنا أرفع المطرقة". هذا يخلق "أفق قرار" (Decision Horizon) ضخماً — خط طويل من القرارات الصغيرة التي يتعين على الكمبيوتر معالجتها واحداً تلو الآخر. وهذا يجعل الروبوت بطيئاً، ومكلفاً في التشغيل، وعرضة للتعب (أو نفاد الذاكرة) قبل إنهاء المهمة.

الطريقة الجديدة (إعادة تمثيل الفعل الكامن - LAR):
يقترح مؤلفو هذه الورقة البحثية طريقاً مختصراً ذكياً يسمى إعادة تمثيل الفعل الكامن (Latent Action Reparameterization - LAR).

فكر في LAR كطريقة لتعليم الروبوت لغة جديدة من "الأوامر الفائقة" (Super-Commands). بدلاً من قول "ارفع المطرقة، حرك اليد، أرجح اليد"، سيتعلم الروبوت قول كلمة سحرية واحدة: "فعل-المطرقة".

إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:

1. تشبيه "الزر الكلي" (Macro-Button)

تخيل أنك تستخدم جهاز كمبيوتر. بدلاً من النقر على "ملف"، ثم "جديد"، ثم "مستند"، ثم "تسميته"، تضغط على زر واحد يقول "إنشاء مستند جديد".

ادعاء الورقة البحثية: يقوم نظام LAR تلقائياً بتعلم هذه "الأوامر الفائقة" من خلال مراقبة عمل الروبوت. فهو يجد الأنماط حيث يقوم الروبوت دائماً بنفس تسلسل الخطوات (مثل فتح أداة، كتابة تنسيق معين، ثم إغلاقها). يقوم بدمج هذه الخطوات في "فعل كامن" واحد غير مرئي.
النتيجة: يتخذ الروبوت قرارات أقل. فبدلاً من 100 خطوة صغيرة، يتخذ 10 خطوات كبيرة. هذا يجعله أسرع وأقل تكلفة في التشغيل.

2. "السحاب" مقابل "الحقيبة" (ما الذي يتم ضغطه؟)

قد تتساءل: "إذا قمنا بدمج كل شيء معاً، ألن ينسى الروبوت التفاصيل المهمة؟"
الورقة البحثية حذرة جداً هنا. إنهم يستخدمون تشبيه السحاب (Zipper):

السحاب (الهيكل): الأجزاء المملة والمتكررة من التعليمات (مثل "يرجى فتح أداة البحث" أو "إليك تنسيق الكود") هي ذات "اعتلاج منخفض" (Low-entropy). أي أنها متوقعة. يقوم نظام LAR بإغلاق السحاب عليها في رمز كامن واحد.
الحقيبة (المحتوى): الأجزاء الفريدة والمتغيرة (مثل استعلام البحث المحدد "من هو رئيس الوزراء البريطاني التالي؟" أو رقم محدد) هي ذات "اعتلاج مرتفع" (High-entropy). هذه هي "الأشياء" الموجودة داخل الحقيبة. يتركها نظام LAR مفتوحة ومرئية.
لماذا هذا مهم: إذا قمت بإغلاق السحاب على استعلام البحث المحدد، فسيحاول الروبوت البحث عن "رئيس الوزراء البريطاني التالي" في كل مرة، حتى لو كان السؤال عن دولة أخرى. هذا سيؤدي إلى تعطل الروبوت. نظام LAR يغلق "الهيكل" فقط، وليس "المحتوى".

3. "منطقة غولديلوكس" (حد التجريد)

اكتشفت الورقة البحثية حداً حرجاً، أطلقوا عليه اسم "حد التجريد" (Abstraction Boundary).

ضغط قليل جداً: يكون الروبوت بطيئاً لأنه لا يزال ينطق الكثير من الكلمات الصغيرة.
الوضع المثالي: يكون الروبوت سريعاً لأنه يستخدم "الأوامر الفائقة" للأجزاء المملة، لكنه لا يزال يتحدث بوضوح عن الأجزاء المهمة.
ضغط كثير جداً: إذا حاولت دمج الأسئلة المحددة أو التفاصيل الفريدة في "أمر فائق"، فسوف يتعطل الروبوت. الأمر يشبه محاولة استخدام زر "فعل-المطرقة" للبحث عن شخص معين؛ سيتشتت الروبوت لأن الزر لا يعرف من يبحث عنه. توضح الورقة أنه إذا تجاوزت هذا الخط، فإن أداء الروبوت ينهار فجأة.

4. النتائج (ما الذي حدث بالفعل؟)

اختبر الباحثون هذا على ثلاثة أنواع مختلفة من المهام:

المعلومات العامة (TriviaQA): الإجابة على أسئلة معقدة.
البرمجة (KodCode): كتابة أكواد الكمبيوتر.
تصفح الويب (Mind2Web): التنقل في المواقع الإلكترونية واستخدام الأدوات.

النتائج كانت:

السرعة: أنتجت الروبوتات التي تستخدم LAR عدداً أقل بكثير من الكلمات (الرموز/Tokens) لإنجاز نفس العمل. وهذا يعني أنها أنهت المهام بشكل أسرع واستخدمت طاقة حاسوبية (ذاكرة GPU) أقل.
الذكاء: رغم استخدام كلمات أقل، كانت الروبوتات بنفس الكفاءة (أو أحياناً أفضل) في الوصول إلى الإجابة الصحيحة. لم تفقد ذكاءها؛ بل توقفت فقط عن إضاعة الوقت في الثرثرة المتكررة.
التعميم: قاموا بتدريب الروبوت على مجموعة من المهام (مثل البرمجة)، واستطاع استخدام تلك "الأوامب الفائقة" في مهام برمجة جديدة وغير مسبوقة دون الحاجة إلى إعادة تدريبه.

الملخص

تجادل الورقة البحثية بأن أكبر عائق لجعل وكلاء الذكاء الاصطناي يجعلهم أسرع ليس مجرد بناء حواسيب أكبر أو نماذج أذكى، بل هو كيف نطلب منهم التحدث.

من خلال تعليم الوكلاء تجميع الأفعال المتكررة والمتوقعة في "أوامر فائقة" واحدة مع إبقاء التفاصيل الفريدة والمهمة مرئية، يمكننا جعلهم أسرع، وأرخص، وأكثر ذكاءً. إنه يشبه ترقية الروبوت من مجرد عدّ كل خطوة يخطوها إلى روبوت يعرف كيف "يمشي"، و"يركض"، و"يقفز" كحركات انسيابية واحدة.

ملخص تقني: إعادة تمثيل الأفعال الكامنة لرفع كفاءة استدلال الوكيل (Agent Inference)

بيان المشكلة

تعتمد وكلاء النماذج اللغوية الكبيرة (LLM agents) غالبًا على تسلسلات طويلة من الأفعال النصية منخفضة المستوى لأداء الاستدلال متعدد الخطوات والتفاعل مع الأدوات. تؤدي هذه الدقة على مستوى الرمز (token-level granularity) إلى آفاق قرار فعالة ضخمة للغاية، مما يؤدي إلى زمن استجابة مرتفع في الاستدلال وتكاليف حوسبة باهظة. وبينما عالجت الأعمال السابقة الكفاءة من خلال تحسينات على مستوى النظام، أو تسريع الأجهزة، أو هندسة الأوامر (prompt engineering)، إلا أن هذه النهج تعمل بشكل متعامد مع عملية اتخاذ القرار لدى الوكيل. قد تقلل هذه الأساليب من تكلفة خطوات الاستدلال الفردية، لكنها تفشل في معالجة الاختناق الأساسي: وهو تمثيل مساحة الفعل نفسه. يرى المؤلفون أن كفاءة الاستدلال مقيدة بالدقة التي تُمثل بها أفعال الوكيل، وأن التعامل مع تمثيل الفعل كخيار نمذجة أساسي هو أمر ضروري لتوسيع نطاق استدلال وكلاء LLM بكفاءة.

المنهجية: إعادة تمثيل الأفعال الكامنة (LAR)

يقترح المؤلفون إعادة تمثيل الأفعال الكامنة (Latent Action Reparameterization - LAR)، وهو إطار عمل يتعلم مساحة أفعال كامنة مدمجة حيث يتوافق كل فعل كامن مع سلوك دلالي متعدد الخطوات. وبخلاف الماكرو (macros) المصنوع يدويًا أو المتحكمات الهرمية، يتعلم LAR هذه الوحدات مباشرة من مسارات الوكيل ويدمجها في النموذج.

المفاهيم الجوهرية

إعادة تعريف الفعل: بدلاً من العمل على البدائيات على مستوى الرمز، يستدل الوكيل عبر وحدات أفعال كامنة عالية المستوى ( $z_t$ ). كل فعل كامن يستوعب تسلسلاً من الأفعال منخفضة المستوى، مما يقلص أفق القرار الفعال من $H_{eff} = \sum |a_t|$ إلى $H_{lat} = \sum |z_t|$ .
قيد القابلية للتنفيذ: التحدي الحرج هو الموازنة بين التجريد والقابلية للتنفيذ. يعالج LAR ذلك من خلال الحفاظ بصرامة على المدخلات عالية الإنتروبيا والغنية بالمعاملات (مثل استعلامات البحث المحددة، أو الكيانات الرقمية) في مساحة المخرجات الصريحة. أما الأنماط المتكررة بنيويًا ومنخفضة الإنتروبيا (مثل الأوامง النصية للنظام، أو بناء جمل استدعاء الأدوات، أو التكوينات المتكررة) فقط، هي التي يتم تجريدها إلى وحدات كامنة.
تكافؤ الانتقال: يُعرَّف الفعل الكامن بأنه فئة تكافؤ لقطاعات الأفعال التي تستحث سلوكيات متكافئة في الانتقال. رسميًا، يكون قطاعان متكافئين في الانتقال إذا كانا يؤديان، لأي تاريخ سابق، إلى نفس النتائج ذات الصلة بالمهمة.

خط إنتاج التنفيذ

يتم تحقيق LAR من خلال خط إنتاج مكون من أربع مراحل:

التحديد: يحدد النظام قطاعات الأفعال المتكافئة في الانتقال من مسارات الوكيل باستخدام مرشح قائم على الإنتروبيا. القطاعات ذات الإنتروبيا المنخفضة للرمز التالي (استمرارية يمكن التنبؤ بها) والتردد العالي هي المرشحة. يتم استبعاد القطاعات عالية الإنتروبيا لضمان القابلية للتنفيذ.
بناء المفردات: يتم تخصيص رموز مفردات مخصصة للقطاعات المحددة، مما يشكل مفردات الأفعال الكامنة.
بيانات تدريب ثنائية الصيغة: يتم إقران المسارات الأصلية بنظائرها المعاد تمثيلها حيث تُستبدل القطاعات المطابقة برموز كامنة.
التقطير على مستوى المسار: يتم تدريب نموذج طالب (نموذج LLM أساسي + محول LoRA + تضمينات كامنة جديدة) لمحاكاة نموذج معلم مجمد (النموذج الأصلي LLM) باستخدام تقطير KL. يتم حساب الخسارة فقط فوق مواضع المحتوى المشترك، مما يجبر التضمينات الكامنة الجديدة على تشفير الدلالات الكاملة للقطاعات المضغوطة. يتم تدريب أوزان LoRA والتضمينات الجديدة فقط (~0.1% من المعلمات).

المساهمات الرئيسية

تحدد الورقة أربع مساهمات رئيسية:

مكاسب كفاءة كبيرة: يحقق LAR كفاءة كبيرة في تقليل أفق الفعل الفعال، مما يؤدي إلى تخفيضات جوهرية في رموز الأفعال وما يقابلها من مكاسب على مستوى النظام في إنتاجية الرموز (token throughput) وذروة ذاكرة GPU عبر اختبارات متنوعة.
الحفاظ على أداء المهمة: رغم العمل في مساحة مضغوطة، يحافظ LAR على معدلات نجاح المهام أو يحسنها مقارنة بالنماذج المرجعية التي تستخدم الأفعال النصية الخام. كما أظهر القدرة على الانتقال إلى اختبارات لم تُستخدم في التدريب دون الحاجة لإعادة التدريب.
تحليل حدود التجريد: حدد المؤلفون تجريبيًا عتبة انهيار الأداء. يحدد هذا الحد الفاصل بين التكرار الهيكلي القابل للضغط والمحتوى الدلالي الجوهري، موضحًا أن التجريد المفرط يؤدي إلى فشل مفاجئ عندما يتم تجريد المحتويات المرتبطة بالمعاملات بشكل خاطئ.
منظور جديد للتوسع: يضع هذا العمل تعلم تمثيل الفعل كعامل حاسم وغير مستكشف بشكل كافٍ في توسيع نطاق استدلال وكيل LLM بكفاءة، مما يوفر مسارًا مكملًا للتقدم في بنية النماذج والأجهزة.

النتائج التجريبية

قيم المؤلفون LAR على نموذجين أساسيين (Llama-3.1-8B-Instruct و Qwen3-8B) عبر ثلاثة اختبارات: TriviaQA (الاستدلال)، KodCode (توليد الكود)، و Mind2Web (التفاعل مع الويب).

الأداء مقابل الكفاءة: حقق LAR باستمرار مقايضات مواتية بين الدقة والكفاءة. على سبيل المثال، في Qwen3-8B مع TriviaQA، حسن LAR الدقة من 67.40% (النموذج التقليدي) إلى 80.09% مع تقليل رموز الأفعال بنسبة 27.1%. وفي KodCode، طابق أو اقترب من النماذج المرجعية القوية مع تقليل الرموز بنسبة ~9-10%.
التعميم: تعمم الأفعال الكامنة المتعلمة على مجموعات البيانات "المضمنة" (TriviaQA, KodCode) بفعالية على الاختبارات "المستبعدة" (Musque, HumanEval, MBPP) دون إعادة تدريب، مما يشير إلى تعلم التجريدات الهيكلية على مستوى النطاق بدلاً من السمات الخاصة بمجموعة بيانات معينة.
الكفاءة على مستوى النظام: حسن LAR إنتاجية الرموز وقلل من استخدام ذروة ذاكرة GPU. والأهم من ذلك، أن فك تشفير الأفعال الكامنة لا يضيف أي عبء حوسبي إضافي لأن الرموز الكامنة تُعالج كرموز مفردات قياسية.
دراسات الاستبعاد (Ablation Studies): كشفت تجارب التجريد التدريجي عن سلوك ثلاثي المراحل: تحسن الأداء مع التجريد المتوسط، وصولًا إلى الذروة عند حد التجريد، ثم انهيار حاد عندما تم تجريد المكونات ذات المعاملات عالية الإنتروبيا. وهذا يؤكد ضرورة مرشح الإنتروبيا في مرحلة التحديد.
النقل الصناعي: أظهرت دراسة حالة على بيئة تشغيل الوكيل الصناعي OpenClaw أن LAR يمكن نشره كطبقة تحسين إضافية (plug-in)، حيث استبدل هيكلية الأوامง النصية الثابتة برموز كامنة، مما حقق تحسنًا نسبيًا يصل إلى 27% في درجات التطابق التام (Exact Match) دون تعديل منطق وقت التشغيل للإطار البرمجي.

الأهمية والادعاءات

تزعم الورقة أن تعلم تمثيل الفعل هو عامل حاسم وغير مستكشف بشكل كافٍ في توسيع نطاق استدلال وكيل LLM بكفاءة. من خلال إعادة تمثيل مساحة الفعل، يعالج LAR مباشرة عدم الكفاءة الناتجة عن واجهات الأفعال دقيقة التفاصيل للغاية. يؤكد المؤلفون أن هذا النهج يسمح للوكلاء بالعمل عبر أفق فعال أقصر مع الحفاظ على قدرة التعبير لمساحة الفعل الأصلية، والأهم من ذلك، الحفاظ على قابلية تنفيذ التفاعلات مع البيئات الخارجية.

تشير الورقة إلى أن الكفاءة لا ينبغي النظر إليها كمجرد نتاج ثانوي لتوليد نص أقصر، بل كنتيجة للعمل عبر تمثيل قرار أكثر ملاءمة. ومن خلال التعامل مع تمثيل الفعل كخيار نمذجة أساسي، يوفر LAR مسارًا مكملًا للتقدم في الأجهزة والبنية، وهو ما تم التحقق منه عبر نماذج تصل إلى 32B وفي سيناريوهات النشر الصناعي. ويؤكد المؤلفون أن طريقتهم محافظة بطبعها، حيث تحسن الكفاءة في الأجزاء المنتظمة هيكليًا من مساحة الفعل دون تقديم أي مخاطرة على الأجزاء النادرة أو غير المنتظمة، مما يتجنب تدهور الأداء الذي غالبًا ما يظهر في طرق تقليم الرموز أو ضغط السياق.