🤖 AI

Inference-Time Budget Control for LLM Search Agents

تقترح هذه الورقة إطار عمل للتحكم في ميزانية وقت الاستنتاج على مرحلتين لوكلاء البحث القائمين على النماذج اللغوية الكبيرة، والذي يخصص ديناميكيًا ميزانيتين مزدوجتين (استدعاءات الأدوات والرموز/الـ tokens) أثناء عمليات الإجابة عن الأسئلة متعددة الخطوات عبر متحكم بحث مدفوع بـ "قيمة المعلومات" ومُنهٍ نهائي انتقائي قائم على الأدلة، محققًا مكاسب أداء ثابتة مقارنة بالنماذج المرجعية عبر العديد من الاختبارات والنماذج.

المؤلفون الأصليون: Zhengru Fang, Senkang Forest Hu, Zhonghao Chang, Yu Guo, Yihang Tao, Hongyao Liu, Mengzhe Ruan, Jun Huang, Yuguang Fang

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhengru Fang, Senkang Forest Hu, Zhonghao Chang, Yu Guo, Yihang Tao, Hongyao Liu, Mengzhe Ruan, Jun Huang, Yuguang Fang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق تحاول حل لغز معقد (سؤال متعدد الخطوات). لديك إمداد محدود من بطاريات المصباح اليدوي (ميزانية الرموز الخاصة بك لكتابة الإجابات) وعدد محدود من المكالمات الهاتفية التي يمكنك إجراؤها مع مخبريك (ميزانية استدعاء الأدوات للبحث في الويب).

في الماضي، كان المحققون من الذكاء الاصطناعي يهدرون هذه الموارد غالباً. فقد يقومون بإجراء الكثير من المكالمات الهاتفية، أو يعلقون في حلقات مفرغة، أو يكتبون تقريراً طويلاً ومسهباً حتى تنفد البطارية قبل الوصول إلى الاستنتاج. وأحياناً، يجدون الخيوط الصحيحة لكنهم يكتبون الحكم النهائي بشكل خاطئ لأنهم تعبوا أو ارتبكوا في النهابية.

تقدم هذه الورقة البحثية "مراقب حركة المرور" (Traffic Controller) جديداً لهؤلاء المحققين من الذكاء الاصطناعي. هو لا يعلم المحقق مهارات جديدة؛ بل يدير موارده في الوقت الفعلي لضمان حل القضية بكفاءة ودقة.

إليك كيف يعمل هذا النظام، مقسماً إلى مرحلتين بسيطتين:

المرحلة الأولى: "إشارة المرور" لقيمة المعلومات

بينما يقوم المحقق بالبحث، يسأل مراقب حركة المرور باستمرار: "هل يستحق الأمر إنفاق بطارية أخرى أو إجراء مكالمة أخرى الآن؟"

إنه يستخدم درجة تسمى VOI (قيمة المعلومات). فكر في هذا الأمر كجهاز GPS ذكي لا يخبرك بالمسافة فحسب، بل يحسب "قيمة" المنعطف التالي.

المعضلة: هل يجب على المحقق الاتصال بمخبر جديد (بحث)؟ أم يجب عليهم تفكيك اللغز الكبير إلى ألغاز أصغر وأسهل (تفكيك)؟ أم أن لديهم ما يكفي من الخيوط لكتابة التقرير النهائي (إجابة)؟
وظيفة المراقب: ينظر إلى عدد البطاريات والمكالمات المتبقية.
- إذا كانت الميزانية مرتفعة، فقد يشجع المحقق على البحث أكثر.
- إذا كانت الميزانية تنفد، فإنه يطبق "جزاءً" على الإجراءات المكلفة. قد يقول: "توقف عن البحث! أنت توشك على نفاد البطارية. عليك الالتزام بالإجابة الآن، حتى لو لم تكن متأكداً بنسبة 100%".
النتيجة: هذا يمنع الذكاء الاصطناعي من إهدار الموارد في عمليات بحث غير مجدية أو الوقوع في حلقة مفرغة. إنه يجبر الذكاء الاصطناعي على إنفاق "أمواله" على الإجراءات التي تعطي أكبر "عائد مقابل التكلفة".

المرحلة الثانية: "مفتش السلامة" عند خط النهاية

بمجما ينتهي البحث ويكتب المحقق مسودة الإجابة، لا يتركها مراقب حركة المر "تمر" ببساطة. بل يستدعي مفتش سلامة.

المشكلة: أحياناً يجد المحقق كل الخيوط الصحيحة، لكنه يكتب الجملة النهائية بخطأ مطبعي صغير، أو إجابة "نعم/لا" خاطئة، أو تاريخاً غير دقيق قليلاً.
الخطر: إذا طلبت من ذكاء اصطناعي عام أن "يصلح" الإجابة، فقد يغير بالخطأ "معنى" القصة بأكملها، محولاً إجابة صحيحة إلى إجابة خاطئة.
الحل: يتدخل مفتش السلامة فقط في الحالات منخفضة المخاطر.
- آمن للإصلاح: تغيير "نعم" إلى "لا" إذا كانت الأدلة تدعم ذلك بوضوح، أو تصحيح رقم محدد (مثل تاريخ أو سعة).
- لا تلمس: إذا كانت الإجابة تعتمد على سلسلة منطقية معقدة (مثل مقارنة شيئين)، فإن المفتش يتركها كما هي. فهو يعلم أن محاولة إعادة كتابة سلسلة منطقية معقدة أمر خطير وقد يؤدي إلى كسر الإجابة الصحيحة.
النتيجة: يتم صقل الإجابة النهائية من أجل الدقة دون المخاطرة بالمنطق الجوهري.

ما أظهرته التجارب

اختبر الباحثون هذا "المراقب" على أربعة أنواع مختلفة من الألغاز الصعبة باستخدام ثلاثة "أدمغة" مختلفة من الذكاء الاصطناعي. وقارنوا النتائج بطرق أخرى لا تملك هذا الإدارة الصارمة للميزانية.

إدارة أفضل للموارد: نجحت الطريقة الجديدة في حل المزيد من الألغاز بشكل صحيح، خاصة عندما كانت الميزانية ضيقة. لقد كانت أفضل في معرفة متى تتوقف عن البحث وتبدأ في الإجابة.
"الجزاء" هو المفتاح: الجزء الأهم في النظام كان القاعدة التي تفرض جزاءً على الإنفاق عندما تكون الميزانية منخفضة. كان هذا هو السبب الرئيسي للتحسن.
إنهاء ذكي: ساعد "مفتش السلامة" في إصلاح الأخطاء الصغيرة (مثل الأرقام الخاطئة أو قلب "نعم/لا")، لكنه رفض بحكمة المساس بالإجابات المعقدة، مما منع الذكاء الاصطناعي من إفساد الحل الجيد عن طريق الخطأ.
أسرع: نظرًا لتوقفها عن إضاعة الوقت في عمليات بحث غير مجدية، أنهى الذكاء الاصطناعي المهام بشكل أسرع في كثير من الحالات.

الخلاصة

تجادل هذه الورقة بأن الذكاء الاصطناعي لكي يكون مفيداً حقاً، يحتاج إلى أكثر من مجرد عقل ذكي؛ إنه يحتاج إلى مدير ذكي. هذا المدير يجب أن يقرر كيفية إنفاق الموارد المحدودة أثناء البحث، ويجب أن يكون حذراً من "الإفراط في التصحيح" للإجابة النهائية. ومن خلال التعامل مع الميزانية كقيد صارم وإدارتها ديناميكياً، يصبح الذكاء الاصطناعي محققاً أكثر كفاءة وموثوقية.

ملخص تقني: التحكم في ميزانية وقت الاستدلال لوكلاء البحث القائمين على النماذج اللغوية الكبيرة (LLM)

1. صياغة المشكلة

تتناول الورقة البحثية تحدي نشر وكلاء البحث القائمين على النماذج اللغوية الكبيرة (LLM) تحت ميزانيات مزدوجة صريحة وصارمة: حد لعدد استدعاءات الأدوات ( $B_{tool}$ ) وحد لعدد الرموز المخرجة ( $B_{tok}$ ). وبينما استكشفت الأعمال السابقة التوسع في وقت الاختبار عبر أخذ العينات المتكرر أو التحسين الذاتي، فإن هذه النهج غالبًا ما تعامل الحوسبة كمورد مقتصر على الرموز فقط. أما بالنسبة لوكلاء البحث، فإن الميزانية الإضافية قد تؤدي إلى استرجاع زائد عن الحاجة، وتفرع هدر، ونمو سياقي هش إذا لم يتم إدارتها بشكل صريح.

تتم صياغة المشكلة الجوهرية كـ مشكلة تحكم في مرحلتين خلال وقت الاستدلال:

تخصيص الإجراءات أثناء البحث: في كل خطوة، يجب على الوكيل أن يقرر كيفية تخصيص الميزانية المزدوجة المتبقية بين الإجراءات غير المتجانسة: استرجاع الأدلة (SEARCH)، أو تفكيك السؤال (DECOMPOSE)، أو الالتزام بالإجابة (ANSWER). تختلف هذه الإجراءات في التكلفة والعائد المحتمل، ويعتمد الخيار الأمثل على حالة الأدلة الحالية والميزانية المتبقية.
الاستقرار النهائي عند الإجابة: بعد انتهاء البحث، يجب على الوكيل أن يقرر ما إذا كان سيحتفظ بالإجابة الأساسية ( $a_{base}$ ) أو يستبدلها بمرشح مُحسّن ( $a_{ref}$ ). يجب أن يوازن هذا القرار بين المكاسب المحتملة في الدقة مقابل خطر "ضرر التدخل" — أي محو هياكل الربط الصحيحة أو تغيير الدلالات المقارنة من خلال إعادة الكتابة غير الضرورية.

الهدف هو تعظيم المكافأة المتوقعة $E[R(\hat{a}, y)]$ مع مراعاة قيود الميزانية المزدوجة وقيد على الضرر المتوقع من استبدال الإجابة ( $E[L_{harm}] \leq \rho_{harm}$ ).

2. المنهجية

الطريقة المقترحة، VOI (قيمة المعلومات)، هي متحكم ذو مرحلتين لا يتطلب تدريبًا، مبني فوق هيكل بحث شجري عام (مستوحى من BAVT).

المرحلة الأولى: تخصي تقديم الميزانية أثناء البحث

يختار المتحكم الإجراء التالي عن طريق تسجيل الخيارات المتاحة باستخدام درجة VOI على مستوى المهمة. هذه الدرجة هي تقدير تشغيلي لقيمة المهمة الهامشية لكل وحدة ميزانية، وهي تختلف عن كسب المعلومات لشانون أو نماذج القيمة المتعلمة.

بناء المنفعة: لكل إجراء $k$ $k$ ، يتم حساب منفعة مستوى المهمة $u_t(k)$ $u_{t} (k)$ كالتالي:
$u_t(k) = \hat{\Delta}_t(k) + \Psi_t(k) - \Pi_t(k; b_t)$
- $\hat{\Delta}_t(k)$ : إشارة تقدم مشتقة من الناقد (critic).
- $\Psi_t(k)$ : إشارات هيكلية (مثل: هيكل الربط، ضغط الحلقة، الجاهزية).
- $\Pi_t(k; b_t)$ : حد عقوبة يعتمد على الميزانية، يزداد بالنسبة لإجراءات البحث (SEARCH) والتفكيك (DECOMPOSE) عندما تكون الميزانية المتبقية ضيقة، حيث يعمل كوسيط لتكلفة الظل التنبؤية.
التطبيع والحماية: يتم تطبيع المنفعة بواسطة مقياس ميزانية خاص بكل إجراء لإنتاج درجة VOI وهي $r_t(k)$ . ثم يقوم عامل حماية حتمي $G_t$ بتعديل هذه الدرجة لفرض سلوكيات تحفظية (مثل: كبح الإجابات المبكرة، أو فرض حد أدنى من البحث للأسئلة التركيبية).
الاختيار: يتم اختيار الإجراء صاحب أعلى درجة تنفيذية محمية ويتم تنفيذه.

المرحلة الثانية: الاستقرار النهائي عند الإجابة

بمجرد انتهاء البحث، يقوم مُثبّت نهائي انتقائي ومستند إلى الأدلة بتقييم ما إذا كان سيتم إعادة كتابة الإجابة.

المفاضلة بين الربح والمخاطرة: يقارن المُثبّت بين الإجابة الأساسية $a_{base}$ والمرشح المُحسّن $a_{ref}$ (المبني من نفس المسار). يتدخل فقط إذا كانت زيادة الدقة المتوقعة تفوق خطر إلحاق الضرر بالإجابة.
المجموعة الآمنة ( $S_{safe}$ ): تقتصر إعادة الكتابة على السيناريوهات منخفضة المخاطر، مثل تصحيح قطبية (نعم/لا)، أو الخيارات الثنائية، أو عدم تطابق الأنواع في الفراغات، أو إكمال الحقائق المدعومة.
الامتناع: يمتنع النظام عن إعادة الكتابة إذا كان المسار يحتوي على هياكل ربط غير محلولة، أو دلالات مقارنة، أو دعم مباشر مفقود، حيث إن إعادة الكتابة الهجومية في هذه الحالات غالبًا ما تضر بالصحة.
صفر تكلفة إضافية: لا تضيف هذه المرحلة أي استدعاءات جديدة للأدوات أو عمليات استدلال للنماذج اللغوية الكبيرة؛ فهي سياسة اختيار حتمية للمرشحين الموجودين بالفعل.

3. المساهمات الرئيسية

صياغة ثنائية المرحلة: توضح الورقة أن البحث الواعي بالميزانية في وكلاء البحث (LLM) هو مشكلة مقترنة من تخصيص الإجراءات أثناء البحث والاستقرار النهائي للإجابة المتحكم فيه بالمخاطر تحت ميزانيات مزدوجة صارمة.
التحكم بـ VOI على مستوى المهمة: تقدم مسجلًا لا يتطلب تدريبًا يقوم بترتيب الإجراءات بناءً على تقدير قيمة المهمة الهامشية لكل وحدة ميزانية، مع دمج العقوبات المعتمدة على الميزونة والإشارات الهيكلية دون الحاجة لتعلم نموذج قيمة.
الاستقرار النهائي المتحكم في المخاطر: تقترح مُثبّت إجابة محافظًا يتدخل فقط لأخطاء شكل الإجابة المحلية، متجنبًا صراحةً تدمير مسارات الاستدلال متعددة الخطوات الصحيحة.
التحقق التجريبي: تم تقييم الطريقة عبر أربعة اختبارات مرجعية للأسئلة متعددة الخطوات (HotpotQA, 2WikiMultihopQA, MuSiQue, Bamboogle)، وثلاثة نماذج لغوية (Qwen3-32B, Qwen3.5-122B, GPT-5.4-Mini)، وأربعة مستويات ميزانية تحت تدقيق صارم للميزانية المشتركة.

4. النتائج التجريبية

المكاسب الإجمالية: تحقق VOI مكاسب إجمالية إيجابية على أربعة خطوط أساسية مدققة (BAVT, BATS, AFlow, Search-o1) عبر الإعدادات المختبرة. على نموذج Qwen3-32B، حققت أفضل F1 في 7 من أصل 16 خلية (مجموعة بيانات-ميزانية) وتساوت في الأفضل في 2 أخرى، متفوقة على الخطوط الأساسية في 14/16، و10/16، و16/16، و15/16 على التوالي.
الحساسية للميزانية: تحدث أهم التحسينات في نظم الميزانية المنخفضة والمتوسطة المنخفضة، حيث يكون تخصيص الإجراءات بعناية أمرًا بالغ الأهمية لتجنب استنزاف الموارد في إجراءات ذات عائد منخفض.
تحليل المكونات (Ablation):
- التحكم أثناء البحث: تسبب حذف حد العقوبة المعتمد على الميزانية في أكبر انخفاض في الأداء، مما يؤكد أن تخصيص الإجراءات الواعي بالميزانية هو المحرك الرئيسي للمكاسب.
- الاستقرار النهائي: توفر المرحلة الثانية (الاستقرار) مكاسبًا كبيرة (تصل إلى 41.9% من إجمالي المكاسب في MuSiQue) خاصة عندما يكون مسار البحث كافيًا ولكنه يحتوي على أخطاء في شكل الإجابة. وتساهم بشكل أقل في مجموعات البيانات التي تكون فيها الأخطاء هيكلية (مثل MuSique).
الكفاءة: تقلل طريقة VOI متوسط وقت الاستدلال بنسبة 27.2% في المتوسط مقارنة بـ BAVT، حيث تتجنب العمليات منخفضة القيمة التي قد تستهلك الميزانية.

5. الأهمية والادعاءات

تدعي الورقة أن التحكم في ميزانية وقت الاستدلال أمر ضروري لوكلاء البحث (LLM)، حيث يحكم كيفية إنفاق الميزانية أثناء البحث وكيفية الالتزام بالإجابة النهائية.

التوسع غير الرتيب: تُظهر النتائج أن الميزانيات الأكبر لا تؤدي دائمًا إلى إجابات أفضل؛ فبدون تحكم صريح، يمكن أن تؤدي زيادة الميزانيات إلى بحث زائد عن الحاجة واستقرار أكثر ضجيجًا.
الظروف الحدية: فعالية الطريقة ليست موحدة؛ فهي تظهر عوائد متناقصة على النماذج الأقوى (مثل Qwen3.5-122B) وفي نظم الميزانية العالية حيث تظل الخطوط الأساسية مثل BATS منافسة.
السلامة والقابلية للنشر: من خلال نمذجة خطر استبدال الإجابة صراحةً وفرض تدقيق صارم للميزانية، تجعل هذه الطريقة سلوك الوكيل أكثر قابلية للتنبؤ والتدقيق، وهو أمر حيوي للنشر في البيئات المقيدة بالتكلفة أو الحساسة لزمن الاستجابة.

يؤكد المؤلفون أن طريقتهم لا تدعي الوصول إلى الأمثلية العالمية للشجرة البحثية، بل توفر آلية تحكم محلية على مستوى القرار تعمل على تحسين الأداء بشكل كبير تحت قيود الموارد الصارمة.