Tunable Tool-Call Rates in LLM Agents via Representation Steering
تُثبت هذه الورقة أن معدلات استدعاء الأدوات في وكلاء النماذج اللغوية الكبيرة يمكن التحكم فيها بدقة عند وقت الاستنتاج دون إعادة تدريب، وذلك عبر تطبيق اتجاه توجيه خطي واحد خالٍ من التدريب مستخرج من المجرى المتبقي للنموذج، والذي يضبط بشكل رتيب ميل الاستدعاء لتحسين المقايضة بين الدقة والتكلفة عبر مختلف البنيات وأنواع الأدوات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُعد نماذج اللغات الكبيرة محركات قوية للنصوص، فهي قادرة على الإجابة عن الأسئلة، وكتابة القصص، وحل المشكلات. ومع ذلك، تعمل هذه الأنظمة بعجز جوهري: فهي تعتمد كلياً على المعلومات المخزنة في ذاكرتها الداخلية. وعندما يتطلب السؤال حقائق غامضة للغاية، أو حديثة جداً، أو معقدة لدرجة يصعب حفظها، غالباً ما تخمن النماذج بثقة خطيرة، فتقدم إجابات تبدو منطقية ولكنها خاطئة تماماً. ولإصلاح ذلك، علم المطورون هذه النماذج كيفية استخدام أدوات خارجية، مثل محركات البحث عبر الإنترنت أو الآلات الحاسبة، للبحث عن المعلومات قبل الإجابة. ومع ذلك، فإن تعليم النموذج متى يتوقف ويمد يده لاستخدام أداة هو أمر صعب بشكل مفاجئ؛ فإذا استدعى النموذج أداة بشكل متكرر، فإنه يهدر الوقت والمال، ويخاطر بالتسبب في إجراءات غير مرغوب فيها. أما إذا استدعى الأداة نادراً، فإنه يضيع فرصة العثور على الإجابة الصحيحة ويظل مخطئاً بثقة.
لطالما سعى الباحثون لإيجاد طرق تجعل هذه القرارات أكثر موثوقية، وعادة ما يكون ذلك عبر إعادة تدريب النموذج باستخدام أمثلة جديدة أو من خلال إعادة كتابة التعليمات المقدمة له بعناية. وهذه الأساليب مكلفة وجامدة؛ فبمجرد تدريب النموذج أو صياغة توجيهاته بطريقة معينة، يتطلب تغيير سلوكه بدء العملية من جديد. إلا أن دراسة جديدة من باحثين في جامعة كاليفورنيا في سانتا كروز وجامعة كاليفورنيا في بيركلي تقترح نهجاً مختلفاً. فقد اكتشفوا أن قرار استخدام أداة ليس عملية معقدة وخفية تتطلب إعادة التدريب لتغييرها، بل هو محكوم بإشارة واحدة بسيطة داخل العمليات الداخلية للنموذج يمكن تعديلها في الوقت الفعلي، مثل تدوير قرص التحكم، دون تغيير تدريب النموذج أو تعليماته.
بدأ الباحثون بمراقبة كيفية تصرف نموذج لغوي عندما يُعرض عليه قائمة من الأدوات المتاحة، مثل محرك بحث، وآلة حاسبة، ومفسر أكواد برمجية. ولاحظوا أنه قبل أن ينطق النموذج فعلياً أو يكتب رداً، فإنه يولد إشارة داخلية محددة تشير إلى ما إذا كان ينوي استخدام أي أداة على الإطلاق. ومن خلال مقارنة الحالة الداخلية للنموذج عندما يقرر استخدام أداة مقابل حالته عندما يقرر الإجابة من الذاكرة، حدد الفريق اتجاهاً محدداً في الفضاء الرياضي للنموذج يمثل "الرغبة" في استدعاء أداة. هذا الاتجاه ليس مرتبطاً بأداة معينة مثل الآلة الحاسبة أو محرك البحث، بل هو إشارة عامة تعني ببساطة "استخدم أداة".
ولاختبار هذا الاكتشاف، لم يقم الباحثون بإعادة تدريب النموذج أو تغيير توجيهاته، بل أخذوا هذا الاتجاه المحدد وأضافوه إلى المعالجة الداخلية للنموذج أثناء توليد الإجابة. ومن خلال إضافة كمية صغيرة من هذه الإشارة، تمكنوا من تشجيع النموذج على استخدام الأدوات بشكل أكثر تكراراً. ومن خلال طرحها، تمكنوا من كبح الرغبة في استخدام الأدوات تماماً. ووجدوا أن هذا التعديل يعمل بدقة مذهلة؛ فكلما زادت قوة الإشارة، ارتفع معدل استدعاء النموذج للأدوات بسلاسة من الصفر تقريباً إلى ما يقرب من مائة بالمائة. والأهم من ذلك، أن النموذج لم يبدأ في استدعاء الأدوات بشكل عشوائي؛ فعندما دفع الباحثون النموذج لاستخدام الأدوات بشكل أكبر، استهدف تحديداً الأسئلة التي لا يستطيع الإجابة عنها بمفرده، مثل الحقائق التاريخية الغامضة أو الحسابات المعقدة، بينما تجاهل الأسئلة التي يعرف إجابتها بالفعل.
كما كشفت الدراسة أن آلية التحكم هذه قابلة للتكيف بدرجة عالية. فقد استخرج الباحثون إشارة "استخدام الأدوات" من إعداد يحتوي على ثلاث أدوات محددة، ثم طبقوها على مجموعة مختلفة تماماً من الأدوات، بما في ذلك توقعات الطقس، والبحث عن أسعار الأسهم، وإرسال البريد الإلكتروني. ونجحت الإشارة نفسها في حث النموذج على استخدام هذه الأدوات الجديدة بنفس الفعالية كما لو أنه تم تدريبه خصيصاً لها. علاوة على ذلك، نجحت هذه الطريقة عبر مجموعة متنوعة من بنيات النماذج المختلفة، من النماذج الصغيرة القياسية إلى الأنظمة الضخمة والمعقدة المستخدمة في الصناعة. وفي كل حالة، سمحت الإشارة الواحدة للباحثين بضبط سلوك استدعاء الأدوات بالزيادة أو النقصان دون كسر قدرة النموذج على تكوين جمل صحيحة أو اختيار الأداة المناسبة بمجرد إجراء الاستدعاء.
وعندما اختبر الباحثون هذه الطريقة في بيئة حية حيث يمكن للنموذج إجراء عمليات بحث عبر الإنترنت فعلياً، كانت النتائج مذهلة. ففي مجموعة من الأسئلة الواقعية الصعبة، أجاب النموذج غير المعدل بشكل صحيح بنسبة 29 بالمائة فقط، وغالباً ما كان يخمن عندما كان ينبغي له البحث. ومن خلال تطبيق إشارة التوجيه لتشجيع استخدام الأدوات، قفزت الدقة إلى 56 بالمائة، أي أنها تضاعفت تقريباً. وجاء هذا التحسن بتكلفة يمكن السيطرة عليها، حيث قام النموذج بحوالي عملية بحث واحدة لكل سؤال. وقد تمكن الباحثون من تتبع مسار واضح بين تكلفة استخدام الأدوات ودقة الإجابات، مما يظهر أن المشغلين يمكنهم اختيار توازن محدد يناسب احتياجاتهم.
يتحدى هذا العمل الافتراض القائل بأن التحكم في سلوك الذكاء الاصطناعي يتطلب إعادة تدريب ثقيلة أو هندسة توجيهات معقدة. فهو يثبت أن عملية اتخاذ القرار الحرجة — معرفة متى يتم اللجوء للمساعدة الخارجية — مشفرة في اتجاه خطي بسيط داخل الحالة الداخلية للنموذج. ومن خلال إيجاد وتعديل هذا الاتجاه، يمكن للباحثين جعل وكلاء الذكاء الاصطناعي أكثر موثوقية وكفاءة دون تغيير تدريبهم الأساسي. توفر هذه الطريقة وسيلة خفيفة الوزن لضبط تكلفة ودقة أنظمة الذكاء الاصطناعي، مما يضمن استخدامهم لأدواتهم عند الضرورة فقط وتجنب عثرات الإفراط في الاعتماد عليها أو التخمين الخطير. ورغم أن هذه التقنية لا تعالج الأخطاء في كيفية تنفيذ الأداة، إلا أنها توفر رافعة جديدة قوية لإدارة أبسط وأكثر القرارات تكلفة التي يتخذها وكيل الذكاء الاصطناعي: هل يعمل من تلقاء نفسه أم يطلب المساعدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.