ChainPrune: Evaluating and Reducing Redundancy in Long Chain-of-Thought Reasoning
تقدم الورقة البحثية ChainPrune، وهي طريقة مبتكرة تعمل على تحسين استدلال تسلسل الأفكار (Chain-of-Thought) الطويل من خلال دمج المسارات المولدة ذاتياً في بنية شجرية للاختيار متعدد المعايير وتطبيق تعلم التفضيل القائم على تحسين التفضيل المباشر (DPO)، مما يقلل بفعالية من التكرار والأعباء الحسابية مع الحفاظ على الدقة أو تحسينها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
أصبحت النماذج اللغوية الكبيرة ماهرة بشكل ملحوظ في حل المشكلات المعقدة، لكنها غالباً ما تفعل ذلك بطريقة تشبه مراقبة شخص يبالغ في التفكير في قرار بسيط. فعندما تُسأل هذه الأنظمة من الذكاء الاصطناي لـحل مسألة رياضية أو كتابة كود برمجي، فإنها غالباً ما تولد مساراً طويلاً ومتعرجاً من الأفكار قبل الوصول إلى الإجابة. هذه العملية، المعروفة باسم "سلسلة التفكير المتتالي" (chain-of-thought reasoning)، تحاكي كيفية قيام البشر بتفكيك المهام الصعبة إلى خطوات أصغر. وبينما أدت هذه الطريقة إلى تحسين دقة الذكاء الاصطناعي، فقد ظهرت مشكلة جديدة: النماذج تفرط في التفكير. فهي تنتج كميات مفرطة من النصوص، وتكرر نفسها، وتراجع عملها دون داعٍ، وتتخذ خطوات أكثر بكثير مما هو مطلوب. هذا "الإفراط في التفكير" يهدر قدرة الحوسبة ويبطئ النظام، مما يجعله أقل عملية للاستخدام في العالم الحقيقي. ويعمل الباحثون الآن على تعليم هذه النماذج كيف تكون موجزة دون أن تفقد قدرتها على التفكير بعمق.
لقد طور فريق من الباحثين نهجاً جديداً يسمى "ChainPrune" لحل مشكلة الإفراط في التفكير هذه. واكتشفوا أن مجرد إخبار النموذج باستخدام كلمات أقل غالباً ما يؤدي إلى نتائج عكسية. فعندما يتم مكافأة النماذج فقط لأنها تستخدم نصوصاً قصيرة، فإنها تميل إلى تقطيع منطقها إلى قطع صغيرة ومجزأة. وهذا يخلق وضعاً يكون فيه إجمالي عدد الكلمات منخفضاً، لكن عدد الخطوات يظل مرتفعاً، مما يترك مسار الاستدلال طويلاً وغير فعال. ويطلق الباحثون على هذه الحالة اسم "الإيجاز الزائف" (pseudo-conciseness). الأمر يشبه محاولة توفير الوقت عن طريق المشي بخطوات صغيرة وسريعة جداً؛ قد تتخذ خطوات أقل في الثانية الواحدة، لكنك ستظل في النهاية تقطع مسافة طويلة. وقد أدركوا أن الهدف كان تقليل كل من عدد الكلمات وعدد الخطوات في آن واحد، لضمان بقاء الاستدلال واضحاً ومنطقياً.
ولتحقيق ذلك، بنى الباحثون نظاماً يعامل أفكار النموذج كشجرة متفرعة. فعندما يولد النموذج طرقاً مختلفة متعددة لحل نفس المشكلة، يبحث النظام عن الخطوات التي تعني الشيء نفسه، حتى لو صيغت بكلمات مختلفة. على سبيل المثال، إذا قال أحد المسارات "أضف مائة إلى المجموع" وقال مسار آخر "زد المجموع بمائة"، فإن النظام يدرك أن هذه أفعال متطابقة. ثم يقوم بدمج هذه الخطوات المكررة في عقدة واحدة نظيفة، مما يؤدي فعلياً إلى "تقليم" (pruning) الفروع الزائدة في الشجرة. وتخلق هذه العملية خريطة مدمجة للاستدلال تحافظ على جميع المنطق الضروري ولكنها تزيل التكرار.
بمجرد أن يحصل النظام على هذه الخريطة الانسيابية، فإنه يختار أفضل نسخة من مسار الاستدلال. هو لا يختار ببساطة المسار الأقصر؛ بل يبحث عن المسار الذي يكون قصيراً في عدد الكلمات وقصيراً في عدد الخطوات معاً، وفي الوقت نفسه يكون صحيحاً. وإذا كان المسار طويلاً جداً أو يحتوي على أخطاء، يتم استبعاده. ثم يستخدم الباحثون هذه البيانات عالية الجودة والفعالة لتدريب النموذج مرة أخرى. لقد دمجوا طريقة تعلم النموذج تفضيل الإجابات الأفضل مع تقنية تضمن عدم فقدان النموذج لقدرته على الاستدلال بشكل صحيح أثناء محاولته أن يكون موجزاً. يساعد هذا التدريب النموذج على تعلم توليد أفكار موجزة ومنظمة بطبيعتها، بدلاً من مجرد قطع الكلمات من جملة طويلة.
كانت نتائج هذا التدريب كبيرة. فعند اختبارهم على مسائل رياضية صعبة وتحديات برمجية، حلت النماذج المدربة باستخدام "ChainPrune" المشكلات بنفس الدقة السابقة، لكنها فعلت ذلك بجهد أقل بكثير. ووجد الباحثون أن النماذج قللت عدد خطوات الاستدلال بنسبة تقارب سبعة وعشرين بالمائة، وخفضت إجمالي النص بأكثر من ثمانية وعشرين بالمائة. والأهم من ذلك، أن جودة التفكير قد تحسنت؛ حيث ارتكبت النماذج أخطاءً منطقية أقل، وتوقفت عن مراجعة عملها دون داعٍ، وألغت الخطوات المكررة بنسبة تزيد عن ستين بالمائة مقارنة بنسخها غير المدربة. ويشير هذا إلى أنه من خلال التركيز على هيكل الاستدلال بدلاً من مجرد طول النص، يمكن جعل الذكاء الاصطناعي أكثر ذكاءً وكفاءة في آن واحد.
كما سلطت الدراسة الضوء على خلل حرج في المحاولات السابقة لجعل الذكاء الاصطناعي أسرع. فقد حاولت العديد من الطرق السابقة إجبار النماذج على أن تكون أقصر من خلال معاقبتها على استخدام الكثير من الكلمات. وأظهر الباحثون أن هذا النهج غالباً ما أدى إلى مشكلة "الإيجاز الزائف"، حيث يبدو النموذج قصيراً ولكنه في الواقع غير فعال. وبالمقابل، أثبت "ChainPrane" أن الكفاءة الحقيقية تأتي من فهم معنى الخطوات وإزالة المكررات منها، وليس فقط من عد الكلمات. ويقدم هذا الاكتشاف مساراً أوضح لتطوير أنظمة ذكاء اصطناعي يمكنها التفكير بعمق دون الغرق في التفاصيل غير الضرورية، مما يجعلها أكثر فائدة للمهام اليومية حيث تهم السرعة والوضوح.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.