SignalReasoner: Assessing the Upper Bound of 3B Models for Signal Mathematical Reasoning
تبحث هذه الورقة في استراتيجيات الضبط الدقيق بالتعزيز، بما في ذلك GRPO وGSPO وGMPO، لتكييف نموذج Qwen2.5 بحجم 3B مع مسائل معالجة الإشارات بمستوى الدراسات العليا، مظهرةً أن الجمع بين الضبط الدقيق الخاضع للإشراف لسلسلة الأفكار المتخصصة في المجال وبين التعلم بالتعزيز يحقق تحسناً في الدقة بمقدار ثلاثة أضعاف مقارنة بالنموذج الأساسي.
في المشهد الشاسع للذكاء الاصطناعي، أصبحت النماذج اللغوية الكبيرة بارعة بشكل ملحوظ في حل المشكلات التي تتطلب سلسلة من الخطوات المنطقية. هذه الأنظمة، التي تدرّبت على كميات هائلة من النصوص، يمكنها الآن معالجة المسائل الرياضية والعلمية المعقدة عن طريق تفكيكها إلى قطع أصغر يمكن إدارتها، وهي عملية تُسمى غالباً "سلسلة التفكير" (chain-of-thought). ومع ذلك، لا تزال هناك فجوة كبيرة بين الذكاء العام والهندسة المتخصصة. فبينما قد يحل النموذج مسألة جبرية قياسية، فإنه غالباً ما يتعثر عندما يواجه المتطلبات المحددة والصارمة لمعالجة الإشارات — وهي الرياضيات الكامنة وراء كيفية انتقال الإشارات اللاسلكية، وارتدادها عن العوائق، وإعادة بنائها بواسطة الأجهزة. يتطلب هذا المجال ليس فقط الحساب، بل فهماً عميقاً للقوانين الفيزيائية وسلوكيات الأنظمة التي نادراً ما تمتلكها النماذج العامة. والسؤال الذي يواجه الباحثين هو ما إذا كان يمكن تعليم هذه النماذج القوية ولكن المدمجة إتقان هذا المجال المتخصص دون الحاجة إلى إعادة بنائها من الصفر.
لقد شرع باحث في الإجابة على ذلك من خلال اختبار نموذج ذكاء اصطناعي محدد وأصغر حجماً يُعرف باسم Qwen2.5-3B. وبالرغم من حجمه المتواضع، كان الهدف هو معرفة ما إذا كان يمكن تدريب النموذج لحل مسائل بمستوى الدراسات العليا من مجموعة متخصصة تسمى WirelessMATHBench-XL. تحتوي هذه المجموعة من البيانات على آلاف الأسئلة الصعبة المستمدة من أوراق تقنية حقيقية، تغطي موضوعات مثل كيفية توجيه الموجات الراديوية أو إدارة التداخل في شبكات الاتصالات. استكشف الباحث مسارين متميزين لتعليم النموذج. تضمن المسار الأول إلقاء النموذج مباشرة في الأعماق، باستخدام نظام مكافأة لتوجيه تعلمه من خلال التجربة والخطأ فقط. أما المسار الثاني فكان أكثر تنظيماً: حيث قاموا أولاً بتعليم النموذج محاكاة التفكير خطوة بخطوة للخبراء باستخدام مجموعة مختارة من الأمثلة، ثم طبقوا بعد ذلك التدريب القائم على المكافأة. واختبروا ثلاثة خوارزميات تعلم مختلفة لمعرفة أي منها ساعد النموذج على التحسن أكثر، بهدف إيجاد الطريقة الأكثر كفاءة لتحويل ذكاء اصطناعي عام الأغراض إلى خبير متخصص في معالجة الإشارات.
كشفت النتائج عن قصة واضحة حول كيفية تعلم هذه النماذج. فعندما بدأ الباحث بالنموذج الخام غير المدرب، لم يستطع الإجابة إلا على حوالي 12 بالمائة من الأسئلة بشكل صحيح. وبعد تطبيق التدريب القائم على المكافأة وحده، قفزت الدقة بشكل كبير، لكن النموذج ظل يعاني في إيجاد الطريقة الأكثر كفاءة للتفكير. كانت الطريقة الأكثر نجاحاً هي طريقة الخطوتين؛ فمن خلال تعليم النموذج أولاً اتباع تنسيق استدلالي مهيكل، ثم صقل مهاراته باستخدام نظام المكافأة، حقق الفريق تحسناً هائلاً. النسخة الأفضل من النموذج، التي تم تدريبها باستخدام خوارزمية محددة تعطي الأولوية للاستقرار والاتساق، وصلت دقتها إلى 39.12 بالمائة. ويمثل هذا تحسناً بأكثر من ثلاثة أضعاف مقارنة بنقطة البداية، مما يثبت أنه حتى النماذج الصغيرة يمكن تكييفها للتعامل مع المهام الهندسية المعقدة إذا مُنحت الأساس التدريبي الصحيح.
ومن المثير للاهتمام أن الطريقة التي تعلم بها النموذج حل هذه المشكلات تغيرت اعتماداً على الخوارزمية المستخدمة. فالخوارمازميات الأكثر نجاحاً، والتي ركزت على تقييم الإجابة كاملة كوحدة واحدة بدلاً من تقييمها كلمة بكلمة، جعلت النموذج يصبح موجزاً بشكل مفاجئ. وبينما أنتجت محاولات التدريب المبكرة شروحات طويلة ومفصلة، تعلمت هذه النماذج المحسنة تجريد الخطوات غير الضرورية وتقديم الإجابة بعدد أقل بكثير من الكلمات. وفي الواقع، استخدمت النماذج الأكثر كفاءة أقل من نصف عدد الكلمات مقارنة بالنماذج الأقل كفاءة، ومع ذلك حققت أعلى الدرجات. وهذا يشير إلى أن النموذج اكتشف طريقاً مختصراً: فقد أدرك أن نظام التقييم يهتم فقط بالإجابة النهائية، وليس بطول الشرح. وبناءً على ذلك، تعلم أن يكون موجزاً ومباشراً، مضحياً بأسلوب "اشرح عملك" التفصيلي الذي يتوقعه البشر غالباً، في سبيل الكفاءة المحضة.
كما سلطت الدراسة الضوء على درس حاسم حول كيفية تدريب هذه الأنظمة. وجد الباحث أنه إذا قام بتدريب النموذج لفترة طويلة جداً على الأمثلة الأولية قبل الانتقال إلى مرحلة التدريب القائم على المكافأة، فإن النموذج يصبح شديد الجمود؛ حيث حفظ أنماط بيانات التدريب بدقة شديدة لدرجة أنه فقد المرونة اللازمة لحل مشكلات جديدة وغير مرئية. وقد وُجدت "النقطة المثالية" من خلال إيقاف التدريب الأولي مبكراً، مما يحافظ على قدر كافٍ من الهيكلية لتوجيه النموذج دون حصره في طريقة تفكير ضيقة. سمح هذا التوازن للنموذج بأن يظل منفتحاً للتعلم من المكافآت، مما أدى في النهاية إلى أفضل أداء. إن هذا العمل يثبت أنه بينما يمكن للنماذج الصغيرة بالفعل إتقان المهام الهندسية الصعبة، فإن طريقة التدريب لا تقل أهمية عن البيانات نفسها، وأن تعريف "النجاح" يمكن أن يتحول من إنتاج استدلال طويل ومفصل إلى تقديم إجابات دقيقة وموجزة.
ملخص تقني: SignalReasoner
بيان المشكلة
بينما أظهرت النماذج اللغوية الكبيرة (LLMs) تحسينات ملحوظة في الاستدلال الرياضي العام من خلال الضبط الدقيق لسلسلة التفكير (CoT) تحت الإشراف والتعلم التعزيزي (RL) من المكافآات القابلة للتحقق، إلا أن تطبيقها على مجالات هندسية متخصصة لا يزال غير مستكشف بشكل كافٍ. وتحديداً، تتطلب مشكلات معالجة الإشارات (مثل MIMO، وbeamforming، وRIS، وISAC) مزيجاً فريداً من التلاعب الرمزي، والافتراضات الفيزيائية، والمعرفة المتخصصة في المجال، وهو ما تعجز عن التعامل معه النماذج العامة التي يقل حجمها عن 10 مليارات معلمة (sub-10B). غالباً ما تفتقر النماذج الصغيرة الموجودة إلى القدرة على إدارة المعرفة المتخصصة في المجال واستنتاجات الرياضيات متعددة الخطوات بشكل مشترك. يبحث هذا التقرير فيما إذا كان يمكن تكييف نموذج مدمج بحجم 3 مليار معلمة (Qwen2.5-3B-Base) بفعالية لمهام الاستدلال الرياضي في مجال الإشارات بمستوى الدراسات العليا باستخدام استراتيجيات الضبط الدقيق التعزيزي.
المنهجية
تقيم الدراسة نموذجين متميزين من نماذج التدريب على معيار WirelessMATHBench-XL، والذي يتكون من 4,027 مسألة في معالجة الإشارات بمستوى الدراسات العليا:
المسار (أ) (التعلم التعزيزي المباشر - Direct RL): يتم تحسين النموذج الأساسي مباشرة باستخدام التعلم التعزيزي على المعيار دون ضبط دقيق سابق تحت الإشراف. يختبر هذا المسار ما إذا كانت إشارات المكافأة القابلة للتحقق وحدها يمكن أن تحفز سلوكيات الاستدلال الخاصة بالمجال.
المسار (ب) (SFT + RL): يتم أولاً إجراء ضبط دقيق تحت الإشراف (SFT) للنموذج الأساسي على Wireless-CoT-Mix، وهو مجموعة بيانات تضم 3,542 مثالاً تتكون من مسارات سلسلة تفكير (CoT) مستخلصة لمجال الاتصالات اللاسلكية وعينات CoT رياضية عامة (NuminaMath-CoT). يتبع ذلك مرحلة التعلم التعزيزي (RL) الخاصة بالمجال نفسها. يختبر هذا المسار ما إذا كان تهيئة سلسلة التفكير (CoT) المدركة للمجال يحسن من أداء التعلم التعزيزي اللاحق.
بالنسبة لمرحلة التعلم التعزيزي (RL)، تقارن الدراسة ثلاث خوارزميات لتحسين السياسة القائمة على المجموعات:
GRPO (تحسين السياسة النسبي للمجموعة - Group Relative Policy Optimization): يلغي شبكة الناقد (critic network) عن طريق حساب المزايا من مجموعة من الاستجابات المستخرجة. ويطبق أخذ العينات بالأهمية على مستوى الرمز (token-level).
GSPO (تحسين سياسة التسلسل للمجموعة - Group Sequence Policy Optimization): ينقل وحدة التحسين من الرموز إلى التسلسلات الكاملة لتتماشى مع وحدة المكافأة، مما يقلل من الضوضاء عالية التباين الناتجة عن أخذ العينات بالأهمية على مستوى الرمز.
GMPO (تحسين السياسة بالمتوسط الهندسي - Geometric-Mean Policy Optimization): يستبدل تجميع النسبة الحسابية لنسب الأهمية بالمتوسط الهندسي لتقليل الحساسية تجاه الرموز الشاذة (outlier tokens). كما يستخدم أيضاً تقليم الرموز (clipping) في الفضاء اللوغاريتمي (مستوحى من DAPO) للحفاظ على إشارات التدرج للرموز غير المقلمة مع كبح القيم المتطرفة.
النتائج الرئيسية
تظهر التجارب أن الضبط الدقيق التعزيزي يحسن بشكل كبير قدرات الاستدلال للنموذج بحجم 3 مليار معلمة:
مكاسب الأداء: حقق النموذج الأساسي (Base) غير المدرب دقة إجمالية بلغت 12.37%. بينما حقق أفضل نموذج أداءً، وهو B-GMPO (SFT + GMPO)، دقة إجمالية بلغت 39.12%، مما يمثل تحسناً بأكثر من ثلاثة أضعاف (حوالي 216%) مقارنة بالنموذج الأساسي غير المدرب.
تأثير SFT: أدى الـ SFT وحده (Base-SFT) إلى تحسين الدقة إلى 28.75%، مما يشير إلى أن بيانات سلسلة التفكير (CoT) المستخلصة لمجال الاتصالات اللاسلكية تضخ سلوكيات استدلال مفيدة قبل مرحلة RL.
مقارنة الخوارزميات:
تفوقت GSPO و GMPO باستمرار على GRPO من حيث الدقة، وسرعة التقارب، وكفاءة رموز المخرجات (output token efficiency)، لا سيما في مسار التهيئة بـ SFT.
حقق GMPO أعلى دقة إجمالية (39.12%) وأعلى مكافأة نهائية.
أظهر GRPO حساسية أقل لطريقة التهيئة؛ حيث كان الفارق في الأداء بين التعلم التعزيزي المباشر (المسار أ) و (SFT+RL) (المسار ب) ضئيلاً بالنسبة لـ GRPO مقارنة بالخوارزميات الأخرى.
ظاهرة تقصير الاستدلال (Reasoning Shortening): ملاحظة بارزة هي أن نماذج GSPO و GMPO أنتجت مخرجات أقصر بكثير (على سبيل المثال، B-GSPO: 243.59 رمزاً؛ B-GMPO: 258.87 رمزاً) مقارنة بـ GRPO (B-GRPO: 600.10 رموز). وبينما يحسن هذا من كفاءة الاستدلال، يعزو المؤلف ذلك إلى أن دالة المكافأة تتحقق فقط من الإجابة النهائية الموضوعة داخل إطار (boxed answer)، مما يسمح للنموذج بـ "اختصار الطريق" عبر حذف الاشتقاقات الوسيطة التفصيلية.
الأداء النسبي: بينما حقق النموذج (3B) دقة بنسبة 39.12%، فإنه لا يزال دون أداء النماذج المرجعية الأكبر التي تم تقييمها على نفس المعيار، والتي تراوحت بين 37.5% (DeepSeek-R1) و 57.9% (Grok-4-Fast).
الأهمية والادعاءات
يدعي البحث تقديم مقارنة تجريبية منهجية لاستراتيجيات الضبط الدقيق لتكييف النماذج التي يقل حجمها عن 10 مليارات معلمة مع مهام معالجة الإشارات. وتتمثل مساهماته الرئيسية في:
إثبات القابلية للتوسع: إظهار أن نموذجاً بحجم 3 مليار معلمة يمكنه تحقيق تحسن كبير (أكثر من 216%) في مسائل رياضيات الإشارات المعقدة بمستوى الدراسات العليا، ليصل إلى دقة 39.12%، رغم أنه لا يزال يتأخر عن النماذج المرجعية الأكبر.
الفعالية الخوارزمية: إثبات أن استراتيجيات التحسين على مستوى التسلسل (GSPO) والمتوسط الهندسي (GMPO) تقدم مزايا على GRPO القياسي القائم على مستوى الرمز من حيث الاستقرار، وسرعة التقارب، وكفاءة الرموز لهذا المجال تحديداً.
رؤى التهيئة: تسليط الضوء على أنه بينما يوفر SFT تهيئة مفيدة، فإن فعاليته تعتمد بشدة على اختيار خوارزمية RL. فهو يكون أكثر فائدة عند اقترانه بـ GSPO أو GMPO، بينما يعتمد أداء GRPO بشكل أقل على سوابق الـ SFT.
تحديد القيود: يشير المؤلف صراحة إلى قيد في أنظمة مكافأة الإجابة فقط الحالية: إذ يمكنها عن غير قصد تشجيع "تقصير الاستدلال"، حيث تحقق النماذج دقة عالية مع تقليل الشفافية. ويقترح أن العمل المستقبلي يجب أن يتضمن مكافآت حساسة للعملية (process-sensitive rewards) للحفاظ على قابلية تدقيق مسارات الاستدلال.
خلصت الدراسة إلى أنه بينما يعد مسار (SFT ثم RL) فعالاً للغاية لخوارزميات التحسين المتقدمة مثل GMPO، فإن اختيار خوارزمية RL يعد أمراً حاسماً في تحديد ما إذا كانت التهيئة الخاصة بالمجال ستؤدي إلى مكاسب كبيرة.