🤖 AI

SE-Bench: Benchmarking Self-Evolution with Knowledge Internalization

تقدم هذه الورقة SE-Bench، وهي بيئة تشخيصية تعمل على تعمية مكتبة NumPy لتقييم التطور الذاتي بدقة من خلال عزل استيعاب المعرفة عن المعرفة المسبقة وتعقيد الاستدلال، مما يكشف أن التدريب بنظام الكتاب المغلق واللعب الذاتي أكثر فعالية من التدريب بنظام الكتاب المفتوح أو التعلم المعزز القياسي في دمج المعرفة الجديدة في أوزان النموذج.

المؤلفون الأصليون: Jiarui Yuan, Tailin Jin, Weize Chen, Zeyuan Liu

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jiarui Yuan, Tailin Jin, Weize Chen, Zeyuan Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم طالب عبقري كيفية استخدام لغة برمجة جديدة كلياً وغريبة تماماً. العقدة هي أن هذه اللغة تبدو وتعمل تماماً مثل لغة يعرفها بالفعل (مثل NumPy في بايثون)، ولكن كل كلمة وأمر فيها قد تم استبدالهما بكلمات عشوائية غير مفهومة.

على سبيل المثال، بدلاً من كتابة numpy.mean ، يجب أن يكتب zwc.kocito.

هذه هي الفكرة الجوهرية وراء SE-BENCH، وهو "اختبار" جديد ابتكره باحثون من جامعة تسينغ هوا لاختبار ما إذا كان بإمكان وكلاء الذكاء الاصطناعي تعلم مهارات جديدة وحفظها حقاً بأنفسهم، بدلاً من مجرد التخمين أو الاعتماد على ورقة غش.

إليك تفصيل لنتائجهم باستخدام تشبيهات بسيطة:

1. المشكلة: اختبار "الجديد المزيف"

اختبارات الذكاء الاصطناعي الحالية معيبة. إذا طلبت من ذكاء اصطناعي حل مسألة رياضية باستخدام مكتبة جديدة، فقد يقوم الذكاء الاصطناعي بمجرد تذكرها من بيانات التدريب الخاصة به (مثل طالب حفظ الكتاب المدرسي قبل الاختبار). أو، إذا فشل الذكاء الاصطناعي، فلن تعرف ما إذا كان ذلك بسبب نسيانه للمكتبة أم لأن المسألة الرياضية كانت صعبة للغاية.

حل SE-BENCH:
قام الباحثون بإنشاء نسخة "مشفرة" من مكتبة شائعة وهي NumPy.

التشفير: قاموا بتغيير أسماء كل الدوال إلى كلمات عشوائية غير مفهومة (مثلاً: mean تصبح kocito).
القاعدة: لا يُسمح للذكاء الاصطناعي باستخدام المكتبة الأصلية. يجب عليه استخدام الكلمات غير المفهومة.
الهدف: إذا استطاع الذكاء الاصطناعي حل المسألة باستخدام الكلمات غير المفهومة، فهذا يثبت أنه تعلم القواعد الجديدة فعلياً. وإذا لم يستطع، فهذا يعني أنه فشل في استيعاب المعرفة.

2. الاكتشافات الثلاثة الكبرى

اختبر الباحثون طرقاً مختلفة لتعليم الذكاء الاصطناعي ووجدوا ثلاث حقائق مذهلة:

أ. "مفارقة الكتاب المفتوح" (لا تسمح لهم بالغش!)

الإعداد: جربوا تعليم الذكاء الاصطناعي بطريقتين:
1. الكتاب المفتوح: يمكن للذكاء الاصطناعي رؤية القاموس (التوثيق/Documentation) أثناء الدراسة وأيضاً أثناء إجراء الاختبار.
2. الكتاب المغلق: يمكن للذكاء الاصطناعي رؤية القاموس أثناء الدراسة، ولكن يجب عليه التخلص من القاموس قبل إجراء الاختبار.
النتيجة: فشل طلاب "الكتاب المفتوح" تماماً عندما تمت إزالة القاموس. لم يكونوا قد تعلموا المادة حقاً؛ بل كانوا مجرد يبحثون عنها.
الدرس: لجعل الذكاء الاصطناعي يتعلم حقاً ويخزن المعرفة في "دماغه" (أوزانه الداخلية)، يجب عليك إجباره على الدراسة بدون القاموس أثناء تحديثات التدريب. يحتاج إلى ضغط المعلومات داخل نفسه.

ب. "فجوة التعلم التعزيزي" (التعلم التعزيزي معلم سيء للحقائق)

الإعداد: جربوا استخدام التعلم التعزيزي (RL)، وهو أسلوب يتعلم فيه الذكاء الاصطناعي من خلال التجربة والحصول على مكافآت مقابل الإجابات الصحيحة (مثل تدريب كلب على القيام بالحركات).
النتيجة: حتى مع طريقة "الكتاب المغلق"، فشل التعلم التعزيزي. لم يستطع الذكاء الاصطناعي تعلم الكلمات غير المفهومة الجديدة.
السبب: وجد الباحثون أن "كوابح الأمان" المبنية في التعلم التعزيزي (تسمى PPO clipping) تمنع الذكاء الاصطناعي من إجراء التغييرات الكبيرة والجريئة اللازمة لحفظ المفردات الجديدة. الأمر يشبه معلماً يخشى جداً ترك الطالب يرتكب أخطاء كبيرة، لذا لا يتعلم الطالب القواعد الجديدة أبداً.
الدرس: التعلم التعزيزي رائع في صقل السلوك، ولكنه سيء جداً في تعليم حقائق جديدة تماماً من الصفر.

ج. "نجاح اللعب الذاتي" (تعليم نفسك يعمل، إذا استخدمت الطريقة الصحيحة)

الإعداد: تركوا الذكاء الاصطناعي يولد مسائل تدريبية خاصة به ويحاول حلها (اللعب الذاتي/Self-Play).
النتيجة:
- إذا استخدموا التعلم التعزيزي (RL) في اللعب الذاتي، فقد فشل الذكاء الاصطناعي (نسبة نجاح 0%).
- إذا استخدموا الضبط الدقيق تحت الإشراف (SFT) (وهي طريقة تعليم أكثر مباشرة) على المسائل التي ولدها الذكاء الاصطناعي نفسه، فقد نجح.
الدرس: يمكن للذكاء الاصطناعي أن يعلم نفسه مهارات جديدة، ولكن فقط إذا كانت "طريقة التدريس" (SFT) قوية بما يكفي لفرض المعرفة داخل دماغه. التعلم التعزيزي ليس حلاً "يصلح لكل شيء" للتطور الذاتي.

ملخص التشبيه

فكر في الذكاء الاصطناعي كطالب يستعد لاختبار مفاجئ في موضوع جديد.

الاختبار: يستخدم الاختبار لغة مخترعة تشبه الإنجليزية ولكن بكلمات مختلفة.
الفشل: إذا سُمح للطالب بحمل القاموس أثناء الاختبار، فسوف ينجح، لكنه لم يتعلم أي شيء. إذا حاول التعلم عن طريق التخمين والحصول على "نقاط" للإجابات الصحيحة (RL)، فسيظل عالقاً لأن قواعد التخمين صارمة للغاية.
النجاح: الطريقة الوحيدة التي يتعلم بها الطالب حقاً هي ممارسة التدريب مع القاموس، ثم إجباره على خوض الاختبار بدون القاموس (تدريب الكتاب المغلق). هذا يجبر دماغه على حفظ الكلمات الجديدة فعلياً.

الخلاصة:
يثبت SE-BENCH أنه لكي "يتطور" الذكاء الاصطناعي حقاً ويتعلم مهارات جديدة بمفرده، نحتاج إلى التوقف عن السماح له بالاعتماد على أوراق الغش الخارجية أثناء التدريب، والتوقف عن استخدام التعلم التعزيزي لتعليم الحقائق الجديدة. نحن بحاجة إلى إجباره على حفظ المعرفة داخلياً.

ملخص تقني: SE-BENCH: قياس قدرة التطور الذاتي عبر استيعاب المعرفة داخلياً

تعريف المشكلة

تتناول الورقة فجوة حرجة في تقييم الوكلاء ذوي التطور الذاتي (self-evolving agents): وهي القدرة على استيعاب المعرفة والمهارات الجديدة داخلياً لتعلم مستمر مدى الحياة. بينما تقيم الاختبارات الحالية عمليات التكيف العابر (مثل التحسين أثناء الاستدلال أو التعديل الذاتي المتكرر)، فإنها تفشل في قياس القدرة الجوهرية على استيعاب المعرفة داخلياً (knowledge internalization)—وهي العملية التي يتعلم فيها الوكيل بنشاط من الخبرة لتحديث معاملاته (parameters) بشكل دائم.

تعاني التقييمات الحالية من مشكلتين جوهرتين:

تشابك المعرفة السابقة: من الصعب التمييز ما إذا كان الوكيل قد حل مهمة تتضمن معرفة "جديدة" عن طريق تعلمها أثناء التجربة أم عن طريق استدعائها من بيانات التدريب المسبق.
تشابك تعقيد الاستدلال: الفشل في المهام المعقدة يكون غامضاً؛ فقد ينجم عن عدم القدرة على استيعاب المعرفة اللازمة، أو ببساوٍ من الصعوبة المنطقية المطلوبة للاستدلال.

لحل ذلك، يجادل المؤلفون بضرورة وجود اختبار "إبرة في كومة قش" (Needle in a Haystack) للتطور الذاتي: بيئة تكون فيها المهام تافهة خوارزمياً إذا تم استيعاب المعرفة داخلياً، ولكنها مستحيلة بدونها.

المنهجية: بناء SE-BENCH

قدم المؤلفون SE-BENCH، وهو بيئة تشخيصية مصممة لتعمية مكتبة NumPy وتحويلها إلى حزمة شبه جديدة تسمى ZWC. يتضمن مسار البناء ثلاث مراحل:

التعمية (Obfuscation):
- إعادة التسمية: تم ربط 26s8 من وظائف NumPy الشائعة بمعرفات عشوائية وفارغة دلالياً (مثال: numpy.mean $\leftarrow$ zwc.kocito).
- تنفيذ الغلاف (Wrapper): تم إنشاء فئة ZWCArray مخصصة تغلف جميع المدخلات والمخرجات لمنع النماذج من تجاوز التعمية عبر استدعاء الطرق القياسية على مصفوفات NumPy الأساسية.
- إعادة كتابة التوثيق: تمت إعادة كتابة توثيق واجهة برمجة التطبيقات (API) بواسطة نموذج لغوي كبير لوصف حزمة ZWC الجديدة، مما يضمن بقاء المنطق متماثلاً مع NumPy القياسية مع جعل الصيغة (syntax) غريبة.
توليد الأسئلة:
- مهام الوظيفة الواحدة: مسائل تتطلب وظيفة واحدة محددة بالضبط لحلها، مما يضمن تغطية بنسبة 100% للمكتبة.
- مهام الوظائف المتعددة: مسائل معقدة تتطلب تركيب ثلاث وظائف على الأقل من مجموعة مختارة لاختبار التعميم بما يتجاوز مجرد الحفظ البسيط.
التصفية:
- تم التحقق من المهام عبر بروتوكول إجماع صارم باستخدام ثلاثة نماذج رائدة (Qwen3-Coder، وGemini-2.5-Pro، وGPT-OSS-120B). لا يتم الاحتفاظ بالمهمة إلا إذا استطاعت النماذ الثلاثة حلها باستخدام NumPy القياسية.
- تم إجراء تحقق بشري على مجموعة فرعية عشوائية لضمان الوضوح.

بروتوكول التقييم:

مرحلة التدريب: يتم تزويد الوكلاء بوصف المشكلة وتوثيق API الخاص بـ ZWC ذي الصلة.
مرحلة الاختبار: يتم تزويد الوكلاء بوصف المشكلة فقط. يجب عليهم الاعتماد كلياً على المعرفة التي تم استيعابها داخلياً خلال التدريب.
مقياس النجاح: يكون الحل صحيحاً فقط إذا اجتاز جميع حالات الاختبار، واستخدم واجهات برمجة تطبيقات ZWC (يتم التحقق عبر تحليل AST)، ولم يحتوي على أي استيراد (imports) لمكتبة NumPy الأصلية.

المساهمات والرؤى الرئيسية

تقدم الورقة ثلاث رؤى رئيسية مستمدة من تقييم استراتيجيات التطور الذاتي المختلفة (القائمة على الذاكرة، الضبط الدقيق الخاضع للإشراف SFT، التعلم التعزيزي RL، واللعب الذاتي Self-Play) على SE-BENCH:

1. مفارقة الكتاب المفتوح (The Open-Book Paradox)

وجود وثائق مرجعية أثناء تحديث المعاملات يعيق الاحتفاظ بالمعلومات على المدى الطويل.

النتيجة: الضبط الدقيق التقليدي الخاضع للإشراف (Open-SFT)، حيث تكون الوثائق موجودة أثناء جمع المسارات وأثناء التدريب، يؤدي إلى أداء بنسبة 0% في مجموعة الاختبار (بدون الوثائق).
الآلية: إزالة الوثائق خلال مرحلة التدريب (Closed-SFT) تجبر النموذج على ضغط المنطق الخارجي داخل أوزانه بدلاً من الاعتماد على السياق. يتفوق Closed-SFT بشكل كبير على Open-SFT، مما يثبت أن الاستيعاب الحقيقي يتطلب "تجويع المعلومات" أثناء التحسين.

2. فجوة التعلم التعزيزي (The RL Gap)

يفشل التعلم التعزيزي القياسي في استيعاب المعرفة الجديدة داخلياً، حتى في إعداد الكتاب المغلق.

النتيجة: يحقق Closed-RL أداءً بنسبة 0%.
الآلية: يُعزى الفشل إلى آليتين محددتين في التعلم التعزيزي القياسي (تحديداً PPO/GRP):
- تقليم PPO (PPO Clipping): يمنع التحولات الكبيرة في الكتلة الاحتمالية المطلوبة لتعلم خرائط المفردات الجديدة (مثلاً: np.mean $\leftarrow$ zwc.kocito).
- التدرجات السالبة (Negative Gradients): يؤدي استخدام المزايا المعيارية (normalized advantages) إلى تعزيز سلبي للاستجابات التي تقل عن المتوسط، مما يؤدي إلى تآكل الارتباطات التجريبية قبل أن تترسخ خلال المراحل الأولى الهشة من الحفظ.
النجاح الهجين: يحقق النهج الهجين (Closed-SFT متبوعاً بـ RL) أداءً هو الأفضل حالياً. هنا، يعمل SFT على تأسيس الذاكرة الأساسية، بينما يعمل RL كمحسن سلوكي، يقوم بتقليم التخمينات "الكسولة" وتحسين الانضباط التنفيذي دون تصحيح أخطاء الذاكرة الأساسية.

3. جدوى اللعب الذاتي (Self-Play)

التطور الذاتي عبر البيانات المولدة ذاتياً هو أمر قابل للتطبيق، لكن آلية التحسين هي العامل الحاسم.

النتيجة: يفشل اللعب الذاتي بالتعلم التعزيزي الصرف (Absolute-Zero) تماماً (0%). ومع ذلك، فإن تطبيق Closed-SFT على المهام والاستجابات المولدة ذاتياً (Closed-SFTself) يحقق أداءً ملحوظاً (22.5% في مهام الوظيفة الواحدة).
الاستنتاج: النماذج قادرة على توليد مناهج صالحة لتعليم نفسها؛ الفشل في اللعب الذاتي القياسي يعود إلى عدم ملاءمة RL لاستيعاب المعرفة داخلياً، وليس بسبب نموذج اللعب الذاتي نفسه.

النتائج

الأداء المرجعي: حققت الأساليب القائمة على الذاكرة (Expel) نتائج غير تافهة (تصل إلى 47.1%) عبر ربط المعرفات بالمفاهيم المعروفة، لكنها فشلت في تحقيق استبقاء تام.
تحسين المعاملات: نجحت فقط طرق Closed-SFT و Hybrid Closed-SFT-RL. فشلت جميع طرق تحديث المعاملات الأخرى (Open-SFT، Open-RL، Closed-RL، Absolute-Zero) تماماً.
التعميم: تم التحقق من النتائج (مفارقة الكتاب المفتوح وفجوة RL) عبر عائلات نماذج مختلفة (Qwen3 و Llama3) ومقاييس مختلفة (من 1.7B إلى 30B بارامتر).
تحليل الخطأ: قلل RL بشكل كبير من "هلوسة السمات" (Attribute Hallucinations) -أي تخمين وظائف غير موجودة- عبر تشجيع العودة إلى البدائيات القوية، لكنه لم يصحح "هلوسة الوظائف" (Function Hallucinations) -أي أسماء API خاطئة- أو "عدم توافق التوقيع" (Signature Misalignments)، مما يؤكد دور RL كمحسن سلوكي وليس كمستوعب للمعرفة.

الأهمية

تضع هذه الورقة SE-BENCH كمنصة تشخيصية صارمة لمجتمع الوكلاء ذوي التطور الذاتي. تكمن أهميتها في:

عزل الاستيعاب: توفر بيئة محكومة ونظيفة لفصل استيعاب المعرفة داخلياً عن تعقيد الاستدلال وتسرب المعرفة السابقة.
أداة تشخيصية: تعمل كـ "اختبار وحدة" (unit test) للوكلاء المستقبليين ذوي التطور الذاتي، مما يشير إلى ضرورة اجتياز الوكلاء لـ SE-BENCH ليتم الوثوق بهم في المهام المعقدة والمفتوحة.
رؤية ميكانيكية: تتحدى الافتراض بأن RL هو حل عالمي للتحسين الذاتي، حيث تثبت أن SFT يتفوق في الاستيعال الفعلي للمعلومات، بينما يعد RL أفضل لتحسين استخدام المعرفة المستوعبة بالفعل.
البحث المستقبلي: تضع أساساً لدراسة الآليات الأساسية لاستيعاب المعرفة داخلياً، مما قد يوجه تصميم خوارزميات هجينة أكثر استهدافاً لتطوير الذكاء الاصطناعي العام (AGI).