OMEGA: Optimizing Machine Learning by Evaluating Generated Algorithms

إليك ملخص تقني مفصل لورقة البحث "OMEGA: تحسين تعلم الآلة من خلال تقييم الخوارزميات المولدة" (ICLR 2026).

1. بيان المشكلة

تعالج الورقة عملية الانتقال عالية الاحتكاك من فرضيات أبحاث تعلم الآلة (ML) إلى تنفيذات جاهزة للإنتاج ومحققة. بينما نجحت تقنيات الأتمتة الحالية مثل البحث عن البنية العصبية (NAS) والأتمتة الآلية (AutoML) في تحسين المعلمات الفائقة واختيارات الطبقات ضمن هياكل خوارزمية ثابتة، إلا أنها لم تحل مشكلة اكتشاف منطق خوارزمي جديد تماماً. حالياً، لا يزال تحويل الأفكار المبتكرة وغير البديهية إلى كود برمجي قابل للتنفيذ وخالٍ من الأخطاء يتكامل مع خطوط الإنتاج القياسية (مثل scikit-learn) عملية يدوية تتطلب الكثير من تصحيح الأخطاء. يقترح المؤلفون تحويل دور النماذج اللغوية الكبيرة (LLMs) من مولدات نصوص ثابتة إلى أنظمة تعلم قابلة للتنفيذ قادرة على الاكتشاف الخوارمازمي الذاتي.

2. المنهجية: إطار عمل OMEGA

OMEGA هو إطار عمل متكامل مصمم لأتمتة دورة حياة إنشاء خوارزميات تعلم الآلة، من توليد الفكرة إلى تقييم الكود القابل للتنفيذ. وهو يعمل من خلال أربع مراحل رئيسية:

أ. توليد الفكرة

يستخدم إطار العمل نهجين متكاملين لتوليد المفاهيم الخوارزمية:

1. البحث في الوجود (Ontology Search) للنماذج اللغبية الكبيرة: يقوم النظام بتوجيه مطالبات للنماذج اللغبية الكبيرة باستخدام قائمة من النماذج والمبادئ البحثية الحالية لتوليد تعديلات فريدة (10 لكل نموذج). يتم تحليل هذه الأفكلة واستخدامها كمطالبات لتوليد الكود.
2. الأفكار الموجهة بشرياً: يمكن للباحثين البشر تقديم مفاهيم مبتكرة مباشرة إلى إطار العمل، والتي تتم معالجتها جنباً إلى جنب مع الأفكار المولدة بواسطة النماذج اللغبية الكبيرة.

ب. توليد الكود والشفاء الذاتي (Self-Healing)

بمجرد تحديد الفكرة، يقوم النموذج اللغبي الكبير بتوليد كود مع قيدين صارمين:

1. التوافق مع Scikit-Learn: يجب أن ترث النماذج المولدة من BaseEstimator وأن تنفذ طريقتي .fit() و .predict(). يضمن هذا أن تعمل النماذج كلغة محددة المجال (DSL) متوافقة مع سير عمل تعلم الآلة الحالي.
2. خط أنابيب الشفاء الذاتي: لضمان القدرة على التنفيذ، يستخدم إطار العمل حلقة تصحيح أخطاء تكرارية. إذا فشل توليد الكود، يتم تغذية تتبع الخطأ (stack trace) مرة أخرى إلى النموذج اللغبي لإعادة توليد الكود. تتكرر هذه العملية لعدد محدد من المحاولات؛ وإذا تعذر إصلاح الكود، يتم استبعاده. يضمن ذلك مرور الكود الخالي من الأخطاء والقابل للتجميع فقط إلى مرحلة التقييم.

ج. التقييم: Infinity-Bench

لتقييم الخوارزميات المولدة، قدم المؤلفون Infinity-Bench، وهو مستودع اختبار يحتوي على 20 مجموعة بيانات تصنيف متنوعة (مستمدة من scikit-learn و OpenML).

• التنوع: تختلف مجموعات البيانات في الحجم، وأنواع الميزات (عددية/فئوية)، والمجال (بيولوجي، طبي، تعليمي).
• المقياس: بدلاً من الدقة الخام (التي تختلف باختلاف صعوبة مجموعة البيانات)، يستخدم إطار العمل درجة التصنيف الطبيعية بنظام (Min-Max).
  • لكل مجموعة بيانات $d$، يتم حساب الدرجة $n_{m,d}$ عن طريق تطبيع دقة النموذج ($s_{m,d}$) مقابل أسوأ ($min_d$) وأفضل ($max_d$) النماذج:
    $$n_{m,d} = \frac{s_{m,d} - min_d}{max_d - min_d}$$
  • درجة الأداء النهائية هي متوسط هذه التصنيفات الطبيعية عبر جميع مجموعات البيانات العشرين.

د. إنشاء المكتبة

يتم حزم النماذج الأعلى أداءً في مكتبة بايثون (omega-models)، مما يسمح بالتكامل السلس في سير العمل القياسي.

3. المساهمات الرئيسية

1. إطار عمل OMEGA: نظام مؤتمت ومتكامل يحول المطالبات البسيطة إلى مصنفات تعلم آلة متوافقة مع scikit-learn وخالية من أخطاء التجميع.
2. Infinity-Bench: معيار قوي لتقييم نماذج التصنيف بناءً على الأداء النسبي والمتانة عبر 20 مجموعة بيانات متنوعة.
3. اكتشاف خوارزميات جديدة: توليد خوارزميتين محددتين تتفوقان على النماذج المرجعية الراسخة:
   • MetaSynthesisClassifier: نموذج تعميم مكدس (stacked generalization) تم توجيهه بشرياً.
   • DirectionalForest: غابة اتجاهية تم توليدها ذاتياً بواسطة النموذج اللغبي الكبير باستخدام اتجاهية الميزات.
4. التحليل المقارن للنماذج اللغبية الكبيرة: دراسة تقارن قدرات توليد الكود لأربعة نماذج رائدة (Gemini 2.5 Flash, GPT-4.1 mini, Claude Sonnet 4.5, و xAI's grok-code-fast-1).
5. استراتيجية التحسين الذاتي: تحليل للتحسين التكراري للمطالبات (recursive self-prompting)، ومقارنة فعالية تحسين المطالبة مقابل تحسين الكود بشكل تكراري.

4. النتائج

أ. الأداء مقابل النماذج المرجعية

نجح إطار عمل OMEGA في توليد نماذج تفوقت على نماذج scikit-learn القياسية (مثل RandomForest و MLPClassifier و LogisticRegression).

• الأفضل أداءً: أفضل 3 نماذج في الاختبار تم توليدها بواسطة OMEGA (وهي MetaSynthesisClassifier، و VotingEnsembleClassifier، ونسخة موجهة من قبل مستخدم)، حيث حققت درجات Min-Max بلغت 0.9474، و 0.9445، و 0.9401 على التوالي.
• مقارنة بالنماذج المرجعية: سجلت نماذج scikit-learn القياسية درجات أقل (على سبيل المثال، RandomForest عند 0.9285، و LogisticRegression عند 0.8708).

ب. تحليل الخوارزميات الجديدة

• MetaSynthesisClassifier: يستخدم نهج تعميم مكدس هرمي. يقوم بتدريب المقدرات الأساسية على البيانات باستثناء عينات محددة (لمنع التسريب/leakage) ويستخدم مقدراً ميتا (meta-estimator) لتعلم الوزن الأمثل لتنبؤات هذه المقدرات الأساسية. أظهر متانة استثنائية عبر التعقيدات المانيفولد (manifold complexities) المختلفة.
• DirectionalForest: اكتشاف ذاتي يتضمن اتجاهية الميزات. يقوم بحساب متجه الاتجاهية بناءً على إشارة الانحرافات بين متوسطات الفئات والمتوسط العام. يقوم بتحويل ميزات المدخلات ($x_{dir} = x \odot d$) قبل تدريب أشجار القرار، مما يؤدي فعلياً إلى تطبيع اتجاه أهمية الميزات وتقليل التباين في الفضاءات عالية الأبعاد.

ج. مقارنة النماذج اللغبية الكبيرة

• برز Gemini 2.5 Flash كأفضل أداء في توليد نماذج تصنيف قابلة للتنفيذ، محققاً أعلى متوسط درجة (0.9162) عبر 10 مطالبات متنوعة.
• جودة المطالبة مقابل هوية النموذج: بينما تصدر Gemini، كانت فجوة الأداء بين النماذج صغيرة نسبياً، مما يشير إلى أن جودة المطالبة الأولية غالباً ما تكون أكثر أهمية من النموذج اللغبي المحدد المستخدم.

د. التحسين الذاتي (المطالبة مقابل الكود)

اختبر المؤلفون ما إذا كان التكرار على المطالبة أو الكود يحقق نتائج أفضل:

• النتيجة: تفوق ضبط المطالبة (Prompt tuning) باستمرار على تحسين الكود فقط في جميع النماذج اللغبية الكبيرة تقريباً.
• مثال: بالنسبة لـ Claude، حققت تحسينات المطالبة مكسباً بنسبة 8.88% فوق الأساس، بينما حققت تحسينات الكود 4.85% فقط.
• الاستنتاج: إن صقل التعليمات المفاهيمية المقدمة للنموذج اللغبي أكثر فعالية من مطالبته بتصحيح الكود الخاص به في هذا السياق.

5. الأهمية

يمثل إطار عمل OMEGA خطوة مهمة نحو أتمتة أبحاث الذكاء الاصطناعي. من خلال سد الفجوة بين توليد الفكرة والكود القابل للتنفيذ والمتحقق منه، فإنه يخفض الحاجز أمام اكتشاف خوارزميات تعلم آلة جديدة.

• القابلية للتوسع: يثبت أن النماذج اللغبية الكبيرة يمكنها التفكير في المنطق الخوارزمي وتوليد كود تنافسي وجاهز للإنتاج دون تدخل بشري.
• الديمقراطية: من خلال حزم هذه النماذج، يتيح إطار العمل للمهندسين التقنيين وغير التقنيين الاستفيد من الخوارزميات المولدة بواسطة الذكاء الاصطناعي.
• الأبحاث المستقبلية: يشير نجاح "علماء الذكاء الاصطناعي" في هذا المجال إلى مستقبل يمكن فيه أتمتة دورة البحث بأكملها — من الفرضية إلى الورقة البحثية — مما قد يسرع وتيرة الابتكار في تعلم الآلة بما يتجاوز الاشتقاق اليدوي البشري.