يُعد TOPOFE إطار عمل تطوري متعدد الجزر مدركاً للطوبولوجيا، يعمل على تعزيز هندسة الميزات المؤتمتة والموجهة بنماذج اللغات الكبيرة (LLM) من خلال دمج الاستكشاف المتخصص في العائلات، والذاكرة التكيفية للمطالبات، ونقل المعرفة الموجه بالطوبولوجيا للتغلب على قيود التوليد عديم الحالة والبحث المتجانس، مما يؤدي إلى اكتشاف برامج ميزات متنوعة وعالية الأداء عبر 29 مجموعة بيانات جدولية.
تخيل أنك تحاول تعليم كمبيوتر اتخاذ قرارات ذكية، مثل التنبؤ بما إذا كان مقدم طلب القرض سيعيد أمواله أم لا، أو ما إذا كان المريض يعاني من مرض معين. الكمبيوتر لا يبدأ بالإجابات؛ بل يحتاج إلى النظر في جدول بيانات يحتوي على بيانات خام — أرقام، وفئات، وتواريخ — ليكتشف الأنماط المهمة. تسمى هذه العملية تعلم الآلة (Machine Learning). ولكن هنا يكمن الجزء الصعب: البيانات الخام غالباً ما تكون فوضوية ويصعب فهمها. تماماً كما لا يستطيع الطاهي إعداد حساء رائع باستخدام خضروات خام غير مقطعة، فإن الكمبيوتر غالباً لا يستطيع إيجاد أفضل الأنماط ما لم يتم تحويل البيانات أولاً. تسمى خطوة التحويل هذه هندسة الميزات (Feature Engineering). إنها فن أخذ الأرقام الخام وخلطها معاً لإنشاء أدلة جديدة وأكثر ذكاءً تساعد الكمبيوتر على رؤية الحقيقة. لفترة طويلة، كان على البشر القيام بذلك يدوياً، عبر التخمين حول أي تركيبات من الأرقام قد تكون مفيدة. ومؤخراً، بدأنا في استخدام برامج كمبيوتر فائقة الذكاء تسمى النماذج اللغوية الكبيرة (LLMs) للمساعدة في ذلك. فكر في هذه النماذج اللغوية الكبيرة كأنها مساعدون بارعون ومطلعون يعرفون الكثير عن الرياضيات والعلوم ويمكنهم اقتراح طرق جديدة لخلط البيانات. ومع ذلك، حتى هؤلاء المساعدين البارعين لديهم مشكلة: فأحياناً يعلقون في نمط متكرر، حيث يقترحون نفس أنواع الخلطات مراراً وتكراراً، أو ينسون ما جربوه سابقاً، مما يؤدي إلى إضاعة الوقت في طرق مسدودة.
هنا يأتي دور إطار عمل جديد يسمى TOPOFE. أدرك الباحثان، شا لي ونايرين راماكريشنان من جامعة فرجينيا تيك، أن مساحة خلط البيانات الممكنة واسعة ومتنوعة للغاية بحيث لا تكفي استراتيجية بحث موحدة واحدة. لذا اقترحوا نظاماً يعامل البحث عن أفضل أدلة البيانات كأنه فريق من المستكشفين المتخصصين الذين يعملون في أقاليم مختلفة، بدلاً من كونه حشداً واحداً ضخماً.
بدلاً من وجود مجموعة كبيرة من برامج الكمبيوتر تحاول حل المشكلة دفعة واحدة، يقوم TOPOFE بتقسيم العمل إلى خمس "جزر" متميزة. كل جزيرة هي بمثابة فريق متخصص يركز على نوع معين من الحيل الرياضية. هناك جزيرة تبحث فقط في الحساب البسيط مثل الجمع أو الضرب. وأخرى تركز على الإحصاء مثل المتوسطات والعدّات. وثالثة تنظر في الأنماط الزمنية، مثل كيفية تغير المبيعات خلال الأسبوع الماضي. وتتعامل جزيرة أخرى مع العلاقات بين المجموعات المختلفة، بينما تتعامل الأخيرة مع الأشكال المنحنية وغير الخطية. ومن خلال إبقاء هؤلاء المتخصصين منفصلين، يضمن النظام عدم سيطرة نوع واحد من الحيل الرياضية على الآخرين أو حجب اكتشافهم.
لكن السحر الحقيقي يحدث عندما تتحدث هذه الجزر مع بعضها البعض. في الأنظمة القديمة، إذا تعثر فريق ما، فقد يقوم ببساطة بتبادل الأفكار عشوائياً مع فريق آخر، وهو ما لم يكن يساعد في كثير من الأحيان. لكن TOPOFE أكثر ذكاءً؛ فهو يستخدم "رسم بياني طوبولوجي" (Topology Graph)، وهو يشبه خريطة ديناميكية تتعلم أي الفرق هي الأفضل في مساعدة بعضها البعض. إذا تعثرت جزيرة "الزمن"، يتحقق النظام من خريطته ويرى أن جزيرة "الحساب" لديها أفضل الأفكار لمساعدتها. عندها يقوم بتفعيل حدث خاص حيث يدمج الفريقان أفضل أفكارهما لإنشاء شيء جديد تماماً — "ميزة هجينة" (Hybrid Feature) لم يكن بإمكان أي منهما ابتكارها بمفرده. على سبيل المثال، قد يجمع بين متوسط زمني وعملية قسمة لإنشاء دليل جديد تماماً وعالي القدرة على التنبؤ.
كما يمتلك النظام "ذاكرة" تتعلم من أخطائها. إذا استمر نوع معين من الحيل الرياضية في الفشل مع مجموعة بيانات محددة، يتذكر النظام ذلك ويتوقف عن اقتراحه، بينما يعزز الحيل التي تنجح. يحدث هذا دون الحاجة إلى إعادة تدريب "عقل" الكمبيوتر الرئيسي، مما يجعل عملية البحث فعالة للغاية.
اختبر الباحثون هذه الفكرة على 29 مجموعة بيانات مختلفة من العالم الحقيقي، تتراوح بين التنبؤ بأمراض القلب والتنبؤ بتأجير الدراجات الهوائية. ووجدوا أن TOPOFE تفوق باستمرار على أفضل الطرق الموجودة. لم يجد فقط إجابات أفضل، بل وجد أيضاً إجابات أكثر تنوعاً. فبينما كانت الطرق الأخرى تنتهي غالباً بمجموعة من الأدلة المتشابهة جداً (التكرار)، أنتجت جزر TOPOFE المتخصصة وعملها الجماعي الذكي مجموعة من الأدلة التي تغطي مساحة أكبر وتعمل بشكل جيد مع مختلف نماذج التنبؤ. تشير الدراسة إلى أنه من خلال تنظيم البحث في مجموعات متخصصة ومتواصلة، والسماح لها بتبادل الأفكار، يمكننا فتح طرق أكثر قوة لتعليم الكمبيوتر فهم بياناتنا. وتظهر النتائج أن هذا النهج قوي، حيث يعمل بشكل جيد حتى عندما يتغير "العقل" الكمبيوتري الأساسي، مما يثبت أن "الخلطة السرية" تكمن في هيكل البحث نفسه، وليس فقط في ذكاء النموذج.
ملخص تقني: TOPOFE
بيان المشكلة
تعد هندسة الميزات التلقائية (AutoFE) للبيانات الجدولية مشكلة جوهرية في تخليق البرامج، تهدف إلى اكتشاف تحويلات تنبؤية من فضاء بحث هائل. وبينما وسعت مناهج النماذج اللغوية الكبيرة (LLMs) الحديثة من القدرة التعبيرية لـ AutoFE خارج مكتبات المعاملات المحددة مسبقاً، إلا أنها تعاني من ثلاث قيود هيكلية حرجة:
ديناميكيات البحث المتجانسة: تعمل الأساليب التطورية القائمة على النماذج اللغوية الكبيرة الحالية عبر مجتمع واحد غير متمايز. ويتسبب هذا في انهيار البحث نحو مجموعة ضيقة من أنواع التحويلات (مثل التفاعلات الحسابية) بمجرد أن تشبع نماذج (motifs) عالية الأداء مخزن الخبرات، مما يترك العائلات المتعامدة (مثل الديناميكيات الزمنية، والترميزات العلاقاتية) دون استكشاف كافٍ.
الاستعلام عديم الحالة (Stateless) للنماذج اللغبية الكبيرة: يفتقر توليد الميزات إلى ذاكرة مستمرة للتقييمات السابقة. حيث يتم اقتراح البرامج بناءً على مطالبات (prompts) ثابتة دون تكيف تراكمي مع أنماط مجموعة البيانات، مما يؤدي إلى اقتراحات متكررة وغير منتجة.
بنية النقل الجامدة: عند استخدام مجتمعات متعددة، يكون الانتقال (migration) عادةً دورياً أو عشوائياً. ولا توجد آلية مبدئية للكشف عن وقت ركود البحث المحلي أو لتحديد أي عائلة مصدر هي الأكثر تكاملاً مع هدف راكد، مما يمنع اكتشاف التركيبات المعقدة بين العائلات.
المنهجية: TOPOFE
يعيد TOPOFE (هندسة الميزات التلقائية الموجهة بالنماذج اللغبية الكبيرة والمدركة للطوبولوجيا) صياغة AutoFE كبحث تطوري متعدد الجزر ذو بنية رسومية. يقوم بتفكيك فضاء برامج الميزات إلى "عائلات تحويل" متماسكة دلالياً، وينسق استكشافها من خلال ثلاثة مكونات أساسية:
1. التفكيك متعدد الجزر (تفكيك الانحياز الاستقرائي)
يتم تقسيم فضاء البرامج P إلى M من الجزر المخصصة، حيث يتم تعيين عائلة تحويل محددة لكل جزيرة (مثل: التفاعلات الحسابية، التجميعات الإحصائية، الميزات الزمنية، الترميزات العلاقاتية، والخرائط أحادية المتغير غير الخطية).
حالة الجزيرة: تحتفظ كل جزيرة i بمجتمع Πi، وأرشيف للنخبة Ai، وسجل قبول/رفض Hi، ومتجه ذاكرة المطالبة ρi.
الاستكشاف المتخصص: داخل كل جزيرة، يقوم النموذج اللغوي الكبير بعمليات الطفرة والتهجين (crossover) مشروطة بالانحياز الاستقرائي الخاص بالعائلة المحددة وتاريخ الجزيرة المتراكم، مما يمنع التقارب المبكر نحو نوع واحد من التحويلات.
2. ذاكرة تكيف المطالبة (PAM)
لمعالجة التوليد عديم الحالة، ينفذ TOPOFE آلية ذاكرة خفيفة الوزن لكل جزيرة تكيف مقترحات النموذج اللغبي الكبير دون الحاجة لتحديث المعلمات.
الآلية: بعد كل عملية توليد، يقوم النظام بتلخيص أنماط البرامج المقبولة والمرفوضة من نافذة منزلقة إلى إشارة "تفضيل/تجنب" لغوية طبيعية (ρi).
الاشتراط: يتم حقن هذه الإشارة في كل مطالبة للنموذج اللغبي الكبير جنباً إلى جنب مع البيانات الوصفية للمهمة والنماذج النموذجية للنخبة، مما يسمح بالتكيف التراكمي الخاص بمجموعة البيانات طوال عملية البحث.
3. النقل عبر الجزر المدرك للطوبولوجيا
لاكتشاف الميزات التي تتطلب معاملات من عائلات متعددة (مثل دمج ميزة زمنية مع نسبة حسابية)، يستخدم TOPOFE رسم بياني طوبولوجي موجه ومتعلم G(t).
كشف التشبع: لا يكون النقل دورياً بل يتم تحفيزه بواسطة معيار التشبع. تُعتبر الجزيرة مشبعة عندما يقل تحسنها الهامشي عبر نافذة منزلقة عن حد معين ϵ، مما يشير إلى استنفاد البحث المحلي.
التوجيه التكيفي: عند التشبع، يستعلم النظام من الرسم البياني للطوبولوجيا لاختيار جزيرة سابقة j∗ تزيد من منفعة النقل الملاحظة تجريبياً wj→i.
التخليق الهجين: بدلاً من نسخ البرامج، يقوم النموذج اللغبي الكبير بـ تخليق هجين. حيث يتلقى برامج من كل من الجزيرة المستهدفة المشبعة والجزيرة السابقة المختارة كـ "سياق"، ليقوم بتوليد برنامج جديد يجمع العناصر الهيكلية من كلا العائلتين.
تعلم الرسم البياني: يتم تحديث أوزان الحواف في الرسم البياني للطوبولوجيا عبر الإنترنت باستخدام متوسط متحرك أسي بناءً على مكاسب اللياقة الملاحظة لأحداث النقل، مما يتعلم نموذجاً قائماً على البيانات للتكامل بين العائلات.
المساهمات الرئيسية
الصياغة المدركة للطوبولوجيا: يقترح البحث صياغة AutoFE كبحث متعدد الجزر ذو بنية رسومية، حيث لا تكون طوبولوجيا الهجرة ثابتة بل يتم تعلمها عبر الإنترنت باستخدام قاعدة تشبه "المقامر" (bandit-style rule) بناءً على منفعة النقل التجريبية.
النقل التكيفي المحفز بالتشبع: يستخدم معيار يعتمد على المنفعة لتحفيز النقل عبر الجزر فقط عندما يتم استنفاد البحث المحلي، مقترناً بذاكرة تكيف المطالبة التي تتيح التكيف التراكمي دون تحديث المعلمات.
إطار تقييم منهجي: قدم المؤلفون ثلاث مقاييس مصممة خصيصاً:
متوسط الارتباط المزدوج للمخرجات (MPOC): يقيس تكرار الميزات.
الرتبة الفعالة (EffRank): تقيس تغطية الفضاء الفرعي.
درجة تخصص الرسم البياني للطوبولوجيا (TGSS): تقيس درجة اكتساب الرسم البياني للطوبولوجيا لمعرفة النقل الخاصة بالمهمة.
التحقق التجريبي: أظهرت التجارب المكثفة على 29 مجموعة بيانات جدولية عامة (19 للتصنيف، 10 للانحدار) تحسينات مستمرة مقارنة بالطرق الكلاسيكية وطرق AutoFE القائمة على النماذج اللغبية الكبيرة.
النتائج
الأداء التنبئي: حقق TOPOFE أفضل أداء في 15 من أصل 19 مجموعة بيانات تصنيف و9 من أصل 10 مجموعات بيانات انحدار. كانت مكاسب الأداء أكثر وضوحاً في مجموعات البيانات التي تتطلب تفاعلات معقدة بين العائلات (مثل balance-scale و heart و bike) حيث فشلت الطرق ذات المجتمع الواحد في اكتشاف الميزات التركيبية الضرورية.
المتانة: ظل الإطار مستقراً عبر مختلف النماذج اللغبية الكبيرة (Qwen2.5-Coder، Qwen3-8B، GPT-4o-mini) ومختلف المتنبئات النهائية (XGBoost، CatBoost، MLP، TabPFN)، مما يؤكد أن المكاسب مدفوعة بالآليات الهيكلية وليس بقدرات النماذج المحددة.
تنوع الميزات: أنتج TOFE مجموعات ميزات ذات تكرار أقل بكثير (MPOC أقل) وتغطية فضاء فرعي أعلى (EffRank أعلى) مقارداً بالنماذج المرجعية. وقد عزي ذلك إلى مرشح التكرار الصريح والقدرة على استيراد قوالب متعامدة هيكلياً عبر التخليق الهجين.
تخصص الطوبولوجيا: أكد مقياس TGSS أن الرسم البياني للطوبولوجيا نجح في تعلم مسارات النقل الخاصة بالمهمة. وارتبطت مجموعات البيانات ذات قيم TGSS العالية (التي تشير إلى تفضيلات متعلمة قوية لعمليات نقل معينة بين العائلات) بمكاسب أكبر في الأداء مقارنة بالنماذج أحادية العائلة.
الأهمية والادعاءات
يدعي البحث أن التكامل بين العائلات هو كمية قابلة للتعلم والاستغلال تتركها طرق AutoFE الحالية دون استغلال. ومن خلال تجاوز البحث المتجانس والمطالبات الثابتة، يثبت TOPOFE أن:
التفكيك الهيكلي لفضاء البرامج يحافظ على التنوع ويمنع التقارب المبكر.
النقل التكيفي المحفز بالتشبع يسمح للنظام باكتشاف الميزات التركيبية المعقدة التي لا يمكن الوصول إليها بواسطة قواعد لغوية أحادية العائلة.
يعمل الرسم البياني للطوبولوجيا المتعلم كآلية مبدئية لتوجيه تدفق المعرفة بدقة وفي الوقت المناسب.
يخلص المؤلفون إلى أن نهجهم يفتح آفاقاً واعدة لاستقراء مخططات العائلات الآلية وجدولة النقل الخاصة بنوع المهمة، مما يؤسس لنموذج جديد لهندسة الميزات الموجهة بالنماذج اللغبية الكبيرة يوازن بين الاستغلال المتخصص والاستكشاف المهيكل.