22490 ورقة بحثية
إنَّ SIGMA هو إطار عمل هندسة ميزات تلقائية (AutoFE) قابل للتوسع وخالٍ من البيانات الوصفية، يستفيد من قيم SHAP ومنهج "المسار الضمني للميزات المكشوفة" (EXIT) لتوجيه توليد الميزات باستخدام نافذة سياق ثابتة، مما يقلل بفعالية من تكرار الميزات ويحسن الكفاءة مع مطابقة أداء أحدث التقنيات المتاحة.
تُثبت هذه الورقة أنه في نماذج عالم الكود المستمرة، يُعد قبول مخطط مُصاغ بواسطة نموذج لغوي كبير بناءً على التحقق من أخذ العينات فقط أمراً غير كافٍ بشكل خطير، لأنه غالباً ما يغفل الأنماط المنفصلة الحرجة، مما يؤدي إلى إخفاقات تخطيط كارثية لا يمكن تحديدها بشكل موثوق إلا من خلال تدخلات مستهدفة بدلاً من أخذ العينات العشوائية.
تكشف هذه الورقة أن النماذج التأسيسية للبيانات الجدولية يمكنها تحقيق تعميم قوي من خلال التدريب المسبق ذاتي الإشراف على جدول حقيقي واحد، مما يثبت أن أداءها يعتمد على عدد وجودة المهام والميزات أكثر من اعتماده على مجموعات البيانات الضخمة، ويشير إلى أن آلية التعلم داخل السياق لديها هي آلية قائمة على الاسترجاع بشكل أساسي.
تقدم هذه الورقة نموذج عالم عصبي-رمزي يفصل بين إعادة بناء الملاحظة والتنبؤ بالمكافأة باستخدام مكونات رمزية مهيكلة، مما يتيح التكيف الصفري (zero-shot) مع دوال مكافأة جديدة دون تفاعلات إضافية مع البيئة، ويُظهر قدرة فائقة على التعميم مقارنة بالطرق العصبية البحتة.
تقيم هذه الدراسة وتعمل على تحسين نماذج التنبؤ بإنتاجية المحاصيل لجفاف عام 2012 الشديد في الولايات المتحدة من خلال مقارنة نهجي تعلم الآلة والتعلم العميق في ظل ظروف عدم تشابه توزيع الميزات وندرة البيانات، لتجد أنه بينما يعزز وزن العينات واختيار الميزات النماذج غير القائمة على التعلم العمبال، فإن نموذج التعلم العميق VITA يتفوق عليها بغض النظر عن هذه التعديلات.
تعيد هذه الورقة إنتاج مصنف السلاسل الزمنية WEASEL 2.0 للتحقق من أدائه، وتحدد أن قاعدة حجم المجموعة الثابتة الخاصة به غير فعالة لمجموعات البيانات ذات السلاسل الطويلة، مما أدى إلى اقتراح قاعدة تكيفية تقلل بشكل كبير من استهلاك الذاكرة ووقت التدريب مع تأثير ضئيل على الدقة.
تُثبت هذه الورقة أن الضبط الدقيق لنموذج لغوي صغير (SBERT) على وحدة معالجة رسومية واحدة يحقق دقة عالية في تصنيف الفواتير من خلال الاستفادة من عناقيد التضمين المتماثلة محلياً والمرتبطة بهوية المورد، مما يثبت أن النماذج اللغوية الصغيرة الداخلية توفر بديلاً فعالاً من حيث التكلفة وآمناً وقابلاً للتعميم للنماذج اللغوية الكبيرة، بينما تكشف أيضاً أن المدخلات المهيكلة المفيدة للبشر قد لا تحسن أداء النموذج.
تقدم هذه الورقة البحثية طريقة "تحسين أخذ العينات الخاص بك" (OYS)، وهي طريقة لا تتطلب تدريباً تستخدم التحسين البايزي لضبط الخطوات الزمنية لأخذ عينات نماذج الانتشار بشكل مباشر، مما يقلل تكاليف الاستدلال بشكل كبير مع الحفاظ على جودة توليد عالية عبر مختلف المهام وأدوات أخذ العينات.
تكشف هذه الورقة عن هشاشة الوكلاء ذاتيي التحسين القائمين على الذاكرة من خلال إثبات أن أداءهم حساس للغاية لتباين التقييم وترتيب المهام بسبب عدم التحديد، مما يدعو إلى بروتوكولات تقييم أكثر صرامة وتعزيز الإشراف البشري.
تُثبت هذه الورقة أن فترات الثقة لخطأ التعميم في الغابات العشوائية يمكن حسابها بكفاءة مباشرة من نواتج التدريب القياسية، مما يوفر بديلاً منخفض التكلفة لتقسيم البيانات وإعادة التدريب يحقق تغطية إحصائية ومعدلات تقارب جيدة.