23087 ورقة بحثية
تقدم هذه الورقة البحثية MoganBert-TR، وهو نموذج تأسيسي لترميز اللغة التركية بـ 149 مليون معلمة، تم تدريبه من الصفر باستخدام منهج تعليمي مبتكر من CLM إلى MLM وجدولة متخصصة للسياق الطويل، والذي يحقق أداءً هو الأفضل في فئته على معايير معالجة اللغات الطبيعية التركية ويُنتج نموذج تضمين عالي الكفاءة يصل إلى 99.5% من درجة نموذجه المعلم المكون من 7.57 مليار معلمة.
تقدم هذه الورقة مسار معالجة يحول الأوراق العلمية المهيكلة إلى مسارات توليد متعددة الأدوار من أجل التدريب المسبق المستمر والاختبار المعياري، مما يثبت أن هذا النهج يعزز قدرات الكتابة الأكاديمية بشكل كبير مع الحفاظ على الاستدلال العام والاستيعاب للمستندات الطويلة.
تُثبت هذه الورقة أن النماذج اللغوية الكبيرة تُظهر تباينات ملموسة وقابلة للقياس في المهارات عبر اللغات المختلفة، وذلك باستخدام إطار عمل "اللعب الذاتي" متعدد اللغات لإظهار أن النموذج نفسه يمكن أن يُبدي نقاط قوة، وقدرات استدلال، وسلوكيات استراتيجية متفاوتة بشكل ملحوظ اعتماداً فقط على واجهة اللغة المستخدمة.
تكشف هذه الورقة أن دقة التنبؤ العالية لنماذج الطقس القائمة على الذكاء الاصطناعي، إلى جانب قدرتها على التنبؤ العكسي الماهر وفشلها في إظهار تأثير الفراشة، تنبع من التجزئة الخشنة الحتمية لبيانات التدريب، والتي تعمل دون قصد على ترشيح نمو الأخطاء السريع وصغير النطاق مع الحفاظ على الأنماط واسعة النط scales.
تؤسس هذه الورقة إطار عمل ثلاثي المراحل للبرهنة تجريبياً على أن تحسين استراتيجيات أخذ العينات أثناء الاستدلال لنماذج لغة البروتين متعددة الوسائط — وتحديداً من خلال التوجيه الخالي من التصنيف الخاص بالمهام والبحث الشعاعي الموجه بالمكافأة — يعزز الأداء بشكل كبير عبر مهام متعددة دون الحاجة إلى إعادة تدريب النموذج، بينما يتحدى أيضاً الإجماع السابق حول سلوكيات النماذج الأساسية.
تقترح هذه الورقة {\modelname}، وهو إطار عمل موحد قائم على مبدأ عنق الزجاجة المعلوماتي (Information Bottleneck) يربط بين التفسيرات العزوية والتفسيرات المضادة للواقع لبيانات السلاسل الزمنية للتغلب على أوجه القصور في الطرق المستقلة الحالية، مثل الافتقار إلى التحقق السببي وعدم الاستقرار، وذلك من خلال تعلم شبكة تحويل معلمية تنتج عزوّات دقيقة وتفسيرات مضادة للواقع مستقرة.
يُعد LivingRAG إطار عمل للبحث المعزز بالتوليد القائم على الرسوم البيانية (Graph RAG) يعمل على تعزيز الإجابة على الأسئلة متعددة الخطوات من خلال تخزين وإعادة استخدام تجارب الاستدلال التي تم التحقق منها — مثل إشارات الرسم البياني المفيدة وأنماط الاستدلال — لتحسين الدقة وتقليل استهلاك الرموز (tokens) عبر الاستعلامات ذات الصلة.
تقدم هذه الورقة SciMIF، وهو معيار مرجعي جديد يتميز بتصنيف شامل ومسار بيانات عالي الدقة لتقييم النماذج اللغوية الكبيرة متعددة الوسائط في التعليمات العلمية المعقدة، مما يكشف عن تفاوتات كبيرة في الأداء عبر التخصصات ويسلط الضوء على القيود الحالية في الالتزام بالقيود دقيقة التفاصيل رغم زيادة حجم النماذج.
تقدم هذه الورقة إطار عمل FRAME، وهو إطار عمل مكون من خطوتين يميز بين التباين في أخذ العينات والتحيز التمثيلي الحقيقي في عدالة التصوير الطبي من خلال إنشاء مرجع للنموذج العادل واختبار الفروقات المتبقية، مما يكشف أن جزءاً كبيراً من التفاوتات المبلغ عنها بين المجموعات الفرعية يمكن إرجاعه إلى الضوضاء الإحصائية بدلاً من آليات النموذج.
إنّ ProgRouter هو إطار عمل عبر الإنترنت، موجه بالتقدم، يقوم بتنسيق سير عمل النماذج اللغوية الكبيرة متعددة الوكلاء ديناميكيًا من خلال الاختيار التكيفي للوكلاء في كل خطوة بناءً على تقدم المهمة في الوقت الفعلي ومقاييس كفاءة التكلفة، مما يقلل بشكل كبير من تكاليف التشغيل مع الحفاظ على جودة عالية في حل المهام عبر مختلف مهام الاستدلال المعقدة.