23915 ورقة بحثية
تكشف هذه الورقة أن نماذج خليط الخبراء (MoE) المدربة مسبقاً والموجودة حالياً تمتلك بطبيعتها تشتتاً كبيراً في تنشيط الخلايا داخل الخبير الواحد، وهو ما يمكن الاستفادة منه عبر تعديل مسار تنفيذ vLLM لتخطي حسابات الخلايا غير النشطة، مما يحقق تسريعاً يصل إلى 2.5 ضعف في تنفيذ طبقة MoE و1.2 ضعف في السرعة الإجمالية للنظام دون الحاجة إلى أي إعادة تدريب للنموذج أو تعديل للمعلمات.
تقدم الورقة البحثية "انتباه كازمارك الخطي" (KLA)، وهو نموذج معدل من "Gated DeltaNet" يستبدل معامل التحديث الذي تم تعلمه تجريبياً بخطوة كازمارك ذات حجم مُعين نظرياً ومُطبع وفقاً لمعيار المفتاح (key-norm-normalized)، مما يؤدي إلى تفوق في مستويات الحيرة (perplexity)، واستقرار في السياقات الطويلة، وكفاءة في فك التشفير دون تغيير بنية النموذج أو شكل الحالة.
تقدم الورقة البحثية "محول الاستنتاج الشبكي" (LDT)، وهو نموذج متكرر يحقق دقة تقارب الكمال في الألغاز المنطقية المعقدة مثل السودوكو والمتاهات من خلال تقريب الاستنتاج السليم عبر الإسقاطات الشبكية والتفسير المجرد، متفوقاً بشكل كبير على النماذج اللغوية الكبيرة الرائدة مع الحفاظ على السلامة التجريبية.
تقيم هذه الورقة بشكل منهجي ست طرق للكشف عن البيانات خارج التوزيع (OOD) على مجموعة بيانات أمراض النباتات (Plant Pathology 2021) دقيقة التفاصيل، حيث تُظهر أن الضبط الدقيق القائم على الطاقة يتفوق على النماذج المرجعية من خلال إعادة هيكلة فضاء التضمين ومعايرة الدرجات، بينما تكشف أيضاً عن عدم استقرار تدريبي عملي في طرق التحسين المقيد التي غالباً ما يتم التغاضي عنها في المعايير القياسية.
تقدم الورقة البحثية إطار عمل STRIDE، وهو إطار عمل مبتكر يعزز النماذج التأسيسية للسلاسل الزمنية من خلال تقطير استدلال النماذج اللغوية الكبيرة إلى تمثيلات متصلة (continuous embeddings) كأولوية عابرة للأنماط (cross-modal prior)، مما يسد الفجوة بين الأنماط لتحقيق دقة تنبؤية رائدة مع إضافة استدلال نوعي قابل للتفسير البشري.
تقترح هذه الورقة نموذجاً للذكاء التعاوني حيث تعمل نماذج لغوية كبيرة متعددة موزعة عبر الأجهزة والسحابة معاً من خلال التعاون الرأسي والأفقي لتقديم استجابات عالية الجودة في ظل قيود موارد متنوعة، مع معالجة استراتيجيات التدريب والتحديات البحثية المفتوحة أيضاً.
يُعد PAAC إطار عمل وكيلٍ واعٍ بالخصوصية يعمل على مواءمة تفكيك المخطط والمنفذ مع الحد الفاصل بين الجهاز والسحابة، وذلك باستخدام رموز نائبة نمطية وسجل حتمي لتحسين الدقة بشكل كبير مع تقليل تسرب البيانات بشكل جذري مقارنة بالنماذج المرجعية الحالية المتطورة.
تقدم الورقة البحثية AgentCollabBench، وهو معيار تشخيصي يكشف أن إخفاقات الأنظمة متعددة الوكلاء تنبع غالباً من اختناقات التواصل الهيكلية ومخاطر سلوكية محددة مثل تدهور التعليمات وانتقال العدوى بالاعتقاد الخاطئ، مما يثبت أن التعاون الموثوق يعتمد على التصميم المعماري أكثر من اعتماده على توسيع ذكاء النموذج وحده.
يُعدُّ FLUX إطار عمل لمطابقة التدفق الطولي المدرك للهندسة، والذي يستخدم بنية "خليط من الخبراء" لنمذجة ديناميكيات النقل المستمر بشكل مشترك واكتشاف تحولات الأنظمة الكامنة من لقطات بيولوجية غير مقترنة عبر تعلم مقياس يعتمد على البيانات لتوجيه تفكيك حقل السرعة المتناثر.
تقدم الورقة البحثية استراتيجية "الرسم المبدئي والتحقق" (Sketch-and-Verify)، وهي استراتيجية فعالة من حيث التكلفة لتوسيع نطاق الاستدلال في نماذج الأكواد الصغيرة، تتفوق على أخذ العينات المسطحة عبر حصر مسودات خوارزمية متنوعة وملئها بعدة مرشحات، رغم أنها لا تستطيع استبدال أداء مستويات النماذج الأقوى بشكل كامل.