25748 ورقة بحثية
تقدم هذه الورقة البحثية "مطابقة الميل المنفصل" (DTM)، وهي طريقة تعزيز تعلم قائمة على الاحتمالية الخالية من النموذج، تعمل على الضبط الدقيق لنماذج اللغات الكبيرة ذات الانتشار المقنع عبر مطابقة اللاحقات المحلية على مستوى الحالة تحت ميل المكافأة، مما يظهر استقراراً محسناً في التدريب وأداءً قوياً في مهام الاستدلال مثل سودوكو وكاونت داون.
تقترح هذه الورقة إطار عمل "ضرورة التنبؤ" الذي يقيم الصلة السببية في نماذج السلاسل الزمنية غير الخطية من خلال الاستئصال المنهجي للحواف والأداء التنبئي بدلاً من مقدار المعامل، مما يثبت فعاليته في كشف ديناميكيات سببية متميزة في دراسة للديمقراطية العالمية كانت التفسيرات التقليدية القائمة على الدرجات ستغفل عنها.
تقترح هذه الورقة إطار عمل يعيد صياغة التشخيص السريري كمسألة نمذجة تسلسلية ذاتية الانحدار باستخدام فك تشفير لنماذج لغوية كبيرة سببية وهدف تدريب مسبق تبايني مدرك لفقدان البيانات للتعامل بفعالية مع الأنماط المفقودة، متفوقة بذلك على النماذج المرجعية في مجموعتي بيانات MIMIC-IV وeICU مع تعزيز قابلية التفسير والسلامة في النموذج.
تُثبت هذه الورقة أن دمج المشفّرات التلقائية المتفرقة (Sparse Autoencoders) المُدربة مسبقاً في مسارات المتبقيات (residual streams) لنماذج المحولات (transformer) أثناء وقت الاستنتاج يعزز بشكل كبير من متانة النماذج اللغوية الكبيرة ضد هجمات كسر الحماية (jailbreak attacks) بنوعيها، "الصندوق الأبيض" و"الصندوق الأسود"، وذلك عبر إعادة تشكيل هندسة الأمثلة (optimization geometry)، محققةً انخفاضاً يصل إلى 5 أضعاف في معدلات نجاح الهجمات مع الكشف عن علاقة رتيبة بين التفرق (sparsity) وفعالية الدفاع.
تثبت هذه الورقة تجريبياً أن أخذ العينات متعدد الأجيال المعتدل يحسن بشكل كبير من كشف كسر الحماية في النماذج اللغوية الكبيرة من خلال الكشف عن الثغرات المخفية التي تغفل عنها التقييمات أحادية المخرجات، بينما تظهر أيضاً أن إشارات الكشف تتعمم جزئياً عبر النماذج وأن الكواشف المعجمية تلتقط كل من الإشارات السلوكية والموضوعية.
تقدم هذه الورقة البحثية Flash-SemiCRF، وهو إطار عمل للاستدلال المتدفق وموفر للذاكرة يستبدل تنسور جهد الحافة (edge potential tensor) الباهظ في نماذج Semi-Markov CRF بعمليات بحث عن المجموع التراكمي (prefix-sum lookups) آنية وعملية تمرير أمامي-خلفي (forward-backward pass) معيارية عند نقاط التفتيش والحدود، مما يتيح الاستدلال الدقيق على مستوى القطعة (segment-level inference) للتسلسلات الطويلة ومجموعات التسميات الكبيرة التي كانت غير قابلة للمعالجة سابقاً.
تقدم هذه الورقة NPUMoE، وهو محرك استدلال وقت التشغيل يعمل على تسريع نماذج اللغات الكبيرة من نوع "خليط الخبراء" (Mixture-of--Experts) على شرائح Apple Silicon عبر ترحيل الحسابات الثابتة إلى المحرك العصبي (Neural Engine)، مع استخدام المعايرة غير المتصلة وتقنيات متخصصة للتغلب على تحديات التوجيه الديناميكي والمزامنة، مما يؤدي إلى تحسينات كبيرة في زمن الاستجابة، وكفاءة الطاقة، واستخدام وحدة المعالجة المركزية.
يُعد ARES إطار عمل مبتكر يعالج الثغرات النظامية في النماذج اللغوية الكبيرة المحاذية لتعلم التعزيز من التغذية الراجعة البشرية (RLHF) عبر توظيف "مُوجّه سلامة" لتوليد مطالبات عدائية مزدوجة الاستهداف تكشف عن الإخفاقات المتزامنة في كل من نموذج السياسة ونموذج المكافأة، يتبع ذلك عملية إصلاح مكونة من مرحلتين لتعزيز متانة السلامة الشاملة دون المساس بقدرات النموذج.
تقدم الورقة البحثية HELM، وهو إطار عمل محايد للنماذج يحسن بشكل كبير عمليات التحكم في الرؤية واللغة والأفعال طويلة الأمد من خلال معالجة فجوات الذاكرة والتحقق والاسترداد عبر وحدة ذاكرة عرضية، ومتحقق حالة متعلم، ووحدة تحكم مجهزة، محققاً زيادة بنسبة 23.1% في معدل النجاح مقارنة بـ OpenVLA في اختبار LIBERO-LONG.
تتقصى هذه الورقة استراتيجيات التعلم عبر الإنترنت المثلى للمنصات التي تدير مجموعات من المنتجات الجديدة ذات السعة المحدودة والجودة غير المعروفة، حيث تثبت أنه من الأمثل دائمًا إقران المنتجات الجديدة بالمنتجات الرائدة الحالية، وأن عدد المنتجات التي يتم استكشافها في آن واحد يتبع هيكل عتبة يعتمد على الإمكانات بدلاً من احتمالات الشراء الفردية، مع تسليط الضوء على إخفاقات خوارزميات (UCB) و(Thompson Sampling) القياسية في هذا السياق.