23915 ورقة بحثية
تقدم هذه الورقة بنية ذاكرة قائمة على أسس بيولوجية لوكلاء النماذج اللغوية الكبيرة (LLM agents) تتميز بست آليات معرفية ومنهجية معايرة اصطناعية، مما يظهر تحسينات كبيرة في دقة الاستبقاء وكفاءة التخزين عبر اختبارات تتبع المشكلات والدردشة الشخصية واسعة النطاق.
تُصيغ هذه الورقة البحثية المفهوم ويتحقق منها تجريبياً مفهوم الاستمرارية الزمنية في النماذج المتسلسلة، مبرهنةً على أن نماذج مثل S4 تُظهر سلوكاً مستمراً مستقراً يتماشى مع استمرارية المهام لتحسين الأداء، بينما تكون نماذج مثل Mamba (S6) أكثر حساسية لعملية التجزئة، لتُظهر في النهاية أن الاستفادة من الاستمرارية تُمكّن من استراتيجيات أكثر كفاءة وفعالية لأخذ العينات الزمنية الفرعية.
تقدم هذه الورقة ميكانيكا لاغرانج لـ واسرشتاين (WLM)، وهو إطار عمل وخوارزمية جديدة تتعلم ديناميكيات الجماعات من الدرجة الثانية من اللقطات الزمنية عن طريق تقليل فعل مخمد، وبذلك تتغلب على قيود التدفقات المتدرجة لنمذجة السلوكيات المعقدة بدقة مثل الدورية، وديناميكيات الدوامات، والتنامي الجماعي.
تقدم هذه الورقة VeriContest، وهو معيار شامل يضم 946 مسألة من مسائل البرمجة التنافسية بلغة Rust مع Verus، يربط بين الأوصاف اللغوية الطبيعية والمواصفات الرسمية المعتمدة من قبل الخبراء والبراهين القابلة للتحقق آلياً، مما يكشف عن فجوة كبيرة بين قدرات النماذج الحالية في البرمجة وقدرتها على توليد كود برمجي قابل للتحقق.
تقدم هذه الورقة مساراً تجريبياً يستخدم التفضيلات المعلنة لتقييم وتوجيه اتخاذ القرار في النماذج اللغوية الكبيرة في المجالات الطبية عالية المخاطر، حيث وجدت أنه بينما تُظهر النماذج تماسكاً داخلياً، إلا أنها تواجه صعوبة في التعبير لفظياً بدقة أو التبني الموثوق للأهداف المحددة من قبل المستخدم.
تقترح الورقة البحثية إطار عمل MC-RFM، وهو إطار عمل للتكيف بلقطات قليلة وكفاءة في المعلمات، يقوم بنمذجة تحديثات الميزات على منوع ريماني ذي انحناء مختلط لالتقاط كل من الدلالات الهرمية والتباينات البصرية المحلية بشكل أفضل، محققاً أداءً هو الأفضل حالياً عبر مختلف معايير الرؤية الحاسوبية والهياكل الأساسية.
تقدم هذه الورقة خوارزمية "رفيق الاستمرار التكيفي القائم على العتبة" (TACC) للمتعددات الأذرع متعددة الدقة، والتي تستفيد من المصادر البديلة المحسنة مثل النماذج اللغوية الكبيرة (LLMs) لتقرير متى يجب الاستمرار في أخذ العينات منخفضة التكلفة مقابل التصعيد إلى التقييم عالي الدقة بشكل ديناميكي، مما يحقق حدود ندم تعتمد على الحالة تستبدل التأكيدات عالية الدقة اللوغاريتمية بالاستمرار منخفض الدقة المحدود.
تُثبت هذه الورقة أن أي دالة محدبة وليبشيتزية (Lipschitz) في فضاء هيلبرت قابل للفصل يمكن تقريبها بانتظام إلى أي درجة من الدقة بواسطة صيغة مُنشأة صراحةً، وقابلة للحساب منتهياً، ومحافظة على التحدب، وقابلة للتنفيذ كشبكة عصبية متعددة الطبقات ذات وحدات خطية متقطعة (ReLU-MLP)، مما يؤسس لأساس منهجي لتعلم مثل هذه الدوال من خلال فئة معمارية جديدة تسمى الدوال العصبية المحدبة (Convex Neural Functionals).
تحل هذه الورقة البحثية المفارقة التي تكمن في أن تقليص أحجام كتل التكميم يؤدي إلى تدهور أداء النماذج اللغوية الكبيرة من خلال إثبات أن المشكلة تنبع من تفاعل التوزيعات ذات الذيول الثقيلة بشكل سيئ مع تنسيقات FP4، وتُظهر أن التدخلات الخوارزمية المستهدفة مثل قياس 4-على-6 ومنع نقص التدفق تسمح للتنسيقات القياسية المتوافقة مع الأجهزة بتحقيق الجودة المثلى مع دقة حبيبية أعلى.
تقترح الورقة البحثية إطار عمل PARSE، وهو إطار عمل لما بعد التدريب يعمل على تعزيز ضغط النماذج اللغوية الكبيرة القائم على تحليل القيم المفردة (SVD) عبر الاختيار الديناميكي للرتب المثلى لكل مطالبة (prompt) على حدة من خلال موجه (router) مُدرب مسبقاً وتخزين الأنماط مؤقتاً، مما يؤدي إلى تحسين دقة النموذج وكفاءة الاستنتاج بشكل كبير مقارنة بطرق بتر الرتب الثابتة.