11683 ورقة بحثية
تكشف هذه الورقة أن النماذج اللغوية الكبيرة المضبوطة بالتعليمات تظهر هشاشة شديدة، حيث تنهار في شموليتها عند تعرضها لقيود معجمية تافهة بسبب فشل في التخطيط ناتج عن الضبط بالتعليمات، وهي ثغرة تظل غير مكتشفة بواسطة مقاييس التقييم المستقلة القياسية ولكن يتم كشفها من خلال المقارنات الزوجية.
تستقصي هذه الورقة بشكل منهجي ديناميكيات وآليات التقطير في السياسة نفسها (OPD) في النماذج اللغوية الكبيرة، حيث تحدد أن النجاح يعتمد على أنماط تفكير متوافقة وقدرات معلّم مبتكرة، وتكشف عن آلية محاذاة على مستوى الرمز (token)، وتقترح استراتيجيات عملية لاستعادة التقطير الفاشل مع التشكيك في قابليته للتوسع في المهام طويلة المدى.
تقدم الورقة البحثية AiScientist، وهو نظام مستقل يطور بشكل كبير هندسة أبحاث تعلم الآلة طويلة الأمد من خلال الجمع بين التنسيق الهرمي ومساحة عمل "الملف كحافلة بيانات" (File-as-Bus) مستدامة للحفاظ على استمرارية الحالة، متفوقاً بذلك على النماذج المرجعية في الاختبارات المعيارية الرئيسية ومثبتاً أن البحث الفعال طويل الأمد هو مشكلة تنسيق أنظمة وليس مجرد تحدٍ في الاستنتاج المحلي.
تقدم الورقة البحثية SceneCritic، وهو مُقيّم رمزي يستند إلى أنطولوجيا مكانية مهيكلة (SceneOnto) توفر تقييمات مستقرة على مستوى الكائنات لتخطيطات المشاهد الداخلية ثلاثية الأبعاد، مما يُظهر توافقاً فائقاً مع الحكم البشري مقارنة بنماذج الرؤية واللغة، ويكشف أن التحسين القائم على الصور هو الأكثر فعالية لتصحيح الأخطاء الدلالية وأخطاء التوجيه.
تقدم الورقة البحثية SciTune، وهو إطار عمل يعمل على مواءمة النماذج اللغوية الكبيرة مع تعليمات علمية متعددة الوسائط منسقة بشرياً، مما ينتج عنه نموذج (LLaMA-SciTune) يتفوق بشكل كبير على الأنظمة الرائدة في المعايير العلمية البصرية واللغوية، بل ويتجاوز الأداء البشري في فئات معينة.
تقترح هذه الورقة PredFT، وهو إطار عمل جديد لفك تشفير الرنين المغناطيسي الوظيفي (fMRI) إلى نص يستفيد من نظرية الترميز التنبؤي عبر دمج التمثيلات التنبؤية الدماغية من مناطق اهتمام محددة في شبكة رئيسية، مما يجعله يتفوق على النماذج الحالية في إعادة بناء اللغة المستمرة من إشارات الدماغ.
تقدم هذه الورقة RiTeK، وهو عبارة عن مجموعة بيانات مرجعية شاملة صُممت لتقييم وتحسين قدرات الاستنتاج المعقدة للنماذج اللغوية الكبيرة عبر الرسوم البيانية للمعرفة الطبية النصية من خلال معالجة القيود الحالية المتمثلة في ندرة البيانات، والقدرة التعبيرية الطوبولوجية، وأداء الاسترجاع.
تكشف هذه الورقة أن طرق نسيان النماذج اللغوية الكبيرة الحالية تخلق دون قصد ثغرات الباب الخلفي من خلال محاذاة رموز النسيان مع التمثيلات المستهدفة، وتقترح تقنية تعزيز الضوضاء العشوائية (RNA) المحايدة للنماذج للتخفيف من هذه المشكلة مع الحفاظ على أداء النسيان.
تقدم هذه الورقة البحثية طريقة الضبط الدقيق للمطالبات فائقة انخفاض الأبعاد (ULPT)، وهي طريقة ضبط دقيق فعالة من حيث المعلمات تعمل على تحسين المطالبات في فضاء فائق انخفاض الأبعاد (على سبيل المثال، ثنائي الأبعاد) باستخدام مصفوفة رفع علوي عشوائية مجمدة، مما يحقق تقليلاً بنسبة 98% في المعلمات القابلة للتدريب مع التفوق على الطرق الحالية عبر أكثر من 20 مهمة من مهام معالجة اللغات الطبيعية.
تقدم هذه الورقة البحثية إطار عمل LIFT، وهو إطار عمل مبتكر يعزز فهم السياق الطويل للنماذج اللغوية الكبيرة ذات السياق القصير من خلال الضبط الدقيق الديناميكي لمعلمات النموذج لاستيعاب المدخلات الطويلة عبر مهام اصطناعية، مما يتيح الاستدلال دون الحاجة لسياق المدخلات مع تجنب التعقيد التربيعي والحفاظ على زمن استجابة منخفض.