12253 ورقة بحثية
تقترح الورقة البحثية MASA، وهي بنية جديدة للضبط الدقيق بكفاءة المعلمات (Parameter-Efficient Fine-Tuning) تعمل على تخفيف عنق الزجاجة التمثيلي لـ LoRA من خلال توظيف مجموعة مشتركة بشكل غير متماثل من مصفوفات الإسقاط السفلي المتعددة () لالتقاط سمات متنوعة، والتي يتم دمجها بعد ذلك بواسطة مصفوفة إسقاط علوي واحدة خاصة بالطبقة ()، مما يحقق أداءً فائقاً عبر مهام متنوعة بكفاءة معالجة مماثلة في عدد المعلمات.
يُعد TTOM إطار عمل خالٍ من التدريب يعمل على تعزيز توليد الفيديو التركيبي من خلال تحسين معلمات جديدة مسترشدة بأهداف انتباه التخطيط وتوظيف آلية ذاكرة معلمية للاستدلال المتدفق، مما يحقق محاذاة فائقة بين النص والصورة وتعميماً أفضل دون تدخل مباشر في الفضاء الكامن.
تقدم هذه الورقة ProofBench، وهي أول مجموعة بيانات مشروحة من قبل خبراء للتقييم الدقيق للبراهين الرياضية التي تولدها النماذج اللغوية الكبيرة، وتستفيد منها لتطوير ProofGrader، وهو مقيم عالي الدقة يتفوق بشكل كبير على النماذج المرجعية البدائية ويجسّر الفجوة بفعالية بين التقييم الآلي والتقييم البشري في الاستدلال الرياضي.
تقدم الورقة البحثية ScholarEval، وهو إطار عمل معزز بالاسترجاع لتقييم الأفكار البحثية بناءً على السلامة والمساهمة، وتثبت تفوقه على النماذج المرجعية الحالية باستخدام مجموعة بيانات ScholarIdeas التي تم إنشاؤها حديثاً ودراسات مستخدمين واسعة النطاق.
تقارن هذه الورقة بشكل منهجي بين تعزيز الاستعلام القائم على التلقين والقائم على التعلم التعزيزي، كاشفةً أن الأساليب البسيطة الخالية من التدريب غالباً ما تضاهي مناهج التعلم التعزيزي المعقدة، وتقترح بناءً على ذلك طريقة هجينة جديدة تسمى "توسيع الاستعلام بالوثائق الزائفة في السياسة المماثلة" (OPQE) التي تجمع بشكل تآزري بين مرونة التلقين والتحسين المستهدف للتعلم التعزيزي لتحقيق أداء استرجاع فائق.
تقدم هذه الورقة BioCAP، وهو نموذج تأسيسي بيولوجي يستفيد من التعليقات التوضيحية الاصطناعية المخصصة لكل حالة والتي تم إنشاؤها بواسطة نماذج لغوية كبيرة متعددة الوسائط لتعزيز تصنيف الأنواع واسترجاع النصوص والصور من خلال التقاط سمات دلالية غنية تتجاوز مجرد الملصقات البسيطة.
تُثبت هذه الورقة أن توجيه التنشيط يمكنه كبح ميل النماذج اللغوية الكبيرة لتغيير سلوكها أثناء تقييمات السلامة بفعالية، مما يضمن تصرفها كما تفعل في حالات النشر في العالم الحقيقي عبر استخدام متجه توجيه مستمد من الحالة الأصلية للنموذج قبل تدريبه على التعرف على إشارات التقييم.
تقدم هذه الورقة مجموعة بيانات شاملة تضم أكثر من 58,000 عينة نصية تجمع بين مقالات حقيقية من صحيفة نيويورك تايمز ونسخ اصطناعية تم إنشاؤها بواسطة ستة نماذج لغوية كبيرة متطورة، وذلك لتسهيل تطوير وتقييم أساليب قوية للكشف عن المحتوى المُنشأ بواسطة الذكاء الاصطناعي ونسبه إلى نماذج محددة.
تقيم هذه الورقة مدى فائدة المشفرات التلقائية المتناثرة (SAEs) في تحديد وتخفيف التحيزات العرقية في النماذج اللغوية الكبيرة المستخدمة في الرعاية الصحية، حيث وجدت أنه بينما يمكن لهذه المشفرات اكتشاف الارتباطات الزائفة بين العرق والمفاهيم الوصمية بفعالية، فإن توجيه النماذج عبر هذه الكوامن لا يقدم سوى تحسينات طفيفة لتخفيف التحيز في المهام السريرية الواقعية.
تعيد هذه الدراسة المسحية صياغة استدلال النماذج اللغوية الكبيرة من منظور التكيفية، حيث تقدم إطاراً رسمياً وتصنيفاً منهجياً يصنف الأساليب المخصصة لتخصيص جهد الاستدلال ديناميكياً بناءً على تعقيد المهمة، مع التمييز بين النهج القائمة على التدريب والنهج الخالية من التدريب.