12380 ورقة بحثية
تقدم هذه الورقة AdaRFT، وهي طريقة تعلم منهجي تكيفي تعزز بشكل كبير كفاءة ودقة الضبط الدقيق بالتعزيز للنماذج اللغوية الكبيرة من خلال تعديل صعوبة المشكلات ديناميكيًا بناءً على إشارات المكافأة، مما يقلل وقت التدريب بمقدار يصل إلى ضعفين مع تحسين أداء الاستدلال الرياضي.
تقيم هذه الدراسة ثمانية نماذج لغوية كبيرة على مجموعة بيانات MIMIC-IV وتجد أنه بينما تحقق نماذج الاستدلال دقة ودرجات F1 أعلى في تصنيف الوثائق السريرية مقارنة بالنماذج غير المستندة إلى الاستدلال، فإن الأخيرة توفر اتساقاً أكبر، مما يشير إلى أن النهج الهجين قد يكون الأفضل لتحسين الترميز السريري في العالم الحقيقي.
تقدم هذه الورقة APE-Bench، وهو أول إطار عمل ومعيار منهجي لتقييم هندسة الإثبات الآلية في مكتبات الرياضيات الرسمية من خلال استخراج مهام واقعية على نطاق المستودعات وتوفير هيكل موحد للتحقق من كل من التصحيح النحوي والصحة الدلالية عبر مختلف تنفيذات الوكلاء.
توحد هذه الدراسة المسحية مفهوم المعلومات المتضاربة في معالجة اللغات الطبيعية عبر النصوص الطبيعية، والبيانات المشروحة بشرياً، وتفاعلات النماذج، مع تحليل آثارها على موثوقية النماذج واقتراح استراتيجيات تخفيف لتطوير أنظمة واعية بالتضارب.
تُثبت هذه الورقة أن توظيف التعلم التعزيزي مع المكافآت القائمة على النتائج لضبط النماذج اللغوية الكبيرة مسبقة التدريب يُمكّنها من العمل كنماذج معرفية مزدوجة الغرض، تحقق في آن واحد دقة تنبؤية قوية وتولّد تفسيرات لغوية طبيعية قابلة للتفسير للخيارات البشرية المحفوفة بالمخاطر.
تقدم هذه الورقة "تغطية تمثيل الحجج" (ARC)، وهو إطار تقييم من أسفل إلى أعلى يكشف كيف تغفل نماذج اللغات الكبيرة المتبعة للتعليمات بشكل متكرر الحجج الجوهرية في تلخيص المستندات الطويلة بنمط الصفر-محاولة، لا سيما في المجالات عالية المخاطر مثل القانون والعلوم، مع تحديد الانحيازات المنهجية المتعلقة بنوافذ السياق وأدوار الحجج.
تقترح هذه الورقة إطار عمل جديداً متعدد الوكلاء يعمل على تخفيف التحيزات اللهجوية في أنظمة الإجابة على الأسئلة المتعلقة بسياسات الخصوصية من خلال دمج وكيل ترجمة لهجي ووكيل خبير في المجال، مما يحقق تحسينات كبيرة في الدقة على مجموعات بيانات متنوعة دون الحاجة إلى إعادة تدريب النموذج أو الضبط الدقيق الخاص باللهجة.
تقدم هذه الورقة PAL، وهو إطار عمل هجين يجمع بين إسقاط PLITS المدمج وآلية حقن LAL خفيفة الوزن لنقل الدلالات الصوتية الغنية بكفاءة إلى النماذج اللغوية الكبيرة (LLMs)، محققاً أداءً فائقاً وتقليلاً كبيراً في التكاليف الحسابية مقارنة بنماذج التكامل القائمة.
تقترح الورقة البحثية DP-Fusion، وهي آلية استدلال ذات خصوصية تفاضلية على مستوى الرمز (token-level) للنماذج اللغوية الكبيرة، تضع حدوداً مثبتة لتأثير رموز السياق الحساسة على المخرجات لتمكين تعمية المستندات بجودة عالية مع تحسين مقايضات الخصوصية والمنفعة بشكل كبير مقارنة بالطرق الحالية.
تقدم هذه الورقة RabakBench، وهو معيار سلامة متعدد اللغات تم التحقق منه من خلال العنصر البشري للمشهد اللغوي في سنغافورة، والذي يكشف عن فجوات أداء كبيرة في حواجز الحماية للنماذج اللغوية الكبيرة الحديثة عند التعامل مع اللغات ذات الموارد المنخفضة مثل "سينغليش" والصينية والمالاي والتاميلية.