23941 ورقة بحثية
لمعالجة قيود نافذة السياق وظاهرة "الضياع في المنتصف" في إنترنت الوكلاء الناشئ، تقترح هذه الورقة نظام A2X، وهو نظام أصيل في النماذج اللغوية الكبيرة يقوم بتنظيم الخدمات ديناميكيًا في تصنيف هرمي ويتنقل عبره طبقة تلو أخرى لتحسين دقة الاسترجاع بشكل كبير مع تقليل استهلاك الرموز (tokens) بشكل جذري مقارنة بالنماذج المرجعية الحالية.
تقدم هذه الورقة Code-QA-Bench، وهو إطار عمل مؤتمت يعمل على توليد معايسات اختبار (benchmarks) للأسئلة والأجوبة على مستوى المستودعات البرمجية للفصل بصرامة بين الاستنتاج البرمجي الحقيقي وحفظ التوثيقات، وذلك عبر توظيف مسار توليد يعتمد على "الإجابة أولاً" وتصميم تجريبي ثلاثي الشروط عبر 10 مستودعات بلغة بايثون.
تحدد هذه الورقة وتعالج مشكلة "الاستمرار الضار" في مسارات تدريب سلسلة الأفكار الطويلة الصحيحة الإجابة، مبرهنةً على أن إزالة الاستنتاج اللاحلي يحسن نتائج الضبط الدقيق، ومقترحةً طريقة خفيفة الوزن، تُسمى "قطع الاستمرار الضار" (HCC)، لأتمتة عملية كشف هذا الحد.
يقدم GrepSeek مسار تدريب ثنائي المراحل لوكيل بحث يتفاعل مباشرة مع مجموعات النصوص عبر أوامر صدفة (shell) قابلة للتنفيذ، محققاً أداءً هو الأفضل في فئته على معايير الإجابة على الأسئلة في النطاق المفتوح، مع تقديم بديل عملي وقابل للتوسع للأنظمة التقليدية القائمة على الاسترجاع.
تُثبت هذه الورقة أن موثوقية مقياس مسافة فريديه-إنسبشن (FID) في تقييم مولدات الصور تتأثر جوهرياً بالخصائص الهندسية لمجموعة البيانات المرجعية، وتحديداً كثافتها التوزيعية ورتبتها الفعالة، مما قد يتسبب في تدهور قيمة مقياس FID حتى مع تحسن جودة العينات في مجموعات البيانات المشتتة.
يُعد ConMoE إطار عمل لا يتطلب تدريباً لضغط نماذج خليط الخبراء (MoE)، حيث يعمل على دمج مجموعة الخبراء من خلال اختيار مجموعة أصغر من الخبراء النماذجية وإعادة تعيين استدعاءات الخبراء الأصلية إليها بشكل حتمي، مما يقلل من تكالن الذاكرة دون الحاجة إلى تحديث الأوزان أو إجراء ضبط دقيق بعد الضغط.
تثبت هذه الورقة أن المشفّرات التلقائية المتناثرة يمكنها التوسع بنجاح لاستخراج سمات قابلة للتفسير، ومتعددة اللغات، ومتعددة الوسائط من نموذج Claude 3 Sonnet ذي النطاق الإنتاجي، بما في ذلك تلك التي تمثل السلوكيات الضارة مثل الخداع والتملق التي تؤثر سببيًا على المخرجات، مع الإقرار بالقيود الحالية في اكتمال السمات ودقة التقييم.
تجادل هذه الورقة بأن التقدم في خوارزميات التدريب الموزع قد يسمح للمطورين بالتهرب من لوائح حوكمة الحوسبة عبر استخدام تجمعات عتادية لا مركزية، مما يستلزم تدابير مضادة جديدة مثل تتبع الرقائق، والمحاسبة الجنائية، وتعزيز عتبات المراقبة للكشف عن العمليات غير المشروعة ومنعها.
تقدم الورقة البحثية TRACER، وهي طريقة ضبط دقيق متعدد الوسائط قوية تعالج مشكلتي النسيان الكارثي وانهيار المعلم من خلال توظيف معلم يعتمد على المتوسط المتحرك الموزون (WMA) لضمان التنظيم المستمر، مما يحسن بشكل كبير من دقة التوزيع خارج النطاق والمعايرة.
تقدم هذه الورقة "المصطلحات الكامنة" (Latent Terms)، وهي طريقة تثبت أن نماذج الاسترجاع الكثيف تتعلم بطبيعتها تمثيلات يمكن تفكيكها ببساطة عبر المشفّرات التلقائية المتفرقة إلى مفردات موزعة وفق قانون زيبف (Zipfian-distributed) مناسبة لتقييم BM25، مما يتيح استرجاعاً متفرقاً عالي الأداء دون الحاجة إلى إشراف إضافي أو أهداف توسيع.