11158 ورقة بحثية
تثبت هذه الورقة أنه بينما يستحيل توليد اللغة في الوقت المناسب للمولدات ذات الاتساق النهائي تحت ترتيب تفضيل عالمي، فإن ذلك يصبح ممكناً بكثافة مثلى إذا سمح المولد بمعدل هلوسة يتلاشى، بشرماً أن تكون دالة الموعد النهائي فائقة الخطية.
تُعد SOMA إطار عمل فعال لخدمة النماذج اللغوية الكبيرة متعددة الأدوار، حيث تعمل على تقليل زمن الاستجابة والتكلفة عبر استخدام نموذج كبير في البداية لتحديد التباينات الدلالية، ثم تكييف نموذج بديل أصغر عبر المطالبات الناعمة وضبط دقيق محلي باستخدام تقنية LoRA للتعامل مع بقية المحادثة مع وجود بوابة سلامة لضمان الجودة.
من خلال تحليل أكثر من مليون استعلام بحث حقيقي من واقع العالم باستخدام التعلم الآلي المتقدم، تكشف هذه الورقة أن البحث الجغرافي المكاني عبر الويب تهيمن عليه الاحتياجات العملية والمعاملاتية مثل التكاليف وساعات العمل التي تتجاوز بكثير نطاق نظم المعلومات الجغرافية التقليدية، مما يستدعي الدعوة إلى بنيات استرجاع هجينة ومعايير مرجعية محدثة للاستدلال الجغرافي في النماذج اللغوية الكبيرة.
تقترح هذه الورقة إطار عمل للتحقق يستند إلى خبرة الخبراء لتقييم فعالية ومخاطر استخدام النماذج اللغوية الكبيرة في استخراج العلاقات السببية من منشورات وسائل التواصل الاجتماعي غير الرسمية المتعلقة بالكوارث، وذلك عبر مقارنة مخرجات النموذج مع الرسوم البيانية المرجعية لتحديد ما إذا كانت العلاقات المستخرجة قائمة على الأدلة أم مدفوعة بالمعلومات المسبقة للنموذج.
تقدم هذه الورقة البحثية EvalAgent، وهو مساعد ذكاء اصطناعي يعمل على أتمتة تقييم الوكلاء من خلال ترميز الخبرة المتخصصة في مجالات معينة إلى مهارات قابلة لإعادة الاستخدام، مما يثبت أن مثل هذه المعرفة تعد بالغة الأهمية لتوليد كود تقييم قابل للتنفيذ وذي معنى يتفوق بشكل كبير على مساعدي البرمجة الرائدين والأساليب المرجعية.
تقدم الورقة البحثية "التفكير العميق" (Deep Reasoning)، وهو إطار عمل معرفي ميتافيزيقي مُجسد في وكيل "DOLOLES" يقوم ببناء دعامات استدلالية خاصة بالمهام ديناميكيًا وقت الاستنتاج، مما يمكّنه من التفوق على الأساليب الرائدة في مختلف الاختبارات المعيارية المعقدة وحتى سد فجوات التوسع بين النماذج الأصغر والأكبر.
تقدم هذه الورقة البحثية طريقة "التعرض التكيفي للمعلم في التقطير الذاتي" (ATESD)، وهي طريقة مبتكرة تتعلم ديناميكياً التحكم في مقدار الاستدلال المتميز الذي يكشفه النموذج المعلم للنموذج الطالب أثناء التدريب داخل السياسة، مما يؤدي إلى حل مشكلة عدم تطابق التعرض والتفوق بشكل كبير على النماذج المرجعية الحالية للتقطير الذاتي والتعلم المعزز في اختبارات معايير الاستدلال الرياضي الصعبة.
تُثبت هذه الورقة أنه في حين أن تحسين التفضيل على مجموعات البيانات الصغيرة من النصوص الرواقية يمكن أن يوفق بفعالية بين النماذج اللغوية الصغيرة والفضائل الموجهة نحو الداخل، إلا أنه يفشل في التغلب على قيودها التمثيلية المتأصلة فيما يتعلق بالواجبات الكوزموبوليتانية (العالمية) الموجهة نحو الخارج.
تقارن هذه الدراسة بين تقنية تقطير الطبقة الخفية (Hidden Layer Distillation) والأساليب القائمة على اللوجيت (logit-based methods) في مرحلة ما قبل التدريب للنماذج اللغوية الكبيرة، وتجد أنه بينما تعمل باستمرار على تحسين مستوى الحيرة (perplexity)، إلا أنها لا تتفوق بشكل موثوق على التقطير المعرفي القياسي في المهام اللاحقة، مما يشير إلى الحاجة إلى مزيد من الاختراقات للاستفادة الكاملة من إشارات التمثيل الوسيط.
تحدد هذه الورقة أن الضبط الدقيق الخاضع للإشراف القياسي لمحاكيات المستخدم يؤدي إلى انحياز الاستشراف المسبق ويتسبب في "انهيار القدرة على التحكم" تحت تأثير تحولات السياسة، وتقترح إطار عمل للاستدلال السببي مع تدابير تخفيف تدريبية محددة لاستعادة الاتساق السببي وتمكين التقييم القوي وغير المنحاز للوكلاء الحواريين.