11070 ورقة بحثية
تقدم هذه الورقة AFANet، وهو إطار عمل للشبكات العصبية الرسومية خفيف الوزن يعمل على نمذجة تفاعلات الوكلاء لتحقيق أداء في عزو فشل الوكيل يطابق أو يتجاوز الأساليب المكلفة القائمة على النماذج اللغوية الكبيرة مع تقليل التكاليف الحسابية بشكل كبير.
تُثبت هذه الورقة أن التكميم بـ 4 بت عبر bitsandbytes يضاعف بشكل كبير من التداخل الاستباقي في النماذج اللغوية الكبيرة، مما يتسبب في انخفاض ملحوظ في دقة الاسترجاع للقيم المتشابهة دلالياً والمكتوبة فوق بعضها بشكل متكرر بسبب زيادة أخطاء التطفل من نفس المفتاح داخل العمود الفقري للمحول (transformer backbone).
تكشف هذه الورقة أنه بينما ترفض النماذج اللغوية البصرية المتوافقة مع معايير السلامة الإجابة على الأسئلة المرتبطة بصرياً، فإن فهمها الإدراكي الداخلي يظل سليماً، ويمكن للتدخلات المستهدفة على مستوى التنشيط أن تقمع آليات الرفض لاستعادة الإجابة القائمة على التأسيس دون الحاجة لإعادة التدريب.
تقدم الورقة البحثية TranslatePsy-AfriSLM، وهي مجموعة موارد مفتوحة المصدر تتألف من بيانات متوازية منسقة واصطناعية لـ 19 لغة من دول أفريقيا جنوب الصحراء الكبرى، تُمكّن النماذج المدمجة ذات 0.8 مليار معلمة من التفوق بشكل كبير على الأنظمة الأكبر حجماً من خلال التصفية الفعالة لتقدير الجودة.
تقدم هذه الورقة إطار عمل للبحث المعزز بالاسترجاع التنافسي المدرك للفشل، والذي يعامل تنسيق البيانات كمسألة "بانديت سياقي" (contextual bandit) للتكيف مع اختيار وإعادة التدريب على أنماط فشل نماذج محددة، مما يحسن بشكل كبير من قوة فهم اللغة الطبيعية عبر معايير متعددة دون الحاجة إلى ترميز بشري إضافي.
تقدم هذه الورقة البحثية GreekBarRetrieval، وهو معيار مرجعي جديد لاسترجاع النصوص القانونية اليونانية مستمد من أسئلة امتحانات المحاماة، وتُظهر أن حلقة إعادة صياغة الاستعلام المكونة من عشر جولات والقائمة على النماذج اللغوية الكبيرة تعزز أداء خوارزمية BM25 بشكل كبير، مما يمكنها من التفوق على كل من المسترجعات الكثيفة التقليدية واستراتيجيات الاسترجاء المتقدمة الأخرى.
تُظهر هذه الورقة البحثية أنه في النماذج اللغوية الكبيرة، تُعد خصائص الهوية الديموغرافية المتمثلة في كونها قابلة للقراءة، وذات بنية أمينة، ومُستخدمة سببيًا، ثلاث ظواهر منفصلة، مما يكشف أنه بينما يمكن لرؤوس انتباه محددة ترميز الفروق الجماعية الشبيهة بالاستطلاعات بدقة عالية، فإن هذا الترميز لا يترجم بالضرورة إلى الاستخدام السببي الفعلي للنموذج في توليد الاستجابات.
تحلل هذه الورقة كمياً الأداء المتقلب لآلية التصويت القائم على الاتساق الذاتي في النماذج اللغوية الكبيرة عبر تقديم "مؤشر اتفاق تعددي" يفكك الإجماع إلى مكونات مدفوعة بالتفضيل الميكانيكي ومكونات متبقية، كاشفةً أنه بينما تهيمن التحيزات المشتركة على مهام الاختيار من متعدد، فإن التباين غير المفسر يستمر في المشكلات ذات النطاق المفتوح، وأن الاتفاق العالي لا يضمن الصحة.
تبحث هذه الورقة في كيفية إعادة تشكيل التكيف الطبي متعدد اللغات للتمثيلات الداخلية لنماذج "ويسبير" (Whisper) من خلال تحليل على مستوى الطبقات، كاشفةً أنه في حين أن الضبط الدقيق يحسن الأداء بشكل كبير، فإن حجم النموذج الأمثل واستراتيجية التكيف يعتمدان على متطلبات لغوية ومجالية محددة، مع كون الضبط الدقيق الطبي باللغة الإنجليزية هو ما يدفع التحولات الرئيسية في المشفر بينما يحافظ الاستمرار متعدد اللغات إلى حد كبير على هذه التمثيلات المتكيفة.
تقدم هذه الورقة البحثية إطار عمل \textsc{SMTrap}، وهو إطار عمل خفيف الوزن وخالٍ من التغذية الراجعة للنماذج، يستغل الارتباط بين أعداد التعارضات في حلول SMT وسلوك التراجع في نماذج الاستدلال الكبيرة لتوليد هجمات حرمان من الخدمة عالية التأثير ومنخفضة التكلفة دون الحاجة إلى موارد وحدة معالجة الرسومات (GPU) أو استعلامات لنموذج الهدف.