28108 ورقة بحثية
تقدم هذه الورقة AU-Harness، وهي مجموعة أدوات مفتوحة المصدر مصممة للتغلب على عدم الكفاءة والافتقار إلى المعايير في تقييمات النماذج اللغوية الصوتية الكبيرة (LALM) الحالية من خلال تقديم إطار عمل قابل للتوسع، أسرع بنسبة 151%، مع دعم قوي للحوار متعدد الأدوار للتقييم المنهجي والعادل للنماذج.
تتحدى هذه الورقة المفهوم القائل بأن "الضبط الدقيق الخاضع للإشراف (SFT) يحفظ، بينما التعلم المعزز (RL) يعمم" من خلال إثبات، عبر تحليلات نقطة التحقق والتحليل الطيفي، أن الضبط الدقيق الخاضع للإشراف غالبًا ما يسبب نسيانًا للبيانات خارج التوزيع، وهو ما يتم استعادته لاحقًا بواسطة التعلم المعزز، وهي عملية استعادة مرتبطة بدوران المتجهات المنفردة وليس بتغيرات في القيم المنفردة.
تقدم هذه الورقة البحثية "انتباه الطور المدرك للرموز" (TAPA)، وهو أسلوب جديد للترميز الموضعي يتغلب على قيود نمذجة المدى الطويل المتأصلة في (RoPE) من خلال دمج دالة طور قابلة للتعلم، مما يحقق تفوقاً في الأداء من حيث الحيرة (perplexity) والاسترجاع في سيناريوهات السياق الطويل مع حد أدنى من التدريب الإضافي.
تقدم GreenLightningAI (GLAI) كتلة معمارية مبتكرة تفصل بين المعرفة الهيكلية والكمية من خلال تثبيت أنماط التنشيط المستقرة لتحسين الأوزان العددية فقط، مما يؤدي إلى تسريع التدريب بنسبة 40% تقريبًا مع الحفاظ على الدقة أو تحسينها مقارنة بالشبكات العصبية متعددة الطبقات (MLPs) التقليدية.
تقدم هذه الورقة البحثية "LaTeXpOsEd"، وهي عملية تدقيق أمني منهجي واسعة النطاق لأكثر من 100,000 من مساهمات arXiv التي تكشف عن تسريب واسع النطاق للمعلومات في ملفات المصدر والتعليقات، بما في ذلك بيانات الاعتماد الحساسة، ومعلومات الهوية الشخصية، والمراسلات السرية، وذلك عبر الاستفادة من إطار عمل مبتكر يدمج بين مطابقة الأنماط والنماذج اللغوية الكبيرة.
تقدم هذه الورقة إطار عمل للانتشار ذاتي الانحدار معزز بالتحكم، يستفيد من متحكم مُدرب مسبقاً (offline) لحقن تصحيحات خطوة بخطوة أثناء عملية إزالة الضجيج، مما يحسن بشكل كبير سرعة واستقرار ودقة استيعاب البيانات للمعادلات التفاضلية الجزئية ذات الطابع الزماني المكاني الفوضوي مقارنة بالنماذج المرجعية القائمة على الانتشار الحالية.
تقترح هذه الورقة طريقة للاستفادة من بيانات التفضيل الزوجي التي يولدها المستخدمون من أوضاع مقارنة النماذج اللغوية الكبيرة عبر إدخال خوارزمية توقع-تعظيم (expectation-maximization) تستنتج عوامل جودة المستخدم الكامنة من خلال استجابات النماذج غير المتماثلة، مما يتيح تصفية فعالة للبيانات وتحسين محاذاة النماذج اللغوية الكبيرة.
يُعد GenCellAgent إطار عمل متعدد الوكلاء لا يتطلب تدريباً، حيث يستفيد من النماذج اللغوية الكبيرة لتنسيق أدوات متخصصة ونماذج لغوية بصرية ديناميكياً، محققاً بذلك تقسيماً لصور الخلايا يتسم بالقدرة على التكيف والوصول إلى أحدث المستويات التقنية عبر مختلف الأنماط والعضيات المستحدثة دون الحاجة إلى إعادة التدريب.
تقدم هذه الورقة البحثية LILO، وهو إطار عمل للتحسين البايزي يستفيد من النماذج اللغوية الكبيرة لتحويل التغذية الراجعة باللغة الطبيعية الحرة إلى إشارات تفضيل مهيكلة، مما يعزز كفاءة العينات والمرونة في تحسين الأهداف المعقدة والذاتية مقارنة بالطرق التقليدية.
تقدم الورقة البحثية ActivationReasoning، وهو إطار عمل يدمج الاستدلال المنطقي الصريح في مساحات التنشيط الكامنة للنماذج اللغوية الكبيرة عبر رسم خرائط لميزات المشفّر التلقائي المتناثر إلى قضايا منطقية، مما يتيح استدلالاً شفافاً وقابلاً للتحكم ومتيناً متعدد الخطوات عبر مهام وبنى نماذج متنوعة.