11158 ورقة بحثية
تُثبت هذه الورقة أن الحذف الدقيق من ذاكرة النموذج اللغوي يتحدد بشكل أساسي من خلال التمثيل الذاكري، حيث يمكن إزالة السجلات القابلة للعنونة عبر الطرح الجبري، بينما تتطلب الكتابات المتشابكة إعادة بناء قائمة على إعادة التشغيل لتحقيق استعادة الحالة بتطابق تام لكل بت.
تُظهر هذه الدراسة أنه في حين تُبدي أفكار المنتجات المُولدة بواسطة الذكاء الاصطناعي مستويات أقل من الجدة والتنوع مقارنة بالأفكار المولدة بشرياً، إلا أنها تتفوق بشكل كبير على الأفكار البشرية في متوسط نية الشراء، وتكون أكثر عرضة بسبع مرات لتصنيف ضمن أفضل 10% من المفاهيم عالية الجودة.
تقترح هذه الورقة إطار عمل لوكيل ذاتي التطور وغير خاضع للإشراف، يقوم بتدريب مكتبة خارجية من المهارات النصية عبر عملية انتشار دلالي ذاتية الإشراف، مما يمكّن النماذج اللغوية الكبيرة من إتقان مجالات معقدة ومتخصصة بشكل مستقل مثل كتابة السيناريو دون الحاجة إلى الوصول إلى الأوزان أو إشراف بشري خارجي.
يُعد Prox إطار عمل لا يتطلب إعادة تدريب، يُمكّن من تنفيذ طبقات التغذية الأمامية (FFN) من نوع SwiGLU المتفرقة بكفاءة في النماذج اللغوية الكبيرة عبر بناء أقنعة للقنوات من خلال تقريب أهمية القنوات الوسيطة، مما يحقق تسريعاً كبيراً وجودة نموذج فائقة مقارنة بالطرق الحالية دون الحاجة إلى إعادة التدريب.
تقترح الورقة البحثية DualAnchor، وهو إطار عمل لترجمة لغة الإشارة بدون رموز (gloss-free) يجمع بين "الترسيخ المسبق على مستوى الرمز" (Token-level Prior Anchoring) للحفاظ على سلاسة اللغة و"محاذاة النقل الأمثل" (Optimal Transport Alignment) لتعزيز الدقة المعجمية، مما يعالج المشكلات الشائعة المتمثلة في تدهور الأولوية اللغوية والفجوات المعجمية في الأساليب الحالية القائمة على النماذج اللغوية الكبيرة (LLM).
تُعد ReDiPPO إطار عمل جديدًا لـ PPO مخصصًا للاستدلال الرياضي، حيث يعمل على تعزيز تخصيص الائتمان على مستوى الرمز (token) من خلال الاستفيد من تقدير القيمة الموجه بالمرجع وإعادة وزن المزايا بناءً على التفاوت بين تقديرات القيمة الموجهة بالمرجع والتقديرات القياسية لمعالجة تحديات المكافآت المتفرقة والتقييمات الضوضائية.
يعالج Harness-G انهيار التكافؤ الاسترجاعي في وكلاء البحث القائمين على التعلم التعزيزي من خلال تقديم واجهة ذات بنية رسومية تعيد صياغة توليد الاستعلامات حرة التشكيل إلى اختيار أفعال محددة، مقترنة بآلية ائتمان هيكلية غير قصيرة النظر تتفوق بشكل كبير على النماذج المرجعية الحالية عبر العديد من اختبارات قياس الأسئلة والأجوبة.
تقدم الورقة البحثية ICLE++، وهو متن جديد من مقالات الطلاب الإقناعية المشروحة بكل من الدرجات الشمولية والدرجات الخاصة بالسمات، والمصمم لمعالجة قيود التعميم للنماذج الحالية المدربة على مجموعة بيانات ASAP ولتسهيل الأبحاث في التصحيح الآلي للمقالات متعدد السمات وعبر مختلف المواضيع.
تضع هذه الورقة حدودًا إحصائية محكمة لتقنية التكيف منخفض الرتبة (LoLoRA) عبر إثبات معدلات عليا وسفلى متطابقة تبلغ ، مما يوضح أنه في حين يعاني تقليل المخاطر التجريبية غير المنظم من مشكلة الإفراط في الرتبة، تظل المقدرات التكيفية قوية، وبالتالي توضح المقايضات الجوهرية في اختيار الرتبة لضبط النماذج الضخمة.
تقدم الورقة البحثية "بايكال" (Baikal)، وهو إطار عمل يعالج أوجه القصور في الاسترجاع التكراري أثناء البحث العميق في بحيرات البيانات من خلال صياغة المهمة كمسألة بحث بميزانية محددة، حيث يتم تجميع الأدلة في مناطق دلالية واستكشافها بشكل تكيفي لتحقيق التوازن بين الاستكشاف والاستغلال، مما يؤدي إلى تقارير ذات جودة أعلى بكثير مقارنة بالنماذج المرجعية الحالية.