12021 ورقة بحثية
تقدم هذه الورقة البحثية عينة لفك التشفير تعتمد على التعلم التعزيزي، والتي تتعلم سياسة خفيفة الوزن في وقت الاختبار لضبط معلمات أخذ العينات للنماذج اللغوية الكبيرة ديناميكيًا، مما يتفوق بشكل كبير على استراتيجيات فك التشفير الثابتة عبر مهام التلخيص دون الحاجة إلى إعادة تدريب النموذج.
تكشف هذه الورقة أن استراتيجيات فك التشفير القياسية القائمة على الاحتمالية تخلق "نقطة عمياء ناتجة عن البتر" من خلال الاستبعاد المنهجي لخيارات الرموز البشرية النادرة إحصائياً ولكنها ملائمة سياقياً، وهو عدم تطابق يجعل النص المُنشأ آلياً سهل الكشف بغض النظر عن حجم النموذج، ويسلط الضوء على المقايضة الجوهرية بين التهرب من الكشف والحفاظ على تماسك النص.
تُعد EntropyCache طريقة لتخزين مفاتيح وقيم (KV) لا تتطلب تدريباً لنماذج اللغات الكبيرة القائمة على الانتشار، حيث تستفيد من اعتلاج الرموز (token entropy) الذي تم فك تشفيره كإشارة ذات تكلفة ثابتة لتقرير متى يتم إعادة حساب الحالات المخزنة ديناميكياً، مما يحقق تسريعاً كبيراً في عملية الاستنتاج مع حد أدنى من العبء الإضافي مع الحفاظ على دقة تنافسية.
تقدم هذه الورقة إطار عمل ICE-Guard، الذي يكشف أن النماذج اللغوية الكبيرة تُظهر تحيزات كبيرة ومحددة ضمن نطاقات معينة تجاه السلطة والصياغة — والتي غالباً ما تتجاوز التحيز الديموغرافي — ويثبت أن التفكيك الهيكلي المقترن بحلقة تكرارية من (الكشف-التشخيص-التخفيف-التحقق) يمكن أن يقلل بشكل كبير من هذه التناقضات في اتخاذ القرارات عالية المخاطر.
تقدم هذه الورقة البحثية إطار عمل ICE، وهو إطار عمل قائم على أسس إحصائية يقيم مدى أمانة تفسيرات النماذج اللغوية الكبيرة (LLM) من خلال اختبارات العشوائية مقابل خطوط أساس متطابقة، كاشفةً أن الأمانة تعتمد بشكل كبير على المشغل، وغالباً ما تكون غير مترابطة مع المعقولية البشرية، وتظهر تباينات لغوية كبيرة.
تقترح هذه الورقة إطار عمل يمثل النماذج اللغوية كمتجهات احتمالية لوغاريتمية أو متجهات معلومات متبادلة نقطية (PMI) عبر أزواج (المطالبة-الاستجابة) لإنشاء خرائط تقترب مسافاتها من تباعد كولباك - ليبلر (KL divergence)، مما يتيح تحليل هياكل النماذج العالمية، وعلاقات أداء المهام، والآثار التراكمية لتعديلات المطالبات.
تقترح هذه الورقة إطار عمل متعدد الوسائط مصمماً ليكون قابلاً للتفسير، يستفيد من نقل المبررات عبر الوسائط لاستخراج مبررات نصية وصورية لتصنيف الأزمات الإنسانية بشكل قابل للتفسير، محققاً تحسينات كبيرة في الأداء على معيار CrisisMMD مع تقليل جهد التوسيم.
تقدم الورقة البحثية إطار "التعلم للتطور الذاتي" (LSE)، وهو إطار عمل للتعلم التعزيزي يدرب النماذج اللغوية الكبيرة على تحسين سياقاتها ذاتياً بشكل تكراري أثناء وقت الاختبار، مما يمكّن نموذجاً بـ 4 مليارات معلمة من التفوق بشكل ملحوظ على النماذج الأكبر حجماً وطرق التحسين الحالية في مهام الاستدلال المعقدة.
تُثبت هذه الورقة أن المكونات المعقدة مثل تقليم (clipping) بأسلوب PPO في GRPO غير ضرورية لتحسين استنتاج النماذج اللغوية الكبيرة، وتقترح بديلاً أبسط وأكثر فعالية يسمى RGRA يعتمد على تقدير الميزة النسبية للمجموعة والتغذية الراجعة السلبية.
تُبين هذه الورقة أن تحسين المحاذاة عبر اللغات لا يضمن أداءً أفضل في مهام النقل اللاحقة لأن المحاذاة وأهداف المهام غالبًا ما تكون متعامدة، كما أن تشابه التضمينات وحده يعد مؤشرًا غير موثوق لزيادة الأداء في المهام، مما دفع المؤلفين إلى اقتراح إرشادات عملية لدمج المحاذاة مع الضبط الدقيق الخاص بالمهمة.