12380 ورقة بحثية
تقيم هذه الدراسة قدرة النماذج اللغوية الكبيرة على تبسيط أوصاف الثغرات والتعرضات الشائعة (CVE) تلقائيًا، وتجد أنه في حين يمكنها تحسين سهولة القراءة، إلا أنها تواجه صعوبة حاليًا في الحفاظ على المعنى التقني الأصلي.
تُعد DeepSight مجموعة أدوات جديدة ومفتوحة المصدر توحد تقييم السلامة والتشخيص للنماذج اللغوية الكبيرة، منتقلةً من التقييم السلوكي للنماذج كصندوق أسود إلى تحليل الأسباب الجذرية الداخلية كصندوق أبيض لمعالجة أوجه القصور في سير عمل السلامة المجزأ حالياً.
تقدم هذه الورقة البحثية Meta-Sel، وهو نهج تعلم ميتا خاضع للإشراف وخفيف الوزن، يقوم باختيار أمثلة التعلم داخل السياق بكفاءة باستخدام نموذج انحدار لوجستي قابل للتفسير يتم تدريبه على سمات بسيطة، محققاً أداءً رفيع المستوى عبر نماذج وبيانات متنوعة دون الحاجة إلى ضبط دقيق أو استدعاءات إضافية للنماذج اللغوية الكبيرة.
تقترح هذه الورقة طريقة مبتكرة لضغط البيانات بدون فقدان، تستخدم التعلم التعزيزي خارج السياسة (off-policy Reinforcement Learning) على بنية T5 لترميز البيانات إلى تسلسلات رمزية منفصلة، مما يحافظ على السلامة الهيكلية ويحقق نسب ضغط فائقة مقارنة بالنهج التقليدية للتعلم العميق القائمة على المتجهات.
تقدم هذه الورقة dVoting، وهي تقنية لا تتطلب تدريباً تستفيد من قدرات التوليد المتوازي لنماذج اللغات الكبيرة الانتشارية (dLLMs) لتنقيح المخرات بشكل تكراري من خلال التصويت القائم على الاتساق، مما يعزز أداء الاستدلال بشكل كبير عبر العديد من المعايير مع حد أدنى من العبء الحسابي.
تقدم هذه الورقة البحثية معيار الاستدلال البصري (VRB)، وهو مجموعة بيانات تضم 701 مسألة بصرية حقيقية من المرحلة الابتدائية من زامبيا والهند، لتقييم نماذج اللغات الكبيرة متعددة الوسائط والكشف عن قصورها الكبير في مهام الاستدلال المكاني الديناميكي رغم براعتها في المهارات الثابتة، مما يسلط الضرضوء على مخاطر حرجة للنشر في الفصول الدراسية.
تقدم هذه الورقة ExStrucTiny، وهي مجموعة بيانات مرجعية مبتكرة توحد استخراج الكيانات الرئيسية، واستخراج العلاقات، والإجابة على الأسئلة البصرية لتقييم وتحسين قدرة نماذج اللغة الرؤية على أداء استخراج المعلومات الهيكلية الشاملة والدقيقة عبر أنواع متنوعة من مستندات المؤسسات والمخططات المرنة.
يُعد Olmix إطار عمل لخلط بيانات النماذج اللغوية، حيث يحدد تجريبياً خيارات التصميم المثلى ويقدم آلية "إعادة استخدام الخليط" للتكيف بكفاءة مع مجموعات المجالات المتطورة، محققاً أداءً يضاهي إعادة الحساب الكامل مع تقليل التكلفة الحسابية بشكل كبير.
تكشف هذه الورقة أنه في حين تُظهر النماذج اللغوية الكبيرة كفاءة في الاستدلال الاحتمالي الصريح عبر أسئلة الاختيار من متعدد، فإن استدلالها الاحتمالي الضمني أثناء توليد النصوص غالباً ما يبتعد بشكل كبير عن الحقيقة المطلقة بسبب قابليتها للتأثر بعوامل سياقية متنوعة، مما يسلط الض الضوء على قصور حاسم في طرق التقييم التقليدية.
تكشف هذه الورقة أن فك التشفير التخميني في النماذج اللغوية الكبيرة يخلق ثغرة أمنية جديدة من نوع القنوات الجانبية، حيث يمكن للمهاجمين استنتاج استعلامات المستخدم وتسريب البيانات السرية من خلال مراقبة أعداد الرموز أو أحجام الحزم، بينما تقترح أيضاً وتقيم تدابير مضادة فعالة مثل حشو الحزم وتجميع الرموز.