27276 ورقة بحثية
تقدم الورقة البحثية Scam2Prompt، وهو إطار عمل قابل للتوسع يكشف عن ثغرة أمنية حرجة ومتفاقمة في النماذج اللغوية الكبيرة المستخدمة في الإنتاج، حيث تنجح المطالبات المؤتمتة المستمدة من مواقع الاحتيال الخبيثة في تحفيز توليد كود ضار في ما يصل إلى 47.3% من الحالات عبر نماذج متعددة، مما يجعل تدابير السلامة الحالية مثل الحواجز الوقائية وتوليد المحتوى المدعوم بالاسترجاع (RAG) غير كافية.
تقدم هذه الورقة البحثية "Top-H decoding"، وهي خوارزمية أخذ عينات مبتكرة تعتمد على إطار عمل لتعظيم الكتلة المقيد بالإنتروبيا، توازن بفعالية بين الإبداع والتماسك في النماذج اللغوية الكبيرة، متفوقةً بذلك على الأساليب الرائدة مثل "min-p sampling" في اختبارات الكتابة الإبداعية مع الحفاظ على المتانة في المهام الواقعية.
تقدم هذه الورقة AU-Harness، وهي مجموعة أدوات مفتوحة المصدر مصممة للتغلب على عدم الكفاءة والافتقار إلى المعايير في تقييمات النماذج اللغوية الصوتية الكبيرة (LALM) الحالية من خلال تقديم إطار عمل قابل للتوسع، أسرع بنسبة 151%، مع دعم قوي للحوار متعدد الأدوار للتقييم المنهجي والعادل للنماذج.
تتحدى هذه الورقة المفهوم القائل بأن "الضبط الدقيق الخاضع للإشراف (SFT) يحفظ، بينما التعلم المعزز (RL) يعمم" من خلال إثبات، عبر تحليلات نقطة التحقق والتحليل الطيفي، أن الضبط الدقيق الخاضع للإشراف غالبًا ما يسبب نسيانًا للبيانات خارج التوزيع، وهو ما يتم استعادته لاحقًا بواسطة التعلم المعزز، وهي عملية استعادة مرتبطة بدوران المتجهات المنفردة وليس بتغيرات في القيم المنفردة.
تقدم هذه الورقة البحثية "انتباه الطور المدرك للرموز" (TAPA)، وهو أسلوب جديد للترميز الموضعي يتغلب على قيود نمذجة المدى الطويل المتأصلة في (RoPE) من خلال دمج دالة طور قابلة للتعلم، مما يحقق تفوقاً في الأداء من حيث الحيرة (perplexity) والاسترجاع في سيناريوهات السياق الطويل مع حد أدنى من التدريب الإضافي.
تقدم GreenLightningAI (GLAI) كتلة معمارية مبتكرة تفصل بين المعرفة الهيكلية والكمية من خلال تثبيت أنماط التنشيط المستقرة لتحسين الأوزان العددية فقط، مما يؤدي إلى تسريع التدريب بنسبة 40% تقريبًا مع الحفاظ على الدقة أو تحسينها مقارنة بالشبكات العصبية متعددة الطبقات (MLPs) التقليدية.
تقدم هذه الورقة البحثية "LaTeXpOsEd"، وهي عملية تدقيق أمني منهجي واسعة النطاق لأكثر من 100,000 من مساهمات arXiv التي تكشف عن تسريب واسع النطاق للمعلومات في ملفات المصدر والتعليقات، بما في ذلك بيانات الاعتماد الحساسة، ومعلومات الهوية الشخصية، والمراسلات السرية، وذلك عبر الاستفادة من إطار عمل مبتكر يدمج بين مطابقة الأنماط والنماذج اللغوية الكبيرة.
تقدم هذه الورقة إطار عمل للانتشار ذاتي الانحدار معزز بالتحكم، يستفيد من متحكم مُدرب مسبقاً (offline) لحقن تصحيحات خطوة بخطوة أثناء عملية إزالة الضجيج، مما يحسن بشكل كبير سرعة واستقرار ودقة استيعاب البيانات للمعادلات التفاضلية الجزئية ذات الطابع الزماني المكاني الفوضوي مقارنة بالنماذج المرجعية القائمة على الانتشار الحالية.
تقترح هذه الورقة طريقة للاستفادة من بيانات التفضيل الزوجي التي يولدها المستخدمون من أوضاع مقارنة النماذج اللغوية الكبيرة عبر إدخال خوارزمية توقع-تعظيم (expectation-maximization) تستنتج عوامل جودة المستخدم الكامنة من خلال استجابات النماذج غير المتماثلة، مما يتيح تصفية فعالة للبيانات وتحسين محاذاة النماذج اللغوية الكبيرة.
يُعد GenCellAgent إطار عمل متعدد الوكلاء لا يتطلب تدريباً، حيث يستفيد من النماذج اللغوية الكبيرة لتنسيق أدوات متخصصة ونماذج لغوية بصرية ديناميكياً، محققاً بذلك تقسيماً لصور الخلايا يتسم بالقدرة على التكيف والوصول إلى أحدث المستويات التقنية عبر مختلف الأنماط والعضيات المستحدثة دون الحاجة إلى إعادة التدريب.