23609 ورقة بحثية
تقدم هذه الورقة البحثية "VectorSmuggle"، وهو هجوم إخفاء معلومات يقوم بتسريب البيانات عبر إحداث اضطرابات طفيفة في التضمينات المتجهة (vector embeddings) للتهرب من الكشف مع الحفاظ على فائدة الاسترجاع، وتقترح "VectorPin"، وهو بروتوكول مصدر تشفيري يستخدم تواقيع Ed25519 للكشف عن مثل هذا التلاعب وتأمين سلامة التضمين.
تتقصى هذه الورقة البحثية عملية ضرب المصفوفات المكممة بمعدل مرتفع من أجل تكميم ما بعد التدريب للأوزان فقط في النماذج اللغوية الكبيرة، وذلك عبر إثبات كيف يحسن توزيع "ملء الخزان" (waterfilling) المدرك للتباين من التخصيص متساوي المعدل، وتحليل الأداء الخالي من الأساس والقريب من الأمثل لمخطط WaterSIC، وإظهار أن خوارزمية GPTQ مع التدوير العشوائي تحقق نتائج مماثلة قريبة من المثالية.
في نظام تدريب مسبق ضئيل النطاق يقل عن ٢٥ مليون معلمة، تتفوق نماذج خليط الخبراء على النماذج الكثيفة الأساسية عند مطابقتها في عدد المعلمات النشطة، لكنها تفشل في تجاوزها عند مطابقتها في سعة إجمالي عدد المعلمات.
تُعد MinT نظام بنية تحتية مُدارة تُمكّن من التدريب والتشغيل الفعال لملايين سياسات النماذج اللغوية الكبيرة القائمة على تقنية LoRA، وذلك عبر إبقاء نموذج أساسي ضخم واحد مقيماً في الذاكرة مع إدارة مراجعات المحولات خفيفة الوزن ديناميكياً، مما يحقق تحسينات كبيرة في قابلية التوسع، وكفاءة الذاكرة، وسرعة النشر عبر البنى الكثيفة وبنى الخبراء (MoE).
تقدم هذه الورقة Ensembits، وهو أول مُجزئ (tokenizer) صُمم لتمثيل المجموعات التشكيلية للبروتينات، والذي يتفوق على المُجزئات الحالية للهياكل الساكنة في التنبؤ بحركة البقايا والخصائص الوظيفية، مع تمكين نمذجة لغة البروتين المدركة للديناميكيات من خلال هدف تقطير إطاري مبتكر.
تقدم الورقة البحثية Di-BiLPS، وهو إطار عصبي موحد يستفيد من المشفرات التلقائية التباينية، والانتشار الكامن، والتعلم التبايني لحل مشكلات المعادلات التفاضلية الجزئية الأمامية والعكسية بدقة وكفاءة تضاهي أحدث التقنيات في ظل ملاحظات نادرة للغاية (تصل إلى 3% فقط) مع تمكين الدقة الفائقة من نوع "الصفر" (zero-shot super-resolution).
تتناول هذه الورقة أزمة قابلية التكرار في تقييم الذكاء الاصطناٍ التوليدي من خلال تقديم نهج تمهيد (bootstrapping) متعدد المستويات يستفيد من مجموعات بيانات واسعة النطاق ذات معرفات مقيمين ثابتة لنمذجة تباين المقيّمين وتحديد التوازن الأمثل بين عدد العناصر وعدد الاستجابات لكل عنصر المطلوب لتحقيق الدلالة الإحصائية.
تقدم هذه الورقة طريقة تكميم مُرتعشة باستخدام تحويل هادامارد عشوائي واحد يحقق حدود خطأ متوسط مربعات غير منحازة وقابلة للإثبات، تطابق تقاربيًا تلك الخاصة بالدورات العشوائية الكثيفة مع الحفاظ على تكلفة حوسبة فعالة تبلغ .
تقدم الورقة البحثية AEvo، وهو إطار عمل للتحرير الميتافيزيقي (meta-editing) يعامل التطور الوكيل (agentic evolution) كبيئة تفاعلية حيث يقوم وكيل ميتا بتحرير إجراء التطور نفسه بناءً على السياق المتراكم، مما يوحد النهج الصارمة والمرنة لتحقيق أداء رائد في مهام البحث والتحسين طويلة الأمد.
تقدم هذه الورقة مفهوم "تذبذب التنبؤ عبر العينات" (cross-sample prediction churn) لتسليط الضوء على عدم استقرار نماذج تعلم الآلة العلمية عبر سحبات بيانات التدريب المختلفة، وتُبين أن الأساليب المعتمدة على جانب البيانات مثل "تجميع K-bootstrap" (K-bootstrap bagging) والنهج المقترح "التجميع التوأم" (twin-bootstrap approach) تقلل بشكل كبير من هذا التذبذب دون التضحية بدقة التنبؤ، على عكس التقنيات القياسية المعتمدة على جانب المعلمات.