11611 ورقة بحثية
تقترح الورقة البحثية GATHER، وهي طريقة استرجاع ترتكز على التقارب تحدد نقاط التقارب الطوبولوجي في رسم بياني معرفي بيولوجي لتمكين توصيف أنواع الخلايا أحادية الخلية بنمط "الصفر محاولة" (zero-shot) لاستعلامات الكيانات الفائقة بكفاءة دون استدلال تكراري من النماذج اللغوية الكبيرة، متفوقة بشكل كبير على النماذج المرجعية الحالية في الدقة مع تقليل التكاليف الحسابية بشكل جذري.
مستلهماً من النظريات المعرفية للاشتعال العالمي، يقدم هذا البحث "بصمة تنشيط مشهد العقل" (MiA-Signature)، وهي تمثيل مضغوط يعتمد على التحت-نمطية (submodular) وفعال حاسوبياً لأنماط التنشيط العالمي، مما يعزز فهم السياق الطويل في النماذج اللغوية الكبيرة (LLMs)، وأنظمة استرجاع المعلومات المعزز (RAG)، والأنظمة الوكيلية (agentic systems).
تقدم هذه الورقة مساراً معالجياً قابلاً للتوسع والنمذجة يجمع بين التصفية القائمة على القواعد وتصنيف النماذج اللغوية الكبيرة لمعالجة 527 مليون منشور من منصة "ريديت"، حيث نجح في تقليص 124.6 مليون رمز فريد إلى 1,021 مرشحاً للمصطلحات الجديدة، والتي تأكد أن 58.7% منها هي ابتكارات لغوية حقيقية من خلال التحقق اليدوي.
تقدم هذه الورقة Litespark-Inference، وهو إطار عمل قابل للتثبيت عبر pip يستفيد من نوى SIMD مخصصة لتسريع استنتاج الشبكات العصبية الثلاثية (ternary) على المعالجات المركزية الاستهلاكية عن طريق استبدال ضرب المصفوفات بالجمع والطرح الصحيح، محققاً تسريعات كبيرة وخفضاً في الذاكرة مقارنة بتطبيقات PyTorch القياسية.
تقدم هذه الورقة البحثية "Cubit"، وهي بنية جديدة للتعلم العميق تستبدل آلية الانتباه في نموذج "Transformer" بانحدار ريج المعتمد على النواة (Kernel Ridge Regression) لتوفير أساس رياضي أقوى وإثبات قدرات محسنة في نمذجة المتواليات الطويلة.
تُثبت هذه الورقة أن التكرار المعجمي، وليس المفاجأة الناتجة عن النموذج اللغوي، هو المتنبئ الرئيسي بجدة الاستعارة، مما يشير إلى أن الارتباطات المُبلغ عنها سابقاً بين المفاجأة ومعالجة الاستعارة قد تكون مربكة بفعل تأثيرات التكرار.
تقدم هذه الورقة STALE، وهو معيار وإطار تقييم مصمم لتقييم قدرة وكلاء النماذج اللغوية الكبيرة على اكتشاف وحل "التناقضات الضمنية" حيث تُبطل الأدلة الجديدة الذكريات السابقة دون نفي صريح، مما يكشف عن فجوات كبيرة في الوعي بالحالة لدى النماذج الحالية ويقترح CUPMem كنموذج أولي لتحسين مراجعة الذاكرة القوية.
تقدم هذه الورقة طريقة "تدريب التراكب الرمزي" (Token-Superposition Training - TST)، وهي طريقة جاهزة للاستخدام تعمل على تحسين إنتاجية بيانات ما قبل التدريب بشكل كبير وتقليل إجمالي وقت التدريب بما يصل إلى 2.5 ضعف دون تعديل بنية النموذج أو التوازي، وذلك من خلال دمج الرموز أولاً في حقائب لتدريب "التقاطع الإنتروبي متعدد السخاء" بكفاءة قبل العودة إلى التدريب القياسي.
تقدم هذه الورقة "Lighthouse Attention"، وهي خوارزمية اختيار هرمي تعتمد على التدريب فقط وخالية من التدرج، تغلف آلية الانتباه القياسية بنظام الضرب النقطي المقيّس لتمكين التدريب المسبق عالي الكفاءة وغير التربيعي لنماذج المحولات السببية عند أطوال تسلسل قصوى، والتي يمكن إزالتها بسلاسة عبر مرحلة استرداد قصيرة لإنتاج نموذج انتباه كامل يتميز بتدريب أسرع وفقدان نهائي أقل.
تقترح الورقة البحثية UniSD، وهو إطار عمل موحد للتقطير الذاتي يدمج بشكل منهجي آليات متكاملة لمعالجة موثوقية الإشراف واستقرار التدريب في النماذج اللغوية الكبيرة، محققاً أداءً فائقاً عبر معايير قياس متنوعة دون الاعتماد على معلمين خارجيين أقوى.