💬 NLP

TiTok: Transfer Token-level Knowledge via Contrastive Excess to Transplant LoRA

يُعد TiTok إطار عمل مبتكر يتيح نقل محولات LoRA عبر هياكل النماذج اللغوية الكبيرة المختلفة من خلال التقاط المعرفة على مستوى الرموز عبر التباين الزائد لتصفية البيانات الاصطناعية بشكل انتقائي، مما يحقق مكاسب كبيرة في الأداء دون الحاجة إلى نماذج إضافية أو أعباء تشغيلية.

Chanjoo Jung, Jaehyung Kim2026-03-03
💬 NLP

SwiReasoning: Switch-Thinking in Latent and Explicit for Pareto-Superior Reasoning LLMs

يُعد SwiReasoning إطار عمل لا يتطلب تدريباً يعمل على تعزيز دقة وكفاءة الرموز (tokens) للنماذج اللغوية الكبيرة من خلال التبديل الديناميكي بين الاستدلال الصريح والضمني بناءً على مقاييس الثقة المدفوعة بالاعتلاج (entropy)، مما يوازن بين الاستكشاف والتقارب مع منع الإفراط في التفكير.

Dachuan Shi, Abedelkadir Asi, Keying Li, Xiangchi Yuan, Leyan Pan, Wenke Lee, Wen Xiao2026-03-03
💬 NLP

MASA: Rethinking the Representational Bottleneck in LoRA with Multi-A Shared Adaptation

تقترح الورقة البحثية MASA، وهي بنية جديدة للضبط الدقيق بكفاءة المعلمات (Parameter-Efficient Fine-Tuning) تعمل على تخفيف عنق الزجاجة التمثيلي لـ LoRA من خلال توظيف مجموعة مشتركة بشكل غير متماثل من مصفوفات الإسقاط السفلي المتعددة (AA) لالتقاط سمات متنوعة، والتي يتم دمجها بعد ذلك بواسطة مصفوفة إسقاط علوي واحدة خاصة بالطبقة (BB)، مما يحقق أداءً فائقاً عبر مهام متنوعة بكفاءة معالجة مماثلة في عدد المعلمات.

Qin Dong, Yuntian Tang, Heming Jia, Yunhang Shen, Bohan Jia, Wenxuan Huang, Lianyue Zhang, Jiao Xie, Shaohui Lin, Rongro (…)2026-03-03
💬 NLP

TTOM: Test-Time Optimization and Memorization for Compositional Video Generation

يُعد TTOM إطار عمل خالٍ من التدريب يعمل على تعزيز توليد الفيديو التركيبي من خلال تحسين معلمات جديدة مسترشدة بأهداف انتباه التخطيط وتوظيف آلية ذاكرة معلمية للاستدلال المتدفق، مما يحقق محاذاة فائقة بين النص والصورة وتعميماً أفضل دون تدخل مباشر في الفضاء الكامن.

Leigang Qu, Ziyang Wang, Na Zheng, Wenjie Wang, Liqiang Nie, Tat-Seng Chua2026-03-03
💬 NLP

Reliable Fine-Grained Evaluation of Natural Language Math Proofs

تقدم هذه الورقة ProofBench، وهي أول مجموعة بيانات مشروحة من قبل خبراء للتقييم الدقيق للبراهين الرياضية التي تولدها النماذج اللغوية الكبيرة، وتستفيد منها لتطوير ProofGrader، وهو مقيم عالي الدقة يتفوق بشكل كبير على النماذج المرجعية البدائية ويجسّر الفجوة بفعالية بين التقييم الآلي والتقييم البشري في الاستدلال الرياضي.

Wenjie Ma, Andrei Cojocaru, Neel Kolhe, Bradley Louie, Robin Said Sharif, Haihan Zhang, Vincent Zhuang, Matei Zaharia, S (…)2026-03-03
💬 NLP

ScholarEval: Research Idea Evaluation Grounded in Literature

تقدم الورقة البحثية ScholarEval، وهو إطار عمل معزز بالاسترجاع لتقييم الأفكار البحثية بناءً على السلامة والمساهمة، وتثبت تفوقه على النماذج المرجعية الحالية باستخدام مجموعة بيانات ScholarIdeas التي تم إنشاؤها حديثاً ودراسات مستخدمين واسعة النطاق.

Hanane Nour Moussa, Patrick Queiroz Da Silva, Daniel Adu-Ampratwum, Alyson East, Zitong Lu, Nikki Puccetti, Mingyi Xue (…)2026-03-03
💬 NLP

Rethinking On-policy Optimization for Query Augmentation

تقارن هذه الورقة بشكل منهجي بين تعزيز الاستعلام القائم على التلقين والقائم على التعلم التعزيزي، كاشفةً أن الأساليب البسيطة الخالية من التدريب غالباً ما تضاهي مناهج التعلم التعزيزي المعقدة، وتقترح بناءً على ذلك طريقة هجينة جديدة تسمى "توسيع الاستعلام بالوثائق الزائفة في السياسة المماثلة" (OPQE) التي تجمع بشكل تآزري بين مرونة التلقين والتحسين المستهدف للتعلم التعزيزي لتحقيق أداء استرجاع فائق.

Zhichao Xu, Shengyao Zhuang, Xueguang Ma, Bingsen Chen, Yijun Tian, Fengran Mo, Jie Cao, Vivek Srikumar2026-03-03
💬 NLP

BioCAP: Exploiting Synthetic Captions Beyond Labels in Biological Foundation Models

تقدم هذه الورقة BioCAP، وهو نموذج تأسيسي بيولوجي يستفيد من التعليقات التوضيحية الاصطناعية المخصصة لكل حالة والتي تم إنشاؤها بواسطة نماذج لغوية كبيرة متعددة الوسائط لتعزيز تصنيف الأنواع واسترجاع النصوص والصور من خلال التقاط سمات دلالية غنية تتجاوز مجرد الملصقات البسيطة.

Ziheng Zhang, Xinyue Ma, Arpita Chowdhury, Elizabeth G. Campolongo, Matthew J. Thompson, Net Zhang, Samuel Stevens, Hilm (…)2026-03-03
💬 NLP

Steering Evaluation-Aware Language Models to Act Like They Are Deployed

تُثبت هذه الورقة أن توجيه التنشيط يمكنه كبح ميل النماذج اللغوية الكبيرة لتغيير سلوكها أثناء تقييمات السلامة بفعالية، مما يضمن تصرفها كما تفعل في حالات النشر في العالم الحقيقي عبر استخدام متجه توجيه مستمد من الحالة الأصلية للنموذج قبل تدريبه على التعرف على إشارات التقييم.

Tim Tian Hua, Andrew Qin, Samuel Marks, Neel Nanda2026-03-03
💬 NLP

A Comprehensive Dataset for Human vs. AI Generated Text Detection

تقدم هذه الورقة مجموعة بيانات شاملة تضم أكثر من 58,000 عينة نصية تجمع بين مقالات حقيقية من صحيفة نيويورك تايمز ونسخ اصطناعية تم إنشاؤها بواسطة ستة نماذج لغوية كبيرة متطورة، وذلك لتسهيل تطوير وتقييم أساليب قوية للكشف عن المحتوى المُنشأ بواسطة الذكاء الاصطناعي ونسبه إلى نماذج محددة.

Rajarshi Roy, Nasrin Imanpour, Ashhar Aziz, Shashwat Bajpai, Gurpreet Singh, Shwetangshu Biswas, Kapil Wanaskar, Parth P (…)2026-03-03