🤖 machine learning

Representation Collapse in Sequential Post-Training of Large Language Models

تتقصى هذه الورقة كيف تتسبب مراحل ما بعد التدريب المتتالية في جعل النماذج اللغوية الكبيرة تعاني من انهيار التمثيل إلى فضاءات منخفضة الرتبة وغير متماثلة المناحي، مما يوضح أن هذه الظاهرة تضعف القدرة المستقبلية على التكيف والتعميم، بينما تقترح تدخلات خفيفة الوزن للحفاظ على قابلية التعلم دون التضحية بالمكاسب السلوكية.

Yichen Liu, Mingyu Chen, Hao Wang, Xiaoran Xu, Chenxi Lin, Rui Zhang, Yutong Zhou, Yuxin Yang, Jiarui Wu, Wei Sun2026-06-01
🤖 machine learning

Measuring, Localizing, and Ablating Alignment Signatures in LLMs

تُثبت هذه الورقة أن مرحلة ما بعد التدريب تُدخل بصمات أسلوبية "شبيهة بالذكاء الاصطناعي" قابلة للقياس وموضعية في النماذج اللغوية، وتقدم منهجية PASTA، وهي طريقة لا تتطلب إعادة تدريب تنجح في استئصال اتجاهات التنشيط المحددة هذه لتقليل معدلات كشف الذكاء الاصطناعي مع الحفاظ على تماسك النص.

Aniket Anand, Janvijay Singh, Zhewei Sun, Dilek Hakkani-Tür, Nick Feamster2026-06-01
💬 NLP

Generalistic or Specific Embeddings, Which is Better? An Empirical Study on Search for Clinical Coding in Non-English Languages

تُظهر هذه الدراسة أن نظام استرجاع الترميز السريري ثنائي المراحل، والذي تم ضبطه بدقة باستخدام بيانات اصطناعية متعددة اللغات من إنتاج النماذج اللغوية الكبيرة، يتفوق على النماذج المرجعية المدربة مسبقاً باللغة الإنجليزية في اللغات غير الإنجليزية، مما يقدم وصفة قابلة للتوسع لبناء أنظمة استرجاع طبية متخصصة دون الحاجة إلى تدريب مسبق واسع النطاق في المجال الطبي الحيوي باللغة الأصلية.

David Rey-Blanco, Roberto Cruz2026-06-01
📊 statistics

True Self-Avoiding Walk for Accelerating Markov-Chain Monte Carlo Integration

تُثبت هذه الورقة أن استخدام آلية السير الحقيقي المتجنب للذات (TSAW) في تكامل مونت كارلو بسلسلة ماركوف يُسرّع التقارب بشكل كبير من خلال تحقيق معدل خطأ شبه مؤكد قدره O(logt/t)O(\sqrt{\log t}/t)، وهو ما يعد أدق بكثير من مقياس O(t1/2)O(t^{-1/2}) التقليدي للطرق القائمة على السير العشوائي.

Qinghua (Devon), Ding, Venkat Anantharam2026-06-01
🤖 machine learning

The Long-Term Effects of Data Selection in LLM Fine-Tuning

تجادل هذه الورقة بأن استراتيجيات اختيار البيانات قصيرة المدى لضبط النماذج اللغوية الكبيرة قد تؤدي إلى "اختيار قاصر النظر"، حيث تضحي المكاسب في الأداء الفوري بالقدرة على التكيف على المدى الطويل، وتقترح إطار عمل "الاختيار الواعي للمدى الطويل" (LHAS) لتحسين مسار التعلم الكامل للنموذج بدلاً من التركيز فقط على الكفاءة المحلية.

Yuxin Yang, Aoxiong Zeng, Xiangquan Yang2026-06-01
🤖 machine learning

DisasterLex: An Expert Concept-to-Schema Knowledge Graph for Geospatial Reasoning in Disaster Analytics

يُعد DisasterLex إطار عمل وسيطاً يعتمد على الرسوم البيانية للمعرفة، يعمل على تعزيز أداء تحويل اللغة الطبيعية إلى لغة SQL في تحليلات الكوارث من خلال إدراج رسم بياني لمعرفة الخبراء بين استعلامات المستخدم وقواعد البيانات الجيومكانية غير المتجانسة، مما يؤدي إلى تحسين الدقة بشكل كبير في عمليات التوجيه والاستنتاج متعدد الجداول مقارنة بالنماذج المرجعية الحالية.

Yiming Xiao, Ankit Basu, Kai Yin, Sahil Vartak, Christian Swords, Ali Mostafavi2026-06-01
🤖 machine learning

SubsurfaceGen: Procedural Generation of Field-Scale Earth Models and Seismic Data

يقدم هذا البحث SubsurfaceGen، وهو مولد إجرائي معزز بوحدات معالجة الرسومات ومعه مجموعة بيانات ضخمة مكونة من 4,276 نموذج سرعة واقعي ثلاثي الأبعاد وبيانات زلزالية بمقياس الحقل، صُممت للتغلب على القيود الحالية في التنوع الجيولوجي والواقعية الفيزيائية لتدريب نماذج تعلم الآلة في عملية قلب الموجة الكاملة.

Joseph Stitt, Pratik Rathore, Madeleine Udell, Ching-Yao Lai2026-06-01
🤖 machine learning

Early Prediction of Future Behavioral Strategy from Process Traces

تقدم هذه الورقة نموذج المتغير الكامن على مستوى العملية (PLVM) الذي يدمج آثار العمليات الجزئية من المهام المصدرية في تمثيل مشترك على مستوى الشخص لتمكين التنبؤ المبكر بالاستراتيجيات السلوكية المستقبلية في مهمة مستهدفة، مما يثبت فعاليته في مجموعة بيانات لعبة PowerWash Simulator حيث نجح في التمييز بين أنواع الاستراتيجيات المستمرة والمتكررة.

Robert Kasumba, Dennis Barbour, Chien-Ju Ho2026-06-01
🤖 machine learning

Destruction is a General Strategy to Learn Generation; Diffusion's Strength is to Take it Seriously; Exploration is the Future

تعيد هذه الورقة صياغة نماذج الانتشار باعتبارها استراتيجية مرنة لحجب المعلومات من خلال التدمير، وتجادل بشأن إمكاناتها في البيئات شحيحة البيانات، وتستكشف التوجهات المستقبلية لمعالجة تحديات الاستكشاف ضمن إطار عمل أصيل للانتشار.

Pierre-André Noël2026-06-01
🧬 biology

Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules

تُظهر هذه الدراسة أن التدريب الخاضع للإشراف يؤدي بسرعة إلى تدهور التوافق بين الشبكات العصبية الاصطناعية والقشرة البصرية المبكرة لدى البشر، حيث تتسبب قواعد التعلم القائمة على الخطأ العالمي مثل الانتشار العكسي في تعطيل أكبر بكثير مقارنة بالقواعد المحلية ذات الصلاحية البيولوجية مثل الترميز التنبئي واللدونة المعتمدة على توقيت النبضات، مما يشير إلى أن البنى غير المدربة تلتقط بطبيعتها الإحصاءات البصرية منخفضة المستوى من خلال الانحيازات الاستقرائية.

Nils Leutenegger2026-06-01