11611 ورقة بحثية
تقدم هذه الورقة طريقة مبتكرة لاكتشاف السمات الصرفية في لغات البانتو ذات الموارد المنخفضة، مثل لغة جيرياما، من خلال الجمع بين التعلم بنقل المعرفة عبر اللغات من اللغة السواحيلية والتجميع غير الخاضع للإشراف لتحقيق دقة عالية في تعيين فئات الأسماء والترجيع الصرفي مع تحديد أنماط لغوية لم تكن موثقة سابقاً.
تُثبت هذه الورقة أن نماذج المحولات العصبية (neural transformer models) المدربة على البيانات الصرفية الحديثة للغات البانتو يمكنها بنجاح استعادة البنى المعجمية التاريخية وأنماط الكلمات المشتقة من أصل واحد التي تتوافق مع إعادة البناء المعتمدة للغة البانتو الأصلية (Proto-Bantu).
تقدم هذه الورقة أول دراسة منهجية لاستهلاك الرموز (tokens) في مهام البرمجة الوكيلية، كاشفةً أن سير العمل الوكيلي مكلف للغاية وعشوائي، وأن النماذج تتباين بشكل كبير في كفاءتها، وأن النماذج اللغوية الكبيرة الرائدة تواجه صعوبة في التنبؤ بدقة بتكاليف الرموز الخاصة بها.
تُظهر هذه الورقة أن الشبكات العصبية العميقة غير الخاضعة للإشراف كلياً، والتي تتدرب حصرياً على كلام يتكون من كلمة واحدة خام، يمكنها توليد مخرجات متعددة الكلمات متصلة تحتوي على بوادر للتركيبية بشكل تلقائي، مما يشير إلى آلية عصبية محتملة لتطور النحو من المدخلات الصوتية.
تقدم الورقة البحثية FedCoLLM، وهو إطار عمل اتحادي فعال من حيث المعلمات يتيح التعزيز المعرفي المتبادل بين النماذج اللغوية الكبيرة في جانب الخادم والنماذج اللغوية الصغيرة في جانب العميل من خلال محولات خفيفة الوزن، مما يحقق مكاسب أداء كبيرة لكليهما مع الحفاظ على خصوصية البيانات وتقليل العبء الحسابي إلى أدنى حد.
يُعد SafeMERGE إطار عمل خفيف الوزن لما بعد الضبط الدقيق، يقوم بدمج طبقات مختارة من نماذج متوافقة مع معايير السلامة في النماذج اللغوية الكبيرة التي تم ضبطها دقيقاً، وذلك بناءً على معيار تشابه جيب التمام لاستعادة التوافق مع معايير السلامة مع الحفاظ على فائدة المهام اللاحقة.
تقدم هذه الورقة SAT-Graph RAG، وهو إطار عمل قائم على الأنطولوجيا يعمل على نمذجة المعايير القانونية بهياكل هرمية وزمنية وسببية صريحة لتمكين التوليد المعزز بالاسترجاع الحتمي، والقابل للتدقيق، والدقيق زمنياً للاستعلامات القانونية المعقدة.
تعد XtraGPT مجموعة من النماذج اللغوية الكبيرة مفتوحة المصدر والمدركة للسياق، والمصممة خصيصاً للمراجعة التكرارية للأوراق الأكاديمية، وذلك عبر الاستفيد من إطار عمل مبتكر للتعاون بين الإنسان والذكاء الاصطناعي ومجموعة بيانات منسقة تضم 140,000 زوج من التعليمات والاستجابات لتتفوق بشكل كبير على النماذج المرجعية الحالية في الحفاظ على التماسك المفاهيمي وتحسين المسودات العلمية.
تقترح هذه الورقة إطار عمل "الاستقصاء الواعي بالسلامة" (SAP)، وهو إطار يعمل على التخفيف من تدهور معايير السلامة أثناء عملية الضبط الدقيق للنماذج اللغوية الكبيرة (LLMs) عبر تحديد واضطراب الاتجاهات المرتبطة بالسلامة في الحالات الخفية لتوجيه تحديثات المعلمات بعيداً عن المسارات الضارة مع الحفاظ على أداء المهام.
تقدم هذه الورقة مسحاً شاملاً للإجابة على الأسئلة الزمنية (TQA)، حيث تنظم الأبحاث القائمة من خلال إطار عمل موحد يفحص التفاعل بين زمنية المتن وزمنية السؤال، مع مراجعة التطورات الأخيرة المدفوعة بالبنى العصبية والنماذج اللغوية الكبيرة.