21502 पेपर
यह शोध पत्र डेल के सिद्धांत (Dale's principle) का कड़ाई से पालन करते हुए, मॉड्युलो एरर रूटिंग के साथ एरर डिफ्यूजन और कार्य-विशिष्ट नवाचारों का उपयोग करके MNIST, CIFAR-10 और निरंतर सुदृढीकरण लर्निंग (continuous reinforcement learning) कार्यों पर उत्कृष्ट प्रदर्शन प्राप्त करने के लिए एक जैविक रूप से प्रशंसनीय द्वैत-प्रवाह संरचना (dual-stream architecture) प्रस्तुत करता है।
यह शोध पत्र WIDER-FAIR को प्रस्तुत करता है, जो निष्पक्षता मूल्यांकन को सक्षम करने के लिए जातीयता और लिंग के मैनुअल एनोटेशन के साथ WIDER-FACE बेंचमार्क का विस्तार करने वाला एक नया डेटासेट है, जो प्रयोगों के माध्यम से यह प्रदर्शित करता है कि फेस डिटेक्शन मॉडल प्रदर्शन में महत्वपूर्ण असमानताएं प्रदर्शित करते हैं, विशेष रूप से अश्वेत व्यक्तियों के विरुद्ध।
यह शोध पत्र यह प्रदर्शित करता है कि टेक्स्ट-टू-स्पीच (TTS) मूल्यांकन के लिए 'वन-साइज-फिट्स-ऑल' दृष्टिकोण के बजाय संदर्भ-जागरूक मेट्रिक्स की आवश्यकता होती है, क्योंकि विभिन्न डोमेन में भाषण की उपयुक्तता काफी भिन्न होती है और अक्सर पारंपरिक नैचुरलनेस (स्वाभाविकता) स्कोर के साथ संघर्ष करती है।
यह शोध पत्र STEB को प्रस्तुत करता है, जो स्टाइल टेक्स्ट एम्बेडिंग्स के मूल्यांकन को मानकीकृत करने के लिए 7 भाषाओं में 96 डेटासेट्स तक फैला एक व्यापक ओपन-सोर्स बेंचमार्क है, जो यह प्रकट करता है कि मौजूदा सिमेंटिक एम्बेडिंग्स स्टाइल संबंधी कार्यों में विफल रहते हैं और कोई भी एकल स्टाइल एम्बेडिंग सार्वभौमिक रूप से श्रेष्ठ नहीं है।
यह शोध पत्र FedXDS प्रस्तुत करता है, जो एक नवीन फेडरेटेड लर्निंग दृष्टिकोण है जो डेटा विषमता को कम करने के लिए स्पष्ट करने योग्य एआई (explainable AI) फीचर एट्रिब्यूशन का लाभ उठाता है और क्लाइंट्स के बीच कार्य-प्रासंगिक डेटा तत्वों की पहचान और चुनिकी रूप से साझा करता है, जिससे औपचारिक गोपनीयता गारंटी बनाए रखते हुए मौजूदा विधियों की तुलना में बेहतर सटीकता और अभिसरण (convergence) प्राप्त होता है।
यह शोध पत्र SEAR को प्रस्तुत करता है, जो एक प्रशिक्षण ढांचा है जो एक प्रतिकूल अनुकूलन दृष्टिकोण का उपयोग करके LLM के अत्यधिक इनकार (over-refusal) को कम करता है, जहाँ एक एकल मॉडल हानिकारक प्रॉम्प्ट्स के बीच अंतर करने के लिए संकेत के रूप में असुरक्षित तर्क (unsafe reasoning) की एक साथ खोज करता है और यह सुनिश्चित करता है कि अंतिम आउटपुट सुरक्षित रहे, जिससे उपयोगिता से समझौता किए बिना सुरक्षा अनुपालन में सुधार होता है।
यह शोध पत्र 'रिनफोर्समेंट लर्निंग विद वेरीफिएबल रिवार्ड्स' (RLVR) में 'लो-रैंक अडैप्टेशन' (LoRA) के लिए 'जियोमेट्री-प्रिजर्विंग ऑर्थोनॉर्मल इनिशियलाइजेशन' का प्रस्ताव करता है, जो सैद्धांतिक रूप से यह प्रदर्शित करता है कि यह दृष्टिकोण 'फुल फाइन-ट्यूनिंग' के अंतर को न्यूनतम करता है, प्रशिक्षण को स्थिर करता है, और गणितीय तर्क संबंधी बेंचमार्क पर PiSSA और MiLoRA जैसे मौजूदा वेरिएंट्स से बेहतर प्रदर्शन करता है।
यह शोध पत्र लिंकिंग नंबरों में परिवर्तनों को ट्रैक करने के लिए उनके प्रतिनिधित्व स्थान (representation space) को तक सीमित करके डीप न्यूरल नेटवर्क की टोपोलॉजिकल अभिव्यंजना शक्ति (topological expressivity) की जांच करता है, जो यह प्रकट करता है कि नॉनमोनोटोनिक एक्टिवेशन, ResNets और ट्रांसफॉर्मर, मोनोटोनिक फीडफॉरवर्ड या फ्लो-आधारित मॉडलों की तुलना में एक उच्च अभिव्यंजना वर्ग साझा करते हैं।
यह शोध पत्र 'रिव्यू रेसिडुअल्स' (Review Residuals) को प्रस्तुत करता है, जो एक नवीन गेटिंग तंत्र है जो वर्तमान अवस्था और प्रस्तावित अपडेट दोनों के आधार पर ट्रांसफॉर्मर अपडेट को स्केल करता है, यह प्रदर्शित करते हुए कि यह योगात्मक, पहचान-संरक्षण वाला रूप सभी गहराइयों पर स्थिर प्रशिक्षण सक्षम बनाता है और विशेष रूप से बड़े मॉडल पैमानों पर मानक रेसिडुअल्स और हाईवे गेट्स की तुलना में महत्वपूर्ण प्रदर्शन लाभ प्रदान करता है।
यह शोध पत्र पहचान करता है कि RMSNorm ट्रांसफॉर्मर्स में एक साधारण परम्यूटेशन गेज () के बजाय एक साइन्ड-परम्यूटेशन गेज () होता है, और चेकपॉइंट्स के बीच सुदृढ़ कोऑर्डिनेट ट्रांसपोर्ट को सक्षम करने के लिए एक साइन-मार्जिनलाइज्ड हंगेरियन मैचिंग पद्धति पेश करता है, जिससे व्याख्यात्मकता उपकरणों (interpretability tools), स्टीयरिंग वेक्टर्स और ऑप्टिमाइज़र स्टेट्स की हस्तांतरणीयता में महत्वपूर्ण सुधार होता है और मौजूदा अलाइनमेंट दृष्टिकोणों में समरूपता-प्रेरित विफलताओं का समाधान होता है।