11218 पेपर
यह शोध पत्र 108 नियंत्रित मॉडलों के माध्यम से ट्रांसफॉर्मर अनएम्बेडिंग मैट्रिक्स ज्यामिति और भाषा मॉडल प्रदर्शन के बीच के संबंध की व्यवस्थित रूप से जांच करता है, और यह निष्कर्ष निकालता है कि प्रभावी रैंक (effective rank) जैसे ज्यामितीय मेट्रिक्स मुख्य रूप से प्रशिक्षण हाइपरपैरामीटर्स को दर्शाते हैं न कि डाउनस्ट्रीम प्रदर्शन के विश्वसनीय भविष्यवक्ता के रूप में कार्य करते हैं।
यह शोध पत्र लैंग्वेज मॉडल यूटिलिटी टैक्सोनॉमी (LUX) को प्रस्तुत करता है, जो प्रदर्शन, इंटरेक्शन, ऑपरेशंस और गवर्नेंस डोमेन में व्यवस्थित एक व्यापक ढांचा है, ताकि केवल कार्य-स्तरीय सफलता से परे वास्तविक दुनिया के उच्च-जोखिम वाले अनुप्रयोगों में लार्ज लैंग्वेज मॉडल की उपयोगिता के मूल्यांकन को मानकीकृत किया जा सके।
यह शोधपत्र MIMIC का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो व्यवहारिक इरादे (behavioral intent) के भाषाई प्रतिनिधित्व के रूप में "इनर स्पीच" (inner speech) उत्पन्न करने के लिए विजन-लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे एक डिफ्यूजन-आधारित पॉलिसी को बिना किसी अतिरिक्त प्रशिक्षण डेटा की आवश्यकता के, अनुमान समय (inference time) पर सूक्ष्म नियंत्रण (fine-grained steerability) के साथ विविध, उच्च-सटीकता वाले मानव-समान व्यवहार प्राप्त करने में सक्षम बनाया जा सके।
स्टॉप-थिंक-ऑटोरीज्रेस लैंग्वेज डिफ्यूजन मॉडल (STAR-LDM), ऑटोरीज्रेसिव टोकन जनरेशन से पहले ग्लोबल सिमेंटिक प्लानिंग के लिए एक लेटेंट डिफ्यूजन-आधारित "थिंकिंग" चरण को एकीकृत करके भाषा निर्माण को बढ़ाता है, जिसके परिणामस्वरूप पारंपरिक मॉडलों की तुलना में तर्क, सुसंगतता और नियंत्रणीय एट्रीब्यूट स्टीयरिंग में बेहतर प्रदर्शन प्राप्त होता है।
यह शोध पत्र ACTOR-CURATOR प्रस्तुत करता है, जो एक स्केलेबल और स्वचालित करिकुलम लर्निंग फ्रेमवर्क है जो LLMs के RL पोस्ट-ट्रेनिंग के लिए प्रशिक्षण समस्याओं को गतिशील रूप से चुनने हेतु पॉलिसी-इम्प्रूवमेंट बैंडिट्स के माध्यम से प्रशिक्षित एक न्यूरल क्यूरेटर का उपयोग करता है, जिससे मौजूदा बेसलाइन्स की तुलना में रीजनिंग बेंचमार्क्स, प्रशिक्षण स्थिरता और दक्षता में महत्वपूर्ण सुधार प्राप्त होता है।
यह शोध पत्र GATES का प्रस्ताव करता है, जो एक सेल्फ-डिस्टिलेशन फ्रेमवर्क है जो डॉक्यूमेंट-ग्राउंडेड रीजनिंग ट्रेसेस पर ट्यूटर कंसेंसस (शिक्षक सहमति) का लाभ उठाकर विश्वसनीय सुपरविजन सिग्नल्स उत्पन्न करता है, जिससे उन सेटिंग्स में डॉक्यूमेंट-फ्री स्टूडेंट मॉडल्स के प्रदर्शन में महत्वपूर्ण सुधार होता है जहाँ ग्राउंड ट्रुथ लेबल्स का अभाव होता है।
यह शोध पत्र एक उन्नत रेगएक्स-आधारित (regex-based) डिटेक्टर सुइट प्रस्तुत करता है जो यह प्रकट करता है कि भाषा मॉडल, विशेष रूप से जैसे-जैसे उनका आकार और प्रशिक्षण अवधि बढ़ती है, अपने प्रीट्रेनिंग डेटा से व्यक्तिगत जानकारी को बार-बार याद करते हैं और शब्दशः पुनरुत्पादित करते हैं, जिससे गोपनीयता जोखिमों को कम करने के लिए डेटासेट के आक्रामक फ़िल्टरिंग और अनामीकरण (anonymization) की आवश्यकता होती है।
यह शोध पत्र CARE को प्रस्तुत करता है, जो एक व्याख्यात्मक (explainable) LLM-आधारित ढांचा है जो बहु-आयामी क्लाइंट-अनुभूत चिकित्सीय गठबंधन (therapeutic alliance) स्कोर की सटीक भविष्यवाणी करने और परामर्श ट्रांसक्रिप्ट से व्याख्या योग्य तर्क उत्पन्न करने के लिए तर्क-संवर्धित पर्यवेक्षण (rationale-augmented supervision) का लाभ उठाता है, जिससे यह मौजूदा मॉडलों से बेहतर प्रदर्शन करता है और मानसिक स्वास्थ्य देखभाल के लिए व्यावहारिक अंतर्दृष्टि प्रदान करता है।
ID-LoRA एक नवीन पैरामीटर-कुशल फाइन-ट्यूनिंग फ्रेमवर्क है जो क्लस्टर्ड पैरामीटर समूहों को निकालने और पुन: उपयोग करने के लिए मैट्रिक्स इंटरपोलेटिव डिकंपोजिशन का लाभ उठाता है, जिससे मानक LoRA और इसके वेरिएंट की तुलना में प्रशिक्षित पैरामीटर्स को काफी कम करते हुए विविध बेंचमार्क पर बेहतर प्रदर्शन सक्षम होता है।
यह शोध पत्र RMIT-ADM+S प्रस्तुत करता है, जो एक पुरस्कार विजेता, संसाधन-कुशल रिट्रीवल-ऑगमेंटेड जनरेशन सिस्टम है, जिसमें नवीन रूटिंग-टू-RAG (R2RAG) आर्किटेक्चर है जो कंज्यूमर-ग्रेड हार्डवेयर पर उच्च प्रदर्शन प्राप्त करने के लिए क्वेरी जटिलता के आधार पर रिट्रीवल रणनीतियों को गतिशील रूप से अनुकूलित करता है।