10551 पेपर
यह अध्ययन शैक्षिक स्लाइड्स बनाने के लिए विभिन्न जनरेटिव एआई (generative AI) उपकरणों का मूल्यांकन करता है, जिसमें यह पाया गया है कि कोडिंग असिस्टेंट सबसे अधिक शैक्षणिक रूप से सुदृढ़ सामग्री तैयार करते हैं और छात्र एआई-जनित स्लाइड्स को मानव-निर्मित स्लाइड्स के समान गुणवत्ता का मानते हैं, जो अक्सर कथित निम्न गुणवत्ता को एआई स्रोत के साथ जोड़ते हैं।
यह शोधपत्र प्रदर्शन प्रतिगमन (demonstration regurgitation) को रोकने के लिए लोकेल-कंडीशन्ड रोटेटिंग फ्यू-शॉट प्रॉम्पटिंग के साथ एक 1-बिट स्मॉल लैंग्वेज मॉडल का उपयोग करके एक ऑन-डिवाइस PII सब्स्टिट्यूशन पाइपलाइन प्रस्तावित करता है, जो यह प्रकट करता है कि हालांकि यह दृष्टिकोण नियम-आधारित विधियों की तुलना में अधिक स्वाभाविक टेक्स्ट उत्पन्न करता है, लेकिन अंततः अपर्याप्त प्रशिक्षण डेटा विविधता के कारण डाउनस्ट्रीम नेमड एंटिटी रिकग्निशन (NER) प्रदर्शन को नुकसान पहुँचाता है।
यह शोध पत्र RealICU का परिचय देता है, जो एक पश्चदृष्टि-एनोटेटेड (hindsight-annotated) बेंचमार्क है जो चिकित्सक-समीक्षित ग्राउंड ट्रुथ का उपयोग करके लंबे-संदर्भ वाले ICU डेटा पर लार्ज लैंग्वेज मॉडल्स का मूल्यांकन करता है, जिससे यह पता चलता है कि बेहतर मेमोरी आर्किटेक्चर के बावजूद वर्तमान मॉडल रिकॉल-सुरक्षा ट्रेडऑफ और एंकरिंग बायस (anchoring biases) के साथ संघर्ष करते हैं।
यह शोध पत्र रिवॉर्ड-डिकोरिलेटेड पॉलिसी ऑप्टिमाइज़ेशन (RDPO) को प्रस्तुत करता है, जो एक नवीन विधि है जो मल्टी-रिवॉर्ड सुदृढीकरण शिक्षण (reinforcement learning) में एडवांटेज एस्टीमेशन को स्थिर करने के लिए मैग्नीट्यूड-अवेयर क्वांटाइल नॉर्मलाइजेशन और महालानोबिस व्हाइटनिंग का उपयोग करती है, जिससे तर्क (reasoning) या कोडिंग क्षमताओं से समझौता किए बिना इंस्ट्रक्शन फॉलोइंग, लेखन और मजबूती (robustness) पर मॉडल के प्रदर्शन में सुधार होता है।
यह शोध पत्र स्ट्रॉन्ग-टू-वीक ऑन-पॉलिसी डिस्टिलेशन (strong-to-weak on-policy distillation) में "लोकल टीचबिलिटी कोलैप्स" (local teachability collapse) की पहचान करता है, जहाँ बाद के ट्राजेक्टरी सेगमेंट्स में भेदभावपूर्ण शिक्षक फीडबैक की कमी के कारण समान पर्यवेक्षण विफल हो जाता है, और एक ट्राजेक्टरी-विशिष्ट रिलीज़ नियम प्रस्तावित करता है जो निरंतर विभिन्न बेंचमार्क पर मानक विधियों से बेहतर प्रदर्शन करने के लिए डाउनवर्ड चेंज पॉइंट (downward change point) का पता चलते ही सघन पर्यवेक्षण को काट देता है।
यह शोध पत्र यह प्रदर्शित करता है कि लो-रैंक प्री-ट्रेनिंग विधियाँ, फुल-रैंक ट्रेनिंग के समान वैलिडेशन परप्लेक्सिटी प्राप्त करने के बावजूद, ज्यामितीय और स्पेक्ट्रल रूप से भिन्न समाधानों पर अभिसरित होती हैं जिनके आंतरिक प्रतिनिधित्व और डाउनस्ट्रीम प्रदर्शन भिन्न होते हैं, जो केवल परप्लेक्सिटी से परे एक व्यापक मूल्यांकन ढांचे की आवश्यकता को रेखांकित करता है।
यह शोध पत्र एक नया इरादा-केंद्रित (intent-focused) प्रचार वर्गीकरण और पदानुक्रमित प्रॉम्प्टिंग (Hierarchical Prompting - HiPP) विधि प्रस्तुत करता है, जो यह प्रदर्शित करता है कि इस दृष्टिकोण के साथ भाषा मॉडलों को फाइन-ट्यून करने से विभिन्न एनोटेशन स्कीमा, विशेष रूप से अस्पष्ट और कम-सहमति वाले डेटासेट में मजबूती और प्रदर्शन में महत्वपूर्ण सुधार होता है।
यह शोध पत्र यह प्रदर्शित करता है कि विशेषज्ञ-निर्मित शैक्षिक डेटा पर फाइन-ट्यून किए जाने पर, कॉम्पैक्ट 8B-पैरामीटर वाले LLMs, नियंत्रित कठिनाई और सुरक्षा के साथ बच्चों की अंग्रेजी पढ़ने की कहानियाँ उत्पन्न कर सकते हैं जो कठिनाई मेट्रिक्स पर GPT-4o और Llama 3.3 70B जैसे ज़ीरो-शॉट बड़े मॉडलों से बेहतर प्रदर्शन करते हैं, जबकि व्यापक शैक्षिक उपयोग के लिए लागत प्रभावी बने रहते हैं।
25M पैरामीटर्स से कम के एक सूक्ष्म-पैमाने वाले प्रीट्रेनिंग रिजीम में, मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल सक्रिय पैरामीटर्स के मामले में मिलान करने वाले डेंस बेसलाइन्स से बेहतर प्रदर्शन करते हैं, लेकिन कुल पैरामीटर क्षमता के मामले में मिलान करने पर वे उन्हें पछाड़ने में विफल रहते हैं।
यह शोध पत्र एक स्टेप-लेवल मतिभ्रम (hallucination) डिटेक्शन फ्रेमवर्क प्रस्तावित करता है जो एक कंट्रास्टिव PCA-आधारित शिक्षक और एक डिस्टिल्ड BiLSTM छात्र का उपयोग करके तर्क संबंधी त्रुटियों को हिडन-स्टेट ट्रांसपोर्ट ज्योमेट्री में स्थानीय विचलन के रूप में पहचानता है, जो सिंगल-पास इन्फरेंस के दौरान पहली त्रुटि को स्थानीयकृत करने में मौजूदा बेसलाइन्स से बेहतर प्रदर्शन करता है।