11158 पेपर
यह शोध पत्र डेटासेट भ्रष्टाचार के विरुद्ध LLMs के लिए कंट्रास्टिव स्टीयरिंग की मजबूती की जांच करता है, जो यह प्रकट करता है कि जबकि यह विधि मध्यम शोर को सहन करती है, दुर्भावनापूर्ण डेटा परिवर्तन हानिकारक दुष्प्रभाव उत्पन्न कर सकते हैं जिन्हें मानक माध्य गणना के स्थान पर रोबस्ट मीन एस्टिमेटर्स (robust mean estimators) का उपयोग करके प्रभावी ढंग से कम किया जा सकता है।
यह शोध पत्र डेंसिटी-गाइडेड रिस्पॉन्स ऑप्टिमाइजेशन (DGRO) प्रस्तुत करता है, जो प्रतिनिधित्व स्थान (representation space) में अंतर्निहित रूप से स्वीकृत सामग्री के ज्यामितीय घनत्व (geometric density) का लाभ उठाकर भाषा मॉडलों को विविध सामुदायिक मानदंडों के अनुरूप संरेखित करने की एक विधि है, जिससे स्पष्ट प्राथमिकता लेबल पर निर्भर किए बिना एनोटेशन-दुर्लभ सेटिंग्स में प्रभावी अनुकूलन सक्षम होता है।
यह शोध पत्र जनरेटिव एआई के युग में सूचना की सत्यता सुनिश्चित करने के लिए तथ्य-सांचकों (fact-checkers), समाचार संगठनों और नीति निर्माताओं से आवश्यक तकनीकी, नियामक और शैक्षिक समाधानों का अन्वेषण करके लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) और दुर्भावनापूर्ण दुरुपयोग की गंभीर चुनौती को संबोधित करता है।
यह शोध पत्र डेटा विज्ञान वर्कफ़्लो के लिए एक मात्रात्मक को-पायलट के रूप में OpenAI के डेटा एनालिसिस प्लगइन की क्षमताओं और सीमाओं का मूल्यांकन करता है, जो डेटा अन्वेषण और विज़ुअलाइज़ेशन से लेकर पर्यवेक्षित (supervised) और अपर्यवेक्षित (unsupervised) मॉडलिंग तक के कार्यों में इसकी प्रभावशीलता को प्रदर्शित करता है।
यह सर्वेक्षण वित्तीय व्यापार में लार्ज लैंग्वेज मॉडल (LLM) एजेंटों के उपयोग पर शोध की एक व्यापक समीक्षा प्रदान करता है, जो उनके आर्किटेक्चर, डेटा इनपुट, बैकटेस्टिंग प्रदर्शन और चुनौतियों का सारांश देते हुए भविष्य की अनुसंधान दिशाओं को रेखांकित करता है।
यह शोध पत्र SynthKG का परिचय देता है, जो एक डेटा सिंथेसिस पाइपलाइन और Distill-SynthKG नामक एक डिस्टिल्ड सिंगल-स्टेप मॉडल है, जो छोटे फाइन-ट्यून्ड मॉडल्स का उपयोग करके उच्च गुणवत्ता वाले डॉक्यूमेंट-लेवल नॉलेज ग्राफ जनरेट करता है, जिससे मौजूदा विधियों की लागत और गुणवत्ता संबंधी सीमाओं को प्रभावी ढंग से दूर किया जाता है और रिट्रीवल एवं क्वेश्चन-आन्सरिंग प्रदर्शन में महत्वपूर्ण सुधार किया जाता है।
यह शोध पत्र ऑर्थोनॉर्मल आधारों (orthonormal bases) से व्युत्पन्न बहुपद (polynomial), त्रिकोणमितीय (trigonometric) और ट्रॉपिकल (tropical) सक्रियण फलनों (activation functions) के एक परिवार को प्रस्तुत करता है जो, वेरिएंस-प्रिजर्विंग इनिशियलाइजेशन (variance-preserving initialization) के साथ मिलकर, ग्रेडिएंट अस्थिरता को कम करते हुए, बहुपद व्याख्यात्मकता (polynomial interpretability) प्रदान करते हुए और हर्मिट इंटरपोलेशन (Hermite interpolation) के माध्यम से फाइन-ट्यूनिंग को सुगम बनाते हुए, GPT-2 और ConvNeXt जैसे गहरे मॉडलों के सफल प्रशिक्षण को सक्षम करते हैं।
यह शोध पत्र एक प्रशिक्षण-मुक्त, शोर-इंजेक्शन (noise-injection) विधि प्रस्तावित करता है जो बेयसियन अनिश्चितता (Bayesian uncertainty) को बेहतर ढंग से पकड़ने के लिए सैंपलिंग के दौरान मॉडल मापदंडों या सक्रियणों (activations) को विचलित करती है, जिससे मानक टोकन-स्तरीय सैंपलिंग की तुलना में लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucination) का पता लगाने में महत्वपूर्ण सुधार होता है।
यह शोध पत्र प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स (Large Language Models) सत्यवादी और भ्रामक, दोनों ही संदर्भों में प्रोत्साहित मानव प्रेरक (incentivized human persuaders) से बेहतर प्रदर्शन कर सकते हैं, हालांकि यह श्रेष्ठता संदर्भ-निर्भर है, मॉडल के अनुसार भिन्न होती है, और बार-बार होने वाली अंतःक्रियाओं के साथ घटती जाती है, जिसका संभावित कारण मॉडल्स द्वारा उच्च दृढ़ विश्वास (higher conviction) की अभिव्यक्ति है।
यह शोधपत्र DTR को प्रस्तुत करता है, जो एक नवीन इन्फरेंस-टाइम डिफेंस (inference-time defense) है, जो विजन-लैंग्वेज मॉडल्स में मल्टीमॉडल जेलब्रेक हमलों को प्रभावी ढंग से कम करने के लिए की-वैल्यू कैश्स (key-value caches) को अनुकूलित करके विजुअल टोकन को गतिशील रूप से पुन: भारित (reweight) करता है, जबकि सामान्य क्षमताओं और दक्षता को बनाए रखता है।