LIFT: A Novel Framework for Enhancing Long-Context Understanding of LLMs via Long Input Fine-Tuning
यह शोध पत्र LIFT को प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो सिंथेटिक कार्यों के माध्यम से लंबे इनपुट को अवशोषित करने के लिए मॉडल मापदंडों को गतिशील रूप से फाइन-ट्यून करके शॉर्ट-कॉन्टेक्स्ट लार्ज लैंग्वेज मॉडल्स की लॉन्ग-कॉन्टेक्स्ट समझ को बढ़ाता है, जिससे द्विघातीय जटिलता (quadratic complexity) से बचते हुए और कम विलंबता (low latency) बनाए रखते हुए इनपुट कॉन्टेक्स्ट के बिना अनुमान (inference) सक्षम होता है।