Language Models Struggle to Use Representations Learned In-Context
इस प्रमाण के बावजूद कि लार्ज लैंग्वेज मॉडल्स इन-कॉन्टेक्स्ट जानकारी से नए सिमेंटिक रिप्रेजेंटेशन्स को एनकोड कर सकते हैं, यह अध्ययन प्रकट करता है कि ओपन-वेट्स और स्टेट-ऑफ-द-आर्ट क्लोज्ड-सोर्स दोनों मॉडल्स इन सीखे गए रिप्रेजेंटेशन्स का डाउनस्ट्रीम टास्क के लिए अपने व्यवहार को अनुकूलित करने हेतु प्रभावी ढंग से उपयोग करने में संघर्ष करते हैं।