💬 NLP
Stories in Space: In-Context Learning Trajectories in Conceptual Belief Space
यह शोध पत्र प्रस्तावित करता है कि बड़े भाषा मॉडल (large language models) निम्न-आयामी, संरचित "वैचारिक विश्वास स्थानों" (conceptual belief spaces) में नेविगेट करके इन-कॉन्टेक्स्ट लर्निंग (in-context learning) करते हैं, जहाँ विश्वास अपडेट ज्यामितीय प्रक्षेपवक्र (geometric trajectories) के रूप में प्रकट होते हैं जो मॉडल के व्यवहार और आंतरिक निरूपणों दोनों में निरंतर प्रतिबिंबित होते हैं और जिन्हें रैखिक हस्तक्षेपों (linear interventions) के माध्यम से कार्य-कारण रूप से हेरफेर किया जा सकता है।