The Story Shapes the Agent: Narrative Priors in LLM Behavior
यह शोध पत्र प्रदर्शित करता है कि किसी कार्य की नैरेटिव फ्रेमिंग (कथात्मक ढांचा) का LLM एजेंट के व्यवहार पर सौंपे गए व्यक्तित्व (पर्सोना) की तुलना में काफी अधिक प्रभाव पड़ता है, जो यह प्रकट करता है कि "नैरेटिव प्रायर्स" (कथात्मक पूर्वधारणाएं) व्यवस्थित क्रिया प्रवृत्तियों को संचालित करती हैं, जबकि प्रभावी क्रॉस-नैरेटिव स्थानांतरण अमूर्त विवरणों के बजाय ठोस क्रियाओं में निर्देशों को निहित करने पर निर्भर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हाई-टेक थिएटर कंपनी के निर्देशक हैं। आपके अभिनेता अविश्वसनीय रूप से बुद्धिमान हैं, लेकिन वे एक खाली स्लेट की तरह हैं जो एक स्क्रिप्ट का इंतज़ार कर रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये अभिनेता लार्ज लैंग्वेज मॉडल्स (LLMs) हैं, और वे "स्क्रिप्ट्स" जो हम उन्हें उनके व्यवहार को निर्देशित करने के लिए देते हैं, उन्हें "पर्सोना" (persona) कहा जाता है। एक पर्सोना एक चरित्र विवरण की तरह है: आप एआई को कह सकते हैं, "आप एक व्यवस्थित जासूस हैं जिसे सुराग पढ़ना पसंद है," या "आप एक बातूनी दोस्त हैं जो बातचीत करके सीखता है।" लंबे समय तक, डेवलपर्स ने यह मान लिया था कि यदि वे एआई को एक मजबूत व्यक्तित्व देते हैं, तो वह व्यक्तित्व हर काम करते समय बना रहेगा। उन्हें लगा कि "चरित्र" सबसे महत्वपूर्ण चीज़ है। लेकिन यहाँ एक मोड़ है: हर काम के साथ एक "कहानी" या एक सेटिंग भी आती है। क्या वह जासूस एक डरावनी हवेली में हत्या की गुत्थी सुलझा रहा है? क्या वही जासूस एक टेक ऑफिस में खराब कंप्यूटर ठीक कर रहा है? या क्या वे एक उष्णकटिबंधीय लैब में एक अजीब वायरस की जांच कर रहे हैं? मुख्य सवाल जो शोधकर्ता हल करना चाहते थे, वह सरल था: जब एआई एक नई कहानी में कदम रखता है, तो क्या उसका व्यक्तित्व वही रहता है, या कहानी खुद उसके व्यवहार को बदलने के लिए हावी हो जाती है?
"द स्टोरी शेप्स द एजेंट" (The Story Shapes the Agent) शीर्षक वाला यह शोध पत्र ठीक इसी रहस्य की गहराई में उतरता है। शोधकर्ताओं ने तीन अलग-अलग "गेम्स" का उपयोग करके एक चतुर प्रयोग तैयार किया जो सतह पर पूरी तरह से अलग दिखते हैं लेकिन वास्तव में अंदर से बिल्कुल एक जैसे हैं। इसे तीन अलग-अलग वीडियो गेम्स की तरह समझें: एक मेडिकल मिस्ट्री है, एक कंप्यूटर रिपेयर का काम है, और एक क्लासिक मर्डर मिस्ट्री है। भले ही कहानियाँ पूरी तरह से अलग हों, लेकिन खेलों के नियम बिल्कुल समान हैं। हर गेम में, खिलाड़ी के पास चार चालें हैं: वे दस्तावेज़ पढ़ सकते हैं, लोगों से बात कर सकते हैं, चीजों का परीक्षण कर सकते हैं (जैसे कि डायग्नोस्टिक या लैब टेस्ट चलाना), या इधर-उधर घूम सकते हैं। शोधकर्ताओं ने तीन अलग-अलग एआई मॉडल्स को तीन अलग-अलग गेम्स खेलने के लिए एक ही 10 अलग-अलग "व्यक्तित्व" दिए, जिससे लगभग 2,000 अनूठे सत्र (sessions) बने।
परिणाम एक बड़ा आश्चर्य थे। शोधकर्ताओं ने पाया कि व्यक्तित्व नहीं, बल्कि "कहानी" (नैरेटिव) असली बॉस थी। वास्तव में, कहानी ने एआई के व्यवहार को निर्धारित करने में सौंपे गए पर्सोना की तुलना में 5 से 31 गुना अधिक प्रभाव डाला। यदि आपने एआई को "सामाजिक और बातूनी" होने के लिए कहा, तो वह मर्डर मिस्ट्री में वैसा ही व्यवहार करेगा, लेकिन कंप्यूटर रिपेयर गेम में, "तकनीक ठीक करने" की कहानी उसे लोगों को अनदेखा करने और केवल मैनुअल पढ़ने के लिए मजबूर कर देगी। एआई अपने व्यक्तित्व को अनुकूलित नहीं कर रहा था; बल्कि वह "नैरेटिव प्रायर्स" (narrative priors) के जाल में फंस रहा था। ये वे अदृश्य आदतें हैं जो एआई ने उन सभी किताबों और फिल्मों से सीखी हैं जिन्हें उसने अपने प्रशिक्षण के दौरान पढ़ा था। जब कहानी किसी अस्पताल जैसी लगती थी, तो एआई एक डॉक्टर की तरह व्यवहार करता था (लोगों से बात करना)। जब यह किसी अपराध स्थल जैसा लगता था, तो वह एक जासूस की तरह व्यवहार करता था (परीक्षण करना)।
सबसे चौंकाने वाली बात यह है: ये कहानी-संचालित आदतें अक्सर एआई को खेल में खराब बना देती थीं। तीन में से दो कहानियों में, सेटिंग के प्रति एआई की "स्वाभाविक" प्रतिक्रिया ने वास्तव में उसके जीतने की संभावनाओं को नुकसान पहुँचाया। शोधकर्ताओं ने यह भी पता लगाया कि कुछ व्यक्तित्व अलग-अलग कहानियों में सुसंगत बने रह सकते थे, लेकिन केवल तभी जब वे "व्यवहार संबंधी एंकर्स" (behavioral anchors) पर आधारित हों। ये विशिष्ट, ठोस निर्देश हैं जैसे "मैं बात करना पसंद करता हूँ" (जो सीधे "बात करने" की क्रिया से जुड़ा है)। यदि व्यक्तित्व को अस्पष्ट, अमूर्त शब्दों के साथ वर्णित किया गया था जैसे "मैं एक व्यापक दृष्टिकोण रखने वाला विचारक हूँ," तो एआई कहानी बदलते ही उस निर्देश को पूरी तरह से भूल जाता था। इसे साबित करने के लिए, उन्होंने एक ऐसा व्यक्तित्व लिया जो अच्छी तरह काम कर रहा था, उससे ठोस क्रिया वाले शब्द हटा दिए, और उसे सुनने में भव्य लेकिन अस्पட்ட (vague) बना दिया। परिणाम? एआई की निरंतरता में 95% की गिरावट आई।
तो, इससे क्या सीख मिलती है? यदि आप चाहते हैं कि कोई एआई विभिन्न स्थितियों में एक जैसा व्यवहार करे, तो आप केवल उसे एक शानदार व्यक्तित्व विवरण नहीं दे सकते। आपको उसे ठोस, क्रिया-आधारित निर्देश देने होंगे जो उसके पास मौजूद उपकरणों से मेल खाते हों। किसी कार्य के चारों ओर लिपटी कहानी इतने शक्तिशाली रूप में होती है कि वह स्क्रिप्ट को फिर से लिख सकती है, और जब तक आप अपने निर्देशों को विशिष्ट क्रियाओं में स्थापित नहीं करते, एआई कहानी को नियंत्रण लेने देगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।