Investigating Linguistic Steering: An Analysis of Adjectival Effects Across Large Language Model Architectures
यह शोध पत्र एक शापली वैल्यू (Shapley value) आधारित ढांचे को प्रस्तुत करता है जो यह मात्रा निर्धारित करता है कि विशेषण (adjectives) लार्ज लैंग्वेज मॉडल्स को कैसे निर्देशित करते हैं, जिससे यह पता चलता है कि स्टीयरिंग प्रभाव सार्वभौमिक नहीं हैं, बल्कि मॉडल आर्किटेक्चर और सिंटैक्टिक संदर्भ पर अत्यधिक निर्भर हैं, और बड़े मॉडल्स में अधिक जटिल और गैर-योगात्मक (non-additive) होते जा रहे हैं, जिससे वे 'वन-साइज-फिट्स-ऑल' प्रॉम्प्टिंग रणनीतियों को चुनौती देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही जटिल रेडियो को सबसे स्पष्ट सिग्नल प्राप्त करने के लिए ट्यून करने की कोशिश कर रहे हैं। आपके पास सैकड़ों छोटे-छोटे नॉब (शब्दों) वाला एक डायल है, और आप यह जानना चाहते हैं कि कौन से विशिष्ट नॉब वास्तव में आवाज़ बदलते हैं, और कौन से बस बेकार तरीके से क्लिक करते हैं।
यह शोध पत्र उन नॉबों का एक वैज्ञानिक मानचित्र है, जो विशेष रूप से एआई (AI) मॉडल को दिए जाने वाले निर्देशों के भीतर विशेषणों (जैसे "साहसी," "अकादमिक," "त्वरित," या "अस्पष्ट") को देख रहा है। शोधकर्ता अनुमान लगाने ("हे, शायद अगर मैं कहूँ कि 'होशियार बनो' तो यह बेहतर काम करेगा") से हटकर यह मापना चाहते थे कि प्रत्येक शब्द वास्तव में कितना प्रभाव डालता है।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "पावर नॉब" की खोज (The Long Tail)
शोधकर्ताओं ने पांच अलग-अलग एआई मॉडलों में 100 सामान्य विशेषणों का परीक्षण किया। उन्होंने पाया कि अधिकांश विशेषण मृत नॉब की तरह हैं—उन्हें घुमाने से एआई के प्रदर्शन पर लगभग कोई प्रभाव नहीं पड़ता है।
हालाँकि, कुछ चुनिड़े हुए विशेषण मास्टर वॉल्यूम नॉब की तरह कार्य करते हैं। इन कुछ शब्दों में से ही कुछ शब्दों का एआई के सवालों के जवाब देने के तरीके पर बहुत बड़ा प्रभाव पड़ता है। यह पैटर्न हर उस एआई के लिए समान था जिसका उन्होंने परीक्षण किया: कुछ शब्द 90% काम करते हैं, जबकि बाकी ज्यादातर शोर (noise) हैं।
2. "पारिवारिक समानता" बनाम "एलियन भाषा"
यह दिलचस्प है। शोधकर्ताओं को उम्मीद थी कि यदि उन्हें एक एआई के लिए एक "जादुई शब्द" मिल जाता है, तो वह अन्य मॉडलों के लिए भी समान रूप से काम करेगा। वे गलत थे।
- पारिवारिक प्रभाव (The Family Effect): एक ही कंपनी द्वारा बनाए गए एआई मॉडल (जैसे, OpenAI के
o3औरgpt-4o-mini) एक समान "बोली" बोलते हैं। यदि कोई शब्द उनमें से एक को स्मार्ट बनाता है, तो संभावना है कि वह दूसरे को भी स्मार्ट बनाएगा। वे एक समान संवेदनशीलता प्रोफाइल साझा करते हैं। - एलियन प्रभाव (The Alien Effect): अलग-अलग कंपनियों द्वारा बनाए गए मॉडल (जैसे, OpenAI बनाम Meta बनाम Microsoft) अलग-अलग भाषाएं बोलने वाले एलियंस की तरह हैं। एक शब्द जो एक मॉडल के लिए "सुपर बूस्टर" के रूप में कार्य करता है, वह दूसरे के लिए "जहर" (poison pill) बन सकता है। कोई सार्वभौमिक "अच्छे शब्दों" का शब्दकोश नहीं है जो सभी के लिए काम करे।
3. "रिवर्सल पैराडॉक्स" (The Reversal Paradox)
सबसे आश्चर्यजनक खोज यह थी कि कभी-कभी, वही शब्द बिल्कुल उल्टा प्रभाव डालता है, यह इस पर निर्भर करता है कि आप किस एआई से पूछ रहे हैं।
- उदाहरण: शब्द "अकादमिक" (academic) एक एआई को शानदार प्रदर्शन करने के लिए प्रेरित कर सकता है (जैसे कक्षा में हाथ उठाने वाला छात्र), लेकिन दूसरे एआई को बहुत खराब प्रदर्शन करने के लिए मजबूर कर सकता है (जैसे ध्यान भटकने वाला छात्र)।
- उपमा: दो रसोइयों की कल्पना करें। शेफ A व्यंजन को निखारने के लिए उसमें "नमक" डालने को पसंद करता है। शेफ B नमक से नफरत करता है और सोचता है कि यह स्वाद बिगाड़ देता है। यदि आप दोनों रसोइयों को एक ही सामग्री की सूची देते हैं, तो "नमक" शब्द का अंतिम भोजन पर विपरीत प्रभाव पड़ेगा। शोध पत्र इसे "रिवर्सल पैराडॉक्स" कहता है।
4. संदर्भ ही सर्वोपरि है (The "Persona" Trick)
शोधकर्ताओं ने यह भी पाया कि आप शब्द को कहाँ रखते हैं और उसे कैसे कहते हैं, यह सब कुछ बदल देता है। यह केवल शब्द के बारे में नहीं है; यह वाक्य की संरचना के बारे में है।
- "प्रत्यक्ष आदेश" बनाम "भूमिका निभाना":
- यदि आप एआई को कहते हैं, "साहसी बनो," तो वह भ्रमित हो सकता है या खराब प्रदर्शन कर सकता है।
- लेकिन यदि आप कहते हैं, "एक साहसी विशेषज्ञ के रूप में कार्य करें," तो एआई अक्सर निर्देशों को बहुत बेहतर तरीके से समझता है।
- उपमा: इसे एक थिएटर नाटक की तरह समझें। एक अभिनेता को "दुखी रहो" कहना, एक कठोर प्रदर्शन का परिणाम दे सकता है। लेकिन यदि आप उसे "आप एक शोक संतप्त विधुर हैं" बताते हैं, तो यह उसे एक पूरा संदर्भ देता है, और "दुख" स्वाभाविक रूप से और प्रभावी ढंग से बाहर आता है। "पर्सोना" टेम्पलेट एक स्क्रिप्ट की तरह काम करता है जो एआई को विशेषण का उपयोग कैसे करना है, यह समझने में मदद करता है।
5. शब्दों की "टीम वर्क"
शब्द अकेले काम नहीं करते; वे एक-दूसरे के साथ परस्पर क्रिया (interact) करते हैं। कभी-कभी, दो शब्द मिलकर एक बड़ा अंतर पैदा कर सकते हैं, या वे एक-दूसरे को रद्द कर सकते हैं।
- उपमा: रस्साकशी (tug-of-war) की कल्पना करें। यदि आपके पास एक शब्द है जो एआई को "जटिलता" की ओर खींचता है और दूसरा जो "सरलता" की ओर खींचता है, तो वे आपस में लड़ सकते हैं। बड़े, स्मार्ट मॉडलों में, ये शब्द जटिल, गैर-रेखीय (non-linear) तरीकों से परस्पर क्रिया करते हैं (जैसे एक रासायनिक प्रतिक्रिया)। छोटे मॉडलों में, शब्द अधिक शाब्दिक होते हैं और वे आपस में कम क्रिया करते हैं।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि आप एआई को नियंत्रित करने के लिए "एक ही आकार सबके लिए उपयुक्त" (one-size-fits-all) रणनीति का उपयोग नहीं कर सकते।
- कोई एक एकल "जादुई शब्दों" की सूची नहीं है जो हर एआई को बेहतर व्यवहार करने के लिए मजबूर कर देगी।
- जो एक मॉडल के लिए काम करता है, वह दूसरे को खराब कर सकता है।
- एआई को प्रभावी ढंग से नियंत्रित करने के लिए, आपको प्रत्येक मॉडल को एक अद्वितीय व्यक्ति की तरह मानना होगा जिसकी अपनी विशिष्ट संवेदनशीलता और "बोली" है। आपको अपने निर्देशों को उस विशिष्ट मॉडल के लिए टेस्ट और ट्यून करना होगा, बजाय इसके कि आप यह मान लें कि जो नियम कल काम कर रहा था, वह आज भी करेगा।
संक्षेप में: एआई मॉडल अलग-अलग लोगों की तरह हैं। क्या चीज़ एक व्यक्ति को बहुत अच्छा काम करने के लिए प्रेरित करती है, वह दूसरे को परेशान कर सकती है। सर्वोत्तम परिणाम प्राप्त करने के लिए, आपको यह जानना होगा कि आप किससे बात कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।