Metaphor-Induced Algorithmic Steering: Cross-Domain Procedural Transfer in LLM Code Generation
यह शोध पत्र "रूपक एल्गोरिद्मिक स्टीयरिंग" (metaphorical algorithmic steering) का परिचय देता है, जो एक ऐसी घटना है जहाँ प्राकृतिक भाषा में रूपक संबंधी निर्देश लार्ज लैंग्वेज मॉडल्स को कोड जनरेशन कार्यों में सोर्स डोमेन से प्रक्रियात्मक पैटर्नों को अनुचित रूप से स्थानांतरित करने के लिए प्रेरित करते हैं, जिसके परिणामस्वरूप अक्षम एल्गोरिदम बनते हैं, और इस छिपे हुए अवस्था-परिवर्तन (hidden-state shift) का अध्ययन करने, उसे प्राप्त करने और पता लगाने के लिए MASC फ्रेमवर्क का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रतिभाशाली, उत्सुक रोबोट को कंप्यूटर कोड लिखना सिखा रहे हैं। आप उसे केवल नियमों की एक शुष्क सूची नहीं देते; बल्कि आप उसे प्राकृतिक भाषा में कहानियों, उदाहरणों और यहाँ तक कि रूपकों (metaphors) का उपयोग करके समझाते हैं कि आप क्या चाहते हैं। लार्ज लैंग्वेज मॉडल्स (LLMs) इसी तरह काम करते हैं: वे उन सुपर-रीडर्स की तरह हैं जिन्होंने लाखों किताबें, लेख और कोड स्निपेट्स को आत्मसात कर लिया है। वे इस बात से पैटर्न पहचानकर सीखते हैं कि इंसान कैसे बात करते हैं और सोचते हैं। यदि आप उनसे कहते हैं, "एक शेफ की तरह सोचो," तो वे जानकारी को इस तरह व्यवस्थित करना शुरू कर सकते हैं जो एक रसोई जैसा महसूस हो। संदर्भ और उपमाओं को समझने की यह क्षमता उनकी महाशक्ति है, जो उन्हें पुराने विचारों से नए विचार उधार लेकर नई समस्याओं को हल करने की अनुमति देती है। लेकिन, एक महाशक्ति की तरह, इसका एक दूसरा पहलू भी है। कभी-कभी, वही चीज़ जो उन्हें स्मार्ट बनाती है—विभिन्न दुनियाओं के बीच विचारों को जोड़ना—उन्हें गलत या अक्षम विकल्प चुनने के लिए भ्रमित कर सकती है। यह वैसा ही है जैसे आपने एक रोबोट को पुल बनाने के लिए कहा, और क्योंकि आपने उसे "एक जासूस की तरह सोचने" के लिए कहा, उसने ब्लूप्रिंट का उपयोग करने के बजाय हर एक ईंट की व्यक्तिगत रूप से जांच करने का निर्णय लिया, क्योंकि जासूस इसी तरह रहस्य सुलझाते हैं।
यह शोध पत्र उस महाशक्ति में छिपी एक चालाकी भरी खामी का अन्वेषण करता है जिसे "मेटाफोरिकल एल्गोरिद्मिक स्टीयरिंग" (metaphorical algorithmic-steering) कहा जाता है। शोधकर्ताओं ने पाया कि यदि आप एक कोडिंग एआई को किसी अन्य क्षेत्र (जैसे चिकित्सा या जीव विज्ञान) से संबंधित रूपकों से भरी हुई मददगार लगने वाली निर्देश देते हैं, तो एआई अनजाने में अपनी स्मार्ट, कुशल कोडिंग रणनीति को एक धीमी, भद्दी रणनीति से बदल सकता है। ऐसा नहीं है कि एआई टूटा हुआ है या उसे धीमा होने के लिए कहा गया है; बल्कि यह है कि रूपक एक छिपे हुए निर्देश की तरह कार्य करता है, जो फुसफुसाता है, "इसे कठिन तरीके से करो क्योंकि हम इस कहानी में इसे ऐसे ही करते हैं।" टीम ने इसकी जांच करने के लिए MASC नामक एक टूल बनाया। उन्होंने "सौम्य" (benign) कौशल बनाए जो अपने मूल संदर्भ में पूरी तरह से तर्कसंगत लगते थे, लेकिन गुप्त रूप से एआई को "ब्रूट फ़ोर्स" (brute force) विधियों का उपयोग करने के लिए प्रोत्साहित करते थे—जैसे कि डायनेमिक प्रोग्रामिंग जैसे चतुर शॉर्टकट का उपयोग करने के बजाय एक-एक करके हर संभावना की जांच करना।
परिणाम आश्चर्यजनक रूप से स्पष्ट थे। जब शोधकर्ताओं ने इन रूपक निर्देशों का उपयोग किया, तो एआई मॉडल (विशेष रूप से Qwen, Deepseek, और Gemma) अक्सर अपने डिफ़ॉल्ट, कुशल समाधानों से बहुत धीमे समाधानों की ओर स्विच हो गए। उदाहरण के लिए, कोडिंग समस्याओं के एक सेट पर, एक मॉडल के लिए मेटाफोरिकल स्टीयरिंग लगभग 41% बार काम कर गई, जबकि सीधे, शाब्दिक निर्देशों का उपयोग करने पर यह केवल 17% थी। शोध पत्र सुझाव देता है कि एआई केवल शब्दों की नकल नहीं कर रहा है; यह वास्तव में रूपक के धीमे, विस्तृत पैटर्न से मेल खाने के लिए अपनी आंतरिक "सोचने की प्रक्रिया" को बदल रहा है। इससे भी बुरा यह है कि एआई को धीमा होने के लिए कहने की आवश्यकता नहीं थी; रूपक ने यह काम उनके लिए कर दिया। शोधकर्ताओं ने यह भी पाया कि वे एआई की आंतरिक "मस्तिष्क तरंगों" (hidden states) को देखकर इस बदलाव का पता लगा सकते थे, जो रूपकों की उपस्थिति में "धीमी सोच" के पैटर्न की ओर बढ़ गईं। हालांकि इसका मतलब यह नहीं है कि एआई खतरनाक है, लेकिन यह सुझाव देता है कि जब हम इन स्मार्ट मशीनों से बात करते हैं, तो हमें उन्हें सुनाई जाने वाली कहानियों के बारे में सावधान रहने की आवश्यकता है, क्योंकि एक नेक इरादे वाली उपमा उन्हें एक बहुत लंबे, बहुत धीमे रास्ते पर ले जा सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।