Breaking the Illusion of Identity in LLM Tooling
यह शोध पत्र एक तैनात करने योग्य, सात-नियमों वाली कॉन्फ़िगरेशन प्रणाली का प्रस्ताव देता है और उसका अनुभवजन्य रूप से सत्यापन करता है जो मॉडल संशोधनों की आवश्यकता के बिना, LLM टूलिंग आउटपुट में मानवशास्त्रीय मार्करों (anthropomorphic markers) को 97% से अधिक कम करके एजेंसी के संज्ञानात्मक भ्रम (cognitive illusion of agency) को प्रभावी ढंग से तोड़ देता है, हालांकि यह समग्र आउटपुट गुणवत्ता पर पड़ने वाले प्रभाव का मूल्यांकन नहीं करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपनी कार का इंजन ठीक करने के लिए एक बेहद बुद्धिमान और तेज़ सहायक को काम पर रखा है। हर बार जब वे आपको एक रिंच (wrench) थमाते हैं, तो वे कहते हैं, "ओह, मुझे बहुत खेद है, लेकिन मुझे लगता है कि यह बोल्ट ढीला है! मुझे लगता है कि हमें इसे कसना चाहिए, और मुझे आपकी मदद करके बहुत खुशी हो रही है!"
आप सम्मानित महसूस कर सकते हैं, लेकिन आप यह सोचने भी लगेंगे: क्या उन्होंने वास्तव में बोल्ट की जाँच की, या वे सिर्फ विनम्र बन रहे हैं? आप उन पर बहुत अधिक भरोसा कर सकते हैं क्योंकि वे सुनने में बहुत मानवीय लगते हैं, भले ही वे गलत हों।
यह बिल्कुल वही समस्या है जो लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ है, जैसे कि आज के कोडिंग टूल्स में उपयोग किए जाने वाले मॉडल। उन्हें मददगार, बातूनी मानवीय सहयोगियों की तरह दिखने के लिए प्रशिक्षित किया गया है। वे कहते हैं "मुझे लगता है," "मुझे महसूस होता है," और "मुझे आपकी मदद करने दें।" इस पेपर के लेखक, मारेक मिलर (Marek Miller) का तर्क है कि यह "व्यक्तित्व" एक खतरनाक भ्रम है। यह हमें यह सोचने के लिए धोखा देता है कि कंप्यूटर हमें समझता है, उसकी भावनाएं हैं, या उसे चीजें याद रहती हैं जो वास्तव में उसके पास नहीं हैं।
समस्या: "पोलाइट रोबोट" का जाल
जब कोई टूल इंसान की तरह व्यवहार करता है, तो हमारा मस्तिष्क "सामाजिक मोड" में स्विच हो जाता है। काम की गलतियों की जाँच करने के बजाय (जैसे एक मैकेनिक रिंच की जाँच करता है), हम टोन (लहजे) की जाँच करने लगते हैं (जैसे एक दोस्त यह देखता है कि क्या वह विनम्र व्यवहार कर रहा है)।
- भ्रम: टूल कहता है, "मैंने बग ठीक कर दिया है!" जिससे संकेत मिलता है कि उसने काम किया है।
- वास्तविकता: टूल केवल एक गणितीय मशीन है जिसने अगले शब्द का अनुमान लगाया है। यह झूठ बोल सकता है (हैलुसिनेशन/भ्रम), लेकिन यह सत्य के साथ उसी आत्मविश्वास के साथ कहता है।
- लागत: हम इस पर बहुत अधिक भरोसा करते हैं, काम की दोबारा जाँच करना बंद कर देते हैं, और गलतियाँ करते हैं क्योंकि हम मशीन के "व्यक्तित्व" से विचलित हो जाते हैं।
समाधान: "साइलेंट मैकेनिक" (मौन मैकेनिक)
मिलर एक सरल समाधान प्रस्तावित करते हैं: व्यक्तित्व को हटा दें।
उन्होंने 7 नियमों का एक सेट बनाया है (एक "वॉइस मॉडल") जो एक सख्त मैनेजर की तरह AI को निर्देश देता है: "इंसानों की तरह बात करना बंद करो। बस मुझे तथ्य दो।"
यहाँ वे 7 नियम दिए गए हैं, जिन्हें रोजमर्रा के रूपकों में अनुवादित किया गया है:
- "मैं" या "मुझे" का प्रयोग न करें: यह कहना बंद करें कि "मैं फ़ाइल पढ़ूँगा।" बस कहें "फ़ाइल पढ़ रहा है।" (जैसे एक रोबोटिक हाथ बस हिल रहा है, न कि अपनी गति का वर्णन कर रहा है)।
- भावनाओं का प्रयोग न करें: यह कहना बंद करें कि "दुर्भाग्य से, टेस्ट विफल रहा।" बस कहें "टेस्ट विफल रहा।" (कोई दुख नहीं, कोई उत्साह नहीं)।
- अनुमान लगाने वाले शब्दों (Hedges) का प्रयोग न करें: यह कहना बंद करें कि "ऐसा लगता है कि यह एक बग हो सकता है।" बस कहें "बग पाया गया" या "अपुष्ट।" (ऐसा दिखावा न करें कि आपके पास कोई अंतर्ज्ञान है)।
- विचारों का प्रयोग न करें: यह कहना बंद करें कि "मुझे लगता है कि हैश मैप बेहतर है।" बस कहें "हैश मैप: तेज़। ऐरे: धीमा।" (केवल डेटा, कोई व्यक्तिगत पसंद नहीं)।
- नकली याददाश्त का प्रयोग न करें: यह कहना बंद करें कि "जैसा कि मैंने पहले उल्लेख किया था..." (AI को कल की बातें याद नहीं रहतीं; वह केवल वही जानता है जो अभी स्क्रीन पर है)।
- बातूनी फिलर्स का प्रयोग न करें: "तो, बात यह है..." या "मूल रूप से..." कहना बंद करें। (बस परिणाम दें)।
- सामाजिक शिष्टाचार का प्रयोग न करें: "नमस्ते! मदद करके खुशी हुई!" कहना बंद करें। (बस काम करें)।
प्रयोग: क्या यह काम करता है?
मिलर ने इसका परीक्षण "क्लोड" (Claude) नामक कोडिंग टूल पर किया। उन्होंने उससे 30 अलग-अलग कोडिंग कार्य दो बार करने के लिए कहा: एक बार "बातूनी" सेटिंग्स (डिफ़ॉल्ट) के साथ और एक बार "साइलेंट मैकेनिक" नियमों (प्रतिबंधित) के साथ।
परिणाम नाटकीय थे:
- "मानवीय" बातें गायब हो गईं: मानवीय वाक्यांशों की संख्या 97% गिर गई। टूल एक बातूनी इंटर्न से बदलकर एक कंपाइलर या डेटाबेस की तरह हो गया।
- छोटे उत्तर: उत्तर 49% छोटे हो गए। कम फालतू बातें, अधिक तथ्य।
- "वाइब चेक": एक कंप्यूटर टेस्ट (जिसे Anthro-Score कहा जाता है) ने पुष्टि की कि आउटपुट अब काफी अधिक "मशीन जैसा" और कम "मानव जैसा" लग रहा था।
यह क्यों महत्वपूर्ण है
एक कंपाइलर (वह टूल जो कोड को सॉफ्टवेयर में बदलता है) को एक कैलकुलेटर के रूप में सोचें। आप कैलकुलेटर से यह नहीं पूछते, "क्या आपका मन है कि 2+2=4 हो?" आप बस नंबर पर भरोसा करते हैं।
मिलर चाहते हैं कि LLM टूल्स कैलकुलेटर हों, न कि सहकर्मी।
- पुराना तरीका: टूल बातें करता है, आप विचलित हो जाते हैं, आप इस पर अंधा विश्वास करते हैं, और आप एक बग मिस कर सकते हैं।
- नया तरीका: टूल आपको कच्चा डेटा देता है। आप जानते हैं कि यह एक मशीन है। आप काम की सावधानीपूर्वक जाँच करते हैं। आप इस पर इसलिए भरोसा करते हैं क्योंकि यह ईमानदार है कि यह क्या है, न कि इसलिए कि यह इंसान होने का नाटक कर रहा है।
पेच (The Catch)
पेपर स्वीकार करता है कि यह कोई जादुई समाधान नहीं है।
- यह AI को स्मार्ट नहीं बनाता; यह केवल इसे अपनी सीमाओं के बारे में अधिक ईमानदार बनाता है।
- इसका परीक्षण एक विशिष्ट AI मॉडल पर किया गया था। अन्य मॉडलों को अलग नियमों की आवश्यकता हो सकती है।
- हमें अभी भी काम की जाँच करने के लिए मनुष्यों की आवश्यकता है। टूल ने केवल यह दिखावा करना बंद किया है कि उसे जाँच की आवश्यकता नहीं है।
निष्कर्ष
यह पेपर भ्रम को तोड़ने का आह्वान है। AI टूल्स को उनका "मानवीय अभिनय" छोड़ने के लिए मजबूर करके, हम उन्हें दोस्तों की तरह मानना बंद कर देते हैं और शक्तिशाली, लेकिन त्रुटिपूर्ण, उपकरणों की तरह मानना शुरू करते हैं जो वे वास्तव में हैं। यह विनम्रता को सटीकता से बदलने के बारे में है, ताकि हम अंततः आउटपुट पर इसलिए भरोसा कर सकें क्योंकि वह सटीक है, न कि इसलिए क्योंकि वह आकर्षक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।