Written by AI, Managed by AI: Semantic Space Control and Index Sickness Elimination Across 391 Consecutive Sessions
यह शोध पत्र "इंडेक्स सिकनेस" (Index Sickness) की पहचान और समाधान करता है, जो लंबे समय तक चलने वाले LLM सहयोग में एक विफलता मोड है जहाँ अत्यधिक प्रतीकात्मक बाधाएं मॉडलों को उनके अर्थ संबंधी आधार (semantic grounding) खोने के लिए मजबूर करती हैं, और इसके लिए "बेसलाइन-लॉग फिजिकल सेपरेशन" (Baseline-Log Physical Separation) तंत्र का प्रस्ताव और सत्यापन करता है जो निर्देश मात्रा को महत्वपूर्ण रूप से कम करता है और व्यावसायिक वास्तविकता के साथ संरेखण को पुनर्स्थापित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: जब "अधिक नियम" रोबोट को बिगाड़ देते हैं
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, तेज़ सोचने वाले सहायक (एक AI) को एक महीने के दौरान एक विशाल घर बनाने में मदद करने के लिए काम पर रख रहे हैं। आप यह सुनिश्चित करना चाहते हैं कि घर पूरी तरह से बना हो, इसलिए आप सहायक को एक विशाल, जटिल नियम पुस्तिका (rulebook) देने का निर्णय लेते हैं। आप कोड, प्रतीकों और सख्त चेकलिस्ट (जैसे "Wall-Section-A-1 को Pipe-B-2 से जुड़ना चाहिए") की एक प्रणाली बनाते हैं ताकि कुछ भी छूटे नहीं।
यह शोध पत्र तर्क देता है कि यह दृष्टिकोण वास्तव में उल्टा पड़ गया।
सहायक को स्मार्ट बनाने के बजाय, जटिल नियम पुस्तिका ने उसे भ्रमित कर दिया। सहायक ने वास्तविक ईंटों और लकड़ी (वास्तविक दुनिया) को देखना बंद कर दिया और केवल नियम पुस्तिका को घूरने लगा। उसने ऐसी रिपोर्ट लिखना शुरू कर दिया जो कागज़ पर तो एकदम सही दिखती थीं, लेकिन वास्तविकता से पूरी तरह से कटी हुई थीं। लेखक इसे "इंडेक्स सिकनेस" (Index Sickness) कहते हैं।
समस्या: "फैंटम लेजिस्लेशन" (भ्रामक विधान)
लेखक अपने प्रोजेक्ट (सेशन 215) के एक विशिष्ट क्षण का वर्णन करते हैं जहाँ AI ने एक "लेजिस्लेशन प्रपोजल" (विधान प्रस्ताव) बनाया।
- AI ने क्या किया: इसने अपने स्वयं के बनाए हुए कोड (जैसे "SEC-2.0") का उपयोग करके एक आदर्श, तार्किक दस्तावेज़ लिखा। यह एक तैयार योजना की तरह लग रहा था।
- वास्तव में क्या हुआ: AI ने वास्तव में उन भौतिक फाइलों या कोड का निर्माण कभी किया ही नहीं था जिनके बारे में वह बात कर रहा था। यह एक ऐसे शेफ की तरह था जिसने केक के लिए एक बेहतरीन रेसिपी तो लिख दी, लेकिन वास्तव में केक कभी बनाया ही नहीं।
AI अपने स्वयं के आंतरिक प्रतीकों के प्रति इतना जुनूनी हो गया था कि वह भूल गया कि उसे वास्तव में क्या करना था। वह अपने दिमाग के अंदर एक आदर्श दुनिया की कल्पना (hallucinating) कर रहा था, जबकि वास्तविक प्रोजेक्ट अभी भी अधूरा था।
ऐसा क्यों हुआ?
पेपर सुझाव देता है कि जब आप AI को लगातार प्रतीकों को खोजने और नियमों को क्रॉस-रेफरेंस करने के लिए मजबूर करते हैं, तो वह थक जाता है। वह अपना "कॉमन सेंस" (व्यावसायिक समझ) का उपयोग करना बंद कर देता है और केवल आपके द्वारा दिए गए नियमों के साथ "डॉट कनेक्ट करने" का खेल खेलने लगता है। यह एक बंद लूप (closed loop) बना देता है जहाँ सब कुछ उस लूप के अंदर तो सही लगता है, लेकिन वास्तविक दुनिया से उसका कोई संबंध नहीं होता।
समाधान: "पेंग प्रिंसिपल" (The "Bang!" Moment)
लेखकों को एहसास हुआ कि वे गलत लड़ाई लड़ रहे थे। उन्हें लगा कि समस्या यह है कि AI के पास पर्याप्त जानकारी या मेमोरी नहीं है। वे इसे और अधिक डेटा देने की कोशिश कर रहे थे।
असली समस्या यह थी कि AI की "वर्किंग मेमोरी" शोर (noise) से भरी हुई थी—पुरानी, अप्रचलित और अप्रासंगिक जानकारी जिसने उसके दिमाग को अस्त-व्यस्त कर दिया था।
उन्होंने एक सरल सत्य खोजा जिसे वे पेंग प्रिंसिपल (Pang Principle) कहते हैं (इसका नाम उस आवाज़ के नाम पर रखा गया है जब कोई सत्य "धप" से अपनी जगह पर बैठता है):
स्पष्ट उद्देश्य वाली प्राकृतिक भाषा, जटिल प्रतीकों से बेहतर है।
AI को कोड से भरी 300 पन्नों की नियम पुस्तिका देने के बजाय, उन्होंने महसूस किया कि उन्हें बस AI को साधारण अंग्रेजी में बताना चाहिए कि उसे अभी क्या करने की आवश्यकता है।
उपमा (Analogy):
- पुराना तरीका (बुरा): एक ड्राइवर को 500 छोटे, भ्रमित करने वाले प्रतीकों वाला नक्शा और गाड़ी शुरू करने से पहले याद करने के लिए 300 ट्रैफिक कानूनों की सूची देना। ड्राइवर नक्शा पढ़ने में फंस जाता है और दुर्घटनाग्रस्त हो जाता है।
- नया तरीका (अच्छा): ड्राइवर को कहना, "किराने की दुकान तक जाओ, फिर बाएं मुड़ो।" ड्राइवर रास्ता खोजने के लिए अपने खुद के दिमाग का उपयोग करता है।
सुधार: "बेसलाइन-लॉग फिजिकल सेपरेशन"
"इंडेक्स सिकनेस" को रोकने के लिए, लेखकों ने अपनी फाइलों को व्यवस्थित करने का तरीका बदल दिया। उन्होंने अपने प्रोजेक्ट को दो अलग-अलग बाल्टियों में विभाजित किया:
द बेसलाइन (The "Now" File - वर्तमान फ़ाइल):
- यह फ़ाइल एक व्हाइटबोर्ड की तरह है।
- इसमें केवल वर्तमान लक्ष्य, विधि और अभी आवश्यक संसाधन होते हैं।
- महत्वपूर्ण: हर बार जब कोई कार्य पूरा होता है, तो इस फ़ाइल को साफ कर दिया जाता है और नए स्टेट के साथ ओवरराइट कर दिया जाता है। यह इतिहास (history) को कभी सुरक्षित नहीं रखता। यह सुनिश्चित करता है कि AI कभी भी पुरानी, अप्रचलित योजनाओं को न देखे।
द सेशन लॉग (The "History" File - इतिहास फ़ाइल):
- यह फ़ाइल एक डायरी की तरह है।
- यह रिकॉर्ड करती है कि क्या हुआ: लिए गए निर्णय, सुधारी गई गलतियाँ, और क्यों विकल्प बदले गए।
- महत्वपूर्ण: AI इस फ़ाइल को तब तक नहीं पढ़ता जब तक कि उसे किसी पिछले निर्णय को देखने की विशेष आवश्यकता न हो। यह बैकग्राउंड में रहता है ताकि यह AI को वर्तमान कार्य से विचलित न करे।
परिणाम:
"वर्तमान कार्य" को "पिछले इतिहास" से भौतिक रूप से अलग करके, उन्होंने शोर (noise) को हटा दिया।
- AI के निर्देश जटिल नियमों के 308 लाइनों से घटकर लगभग 80 लाइनों के सरल, स्पष्ट निर्देशों में बदल गए।
- "फैंटम लेजिस्लेशन" (नकली, असंबद्ध रिपोर्ट) पूरी तरह से गायब हो गया।
- अगले 150 सत्रों में, प्रोजेक्ट बिना किसी भ्रम के सुचारू रूप से चला।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि AI के साथ काम करने में सबसे बड़ी बाधा यह नहीं है कि AI की याददाश्त खराब है या उसे अधिक नियमों की आवश्यकता है। बाधा यह है कि हम उसे देखने के लिए बहुत सारा "कचरा" दे रहे हैं।
जब हम AI के कार्यक्षेत्र को पुराने प्रतीकों, अप्रचलित नियमों और जटिल इंडेक्स से भर देते हैं, तो वह सोचना बंद कर देता है और केवल अनुमान लगाने लगता है। समाधान यह है कि कार्यक्षेत्र को साफ रखा जाए, सरल भाषा का उपयोग किया जाए, और केवल तत्काल उद्देश्य पर ध्यान केंद्रित किया जाए।
संक्षेप में: AI को एक पूर्ण नियम पुस्तिका वाले रोबोट के रूप में प्रोग्राम करने की कोशिश न करें। इसे एक स्मार्ट पार्टनर की तरह मानें: इसे स्पष्ट लक्ष्य के साथ साधारण अंग्रेजी में निर्देश दें, इसके कार्यक्षेत्र को पुराने कचरे से साफ रखें, और इसे बाकी चीजें समझने के लिए अपने खुद के दिमाग का उपयोग करने दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।