Local verification cannot detect non-transportability: a cohomological theory of context preservation in agentic reasoning
यह शोधपत्र एक कोहोमोलॉजिकल ढांचे (cohomological framework) को प्रस्तुत करता है जो यह प्रदर्शित करता है कि एजेंटिक एआई (agentic AI) में स्थानीय सत्यापन सुरक्षा उपाय (local verification safeguards), हार्मोनिक साक्ष्य संघर्षों (harmonic evidence conflicts) से उत्पन्न होने वाले गैर-परिवहन योग्य निष्कर्षों (non-transportable conclusions) का पता लगाने में संरचनात्मक रूप से अक्षम हैं, और चक्र-आधारित सांख्यिकी (cycle-based statistics) का उपयोग करके ऐसी वैश्विक विसंगतियों की पहचान करने और उन्हें गेट करने के लिए 'केतसरा प्रक्रिया' (Ksetra procedure) का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानचित्रकार की दुविधा: क्यों रास्ता भटकना हमेशा आपकी गलती नहीं होती
कल्पना कीजिए कि आप छोटे, एक-दूसरे पर चढ़ते हुए (overlapping) स्ट्रीट मैप्स के एक सेट का उपयोग करके एक विशाल, अपरिचित शहर में रास्ता खोजने की कोशिश कर रहे हैं। आपके पास डाउनटाउन जिले के लिए एक मानचित्र है, बंदरगाह के लिए दूसरा, और पहाड़ियों के लिए तीसरा। अपने होटल से संग्रहालय तक पहुँचने के लिए, आप डाउनटाउन मैप से बंदरगाह मैप पर, और फिर हिल मैप पर जा सकते हैं। आधुनिक AI एजेंट जटिल समस्याओं को हल करने के लिए इसी तरह काम करते हैं: वे विभिन्न स्रोतों से जानकारी के टुकड़ों को एक साथ जोड़ते हैं, जैसे कि एक डॉक्टर लैब के परिणाम से मरीज के इतिहास की ओर बढ़ता है, या एक बैंक स्थानीय क्रेडिट स्कोर से वैश्विक आर्थिक रुझान की ओर बढ़ता है।
लंबे समय तक, वैज्ञानिकों ने सोचा कि इस यात्रा को सुरक्षित बनाने का एकमात्र तरीका हर एक कदम की जाँच करना है। आप सत्यापित करेंगे कि डाउनटाउन मैप बंदरगाह मैप के साथ सीमा पर मेल खाता है, और बंदरगाह मैप पहाड़ियों के मैप के साथ मेल खाता है। यदि हर स्थानीय संबंध सही दिखता है, तो आप मान लेते हैं कि पूरी यात्रा सुरक्षित है। लेकिन इसमें एक पेंच है: कभी-कभी, भले ही हर एक सीमा एकदम सही दिखे, शहर का आकार ऐसा हो सकता है कि आपका अंतिम गंतव्य इस बात पर निर्भर करे कि आपने कौन सा रास्ता लिया था। यह एक मोबियस स्ट्रिप (Möbius strip) पर चलने जैसा है; आप बिना यह जाने कि आपने कोई सीमा पार की है, दुनिया के "दूसरी ओर" पहुँच सकते हैं। यह शोध पत्र एक डरावना सवाल पूछता है: क्या होगा अगर हमारे सबसे अच्छे सुरक्षा चेक इस तरह के छिपे हुए, संरचनात्मक भ्रम के प्रति अंधे हों?
शोध पत्र: जब "स्थानीय जाँच" बड़ी तस्वीर को चूक जाती है
एआई शोधकर्ता सुयश मिश्रा द्वारा लिखा गया यह शोध पत्र एक ऐसी समस्या पर प्रहार करता है जो एक गणितीय पहेली जैसी लगती है लेकिन वास्तव में इस बारे में है कि एआई एजेंट वास्तविक दुनिया में निर्णय कैसे लेते हैं। लेखक का तर्क है कि एआई तर्क (reasoning) को सत्यापित करने का वर्तमान तरीका मौलिक रूप से अधूरा है। हम "स्थानीय" कनेक्शनों की जाँच करते हैं (क्या यह सबूत उस दूसरे के साथ फिट बैठता है?), लेकिन हम समस्या के "वैश्विक" आकार को भूल जाते हैं।
मुख्य खोज: अदृश्य लूप (The Invisible Loop)
यह शोध पत्र सिद्ध करता है कि एक एआई हर एक स्थानीय सुरक्षा जाँच को पास कर सकता है और फिर भी गलत उत्तर पर पहुँच सकता है, केवल इसलिए क्योंकि उसने साक्ष्यों के माध्यम से एक अलग रास्ता लिया था। लेखक कोहोमोलॉजी (cohomology) नामक गणित की एक शाखा का उपयोग करते हैं (इसे आकृतियों में छेदों और लूपों के अध्ययन के रूप में सोचें) यह दिखाने के लिए कि साक्ष्यों में एक "ट्विस्ट" (मोड़) हो सकता है।
कल्पना कीजिए कि आप एक पार्क के चारों ओर घूम रहे हैं। आप घास और फूलों के बीच की बाड़ की जाँच करते हैं, फिर फूलों और पेड़ों के बीच की बाड़ की, और अंत में पेड़ों और घास के बीच की बाड़ की। हर बाड़ मजबूत दिखती है। लेकिन यदि पार्क एक विशाल, अदृश्य लूप (जैसे कि डोनट का आकार) पर बना है, तो आप वापस वहीं पहुँच सकते हैं जहाँ से शुरू किया था लेकिन थोड़े बदलाव के साथ, या वास्तविकता के किसी अलग "स्तर" पर। शोध पत्र इसे होलोनोमी (holonomy) कहता है। यह एक संरचनात्मक गड़बड़ी है जहाँ साक्ष्य पूरी तरह से लूप को बंद नहीं करते, भले ही साक्ष्य का हर व्यक्तिगत हिस्सा ठीक दिखता हो।
यह शोध पत्र क्या खारिज करता है
लेखक स्पष्ट रूप से बताते हैं कि क्या काम नहीं करता है। वे सिद्ध करते हैं कि कोई भी सत्यापन प्रणाली जो केवल छोटे, स्थानीय टुकड़ों को देखती है (जैसे एक बार में एक जोड़ी मैप की जाँच करना), इस समस्या के प्रति संरचनात्मक रूप से अंधी (structurally blind) है। आप सीमाओं की कितनी भी सावधानी से जाँच कर लें, आप इस "ट्विस्ट" का पता नहीं लगा सकते यदि आप केवल सीमाओं को देखते हैं। शोध पत्र स्पष्ट रूप से इस विचार को खारिज करता है कि बेहतर स्थानीय जाँच या एआई पैनलों के बीच अधिक सहमति इस समस्या को ठीक कर देगी। यदि ट्विस्ट मौजूद है, तो विशेषज्ञों का एक पैनल जो पथ पर बहस कर रहा है, वह उसी अदृश्य लूप के बारे में बहस कर रहा होगा; वे उस छेद को नहीं ढूँढ पाएंगे।
भ्रम के तीन प्रकार
शोध पत्र साक्ष्य संघर्षों को तीन अलग-अलग प्रकारों में विभाजित करता है, जिसमें हॉज डिकंपोजिशन (Hodge decomposition) नामक गणितीय उपकरण का उपयोग किया गया है (जो बिखरे हुए कपड़ों के ढेर को तीन अलग-अलग टोकरियों में छाँटने जैसा है):
- ग्रेडिएंट (कैलिब्रेशन - The Gradient): यह केवल एक साधारण ऑफसेट है। शायद एक मैप कहता है कि "उत्तर" ऊपर है, और दूसरा कहता है कि "उत्तर" थोड़ा झुका हुआ है। इसे ठीक करना आसान है; आप बस कंपास को पुन: कैलिब्रेट करते हैं।
- कर्ल (स्थानीय विसंगति - The Curl): यह एक छोटे क्षेत्र में गड़बड़ी है। शायद फूलों की बाड़ पेड़ों की बाड़ से मेल नहीं खाती। यह तब पता लगाया जा सकता है जब आप तीन मैप्स के एक छोटे समूह को एक साथ देखते हैं।
- हारमोनिक (अदृश्य ट्विस्ट - The Harmonic): यह सबसे बड़ा है। यह एक ऐसा संघर्ष है जो केवल पूरे लूप को देखने पर अस्तित्व में आता है। यह हर स्थानीय परीक्षण को पास कर जाता है लेकिन अंतिम उत्तर इस बात पर निर्भर करता है कि कौन सा मार्ग लिया गया। यही वह हिस्सा है जिसे वर्तमान एआई सुरक्षा जाँच नहीं देख सकती।
समाधान: Ks.etra
इसे ठीक करने के लिए, लेखक Ks.etra (उच्चारण "के-सेत्रा") नामक एक नई विधि प्रस्तावित करते हैं। केवल यह जाँचने के बजाय कि टुकड़े फिट बैठते हैं या नहीं, Ks.etra साक्ष्य नेटवर्क की "हारमोनिक ऊर्जा" (harmonic energy) की गणना करता है। यदि यह ऊर्जा अधिक है, तो इसका अर्थ है कि एक संरचनात्मक ट्विस्ट है जिसे उसी स्तर पर अधिक डेटा एकत्र करके हल नहीं किया जा सकता है।
शोध पत्र सुझाव देता है कि जब एक एआई इस ट्विस्ट का पता लगाता है, तो उसे केवल अनुमान नहीं लगाना चाहिए या अधिक प्रयास नहीं करना चाहिए। उसे परहेज (abstain) करना चाहिए (उत्तर देने से मना कर देना चाहिए) और अधिक महत्वपूर्ण बात यह है कि उसे मानव ऑपरेटर को ठीक-ठीक बताना चाहिए कि कहाँ देखना है। यह एक संकेत बोर्ड की तरह कार्य करता है जो कहता है, "लूप यहाँ बंद नहीं होता है; आपको इस मानचित्र को ठीक करने के लिए लोगों के इस समूह को दो छोटे समूहों में विभाजित करने की आवश्यकता है।"
सिमुलेशन क्या दिखाते हैं
लेखक ने इस विचार का परीक्षण दो सिम्युलेटेड दुनिया में किया: एक दवा की खोज (Pharma) से संबंधित और एक क्रेडिट स्कोर (Credit) से संबंधित।
- Pharma सिमुलेशन में, Ks.etra का उपयोग करने से मौजूदा सर्वोत्तम पद्धति की तुलना में हानिकारक निर्णयों की दर में 0.032 (लगभग 3.2%) की कमी आई।
- Credit सिमुलेशन में, सुधार 0.043 (लग लगभग 4.3%) था।
- शोध पत्र ने यह भी पाया कि "ट्विस्ट" (हारमोनिक ऊर्जा) उन त्रुटियों का एक मजबूत भविष्यवक्ता था जिन्हें ठीक नहीं किया जा सका, जिसका सहसंबंध (correlation) सिमुलेशन में 0.37 था।
हम कितने आश्वस्त हैं?
यह ध्यान देना महत्वपूर्ण है कि ये परिणाम सिमुलेशन से आए हैं, वास्तविक दुनिया के डेटा से नहीं। लेखक इस बारे में बहुत ईमानदार हैं। उन्होंने एक गणितीय मॉडल बनाया जहाँ "ट्विस्ट" एक विशिष्ट तंत्र (जिसे इफेक्ट मॉडिफिकेशन कहा जाता है, जो एक छिपे हुए चर की तरह है जो खेल के नियम बदल देता है) द्वारा उत्पन्न किया गया था। इन सिमुलेशन में, गणित पूरी तरह से सटीक रहा। उन्होंने एक सांख्यिकीय परीक्षण (F-test) भी बनाया जो यह पता लगा सकता है कि क्या एक वैश्विक, सुसंगत उत्तर मौजूद है, और यह उनके परीक्षणों में अच्छी तरह से काम कर गया।
हालाँकि, शोध पत्र निष्कर्ष निकालता है कि अगला कदम वास्तविक डेटा पर परीक्षण करना है। वे मौजूदा चिकित्सा अध्ययनों या वित्तीय रिकॉर्ड को देखने का सुझाव देते हैं ताकि यह देखा जा सके कि क्या "ट्विस्ट" वास्तविक दुनिया के मतभेदों की भविष्यवाणी करता है। तब तक, यह विचार कि "स्थानीय जाँच वैश्विक लूपों के प्रति अंधी है" एक शक्तिशाली सैद्धांतिक अंतर्दृष्टि बनी हुई है जो कंप्यूटर सिमुलेशन द्वारा समर्थित है, लेकिन अभी तक वास्तविक दुनिया का प्रमाणित तथ्य नहीं बनी है।
निष्कर्ष (The Takeaway)
शोध पत्र का मुख्य संदेश एआई के भविष्य के लिए एक चेतावनी है: आप केवल चरणों की जाँच नहीं कर सकते; आपको यात्रा के आकार की जाँच करनी होगी। यदि एक एआई एक संदर्भ से दूसरे संदर्भ में एक निष्कर्ष ले जाने की कोशिश कर रहा है, और संदर्भों का "आकार" एक छिपे हुए लूप वाला है, तो एआई आत्मविश्वास के साथ गलत हो सकता है। समाधान अधिक बहस करना नहीं है; बल्कि लूप को पहचानना, रुकना और मानचित्र को फिर से बनाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।