← नवीनतम पेपर
🤖 AI

Locally Coherent, Globally Incoherent: Bounding Compositional Incoherence in Multi-Component LLM Agents

यह शोध पत्र एक रनटाइम-कंप्यूटेबल कंपोजिशनल रेसिडुअल (runtime-computable compositional residual) का उपयोग करके मल्टी-कंपोनेंट एलएलएम एजेंटों में "स्थानीय रूप से सुसंगत, वैश्विक रूप से असंगत" (locally coherent, globally incoherent) विफलता मोड को औपचारिक रूप देता है और परिमाणित करता है, यह प्रदर्शित करते हुए कि स्थानीय सुसंगतता अक्सर वैश्विक संभाव्यता निरंतरता सुनिश्चित करने में विफल रहती है और वर्तमान एलएलएम-पक्ष शमन अप्रभावी हैं, जबकि नियतात्मक प्रक्षेपण (deterministic projection) और अनुक्रमिक निगरानी (sequential monitoring) व्यवहार्य समाधान प्रदान करते हैं।

मूल लेखक: Anany Kotawala

प्रकाशित 2026-05-29
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Anany Kotawala

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Locally Coherent, Globally Incoherent" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।

बड़ी समस्या: "बहुत सारे शेफ" की दुविधा

कल्पना कीजिए कि आप एक रेस्टोरेंट चला रहे हैं जहाँ आपने एक विशाल दावत की योजना बनाने के लिए चार अलग-अलग विशेषज्ञ शेफ (Chefs) को काम पर रखा है।

  • शेफ A को केवल स्टार्टर्स (Appetizers) की योजना बनाने के लिए कहा गया है।
  • शेफ B को केवल मुख्य भोजन (Main Course) की योजना बनाने के लिए कहा गया है।
  • शेफ C को केवल मिठाई (Dessert) की योजना बनाने के लिए कहा गया है।
  • शेफ D को केवल पेय पदार्थ (Drinks) की योजना बनाने के लिए कहा गया है।

हर शेफ एक जीनियस है। वे अपने हिस्से के काम में पूरी तरह आश्वस्त हैं। शेफ A कहता है, "मुझे 80% यकीन है कि हमें 50 स्टार्टर्स की ज़रूरत होगी।" शेफ B कहता है, "मुझे 80% यकीन है कि हमें 50 मुख्य कोर्स की ज़रूरत होगी।" और इसी तरह।

समस्या: रेस्टोरेंट का मालिक ("एजेंट") बस सभी नंबरों को जोड़ देता है। लेकिन क्योंकि शेफ आपस में बात नहीं कर रहे थे, इसलिए वे अनजाने में 200 लोगों के लिए योजना बना सकते हैं जबकि रेस्टोरेंट में केवल 100 लोगों के बैठने की जगह है। या, वे 100% स्टार्टर्स और 100% मुख्य कोर्स की संभावना की योजना बना सकते हैं, भले ही मेनू के अनुसार एक टेबल पर इनमें से केवल एक ही चीज़ हो सकती है।

AI की दुनिया में, इसे "Locally Coherent, Globally Incoherent" कहा जाता है।

  • Locally Coherent (स्थानीय रूप से सुसंगत): प्रत्येक AI मॉडल (शेफ) अपने छोटे से कार्य पर अच्छा काम कर रहा है।
  • Globally Incoherent (वैश्विक रूप से असंगत): जब आप उनके उत्तरों को एक साथ रखते हैं, तो कुल गणित सही नहीं बैठता। संभावनाओं का योग 100% से अधिक (या कम) हो जाता है, जिससे एक तार्किक गड़बड़ी पैदा होती है।

पेपर की मुख्य खोज

लेखकों ने पाया कि भले ही हर एक AI मॉडल अपने स्वयं के छोटे कार्य पर पूरी तरह से सटीक और तार्किक हो, उन्हें मिलाने से अक्सर गणित बिगड़ जाता है।

वे इस बिगड़े हुए गणित को "Compositional Residual" (ϵ\epsilon^\star) कहते हैं। इसे एक "कचरा मीटर" (Garbage Meter) की तरह समझें।

  • यदि मीटर 0 दिखाता है, तो संयुक्त उत्तर एकदम सही है।
  • यदि मीटर ऊँचा दिखाता है, तो संयुक्त उत्तर तार्किक रूप से गलत है (जैसे, यह दावा करना कि बारिश होने की 150% संभावना है)।

उन्होंने चार अलग-अलग AI मॉडलों का उपयोग करके लगभग 2,000 विभिन्न परिदृश्यों (जैसे चुनाव विजेताओं, खेल के परिणामों, या टेक IPOs की भविष्यवाणी करना) पर इसका परीक्षण किया। उन्होंने पाया कि 33% से 94% समय, संयुक्त उत्तर गलत था, भले ही व्यक्तिगत AI भाग ठीक से काम कर रहे थे।

ऐसा क्यों होता है?

पेपर बताता है कि AI मॉडल बड़ी तस्वीर (Big Picture) के प्रति "अंधे" होते हैं।

  • अंधा विशेषज्ञ (The Blind Specialist): जब आप एक AI से पूछते हैं, "अमेरिका के वर्ल्ड कप जीतने की क्या संभावना है?", तो वह अपने प्रशिक्षण के आधार पर उत्तर देता है।
  • संदर्भ की कमी (The Missing Context): उसे यह नहीं पता कि आपने दूसरे AI से भी पूछा है, "ब्राजील के जीतने की क्या संभावना है?" और "जर्मनी के जीतने की क्या संभावना है?"
  • परिणाम: अमेरिका वाला AI 60% कहता है, ब्राजील 60% कहता है, और जर्मनी 60% कहता है। कुल योग 180% है। यह असंभव है। AI को यह नहीं पता था कि वह एक ऐसी टीम का हिस्सा है जहाँ कुल योग 100% होना चाहिए।

वे समाधान जो उन्होंने आज़माए (और विफल रहे)

शोधकर्ताओं ने "सॉफ्ट" तरीकों का उपयोग करके इसे ठीक करने की कोशिश की, जो शेफ को बेहतर निर्देश देने जैसा है:

  1. रिट्रीवल (Retrieval): शेफ को गूगल पर तथ्य खोजने की अनुमति देना। (विफल: वे फिर भी कुल योग पर सहमत नहीं हो सके)।
  2. बेहतर प्रॉम्प्ट्स (Better Prompts): शेफ को यह बताना, "याद रखें, आप एक टीम का हिस्सा हैं, और आपके उत्तरों का योग 1 होना चाहिए।" (विफल: उन्होंने फिर भी गलतियाँ कीं)।
  3. "बॉस" AI: एक स्मार्ट AI मैनेजर सभी शेफ की बातों को सुनकर उनके उत्तरों को फिर से लिखना। (विफल: मैनेजर ने अक्सर चीज़ों को और बिगाड़ दिया या गणित को ठीक नहीं किया)।

निष्कर्ष: आप केवल AI से बेहतर तरीके से बात करके इसे ठीक नहीं कर सकते। AI मॉडल डिज़ाइन के कारण एक-दूसरे से अलग-थलग हैं।

असली समाधान: "गणितीय सुधारक" (The Mathematical Corrector)

चूंकि आप शेफ को ठीक नहीं कर सकते, इसलिए आपको एक गणितीय सुधारक (Mathematical Corrector) की आवश्यकता है जो शेफ के काम पूरा करने के बाद हस्तक्षेप करे।

लेखक "Hierarchical Boyle–Dykstra Projection" नामक एक विधि प्रस्तावित करते हैं।

  • उपमा: कल्पना कीजिए कि शेफ आपको सामग्रियों की एक सूची देते हैं जिसका वजन 200 किलो है, लेकिन आपके ट्रक में केवल 100 किलो ले जाने की क्षमता है। शेफ से उनकी सूचियों को फिर से लिखने के लिए कहने के बजाय (जो वे खराब तरीके से करते हैं), आप बस एक मशीन का उपयोग करते हैं जो ढेर के ऊपर से अतिरिक्त वजन को काट देती है ताकि वह ठीक से ट्रक में फिट हो जाए, जबकि यह सुनिश्चित करती है कि सामग्रियों का सापेक्ष अनुपात मूल सूची के जितना संभव हो उतना करीब रहे।
  • यह कैसे काम करता है: सिस्टम टूटे हुए, 100% से अधिक वाले उत्तर को लेता है और एक सख्त गणितीय सूत्र का उपयोग करके उसे एक वैध, तार्किक आकार (एक "polytope") पर "प्रोजेक्ट" करता है। यह संख्याओं को बिना AI के "सोचे" भी प्रायिकता के नियमों का पालन करने के लिए मजबूर करता है।

यह विधि निश्चित (deterministic) है (यह हमेशा एक ही तरह से काम करती है) और तेज़ है। यह एक टूटे हुए, 150% संभाव्यता वाले उत्तर को तुरंत एक सटीक 100% उत्तर में बदल देती है।

आपको इसकी परवाह क्यों करनी चाहिए? ("पछतावे" का कारक)

पेपर दिखाता है कि यह केवल एक सैद्धांतिक गणित की समस्या नहीं है; यह निर्णय लेने में वास्तविक पैसा खर्च कराती है।

  • यदि आप इन AI एजेंटों का उपयोग करने वाले एक सट्टेबाज या निर्णय लेने वाले हैं, तो एक गलत उत्तर "पछतावे" (regret) की ओर ले जाता है। आप उस घोड़े पर दांव लगा सकते हैं जिसके बारे में AI कहता है कि उसकी 60% संभावना है, लेकिन क्योंकि AI का गणित गलत था, वह 60% वास्तव में एक झूठ था।
  • अपने "गणितीय सुधारक" का उपयोग करके, उन्होंने दिखाया कि आप पैसा बचा सकते हैं (जिसे "नेट्स" (nats) में मापा जाता है, जो सूचना लाभ की एक इकाई है) क्योंकि आप असंभव गणित के आधार पर दांव लगाना बंद कर देते हैं।

एक वाक्य में सारांश

जब आप कई AI मॉडलों से एक बड़े पहेली के हिस्सों को हल करने के लिए कहते हैं, तो वे अक्सर ऐसे उत्तर देते हैं जो आपस में मेल नहीं खाते; इसे ठीक करने का सबसे अच्छा तरीका उनसे और बेहतर प्रयास करने के लिए कहना नहीं है, बल्कि एक गणितीय "ट्रिमिंग टूल" का उपयोग करना है जो उनके उत्तरों को उपयोग करने से पहले उन्हें तर्कसंगत बनाने के लिए मजबूर करे।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →