Observability for Delegated Execution in Agentic AI Systems
यह शोध पत्र एक एजेंट-जागरूक अवलोकन सब्सट्रेट (agent-aware observability substrate) प्रस्तावित करके गतिशील LLM-आधारित एजेंटिक प्रणालियों में डेलीगेशन स्कोप्स (delegation scopes) को विशिष्ट रूप से पहचानने में मानक ऑडिट लॉग्स की अक्षमता को संबोधित करता है, जो विश्वसनीय, ह्यूरिस्टिक-मुक्त फोरेंसिक पुनर्निर्माण को सक्षम करने के लिए निष्पादन के समय (execution time) पर डेलीगेशन संदर्भ को बांधता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक जटिल प्रोजेक्ट को संभालने के लिए उच्च कुशल, स्वायत्त सहायकों (AI एजेंटों) की एक टीम को काम पर रखा है। आप उन्हें एक व्यापक लक्ष्य देते हैं: "हमारे बिक्री डेटा को व्यवस्थित करें और सारांश टीम के साथ साझा करें।"
अतीत में, यदि आप किसी मानव कर्मचारी को काम पर रखते थे, तो आप उनके दिन को आसानी से ट्रैक कर सकते थे: उन्होंने एक फ़ाइल खोली, एक ईमेल भेजा और एक रिपोर्ट प्रिंट की। लेकिन ये AI एजेंट अलग हैं। वे केवल एक सीधी रेखा का पालन नहीं करते हैं। वे ऐसा कर सकते हैं:
- काम को छोटे कार्यों में विभाजित करना और उन्हें अन्य AI उप-सहायकों (sub-assistants) को भेजना।
- एक टूल आज़माना, विफल होना और फिर एक दूसरा टूल आज़माना।
- एक ही समय में अलग-अलग कंप्यूटरों पर कई कार्य चलाना।
- एक कठिन दस्तावेज़ से भ्रमित होकर अनजाने में कुछ ऐसा कर देना जो उन्हें नहीं करना चाहिए था, जबकि वे अभी भी आपके मूल निर्देश के तहत काम कर रहे हों।
समस्या: प्रतिनिधिमंडल का "भूत" (The "Ghost" of Delegation)
इस पेपर के लेखक तर्क देते हैं कि इन एजेंटों को ट्रैक करने का हमारा वर्तमान तरीका टूटा हुआ है। हमारे पास "ऑडिट लॉग्स" (जैसे कि एक सुरक्षा कैमरा) और "ट्रेस" (जैसे कि लिए गए पथ का एक मानचित्र) हैं।
हालाँकि, पेपर का दावा है कि आप केवल इन लॉग्स को देखकर यह पता नहीं लगा सकते कि कौन से कार्य विशेष रूप से आपके द्वारा दिए गए प्रतिनिधिमंडल (delegation) के अंतर्गत आए थे।
यहाँ एक सादृश्य (analogy) है: कल्पना कीजिए कि दो अलग-अलग डिलीवरी ड्राइवर (प्रतिनिधिमंडल A और प्रतिनिधिमंडल B) एक ही शहर में काम कर रहे हैं। वे दोनों एक ही सड़कों (टूल्स) का उपयोग करते हैं और कभी-कभी एक-दूसरे के पास से गुजरते हैं।
- पुराना तरीका: हमारे पास केवल एक ट्रैफ़िक लॉग है कि किस समय कौन सी कार एक विशिष्ट चौराहे से गुजरी।
- समस्या: यदि ड्राइवर A और ड्राइवर B दोनों दोपहर 2:00 बजे चौराहे से गुजरते हैं, और उनके पथ समान दिखते हैं, तो हम केवल ट्रैफ़िक लॉग को देखकर यह नहीं बता सकते कि किस ड्राइवर ने क्या किया। हम अनुमान लगा सकते हैं कि वे एक साथ थे क्योंकि वे समय में करीब थे, लेकिन वह केवल एक अनुमान है। यदि वे ओवरलैप करते हैं, दोबारा प्रयास करते हैं, या अलग होते हैं, तो वह अनुमान लगाना असंभव हो जाता है।
यह पेपर गणितीय रूप से सिद्ध करता है कि बिना किसी विशिष्ट लेबल के, जो स्वयं 'अनुमति' (permission) से जुड़ा हो, यह पता लगाना असंभव है कि आपके द्वारा सौंपे गए अधिकार ने वास्तव में क्या किया। "अधिकार" (किसने आदेश दिया) पूरी तरह से "कारणता" (घटनाओं का क्रम) से अलग है।
समाधान: "स्मार्ट गेटवे" और "यूनिवर्सल बैज"
इसे ठीक करने के लिए, लेखक CIM (कॉमन इंफॉर्मेशन मॉडल) और एक गेटवे (Gateway) नामक एक नई प्रणाली का प्रस्ताव देते हैं।
- गेटवे (एक सुरक्षा गार्ड): कल्पना कीजिए कि हर उस टूल के दरवाजे पर एक सुरक्षा गार्ड खड़ा है जिसे AI उपयोग करना चाहता है (जैसे कि फ़ाइल सर्वर, चैट ऐप, या डेटाबेस)।
- यूनिवर्सल बैज (डेलीगेशन आईडी): जब AI कोई काम शुरू करता है, तो सिस्टम उस विशिष्ट प्रतिनिधिमंडल के लिए एक अद्वितीय, अपरिवर्तनीय "बैज आईडी" जारी करता है।
- नियम: हर बार जब AI किसी भी चीज़ को छूता है, गेटवे बैज की जाँच करता है। यदि AI आपकी अनुमति के तहत कार्य कर रहा है, तो गेटवे उस कार्य पर आपके बैज आईडी की मुहर लगा देता है—इससे पहले कि वह कार्य संपन्न हो।
यह केवल एक "सेशन आईडी" (जैसे कि एक एकल यात्रा के लिए टिकट नंबर) जोड़ने से अलग है। सेशन आईडी टूट जाती है यदि AI काम को उप-टीमों में विभाजित करता है या किसी कार्य को दोबारा प्रयास (retry) करता है। बैज आईडी उस अधिकार के साथ रहती है, भले ही AI एक उप-एजेंट बना ले, समानांतर कार्य चलाए, या आगे-पीछे जाए।
यह हमें क्या करने की अनुमति देता है
इस नए सिस्टम के साथ, प्रश्न पूछना आसान और सटीक हो जाता है, जैसे कि किसी डेटाबेस में किसी विशिष्ट ग्राहक को खोजना, न कि केवल इस आधार पर अनुमान लगाना कि दरवाज़े के पास कौन खड़ा था।
- "ब्लास्ट रेडियस" (Blast Radius) वाला प्रश्न: यह अनुमान लगाने के बजाय कि, "AI ने 2:00 से 2:30 के बीच किन फ़ाइलों को छुआ?" (जिसमें अन्य लोगों का काम भी शामिल हो सकता है), आप पूछ सकते हैं: "बैज #123 द्वारा छुई गई प्रत्येक फ़ाइल मुझे दिखाएं, चाहे वह किसी भी टूल का उपयोग करके या कभी भी की गई हो।"
- "सब-एजेंट" वाला प्रश्न: यदि मुख्य AI ने गंदा काम करने के लिए एक उप-एजेंट को काम पर रखा है, तो बैज यह सुनिश्चित करता है कि उप-एजेंट के कार्य भी स्पष्ट रूप से आपके मूल प्रतिनिधिमंडल से जुड़े रहें।
- "ड्रिफ्ट" (Drift) वाला प्रश्न: यदि AI ने सुरक्षित फ़ाइलों को पढ़ना शुरू किया लेकिन फिर अचानक गुप्त फ़ाइलें पढ़ने लगा, तो सिस्टम बैज के गतिविधि लॉग में इस "ड्रिफ्ट" को पहचान सकता है, भले ही AI ने बदलने के लिए अनुमति न मांगी हो।
महत्वपूर्ण सीमाएँ (जो पेपर दावा नहीं करता है)
- यह मन नहीं पढ़ता: सिस्टम यह नहीं जानता कि AI का इरादा क्या था या उसे धोखा दिया गया था (जैसे कि "प्रॉम्प्ट इंजेक्शन" के माध्यम से)। यह केवल यह रिकॉर्ड करता है कि वह कार्य आपके प्रतिनिधिमंडल के तहत हुआ। यदि AI को फ़ाइल चुराने के लिए बहकाया गया था, तो सिस्टम कहेगा, "आपके प्रतिनिधिमंडल ने यह किया," न कि "AI को हैक किया गया था।"
- इसे एक दरवाजे की आवश्यकता है: यह सिस्टम तभी काम करता है जब AI "गेटवे" के माध्यम से जाता है। यदि AI कोई बैकडोर ढूंढ लेता है या ऐसे टूल का उपयोग करता है जिस पर गेटवे नज़र नहीं रख रहा है, तो वे कार्य अदृश्य रहेंगे।
- यह रोकथाम का उपकरण नहीं है: यह AI को बुरा काम करने से नहीं रोकता है; यह केवल यह सुनिश्चित करता है कि बाद में हम सटीक रूप से देख सकें कि क्या हुआ था।
सारांश में
पेपर का तर्क है कि जैसे-जैसे AI एजेंट अधिक अराजक और जटिल होते जा रहे हैं, उन्हें ट्रैक करने का हमारा पुराना तरीका (समय और पथ को देखना) विफल हो रहा है। हमें एक नए तरीके की आवश्यकता है जो केवल पथ का नहीं, बल्कि स्वयं अनुमति का अनुसरण करे। हर क्रिया के समय उस पर एक स्थायी "बैज" लगाकर, हम अंततः यह पुनर्गठित कर सकते हैं कि हमारे प्रतिनिधिमंडल वाले AI ने वास्तव में क्या किया, भले ही वह चक्कर काट रहा हो, टीमों में विभाजित हो रहा हो, या कई अलग-अलग प्रणालियों में काम कर रहा हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।