KYA: A Framework-Agnostic Trust Layer for Autonomous Systems with Verifiable Provenance and Hierarchical Policy Composition
KYA स्वायत्त प्रणालियों (autonomous systems) के लिए एक ओपन-सोर्स, फ्रेमवर्क-अज्ञेय (framework-agnostic) ट्रस्ट लेयर है जो एजेंट ड्रिफ्ट, लीक्स और एडवरसेरियल हमलों का पता लगाने के लिए पांच मुख्य प्रिमिटिव्स—जिसमें एक सुरक्षित फोर-गेट अप्लाई पाइपलाइन, पदानुक्रमित नीति संरचना (hierarchical policy composition), और एकीकृत ट्रस्ट स्कोरिंग शामिल है—का उपयोग करता है, जबकि सब-मिलीसेकंड लेटेंसी और उच्च थ्रूपुट को बनाए रखता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास स्वायत्त रोबोटों (AI एजेंटों) का एक बेड़ा है जो आपके लिए काम कर रहे हैं। वे ऋण (लोन) के लिए आवेदन कर रहे हैं, चिकित्सा रोगियों को छाँट रहे हैं, या स्टॉक का व्यापार कर रहे हैं। वर्तमान में, हमारे पास इन रोबोटों पर नज़र रखने के लिए जो उपकरण हैं (जिसे "ऑब्जर्वेबिलिटी" कहा जाता है), वे एक कार के डैशबोर्ड की तरह हैं: वे आपको बताते हैं कि इंजन गर्म हो रहा है, या कार धीरे चल रही है, या कोई हिस्सा टूट गया है।
KYA (नो योर एजेंट्स) एक नया सिस्टम है जो केवल इंजन की निगरानी नहीं करता; यह एक सुरक्षा गार्ड, एक जासूस और एक नोटरी पब्लिक के रूप में कार्य करता है। यह उन सवालों के जवाब देता है जो डैशबोर्ड नहीं दे पाता: क्या यह रोबोट झूठ बोल रहा है? क्या यह अपने रास्ते से भटक रहा है? क्या यह राज़ लीक कर रहा है? और यदि कुछ गलत हो जाता है, तो वास्तव में जिम्मेदार कौन है?
यहाँ बताया गया है कि KYA कैसे काम करता है, जिसे रोजमर्रा के उदाहरणों का उपयोग करके पाँच सरल भागों में विभाजित किया गया है:
1. चार-द्वार सुरक्षा जाँच (द "बाउंसर")
किसी भी AI एजेंट को कुछ भी नया करने या अपने नियमों को बदलने की अनुमति देने से पहले, उसे चार सख्त सुरक्षा द्वारों से गुजरना पड़ता है। इसे एक उच्च-सुरक्षा वाले बैंक वॉल्ट की तरह समझें:
- द्वार 1: क्या चाबी पकड़ने वाले व्यक्ति ने वास्तव में इस अनुरोध पर हस्ताक्षर किए हैं? (डिजिटल सिग्नेचर चेक)।
- द्वार 2: क्या यह अनुरोध अभी भी वैध है, या इसकी अवधि समाप्त हो गई है? (समय की जाँच)।
- द्वार 3: क्या यह अनुरोध नियमों को सख्त बना रहा है या ढीला? KYA केवल नियमों को सख्त (सुरक्षित) करने की अनुमति देता है, ढीला कभी नहीं। यह एक माता-पिता की तरह है जो कहता है, "आप और अधिक काम जोड़ सकते हैं, लेकिन आप उन कामों को हटा नहीं सकते जो आपके पास पहले से हैं।"
- द्वार 4: क्या किसी इंसान ने वास्तव में "हाँ" कहा? डिफ़ॉल्ट रूप से, किसी भी बदलाव के लिए एक इंसान की स्वीकृति आवश्यक है।
2. "केवल-सख्त" नियम पुस्तिका (द "सेफ्टी लैटिस")
कल्पना कीजिए कि आपके पास अपने रोबोटों के लिए एक नियम पुस्तिका है। कंपनी (प्लेटफॉर्म) बुनियादी नियम निर्धारित करती है। आप (टेनेंट) अपने स्वयं के सख्त नियम ऊपर से जोड़ सकते हैं, लेकिन आप कंपनी के सुरक्षा नियमों को कभी हटा नहीं सकते।
KYA एक विशेष गणितीय प्रणाली का उपयोग करता है ताकि यह सुनिश्चित किया जा सके कि चाहे कितने भी लोग नियम जोड़ें, सिस्टम अनजाने में कम सुरक्षित न हो जाए। यह सुरक्षा जाल की एक परत की तरह है: आप और अधिक जाल जोड़ सकते हैं, लेकिन आप नीचे से एक भी जाल निकाल नहीं सकते।
3. KYP: "नो योर प्रिंसिपल" (द "यूनिवर्सल आईडी कार्ड")
अतीत में, हमारे पास मनुष्यों के लिए अलग आईडी कार्ड, रोबोटों के लिए अलग स्कोर और स्वचालित स्क्रिप्ट के लिए अलग लॉग होते थे। KYA इन सभी को एक ही एकल आईडी कार्ड प्रणाली पर लाता है।
चाहे कर्ता (actor) एक मानव कर्मचारी हो, एक AI रोबोट हो, या एक बैकग्राउंड स्क्रिप्ट हो, KYA उन्हें एक "ट्रस्ट स्कोर" (विश्वास स्कोर) देता है। यदि कोई रोबोट गलत व्यवहार करने लगता है, तो उसका स्कोर गिर जाता है। यदि कोई इंसान गलती करता है, तो उनका स्कोर गिर जाता है। यह सभी के साथ समान व्यवहार करता है, जिससे यह देखना आसान हो जाता है कि कौन भरोसेमंद है और कौन जोखिम भरा है।
4. "इंटरैक्शन मल्टीप्लायर" (द "डेंजर कॉम्बो")
कभी-कभी, एक अकेला कार्य ठीक होता है, लेकिन दो कार्य मिलकर खतरनाक हो सकते हैं।
- उदाहरण: एक रोबोट को "राइट" (लिखने का) टूल देना जोखिम भरा है। उसे "निजी डेटा" तक पहुँच देना जोखिम भरा है।
- मल्टीप्लायर: यदि आप एक रोबोट को "राइट" टूल और निजी डेटा तक पहुँच दोनों देते हैं, तो खतरा केवल "जोखिम + जोखिम" नहीं है। यह "सुपर डेंजरस" (अत्यधिक खतरनाक) है।
KYA के पास ऐसे "खतरनाक संयोजनों" की एक विशेष सूची है। जब यह उन्हें देखता है, तो यह जोखिम स्कोर को गुणा कर देता है, जिससे मानव ऑपरेटर को इस विशिष्ट संयोजन के लिए अतिरिक्त सावधानी बरतने की चेतावनी मिलती है।
5. "ब्लेम गेम" (द "ऑर्केस्ट्रेटर की जिम्मेदारी")
यह सबसे महत्वपूर्ण विशेषताओं में से एक है। कल्पना कीजिए कि एक "मैनेजर रोबोट" एक काम करने के लिए तीन "वर्कर रोबोट" को काम पर रखता है। यदि एक वर्कर रोबोट अनियंत्रित होकर डेटा चुरा लेता है, तो किसे दोषी ठहराया जाएगा?
- पुराना तरीका: वर्कर रोबोट को दोषी माना जाता है। मैनेजर रोबोट बच निकलता है।
- KYA का तरीका: मैनेजर रोबोट को दोषी ठहराया जाता है।
KYA यह मानता है कि यदि आप एक जोखिम भरा कार्यकर्ता नियुक्त करते हैं, तो आप जिम्मेदार हैं कि वे क्या करते हैं। यदि कोई सब-एजेंट गलत व्यवहार करता है, तो सिस्टम तुरंत मैनेजर के ट्रस्ट स्कोर से अंक काट लेता है। यह प्रबंधकों को गंदे काम करने के लिए "साफ-सुथरे" उप-एजेंटों के पीछे छिपने से रोकता है।
यह साक्ष्य (Evidence) को कैसे संभालता है (द "टेम्पर-प्रूफ डायरी")
हर बार जब कोई एजेंट कुछ करता है, तो KYA उसे एक डिजिटल डायरी में लिखता है। लेकिन यह केवल एक सामान्य लॉग नहीं है; यह एक क्रिप्टोग्राफिक रूप से जुड़ी हुई डायरी है।
- प्रत्येक प्रविष्टि (entry) एक विशेष गणितीय लॉक (HMAC) का उपयोग करके पिछली प्रविष्टि से जुड़ी होती है।
- यदि कोई पुरानी प्रविष्टि को बदलने (जैसे गलती मिटाने) की कोशिश करता है, तो लॉक टूट जाता है, और पूरी डायरी को "टेम्पर किया हुआ" (छेड़छाड़ किया गया) चिह्नित किया जाता है।
- यह ठीक-ठीक रिकॉर्ड बनाता है कि क्या हुआ, किसने किया, और कब किया गया—जो अदालत में मान्य हो।
शोध पत्र ने वास्तव में क्या पाया
लेखकों ने इन चुनौतियों के साथ इस सिस्टम का परीक्षण किया:
- गति (Speed): यह अविश्वसनीय रूप से तेज़ है। यह बिना धीमा किए प्रति सेकंड हजारों एजेंटों की जाँच कर सकता है।
- अनुकूलता (Compatibility): यह 15 से अधिक विभिन्न प्रकार के AI फ्रेमवर्क (जैसे LangChain, CrewAI, आदि) के साथ काम करता है। इससे कोई फर्क नहीं पड़ता कि आप कौन सा सॉफ़्टवेयर उपयोग कर रहे हैं; KYA उसके ऊपर फिट बैठता है।
- हैकिंग परीक्षण: टीम ने एजेंटों को चकमा देने के लिए "रेड टीम" हैकर्स को काम पर रखा। KYA ने 89% हमलों को पकड़ा, जिसमें एक बहुत ही जटिल नया हमला भी शामिल था जहाँ हैकर्स अपने पदचिह्नों को छिपाने के लिए रोबोटों की एक श्रृंखला का उपयोग करते हैं।
- वास्तविक दुनिया के परिदृश्य: उन्होंने एक सिम्युलेटेड बैंक लोन सिस्टम और एक अस्पताल ट्राइएज सिस्टम पर इसका परीक्षण किया। दोनों मामलों में, इसने सफलतापूर्वक जोखिम भरे एजेंटों की पहचान की और गलत व्यवहार को सही व्यक्ति (या रोबोट) तक पहुँचाया।
निष्कर्ष (The Bottom Line)
KYA एक ओपन-सोर्स टूल (मुफ्त उपयोग के लिए उपलब्ध) है जो आपके AI एजेंटों और वास्तविक दुनिया के बीच स्थित है। यह केवल यह नहीं बताता कि AI काम कर रहा है या नहीं; यह बताता है कि क्या AI सुरक्षित, ईमानदार और जवाबदेह है। यह सुनिश्चित करता है कि यदि कोई AI गलती करता है, तो हमें पता होगा कि वास्तव में किसे जिम्मेदार ठहराना है, और हमारे पास इसे साबित करने के लिए एक छेड़छाड़-मुक्त रिकॉर्ड होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।