Evidence-Bound Gateway-Path Provenance for Third-Party LLM Inference
यह शोध पत्र एक साक्ष्य-बद्ध (evidence-bound) एलएलएम गेटवे आर्किटेक्चर का प्रस्ताव करता है जो सभी रूटिंग, फॉलबैक और स्ट्रीमिंग निर्णयों को क्रिप्टोग्राफ़िक रूप से सत्यापित और हस्ताक्षरित करने के लिए एक अटेस्टेड निष्पादन तल (attested execution plane) का उपयोग करता है, जिससे क्लाइंट्स को तीसरे पक्ष के गेटवे ऑपरेटरों द्वारा नीति उल्लंघन, रूट प्रतिस्थापन और स्ट्रीम हेरफेर का स्वतंत्र रूप से पता लगाने और उन्हें रोकने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Evidence-Bound Gateway-Path Provenance for Third-Party LLM Inference" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ अनुवाद दिया गया है।
समस्या: "ब्लैक बॉक्स" बिचौलिया
कल्पना कीजिए कि आप एक बेकरी से कस्टम केक ऑर्डर करना चाहते हैं, लेकिन आप सीधे बेकर (बनाने वाले) से संपर्क नहीं करना चाहते। इसलिए, आप एक डिलीवरी सर्विस (गेटवे) को ऑर्डर संभालने के लिए नियुक्त करते हैं। आप डिलीवरी सर्विस को बताते हैं: "कृपया बेकरी A से एक चॉकलेट केक लेकर आएं।"
AI की वर्तमान दुनिया में, यह डिलीवरी सर्विस एक "थर्ड-पार्टी LLM गेटवे" है। यह आपके और बड़ी AI कंपनियों (जैसे OpenAI, Anthropic, आदि) के बीच में स्थित होती है।
भरोसे का मुद्दा (The Trust Issue):
समस्या यह है कि एक बार जब आपका ऑर्डर आपके हाथों से निकल जाता है, तो डिलीवरी सर्विस का उस पर पूरा नियंत्रण हो जाता है। वे ये सब कर सकते हैं:
- आपको बताए बिना बेकरी और ऑर्डर को बदलकर किसी सस्ती, कम गुणवत्ता वाली बेकरी से ऑर्डर ले सकते हैं।
- बेकरी को भेजने से पहले आपके अनुरोध को "वैनिला केक" में बदल सकते हैं।
- स्टोर से खरीदा हुआ केक डिलीवर कर सकते हैं लेकिन दावा कर सकते हैं कि यह कस्टम-मेड (विशेष रूप से बनाया गया) है।
- बाद में बिल में बदलाव कर सकते हैं कि आपने एक बड़ा टियर वाला केक ऑर्डर किया था जबकि आपने केवल एक छोटा केक ही ऑर्डर किया था।
चूंकि डिलीवरी सर्विस रसीद लिखती है और ट्रक को नियंत्रित करती है, इसलिए आपके पास यह साबित करने का कोई तरीका नहीं है कि उन्होंने धोखाधड़ी नहीं की। आपको बस उन पर भरोसा करना पड़ता है।
समाधान: "सीलबंद, गवाह वाला वॉल्ट"
यह पेपर इन डिलीवरी सेवाओं को चलाने का एक नया तरीका प्रस्तावित करता है जिसमें एक सुरक्षित वॉल्ट (जिसे Attested Gateway Runtime या AGR कहा जाता है) और एक नोटरी सिस्टम का उपयोग किया जाता है।
यहाँ बताया गया है कि उनका नया सिस्टम कैसे काम करता है, चरण-दर-चरण:
1. सीलबंद वॉल्ट (AGR)
डिलीवरी सर्विस द्वारा अपने खुले ऑफिस में आपका ऑर्डर संभालने के बजाय, वे ऑर्डर प्रोसेसिंग को एक हाई-टेक, अटूट कांच के वॉल्ट (एक Trusted Execution Environment या TEE) के अंदर रखते हैं।
- नियम: केवल इसी विशिष्ट वॉल्ट को आपका सीलबंद ऑर्डर खोलने, आपके लिखे हुए को पढ़ने, यह तय करने कि कौन सी बेकरी का उपयोग करना है, और बेकरी से बात करने की अनुमति है।
- सावधानी: डिलीवरी सर्विस के मैनेजर ("बिजनेस प्लेन") देख सकते हैं कि ट्रक चल रहा है और पैकेज लोड किए जा रहे हैं, लेकिन वे वॉल्ट के अंदर नहीं देख सकते। वे आपके ऑर्डर को बदल नहीं सकते या केक बनने के दौरान उसमें झाँक नहीं सकते।
2. नोटरी चेक (रिमोट अटेस्टेशन)
इससे पहले कि आप अपना ऑर्डर भेजें, आप केवल इस बात पर भरोसा नहीं करते कि वॉल्ट मौजूद है। आप एक नोटरी की सील (Remote Attestation) मांगते हैं।
- वॉल्ट आपको एक डिजिटल आईडी कार्ड दिखाता है जो प्रमाणित करता है: "मैं सही, छेड़छाड़-रहित वॉल्ट हूँ, और मैं ठीक उसी सॉफ्टवेयर वर्जन को चला रहा हूँ जिसे आपने अप्रूव किया था।"
- यदि डिलीवरी सर्विस वॉल्ट को किसी नकली वॉल्ट से बदलने की कोशिश करती है, तो नोटरी की सील मैच नहीं होगी, और आप अपना ऑर्डर नहीं भेजेंगे।
3. "एविडेंस चेन" (रसीद)
एक बार जब वॉल्ट आपके अनुरोध को प्रोसेस कर लेता है और केक (AI रिस्पॉन्स) प्राप्त कर लेता है, तो वह उसे केवल हाथ में नहीं थमा देता। वह एक छेड़छाड़-मुक्त डिजिटल रसीद (Inference Evidence Chain) बनाता है।
- यह रसीद स्वयं वॉल्ट द्वारा हस्ताक्षरित (signed) होती है।
- यह प्रमाणित करती है: "मैं वॉल्ट हूँ। मुझे आपका विशिष्ट अनुरोध मिला। मुझे बेकरी A जाने की अनुमति थी। मुझे बेकरी A से रिस्पॉन्स मिला। मैंने यह सटीक टेक्स्ट आपको डिलीवर किया है।"
- यदि डिलीवरी सर्विस केक को बदलने या रसीद को बदलने की कोशिश करती है, तो सिग्नेचर टूट जाता है, और रसीद अमान्य हो जाती है। आप तुरंत जान जाएंगे कि कुछ गलत हुआ है।
यह सिस्टम वास्तव में क्या करता है (और क्या नहीं करता)
यह क्या ठीक करता है:
- कोई छिपा हुआ बदलाव नहीं: आप जानते हैं कि वास्तव में किस AI मॉडल का उपयोग किया गया था।
- कोई गुप्त परिवर्तन नहीं: डिलीवरी सर्विस चुपके से आपके प्रॉम्प्ट या उत्तर को नहीं बदल सकती।
- कोई फर्जी बिल नहीं: जो कुछ भी हुआ उसका रिकॉर्ड वॉल्ट द्वारा हस्ताक्षरित है, न कि डिलीवरी मैनेजर द्वारा।
- फेल-सेफ (Fail-Safe): यदि वॉल्ट के साथ छेड़छाड़ की जाती है या प्रमाण गायब होता है, तो सिस्टम आपको गलत उत्तर देने के बजाय काम करना बंद कर देता है (fail-closed)।
यह क्या ठीक नहीं करता (पेपर की सीमाएं):
- यह बेकर को नहीं रोकता: यदि बेकरी (AI प्रदाता) खुद आपको खराब केक या खतरनाक रेसिपी देने का निर्णय लेती है, तो वॉल्ट उसे नहीं रोक सकता। वॉल्ट केवल यह प्रमाणित करता है कि डिलीवरी का रास्ता ईमानदार था, न कि बेकर ईमानदार है।
- यह समय (timing) को नहीं छुपाता: डिलीवरी सर्विस अभी भी देख सकती है कि ट्रक सड़क पर कितना समय रहा या पैकेज कितना बड़ा है, भले ही वे देख न सकें कि उसके अंदर क्या है।
- यह DoS हमलों को नहीं रोकता: यदि डिलीवरी सर्विस यह तय करती है कि वह आपके ट्रक को चलाने से मना कर दे, तो वे ऐसा कर सकते हैं।
"टेस्ट ड्राइव" के परिणाम
लेखकों ने इस विचार का परीक्षण करने के लिए एक वर्किंग प्रोटोटाइप (एक "Rust prototype") बनाया।
- उन्होंने इसे एक "मॉक" (नकली) AI प्रदाता और एक वास्तविक प्रदाता (GPT) के साथ टेस्ट किया।
- गति (Speed): यह बहुत तेज़ था। अतिरिक्त सुरक्षा चरणों (वॉल्ट की जाँच करना और रसीद पर हस्ताक्षर करना) ने बहुत कम समय जोड़ा (मिलीसेकंड में), जो लगभग नगण्य है।
- सुरक्षा: जब उन्होंने मॉडल बदलने, फॉलबैक छिपाने या रसीद बदलने जैसे तरीकों से सिस्टम को "हैक" करने की कोशिश की, तो सिस्टम ने हर प्रयास को पकड़ लिया और उसे खारिज कर दिया।
मुख्य निष्कर्ष (The Bottom Line)
यह पेपर तीसरे पक्ष के AI गेटवे को डिजाइन द्वारा ईमानदार (honest by design) बनाने का एक तरीका पेश करता है। गेटवे चलाने वाली कंपनी पर भरोसा करने के बजाय, यह गेटवे को यह साबित करने के लिए मजबूर करता है कि उसने नियमों का ठीक वैसे ही पालन किया है जैसा तय था, जिसे क्रिप्टोग्राफिक गणित के माध्यम से प्रमाणित किया जा सकता है।
इसे हर एक AI इंटरैक्शन के लिए एक सीलबंद, नोटरीकृत अनुबंध की तरह समझें। आपको बिचौलिए पर भरोसा करने की ज़रूरत नहीं है; आपको बस गणित और उस हार्डवेयर पर भरोसा करना है जो रसीद पर हस्ताक्षर करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।