TRUST: A Framework for Decentralized AI Service v.0.1
यह शोध पत्र TRUST को प्रस्तुत करता है, जो एक विकेंद्रीकृत ढांचा है जो पदानुक्रमित निर्देशित अचक्रीय ग्राफ़ (Hierarchical Directed Acyclic Graphs), DAAN प्रोटोकॉल और एक बहु-स्तरीय सर्वसम्मति तंत्र का लाभ उठाता है ताकि केंद्रीकृत AI ऑडिटिंग की मजबूती, मापनीयता, अपारदर्शिता और गोपनीयता संबंधी सीमाओं को दूर किया जा सके, जिससे बड़े तर्क मॉडल (Large Reasoning Models) और बहु-एजेंट प्रणालियों (Multi-Agent Systems) के लिए विश्वसनीय, पारदर्शी और लाभदायक सत्यापन सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अस्पताल चला रहे हैं, और आपको मरीजों का निदान करने के लिए डॉक्टरों की एक टीम रखनी है। वर्तमान एआई (AI) की दुनिया में, आप आमतौर पर केवल एक प्रसिद्ध, महंगे डॉक्टर (एक केंद्रीकृत एआई मॉडल) को काम पर रखते हैं और उनसे अपना निदान लिखने के लिए कहते हैं। आप केवल अंतिम उत्तर देखते हैं: "मरीज को दवा की जरूरत है।" यदि उत्तर सही है, तो आप उन्हें काम पर रख लेते हैं।
समस्या:
कभी-कभी, वह प्रसिद्ध डॉक्टर केवल किस्मत या एक भाग्यशाली अनुमान के कारण सही उत्तर दे देता है, भले ही उनका तर्क पूरी तरह से गलत हो। उदाहरण के लिए, वे मरीज की उम्र को उसके वजन के साथ मिला सकते हैं, एक महत्वपूर्ण नियम छोड़ सकते हैं, और फिर भी सही दवा का अनुमान लगा सकते हैं। यदि आप केवल अंतिम उत्तर की जांच करते हैं, तो आप एक ऐसे डॉक्टर को काम पर रख रहे हैं जो वास्तव में खतरनाक है। यदि अगली बार मरीज की स्थिति थोड़ी बदल जाती है, तो यह "किस्मत वाला" डॉक्टर घातक गलती कर सकता है।
इसके अलावा, क्योंकि यह डॉक्टर एक निजी कार्यालय (केंद्रीकृत) में काम करता है, आप यह नहीं देख सकते कि उन्होंने कैसे सोचा। आप यह जांच नहीं सकते कि वे पक्षपाती थे, थके हुए थे, या उनका तर्क त्रुटिपूर्ण था। यदि वे गलती करते हैं, तो आपको पता नहीं चलेगा कि किसे दोष दिया जाए।
समाधान: TRUST
यह शोध पत्र TRUST (Transparent, Robust, and Unified Services for Trustworthy AI) पेश करता है। TRUST को एक एकल डॉक्टर के रूप में नहीं, बल्कि एक विकेंद्रीकृत, लोकतांत्रिक अस्पताल नेटवर्क के रूप में सोचें जहाँ हजारों स्वतंत्र विशेषज्ञ मिलकर काम की जांच करते हैं।
यह कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग किया गया है:
1. रेसिपी को चरणों में तोड़ना (HDAGs)
एआई को एक पूरा 50 पन्नों का मेडिकल रिपोर्ट पढ़ने और निर्णय देने के लिए कहने के बजाय, TRUST एआई की सोचने की प्रक्रिया (चेन ऑफ थॉट) को एक फ्लोचार्ट में तोड़ देता है जिसे HDAG (Hierarchical Directed Acyclic Graph) कहा जाता है।
- उपमा: एक केक बनाने की जटिल रेसिपी की कल्पना करें। एक शेफ द्वारा पूरी चीज़ एक साथ बनाने और इसके अच्छा होने की उम्मीद करने के बजाय, TRUST रेसिपी को छोटे चरणों में तोड़ देता है: "मैदा मिलाएं," "अंडे डालें," "350 डिग्री पर बेक करें।"
- जादू: प्रत्येक चरण को एक अलग विशेषज्ञ को भेजा जाता है। एक गणित विशेषज्ञ "मैदा मिलाएं" की गणित की जांच करता है। एक तर्क विशेषज्ञ "अंडे डालें" के क्रम की जांच करता है। एक मानव विशेषज्ञ अंतिम "बेक" के निर्णय की जांच करता है। क्योंकि चरणों को विभाजित किया गया है, इसलिए कई लोग एक ही समय में उनकी जांच कर सकते हैं (समानांतर प्रसंस्करण/पैरेलल प्रोसेसिंग), जिससे यह तेज़ और धोखाधड़ी करना कठिन हो जाता है।
2. समूहों के लिए डिटेक्टिव नेटवर्क (CIGs)
कभी-कभी, एआई केवल एक व्यक्ति नहीं होता; यह एजेंटों की एक टीम होती जो एक-दूसरे से बात करती है (जैसे एक कोडर, एक समीक्षक और एक मैनेजर)। जब टीम विफल होती है, तो यह जानना कठिन होता है कि किसने गलती की। क्या कोडर ने खराब कोड लिखा, या मैनेजर ने गलत निर्देश दिए?
- उपमा: TRUST एक Causal Interaction Graph (CIG) का उपयोग करता है, जो एक जासूस के व्हाइटबोर्ड की तरह है जो बिंदुओं को जोड़ता है। यह "मैनेजर के निर्देश" से "कोडर के आउटपुट" तक एक रेखा खींचता है।
- जादू: यदि अंतिम उत्पाद खराब है, तो सिस्टम रेखा को पीछे की ओर ट्रेस करता है। यह कह सकता है, "कोडर ने अपना काम पूरी तरह से किया, लेकिन मैनेजर ने गलत आदेश दिया।" यह उस "दोषारोपण के खेल" (Blame Game) को रोकता है जहाँ प्रोजेक्ट को छूने वाले अंतिम व्यक्ति को दूसरों की गलतियों के लिए निकाला जाता है।
3. जूरी प्रणाली (सहमति और गोपनीयता)
हमें कैसे पता चलेगा कि विशेषज्ञ झूठ नहीं बोल रहे हैं या मिलीभगत नहीं कर रहे हैं? TRUST एक सार्वजनिक लेजर (ब्लॉकचेन) पर एक जूरी सिस्टम का उपयोग करता है।
- उपमा: एक अदालत की कल्पना करें जहाँ 100 जूरी सदस्य इस बात पर वोट देते हैं कि एक चरण सही है या नहीं। लेकिन यहाँ एक मोड़ है: कोई भी अकेला जूरी सदस्य पूरे मामले को नहीं देख पाता है।
- जूरी A केवल "मैदा मिलाएं" चरण को देखता है।
- जूरी B केवल "अंडे डालें" चरण को देखता है।
- वे नहीं जानते कि अन्य जूरी सदस्य कौन हैं, और वे पूरी रेसिपी भी नहीं देख सकते।
- जादू: यह "सीक्रेट सॉस" (कंपनी के मालिकाना हक वाले एआई लॉजिक) को चोरी होने से बचाता है, क्योंकि किसी भी एक व्यक्ति के पास पूरी तस्वीर नहीं होती। हालांकि, यदि 66% जूरी सदस्य सहमत होते हैं कि एक चरण सही है, तो इसे स्वीकार कर लिया जाता है। यदि कोई जूरी सदस्य पैसे पाने के लिए एक खराब चरण के लिए "हाँ" वोट देने की कोशिश करता है, तो सिस्टम उन्हें पकड़ लेता है, और वे अपनी जमा राशि (जो पैसा उन्होंने दांव पर लगाया था) खो देते हैं।
4. "सर्जिकल फिक्स" (सक्रिय परिशोधन/Active Refinement)
यदि कोई चरण गलत है, तो वर्तमान प्रणालियाँ आमतौर पर एआई को शुरू से पूरा कार्य फिर से करने के लिए मजबूर करती हैं। यह वैसा ही है जैसे सूप में गलत मसाला डालने के कारण पूरे घर को जला देना।
- उपमा: TRUST Active Refinement का उपयोग करता है। यह पहचानता है कि ठीक से कौन सा चरण गलत था (वह "खराब मसाला"), उसे बाहर निकालता है, और एआई को केवल उस हिस्से को ठीक करने के लिए कहता है।
- जादू: बाकी का घर (सही चरण) बिल्कुल वैसा ही रहता है जैसा वह था। यह बहुत सारा समय और पैसा बचाता है (छोटी गलतियों के लिए 99% तक की बचत)।
5. आर्थिक नियम (सुरक्षा-लाभप्रदता)
यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह प्रणाली आत्मनिर्भर है।
- ईमानदार कार्यकर्ता: यदि आप एक ईमानदार विशेषज्ञ के रूप में अपना काम कर रहे हैं, तो आप पैसा कमाते हैं।
- धोखेबाज: यदि आप धोखा देने या गलत वोट देने की कोशिश करते हैं, तो आप अपना पैसा खो देते हैं।
- परिणाम: बुरा व्यवहार करना आर्थिक रूप से तर्कहीन हो जाता है। सिस्टम को इस तरह से डिज़ाइन किया गया है कि "अच्छा होना" सबसे लाभदायक रणनीति है।
TRUST वास्तव में क्या दावा करता है
पूरी तरह से शोध पत्र के आधार पर, TRUST एक ऐसा ढांचा है जो:
- AI तर्क का ऑडिट करता है: यह जांचता है कि एक एआई कैसे सोचता है, न कि केवल अंतिम उत्तर को, ताकि उन "भाग्यशाली अनुमानों" को पकड़ा जा सके जो वास्तव में खतरनाक हैं।
- टैम्पर-प्रूफ लीडरबोर्ड बनाता है: यह सत्यापित, अपरिवर्तनीय डेटा के आधार पर एआई मॉडल को रैंक करता है ताकि कंपनियाँ स्कोर में धोखाधड़ी न कर सकें।
- डेटा को सत्यापित करता है: यह उच्च-गुणवत्ता वाले डेटा लेबलिंग के लिए एक बाजार बनाता है जहाँ गुणवत्ता को एक एकल बॉस द्वारा नहीं, बल्कि नेटवर्क द्वारा प्रमाणित किया जाता है।
- AI एजेंटों को नियंत्रित करता है: यह एआई टीमों के लिए एक सुरक्षा घेरा (guardrail) के रूप में कार्य करता है, जिससे वे हानिकारक चीजें (जैसे फाइलें हटाना या पैसे ट्रांसफर करना) करने से रुक जाते हैं जब तक कि नेटवर्क उसे मंजूरी न दे दे।
संक्षेप में:
TRUST एआई सत्यापन को एक "ब्लैक बॉक्स" (जहाँ आप एक एकल कंपनी पर भरोसा करते हैं) से बदलकर एक "ग्लास हाउस" (जहाँ हजारों स्वतंत्र आँखें काम की जांच करती हैं, तर्क को छोटे, सत्यापन योग्य टुकड़ों में तोड़ा जाता है, और सिस्टम को इस तरह डिज़ाइन किया गया है कि ईमानदारी से लाभ होता है और धोखाधड़ी से नुकसान होता है) में बदल देता है। यह दावा करता है कि यह चिकित्सा, कानून और वित्त जैसे उच्च-जोखिम वाले कार्यों के लिए एआई को सुरक्षित, अधिक पारदर्शी और सत्यापित करने में सस्ता बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।