🤖 machine learning

Online Security Learning in Cooperative Multi-Agent Systems under Hidden Byzantine Attacks

यह शोध पत्र छिपे हुए बायज़ेंटाइन हमलों (Byzantine attacks) का सामना कर रहे ऑनलाइन सहकारी बहु-एजेंट प्रणालियों के लिए सैद्धांतिक सीमाओं को स्थापित करता है और एक सुदृढ़ शिक्षण एल्गोरिदम प्रस्तावित करता है, जो यह प्रदर्शित करता है कि सुरक्षा पछतावा (security regret) मौलिक रूप से अविभेद्य हमले के परिदृश्यों के बीच सूचना-सैद्धांतिक अंतराल द्वारा संचालित होता है और प्रस्तावित शिक्षार्थी के लिए $\widetilde{\mathcal O}(H^2S\sqrt{AK})$ पछतावा सीमा प्रदान करता है।

मूल लेखक: Ximing Sun, Yue Wang

प्रकाशित 2026-08-10

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ximing Sun, Yue Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ रोबोटों की टीमें, खुद चलने वाली कारें, या यहाँ तक कि AI सहायक मिलकर बड़ी समस्याओं को हल करने के लिए काम करते हैं, जैसे कि पैकेज डिलीवर करना या पावर ग्रिड का प्रबंधन करना। आदर्श दुनिया में, टीम का हर सदस्य योजना का पूरी तरह से पालन करता है। लेकिन वास्तविकता में, चीजें गलत हो जाती हैं। कभी कोई रोबोट खराब हो जाता है, या इससे भी बुरा, एक "गद्दार" चुपके से समूह में शामिल हो जाता है। कंप्यूटर विज्ञान में, हम इन गद्दारों को "बायज़ेंटाइन" (Byzantine) एजेंट कहते हैं। इन्हें एक जासूसी फिल्म के उस जासूस की तरह समझें जो केवल छोड़ कर नहीं जाता; वह कमरे में रहता है, मददगार होने का नाटक करता है, लेकिन गुप्त रूप से टीम के निर्देशों को लागू होने से ठीक पहले बदल देता है। यदि ड्रोन की एक टीम घेरा बनाकर उड़ने की योजना बनाती है, तो जासूस एक ड्रोन के कान में फुसफुसा सकता है, "वास्तव में, सीधे दीवार में उड़ जाओ," और वह ड्रोन ऐसा ही करता है, जिससे दुर्घटना हो जाती है। डरावनी बात यह है कि टीम के अन्य सदस्यों को पता नहीं चलता कि जासूस वहाँ है, और वे उस गुप्त फुसफुसाहट को नहीं देख सकते जिसने योजना को बदल दिया। वे केवल अंतिम परिणाम देखते हैं: एक दुर्घटना।

यह शोध पत्र इस पेचीदा सवाल पर काम करता है कि एक टीम सुरक्षित रूप से काम करना कैसे सीख सकती है जब उन्हें यह नहीं पता होता कि जासूस कौन है, या वह क्या कर रहा है। यह एक डांस रूटीन सीखने की कोशिश करने जैसा है जबकि कोई आपके पार्टनर के मूव्स को चुपके से बदलता रहता है। शोधकर्ता जानना चाहते हैं: क्या टीम एक ऐसी रणनीति सीख सकती है जो सबसे खराब स्थिति में भी अच्छी तरह काम करे, जहाँ जासूस सब कुछ बर्बाद करने की पूरी कोशिश कर रहा हो? वे एक "सुरक्षा गारंटी" (security guarantee) की तलाश में हैं—एक वादा कि चाहे जासूस योजना के साथ कितनी भी छेड़छाड़ क्यों न करे, टीम फिर भी ठीक से प्रदर्शन करेगी। यह शोध पत्र केवल अनुमान नहीं लगाता; यह यह साबित करने के लिए भारी गणित का उपयोग करता है कि क्या संभव है और क्या असंभव है, यह दिखाते हुए कि दुश्मन के हाथ देखे बिना सीखने की सीमाएँ क्या हैं।

मशीन में जासूस

कहानी एक एजेंटों की टीम से शुरू होती है जो एक सहयोगात्मक खेल (cooperative game) सीखने की कोशिश कर रही है। उनके पास एक योजना है, लेकिन एक पेंच है: "बायज़ेंटाइन" एजेंटों (जासूसों) का एक छिपा हुआ समूह टीम की योजना देख सकता है और होने से पहले गुप्त रूप से अपने हिस्से को ओवरराइट कर सकता है। कल्पना कीजिए कि दोस्तों का एक समूह चोरी की योजना बना रहा है। वे एक रास्ते पर सहमत होते हैं। लेकिन एक दोस्त, जो वास्तव में एक जासूस है, उस रास्ते को देखता है और पूरे समूह को रोकने के लिए अपने स्वयं के कदम को बदलने का निर्णय लेता है। बाकी टीम केवल वही योजना देखती है जो उन्होंने सोची थी और अंतिम परिणाम (क्या उन्हें खजाना मिला या नहीं?) देखती है, लेकिन वे जासूस के गुप्त बदलाव या जासूस द्वारा किए गए वास्तविक कदम को कभी नहीं देख पाते।

शोधकर्ताओं ने पूछा: क्या टीम सुरक्षित रहना सीख सकती है? उन्होंने "सुरक्षा" को इस रूप में परिभाषित किया कि जासूस जो सबसे बुरा कर सकता है, उसके विरुद्ध भी यथासंभव अच्छा प्रदर्शन करना। यदि टीम एक ऐसी नीति सीखती है जो गारंटी देती है कि यदि जासूस उन्हें तोड़ने की पूरी कोशिश कर रहा हो, तब भी स्कोर अच्छा रहेगा, तो यह एक जीत है।

जासूस की गुप्त शक्ति

शोध पत्र ने जासूस की शक्ति के बारे में एक दिलचस्प बात खोजी: यह पूरी तरह से इस पर निर्भर करती है कि जासूस क्या जानता है।

यदि जासूस टीम की योजना बदलने से पहले उसे देख सकता है (जैसे कि टीम के निकलने से पहले नक्शा पढ़ता हुआ जासूस), तो समस्या गणित की एक विशिष्ट पहेली बन जाती है जिसे (s, a)-रेक्टेंगुलर रोबस्ट MDP कहा जाता है। सरल शब्दों में, इसका मतलब है कि जासूस टीम द्वारा बनाई गई हर एक विशिष्ट योजना के लिए सबसे बुरा परिणाम चुन सकता है। यह एक ऐसे खेल की तरह है जहाँ आपके द्वारा किए गए हर कदम के लिए, जासूस उस सटीक कदम के लिए सबसे खराब जवाबी कदम चुन सकता है।

हालाँकि, यदि जासूस "अंधा" है और उसे टीम की योजना देखे बिना उसका अनुमान लगाना पड़ता है (जैसे कि एक जासूस जिसे टीम द्वारा योजना लिखने से पहले ही बदलाव चिल्लाना पड़ता है), तो गणित बदल जाता है। समस्या एक s-रेक्टेंगुलर मॉडल बन जाती है। यहाँ, जासूस को एक ऐसी रणनीति चुननी होती है जो एक साथ सभी संभावित योजनाओं के विरुद्ध काम करे, जो वास्तव में टीम के लिए संभालना थोड़ा आसान है क्योंकि जासूस हर विशिष्ट योजना के लिए अपनी तोड़-फोड़ को अनुकूलित नहीं कर सकता।

अपरिहार्य अंधा मोड़ (Blind Spot)

यहाँ कहानी का सबसे आश्चर्यजनक हिस्सा है। शोधकर्ताओं ने सिद्ध किया कि केवल परिणामों को देखकर टीम क्या सीख सकती है, इसकी एक मौलिक सीमा है।

कल्पना कीजिए दो अलग-अलग दुनियाओं की। दुनिया A में, जासूस बुरा है और टीम बहुत अच्छा करती है। दुनिया B में, जासूस एक जीनियस है और टीम खराब प्रदर्शन करती है। शोधकर्ताओं ने दिखाया कि यह संभव है कि इन दोनों दुनियाओं में टीम को बिल्कुल समान परिणाम दिखाई दें। वे समान योजनाएं, समान पुरस्कार और समान परिणाम देखते हैं। क्योंकि डेटा समान है, टीम यह नहीं बता सकती कि वह किस दुनिया में है।

यह एक कठिन सत्य की ओर ले जाता है: आप केवल परिणामों को देखकर यह नहीं बता सकते कि जासूस कितना "बुरा" था। टीम सोच सकती है, "अरे, हमने बहुत अच्छा किया, इसलिए जासूस कमजोर रहा होगा!" लेकिन वास्तव में, शायद वे केवल भाग्यशाली थे कि जासूस ने उस दिन सबसे बुरा कदम नहीं चुना। शोध पत्र इस अंतर को जो "वास्तव में जो हुआ" और "जो सबसे बुरा हो सकता था" के बीच है, उसे रिस्पॉन्स गैप (response gap) कहता है।

लेखकों ने सिद्ध किया कि यह गैप अपरिहार्य है। चाहे सीखने का एल्गोरिदम कितना भी स्मार्ट क्यों न हो, यदि जासूस अप्रत्याशित होने की अनुमति देता है, तो टीम कभी भी 100% सुनिश्चित नहीं हो सकती कि वह सुरक्षित है। वे केवल यह सुनिश्चित कर सकते हैं कि उन्होंने जासूस के वास्तविक कदमों के विरुद्ध अच्छा किया, न कि अनिवार्य रूप से जासूस के सबसे बुरे संभावित कदमों के विरुद्ध।

नई सीखने की रणनीति

तो, यदि हम जासूस को पूरी तरह से नहीं देख सकते, तो हम कैसे सीखें? शोध पत्र एक नया सीखने का तरीका पेश करता है जिसे स्टेज-टाइड रोबस्ट एस्टिमेशन-टू-डिसीजन्स लर्नर (stage-tied robust estimation-to-decisions learner) कहा जाता है।

इसे एक ऐसे जासूस की तरह समझें जो सीधे तौर पर जासूस को पकड़ने की कोशिश नहीं करता है। इसके बजाय, जासूस खेल के प्रत्येक चरण के लिए एक "सुरक्षा जाल" बनाता है।

सुरक्षा जाल: जासूस की पहचान या उसके गुप्त कदमों का अनुमान लगाने के बजाय, लर्नर उन सभी संभावित "बुरे परिणामों" का एक मॉडल बनाता है जो घटित हो सकते हैं।
स्टेज-टाइड ट्रिक: आमतौर पर, सीखने वाले एल्गोरिदम को प्रत्येक अलग स्टेट और एक्शन को अलग-अलग चेक करना पड़ता है, जो एक विशाल फर्श के हर एक टाइल को एक-एक करके चेक करने जैसा है। यह धीमा और अक्षम है। नया तरीका इन चेक्स को "स्टेज" (या समय के चरण) के आधार पर समूहित करता है। यह चरणों के माध्यम से चलकर पूरे फर्श को चेक करने जैसा है बजाय इसके कि हर टाइल को व्यक्तिगत रूप से चेक किया जाए। यह सीखने की प्रक्रिया को बहुत तेज़ और अधिक कुशल बनाता है।
परिणाम: टीम एक ऐसी रणनीति सीखती है जो गारंटी देती है कि वह अच्छा प्रदर्शन करेगी। शोध पत्र सिद्ध करता है कि टीम का "रिग्रेट" (वह अंतर जो उन्होंने पूर्ण सुरक्षा रणनीति की तुलना में कम किया) अधिक गेम खेलने के साथ बहुत धीरे-धीरे बढ़ता है। विशेष रूप से, त्रुटि खेले गए खेलों की संख्या के वर्गमूल (square root) से संबंधित दर पर बढ़ती है, जो सीखने के एल्गोरिदम की दुनिया में एक बहुत अच्छा परिणाम है।

निचोड़

यह शोध पत्र केवल यह नहीं कहता कि, "यहाँ एक अच्छा एल्गोरिदम है।" यह एक स्पष्ट रेखा खींचता है। यह सिद्ध करता है कि हालांकि हम छिपे हुए गद्दारों के विरुद्ध मजबूत होने के लिए सीख सकते हैं, हम किसी भी दिए गए दिन में गद्दार कितना "बुरा" था, इसकी अनिश्चितता को पूरी तरह से खत्म नहीं कर सकते। "रिस्पॉन्स गैप" इस खेल की एक स्थायी विशेषता है।

हालाँकि, शोध पत्र हमें आशा भी देता है। इस नए "स्टेज-टाइड" तरीके का उपयोग करके, हम ऐसी रणनीतियाँ सीख सकते हैं जो प्रमाणित रूप से सुरक्षित और कुशल हैं, भले ही हमें यह न पता हो कि जासूस कौन है या वह क्या कर रहा है। यह विश्वासघात से बचने वाली टीमों के निर्माण के लिए एक ब्लूप्रिंट है, यह सुनिश्चित करते हुए कि यदि कोई जासूस योजना को बिगाड़ने की कोशिश करता है, तो भी टीम सफल हो सकती है। गणित ठोस है, प्रमाण कठोर हैं, और निष्कर्ष स्पष्ट है: हम सुरक्षित होना सीख सकते हैं, लेकिन हमें यह स्वीकार करना होगा कि हम जासूस के हाथ को पूरी तरह से कभी नहीं देख सकते।

तकनीकी सारांश: छिपे हुए बायज़ेंटाइन हमलों के तहत सहयोगात्मक बहु-एजेंट प्रणालियों में ऑनलाइन सुरक्षा शिक्षण

समस्या का निरूपण
यह शोध पत्र एक बहु-एजेंट प्रणाली (MAS) में ऑनलाइन सहयोगात्मक नियंत्रण की समस्या को संबोधित करता है जो बायज़ेंटाइन हमलों (Byzantine attacks) के अधीन है। विशेष रूप से, यह एक परिमित-क्षिति (finite-horizon) सहयोगात्मक टीम मार्कोव निर्णय प्रक्रिया (MDP) पर विचार करता है जहाँ एजेंटों का एक अज्ञात, स्थिर उपसमुच्चय, जिसे गठबंधन $B^\star$ कहा जाता है, समझौताकृत (compromised) है। ये बायज़ेंटाइन एजेंट निष्पादन से पहले टीम की नियोजित संयुक्त कार्रवाई का अवलोकन करते हैं और अपनी स्वयं की क्रिया निर्देशांकों (action coordinates) को गुप्त रूप से ओवरराइट कर सकते हैं।

सीखने वाला एजेंट ("learner") सार्वजनिक अवस्था (public state), नियोजित संयुक्त कार्रवाई, सार्वजनिक पुरस्कार और अगली सार्वजनिक अवस्था का अवलोकन करता है। महत्वपूर्ण रूप से, शिक्षार्थी समझौताकृत एजेंटों ( $B^\star$ ) की पहचान, विशिष्ट ओवरराइट क्रियाओं ( $u$ ), या अंतिम निष्पादित संयुक्त कार्रवाई को देख नहीं पाता है। उद्देश्य सुरक्षा (security) है: टीम के प्रदर्शन को बदतर से बदतर ओवरराइट्स के विरुद्ध अनुकूलित करना और इष्टतम सुरक्षा मान प्राप्त करना, जिसे किसी भी व्यवहार्य ओवरराइट रणनीति के विरुद्ध गारंटीकृत अधिकतम प्रतिफल (maximum return) के रूप में परिभाषित किया गया है।

कार्यप्रणाली और सैद्धांतिक ढांचा

ज्यामितीय न्यूनीकरण और आयतकारता (Geometric Reduction and Rectangularity):
लेखक पहले यह स्थापित करते हैं कि हमलावर का सूचना पैटर्न रोबस्ट निर्णय समस्या की ज्यामिति को कैसे निर्धारित करता है।
- इनसाइडर मॉडल (योजना का अवलोकन करता है): जब गठबंधन नियोजित कार्रवाई का अवलोकन करने से पहले उसे ओवरराइट करता है, तो समस्या ठीक से एक $(s, a)$ -आयतकार (rectangular) रोबस्ट MDP में बदल जाती है। प्रत्येक अवस्था-क्रिया युग्म के लिए अनिश्चितता सेट व्यवहार्य ओवरराइट्स द्वारा प्रेरित सार्वजनिक-परिणाम नियमों का उत्तल आवरण (convex hull) है। इस सेटिंग में, शिक्षार्थी और सबसे खराब स्थिति वाले प्रत्युत्तर (worst-case response) दोनों के लिए नियत (deterministic) गैर-स्थिर मार्कोव नीतियां पर्याप्त हैं।
- ब्लाइंड मॉडल (योजना का अवलोकन नहीं करता है): यदि गठबंधन वर्तमान योजना के प्रति अंधा (blind) है, तो प्रेरित मॉडल $s$ -आयतकार है, जहाँ अनिश्चितता एक अवस्था के भीतर क्रियाओं को जोड़ती है। यहाँ, इष्टतमता के लिए यादृच्छिक (randomized) मार्कोव नीतियों की आवश्यकता होती है।
सूचना-सैद्धांतिक सीमाएं (प्रतिक्रिया अंतराल - The Response Gap):
एक केंद्रीय सैद्धांतिक योगदान सुरक्षा पछतावे (security regret - $Reg^{sec}_K$ ) का दो घटकों में अपघटन है:
$Reg^{sec}_K = Reg_K + D_K$
- $Reg_K$ : रिटर्न पछतावा (return regret), जो इष्टतम मान और वास्तविक प्रत्युत्तर द्वारा उत्पन्न रिटर्न के बीच के अंतर को मापता है जो डेटा उत्पन्न कर रहा है।
- $D_K$ : संचयी प्रतिक्रिया अंतराल (cumulative response gap), जो वास्तविक प्रत्युत्तर और सबसे खराब स्थिति वाले प्रत्युत्तर के बीच के अंतर को मापता है।
लेखक एक निचली-सीमा निर्माण (Theorem 4.1) के माध्यम से सिद्ध करते हैं कि $D_K$ सूचना-सैद्धांतिक रूप से आवश्यक है। समान सार्वजनिक ट्रांसक्रिप्ट के बावजूद, दो अलग-अलग अंतर्निहित MDPs शून्य रिटर्न पछतावा दे सकते हैं, लेकिन रैखिक सुरक्षा पछतावा दे सकते हैं यदि वास्तविक प्रत्युत्तर सबसे खराब स्थिति वाले न हों। अतः, बिना अनियंत्रित वास्तविक हमलों के विरुद्ध केवल सार्वजनिक फीडबैक से सुरक्षा को प्रमाणित करने के लिए कोई भी एल्गोरिदम (बिना इस अंतराल को ध्यान में रखे) संभव नहीं है।
एल्गोरिदम: स्टेज-टाइड रोबस्ट एस्टीमेशन-टू-डिसीजन (E2D):
लेखक एस्टीमेशन-टू-डिसीजन (E2D) ढांचे [17, 18] पर आधारित एक ऑनलाइन लर्निंग एल्गोरिदम प्रस्तावित करते हैं, जिसे इस विशिष्ट खतरे के मॉडल के लिए अनुकूलित किया गया है।
- निजी कोडिंग (Private Coding): पूर्ण-इतिहास फीडबैक और सीमित पुरस्कारों को संभालने के लिए, शिक्षार्थी निजी रूप से पुरस्कारों को बरनौली चर (Bernoulli variables) में परिवर्तित करता है (क्षिति $H$ द्वारा स्केल किया गया) ताकि एक "कोडेड" अवलोकन स्थान बनाया जा सके।
- स्टेज-टाइड एस्टिमेटर (Stage-Tied Estimator): मानक अवस्थावार एस्टिमेटर्स के विपरीत (जो प्रत्येक पूर्ववर्ती अवस्था के लिए एक अलग प्रमाण बनाए रखते हैं, जिससे अनुमान बजट $\tilde{O}(HS^2)$ हो जाता है), प्रस्तावित एल्गोरिदम एक स्टेज-टाइड एस्टिमेटर का उपयोग करता है। यह प्रत्येक चरण (लेयर) के लिए एक एकल निरंतरता वेक्टर (contination vector) और अंशांकन गवाह (calibration witness) बनाए रखता है। यह अनुमान बजट को घटाकर $\tilde{O}(HS)$ कर देता है।
- डिसीजन ऑरेकल (Decision Oracle): एल्गोरिदम विश्वास सेट (confidence set) के भीतर नीतियों का चयन करने के लिए एक अनुमानित निर्णय ऑरेकल का उपयोग करता है जो अनुमान हानि (estimation loss) को कम करती है।

प्रमुख परिणाम और पछतावा सीमाएं (Regret Bounds)

पछतावा गारंटी: एक अनुमानित E2D निर्णय ऑरेकल की धारणा के तहत, प्रस्तावित शिक्षार्थी एक अपेक्षित सुरक्षा पछतावा सीमा प्राप्त करता है:
$E[Reg^{sec}_K] \leq \tilde{O}\left(H^2 S \sqrt{AK}\right) + E[D_K]$
जहाँ $H$ क्षिति (horizon) है, $S$ सार्वजनिक अवस्थाओं की संख्या है, $A$ संयुक्त क्रियाओं की संख्या है, और $K$ एपिसोड की संख्या है।
बेसलाइन की तुलना में सुधार: मौजूदा रोबस्ट RL विधियों के प्रत्यक्ष अवस्थावार अनुकूलन ( $\tilde{O}(H^2 S^{3/2} \sqrt{AK})$ प्रदान करने वाले) की तुलना में अग्रणी पद (leading term) में $\sqrt{S}$ का सुधार पूरी तरह से स्टेज-टाइड एस्टिमेटर के कारण है।
मार्कोव नीतियों की इष्टतमता: यह शोध पत्र सिद्ध करता है कि इनसाइडर मॉडल के लिए, शिक्षार्थी को नियत गैर-स्थिर मार्कोव नीतियों तक सीमित करना इष्टतम सुरक्षा मान प्राप्त करने के लिए पर्याप्त है, और सबसे खराब स्थिति वाला प्रत्युत्तर भी एक नियत मार्कोव नीति के रूप में लिया जा सकता है।

महत्व और दावे

यह शोध पत्र दावा करता है कि यह बायज़ेंटाइन एक्शन ओवरराइट्स के तहत विश्वसनीय बहु-एजेंट प्रणालियों के लिए व्यापक सैद्धांतिक और एल्गोरिद्मिक आधार प्रदान करता है। इसका महत्व तीन मुख्य क्षेत्रों में है:

सटीक न्यूनीकरण: यह स्थापित करता है कि परिचालन बायज़ेंटाइन इंटरेक्शन ठीक से रोबस्ट MDPs (आयतकार मॉडलों) के एक विशिष्ट वर्ग के समकक्ष है, जो प्रतिकूल क्रिया हेरफेर और रोबस्ट नियंत्रण सिद्धांत के बीच के अंतर को पाटता है।
मौलिक सीमा: यह प्रतिक्रिया अंतराल ( $D_K$ ) को एक अपरिहार्य सूचना-सैद्धांतिक बाधा के रूप में पहचानता और मात्रा निर्धारित करता है। शोध पत्र स्पष्ट करता है कि सार्वजनिक फीडबैक अकेले एक सौहार्दपूर्ण वास्तविकता और एक सबसे खराब स्थिति वाली वास्तविकता के बीच अंतर नहीं कर सकता है, जिससे सांख्यिकीय शिक्षण लागत ( $Reg_K$ ) और सुरक्षा प्रमाणन लागत ( $D_K$ ) का पृथक्करण आवश्यक हो जाता है।
एल्गोरिद्मिक दक्षता: स्टेज-टाइड एस्टिमेटर पेश करके, यह कार्य प्रदर्शित करता है कि इस सेटिंग में रोबस्ट लर्निंग को ऐसे नमूना जटिलता (sample complexity) के साथ प्राप्त किया जा सकता है जो अवस्था स्थान के आकार ( $S$ ) के साथ रैखिक रूप से स्केल करती है, न कि द्विघातीय (quadratically) रूप से, जो सुरक्षित बहु-एजेंट समन्वय के लिए एक अधिक कुशल मार्ग प्रदान करती है।

लेखक स्पष्ट रूप से कहते हैं कि मिनिमैक्स इष्टतम पछतावा सीमा को निर्धारित करना भविष्य के कार्य के लिए एक खुला प्रश्न बना हुआ है, जिससे वे अपने वर्तमान बाउंड्स की सटीकता के प्रति एक विनम्र रुख बनाए रखते हैं।

मशीन में जासूस

जासूस की गुप्त शक्ति

अपरिहार्य अंधा मोड़ (Blind Spot)

नई सीखने की रणनीति

निचोड़

इसी तरह के और पेपर