🤖 AI

Laws of Learning Dynamics and the Core of Learners

यह शोध पत्र एंट्रॉपी संरक्षण और कमी से जुड़े सीखने की गतिशीलता के मौलिक नियमों को स्थापित करता है ताकि एक एंट्रॉपी-आधारित लाइफलॉन्ग एनसेंबल लर्निंग पद्धति पेश की जा सके जो CIFAR-10 डेटासेट पर ट्रांसफर-आधारित एडवरसैरियल हमलों के विरुद्ध बचाव करने में नैइव एनसेंबल्स की तुलना में काफी बेहतर प्रदर्शन करती है।

मूल लेखक: Inkee Jung, Siu Cheong Lau

प्रकाशित 2026-02-06

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Inkee Jung, Siu Cheong Lau

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप छात्रों के एक समूह (AI मॉडलों की एक टीम) को चित्रों में वस्तुओं को पहचानना सिखाने की कोशिश कर रहे हैं। आमतौर पर, यदि आप उन्हें बिल्ली की तस्वीर दिखाते हैं, तो वे सभी सहमत होते हैं कि वह एक बिल्ली है। लेकिन क्या होगा यदि कोई तस्वीर में एक छोटा सा, अदृश्य छल (trick) डाल दे जो एक कंप्यूटर को बिल्ली को कुत्ता दिखाने के लिए मजबूर कर दे, भले ही वह इंसान को अभी भी बिल्ली ही दिखाई दे? इसे एडवर्सरियल अटैक (adversarial attack) कहा जाता है।

यह शोध पत्र इस बारे में एक नया तरीका प्रस्तावित करता है कि इन ट्रिक्स को पहचानने और भ्रमित हुए बिना सीखते रहने के लिए छात्र टीमों को कैसे व्यवस्थित किया जाए। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:

1. "सीखने के नियम" (खेल के नियम)

लेखक सीखने को भौतिकी (physics) की तरह मानते हैं। वे दो मुख्य नियम प्रस्तावित करते हैं:

प्रयास का संरक्षण (The Conservation of Effort): सीखने को एक भारी बक्से को पहाड़ी पर ऊपर ले जाने के रूप में सोचें। गलतियों को सुधारने (त्रुटि कम करने) में लगाया गया "प्रयास" "स्थितिज ऊर्जा" (बेहतर ज्ञान) में बदल जाता है। आप शून्य से ज्ञान पैदा नहीं कर सकते; आपको इसके लिए प्रयास की कीमत चुकानी होगी।
भ्रम में कमी का नियम (The Law of Decreasing Confusion/Entropy): बिखरे हुए खिलौनों से भरे एक अस्त-व्यस्त कमरे की कल्पना करें। "एन्ट्रॉपी" (Entropy) उस अव्यवस्था या भ्रम का माप है। पेपर का दावा है कि जैसे-जैसे सीखने की प्रक्रिया सही ढंग से काम करती है, कमरा साफ होता जाता है। भ्रम (एन्ट्रॉपी) कम होना चाहिए। यदि कमरा अव्यवस्थित ही रहता है, तो इसका मतलब है कि सीखना काम नहीं कर रहा है।

2. "लॉलिफोल्ड" (The Logifold - एक स्तरित टीम)

एक विशाल छात्र टीम बनाने के बजाय जो सब कुछ करने की कोशिश करती है, लेखक एक लॉलिफोल्ड (Logifold) बनाते हैं। इसे एक बहु-स्तरीय सुरक्षा प्रणाली या एक विशेष अस्पताल के रूप में सोचें:

स्तर 1 (फ्रंट डेस्क): इस टीम को सामान्य, साफ चित्रों पर प्रशिक्षित किया गया है। वे मानक बिल्लियों और कुत्तों को पहचानने में बहुत अच्छे हैं। उनका एक "कोर" (Core) क्षेत्र है जहाँ वे 100% आश्वस्त हैं।
अलार्म सिस्टम: यदि कोई तस्वीर आती है जो थोड़ी अजीब है (जैसे कि एक तस्वीर जिसमें एक छोटा, अदृश्य छल जोड़ा गया है), तो स्तर 1 की टीम भ्रमित हो जाती है। उनका "भ्रम मीटर" (entropy) बढ़ जाता है। उन्हें एहसास होता है, "मुझे नहीं पता कि यह क्या है!"
स्तर 2 (विशेषज्ञ): गलत अनुमान लगाने के बजाय, स्तर 1 इन भ्रमित करने वाली तस्वीरों को स्तर 2 को सौंप देता है। स्तर 2 एक नई टीम है जिसे विशेष रूप से उन चालाकी भरे, अजीब चित्रों पर प्रशिक्षित किया गया है।

3. "प्रतिरक्षा निर्माण" (The Immunization)

यह पेपर मानव शरीर में प्रतिरक्षा (immunity) विकसित करने की प्रक्रिया के समान एक प्रक्रिया का वर्णन करता है:

प्रथम एक्सपोजर: सिस्टम पर एक "कमजोर" ट्रिक से हमला किया जाता है। फ्रंट डेस्क टीम (स्तर 1) भ्रम को नोटिस करती है और चालाकी भरे उदाहरणों को एक नई टीम (स्तर 2) को सीखने के लिए भेज देती है।
द्वितीय एक्सपोजर: अब, पूरा सिस्टम (स्तर 1 + स्तर 2) एक "मजबूत" ट्रिक का सामना करता है। क्योंकि वे पहले से ही कमजोर ट्रिक्स से सीख चुके हैं, इसलिए सिस्टम "प्रतिरक्षित" (immunized) हो जाता है। फ्रंट डेस्क टीम अब मजबूत ट्रिक्स को पहले से कहीं बेहतर तरीके से पहचान सकती है, और विशेषज्ञ बाकी चीजों को संभालते हैं।
परिणाम: सिस्टम केवल सभी के अनुमान का औसत नहीं निकालता (जो कि भीड़ से पूछने और औसत उत्तर लेने जैसा है); बल्कि, यह आसान सवालों को विशेषज्ञों के पास भेजता जो सुनिश्चित हैं, और कठिन सवालों को उन विशेषज्ञों के पास भेजता जो उनके लिए प्रशिक्षित हैं।

4. उन्होंने क्या पाया (परिणाम)

शोधकर्ताओं ने CIFAR-10 (विमान, कार और पक्षियों जैसे 10 प्रकार के छोटे चित्रों का एक संग्रह) नामक डेटासेट पर इसका परीक्षण किया।

परीक्षण: उन्होंने कंप्यूटर को मूर्ख बनाने के लिए डिज़ाइन किए गए अदृश्य ट्रिक्स के साथ सिस्टम पर हमला किया।
तुलना: उन्होंने अपने "लॉलिफोल्ड" सिस्टम की तुलना एक साधारण टीम से की जो केवल अपने सदस्यों के उत्तरों का औसत लेती है।
निष्कर्ष: जब हमले कमजोर थे, तो सभी ठीक थे। लेकिन जब हमले मजबूत और चालाकी भरे थे, तो साधारण टीम बुरी तरह विफल हो गई। हालाँकि, "लॉलिफोल्ड" सिस्टम ने अपना धैर्य बनाए रखा। इसने सही ढंग से पहचान लिया कि इस पर हमला किया जा रहा है, कठिन मामलों को सही विशेषज्ञों के पास भेजा, और बहुत अधिक सटीकता बनाए रखी।

संक्षेप में

यह पेपर तर्क देता है कि एक ऐसा पूर्ण AI बनाने के बजाय जो सब कुछ जानता हो, हमें एक गतिशील, स्तरित टीम (dynamic, layered team) बनानी चाहिए।

जब चीजें सामान्य होती हैं, तो "कोर" टीम उन्हें संभालती है।
जब चीजें अजीब या चालाकी भरी हो जाती हैं (जैसे एडवर्सरियल अटैक), तो सिस्टम भ्रम (उच्च एन्ट्रॉपी) का पता लगाता है, अनुमान लगाना बंद कर देता है, और समस्या को विशेषज्ञों की एक नई पीढ़ी को भेज देता है जो उस प्रकार की परेशानी के लिए विशेष रूप से प्रशिक्षित होते हैं।
यह पूरे सिस्टम को हमलों के प्रति "प्रतिरक्षित" बनाता है क्योंकि यह केवल औसत निकालने के बजाय वास्तविक समय में अपनी गलतियों से सीखता है।

तकनीकी सारांश: सीखने की गतिशीलता के नियम और शिक्षार्थियों का मूल (Laws of Learning Dynamics and the Core of Learners)

समस्या विवरण (Problem Statement)

यह शोध पत्र एन्सेम्बल मॉडल्स (ensemble models) के भीतर सीखने की गतिशीलता (learning dynamics) के मौलिक गणितीय निरूपण को संबोधित करता है, जो विशेष रूप से इस बात पर केंद्रित है कि सीखने की प्रक्रिया के दौरान अनिश्चितता और त्रुटि कैसे विकसित होती है। यह सीखने के उन कठोर नियमों को स्थापित करने का प्रयास करता है जो ऊष्मप्रवैगिकी (thermodynamics) के सिद्धांतों के समान हैं। इसके अतिरिक्त, यह कार्य मशीन लर्निंग मॉडल्स को एडवरसैरियल हमलों (adversarial attacks), विशेष रूप से ट्रांसफर-आधारित हमलों से बचाने की व्यावहारिक चुनौती से निपटने के लिए, स्थिर अस्वीकृति तंत्र (static rejection mechanisms) से आगे बढ़कर एक गतिशील, विकासवादी रक्षा रणनीति की ओर बढ़ता है। लेखक मॉड्यूलर एआई आर्किटेक्चर, मिक्सचर-ऑफ-एक्सपर्ट्स (Mixture-of-Experts), और मल्टीमॉडल लर्निंग को एक एकल ढांचे में एकीकृत करने का लक्ष्य रखते हैं जो लक्षित फाइन-ट्यूनिंग और त्रुटि एट्रिब्यूशन (error attribution) के माध्यम से 'कैटैस्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) को कम कर सके और सटीकता में सुधार कर सके।

कार्यप्रणाली (Methodology)

1. सीखने के नियमों का गणितीय निरूपण (Mathematical Formulation of Learning Laws)

लेखक एक सत्य फलन (truth function) $T$ के लिए एक मॉडल $(\Phi, f)$ को परिभाषित करते हैं, जहाँ $\Phi$ एक यूक्लिडियन प्रतिनिधित्व (विशेषता स्थान/feature space) है और $f$ एक निर्णय फलन है जो संभाव्यता वितरणों (probability distributions) को मैप करता है। वे दो मौलिक नियम प्रस्तुत करते हैं:

संरक्षण का नियम (प्रथम नियम का सादृश्य - The Conservation Law): शोध पत्र एक पहचान (identity) स्थापित करता है जो एंट्रॉपी के ग्रेडिएंट के विरुद्ध सत्य की ओर मॉडल को ले जाने के लिए किए गए कार्य और क्रॉस-एंट्रॉपी एवं कुल एंट्रॉपी के बीच के अंतर को जोड़ती है। विशेष रूप से, "सत्य को सीखने में किया गया प्रयास क्षमता (potential) में बदल जाता है," जिसे इस प्रकार औपचारिक रूप दिया गया है:
$\int_{\text{Dom}(\Phi)} (\nabla H)|_{f(\Phi(x))} \cdot (T(x) - f(\Phi(x))) dx = H(T, (\Phi, f)) - H(\Phi, f)$
यहाँ, $H(T, (\Phi, f))$ क्रॉस-एंट्रॉपी (क्षमता/potential) को दर्शाता है, और $H(\Phi, f)$ कुल एंट्रॉपी (धुंधलापन/fuzziness) को दर्शाता है।
एंट्रॉपी में कमी (तृतीय नियम का सादृश्य - The Decrease of Entropy): लेखक सिद्ध करते हैं कि एक ऐसी सीखने की प्रक्रिया में जहाँ सत्य के प्रति क्रॉस-एंट्रॉपी शून्य की ओर बढ़ती है, मॉडल (या एन्सेम्बल) की कुल एंट्रॉपी भी घटकर शून्य हो जाती है। इसका तात्पर्य यह है कि जैसे-जैसे एक मॉडल सत्य को सीखता है, उसकी आंतरिक अनिश्चितता (धुंधलापन) समाप्त हो जाती है।

2. एन्सेम्बल डायनेमिक्स और "कोर" (Ensemble Dynamics and the "Core")

मॉडल्स के एक एन्सेम्बल $U$ के लिए, शोध पत्र एक दिए गए इनपुट $x$ पर एन्सेम्बल के सभी मॉडलों के बीच क्रॉस-एंट्रॉपी के आधार पर पॉइंटवाइज एंट्रॉपी (pointwise entropy) को परिभाषित करता है।

कोर ( $C_p(U)$ ): इसे इनपुट स्पेस के उस उपसमुच्चय (subset) के रूप में परिभाषित किया गया है जहाँ पॉइंटवाइज एंट्रॉपी एक थ्रेशोल्ड $p$ से नीचे है। इस कोर के भीतर, एन्सेम्बल के मॉडल एक अद्वितीय, गैर-धुंधले (non-fuzzy) सीमा फलन (limit function) को परिभाषित करने के लिए पर्याप्त रूप से सहमत होते हैं।
लॉगिफोल्ड (Logifold): लेखक एक "लॉगिफोल्ड" की अवधारणा पेश करते हैं, जो एक धुंधला रैखिक मैनिफोल्ड (fuzzy linear manifold) है जहाँ विभिन्न मॉडल (चार्ट्स) डोमेन के विभिन्न हिस्सों को कवर करते हैं। सख्त मैनिफोल्ड्स के विपरीत जहाँ चार्ट्स को पूरी तरह से सहमत होना चाहिए, एक लॉगिफोल्ड सहमति की कमी (धुंधलेपन) की अनुमति देता है जिसे एंट्रॉपी द्वारा मापा जाता है। एक लॉगिफोल्ड एक सख्त रैखिक लॉगिफोल्ड तभी बनता है जब इसकी एंट्रॉपी शून्य हो जाती है।

3. एंट्रॉपी-आधारित लाइफलॉन्ग एन्सेम्बल लर्निंग (Entropy-Based Lifelong Ensemble Learning)

शोध पत्र एक लाइफलॉन्ग लर्निंग फ्रेमवर्क प्रस्तावित करता है जहाँ अनुक्रमिक एन्सेम्बल समय के साथ विकसित होते हैं।

तंत्र (Mechanism): एक प्रारंभिक एन्सेम्बल (पीढ़ी 1) को प्रशिक्षित किया जाता है। यदि नए डेटा पर एन्सेम्बल की एंट्रॉपी एक थ्रेशोल्ड से अधिक हो जाती है (जो इंगित करता है कि डेटा "कोर" के बाहर है या एडवरसैरियल है), तो सिस्टम एक अनुकूलन (adaptation) को ट्रिगर करता है।
प्रतिरक्षा (Immunization): अनिश्चित नमूनों को केवल अस्वीकार करने के बजाय, सिस्टम उन्हें सक्रिय संकेतों के रूप में मानता है। मॉडल्स को एक नई पीढ़ी (पीढ़ी 2) में स्थानांतरित किया जाता है जो विशेष रूप से "आउट-ऑफ-कोर" नमで作ों (जैसे, पता लगाए गए एडवरसैरियल परटर्बेशन) पर प्रशिक्षित की जाती है।
आर्किटेक्चर: परिणामी सिस्टम एक बहु-स्तरीय लॉगिफोल्ड है। पहला स्तर "स्वच्छ" या कमजोर रूप से परटर्ब किए गए डेटा को संभालता है जो अपने कोर के भीतर है। दूसरा स्तर उस डेटा को संभालता है जो पहले स्तर के कोर के बाहर गिरता है।

4. प्रयोगात्मक कार्यान्वयन (Experimental Implementation)

डेटासेट: CIFAR-10।
मॉडल्स: 8 क्लासिफायर का एक एन्सेम्बल (4 VGG-प्रकार के, 4 ResNet-प्रकार के)।
हमले (Attacks): व्हाइट-बॉक्स $\ell_2$ APGD-CE हमले (कमजोर और मजबूत कॉन्फ़िगरेशन) और AutoAttack का उपयोग करके ट्रांसफर-आधारित हमले।
रक्षा रणनीति (Defense Strategy):
1. स्वच्छ डेटा पर एक प्रारंभिक एन्सेम्बल $U(0)$ को प्रशिक्षित करें।
2. $U(0)$ की एंट्रॉपी का उपयोग करके एडवरसैरियल नमूनों का पता लगाएं।
3. स्वच्छ और पता लगाए गए एडवरसैरियल नमूनों के यूनियन पर एक विशेषज्ञ पीढ़ी $U(1)$ (या $U(2)'$ ) को प्रशिक्षित करें।
4. पहली पीढ़ी के कोर के आधार पर इनपुट को रूट करते हुए पीढ़ियों को मिलाकर अंतिम इम्यूनाइज्ड सिस्टम (IMM) बनाएं।

मुख्य योगदान (Key Contributions)

सीखने के मौलिक नियम: सीखने की गतिशीलता को नियंत्रित करने वाले सिद्धांतों के रूप में संरक्षण के नियम (Conservation Law) और कुल एंट्रॉपी की कमी (Decrease of Total Entropy) का सूत्रकरण, जो ऊष्मप्रवैगिकी के नियमों के साथ एक औपचारिक समानता स्थापित करता है।
एंट्रॉपी-आधारित एन्सेम्बल सिद्धांत: एन्सेम्बल एंट्रॉपी की एक कठोर परिभाषा जो मॉडल की असहमति को पकड़ती है, जिससे कोर (Core) और लॉगिफोल्ड (Logifold) की अवधारणा विकसित होती है। यह समझने के लिए एक गणितीय आधार प्रदान करता है कि एक एन्सेम्बल कब "धुंधला" (असहमति वाला) बनाम "सख्त" (अभिसरित) होता है।
इम्यूनाइजेशन तंत्र: एक रक्षा रणनीति जो एडवरसैरियल परटर्बेशन का पता लगाने के लिए एंट्रॉपी का उपयोग करती है और गतिशील रूप से मॉडल आर्किटेक्चर को विकसित करती है। स्थिर अस्वीकृति के विपरीत, यह विधि एक "नई इम्यूनाइज्ड पीढ़ी" बनाती है जो पता लगाए गए खतरों को संभालने के लिए प्रशिक्षित होती है, जिससे प्रभावी रूप से ज्ञान का डोमेन विस्तृत होता है।
एकीकृत ढांचा: यह कार्य मॉड्यूलर एन्सेम्बल, मिक्सचर-ऑफ-एक्सपर्ट्स और मल्टीमॉडल लर्निंग को एंट्रॉपी और डोमेन कवरेज पर आधारित एक एकीकृत गणितीय ढांचे के तहत रखता है।

परिणाम (Results)

लेखकों ने विभिन्न हमले के परिदृश्यों के तहत CIFAR-10 डेटासेट पर अपने दृष्टिकोण का मूल्यांकन किया:

कोर डिटेक्शन: मजबूत व्हाइट-बॉक्स हमलों के तहत, बेसलाइन एन्सेम्बल ( $U(0)$ ) का कोर काफी सिकुड़ जाता है, और एकल मॉडल परटर्ब किए गए नमूनों का पता लगाने में विफल रहते हैं (गलत भविष्यवाणियों पर उच्च आत्मविश्वास बनाए रखते हैं)। प्रस्तावित एन्सेम्बल एंट्रॉपी इन परटर्बेशनों की प्रभावी ढंग से पहचान करती है।
इम्यूनाइजेशन प्रभाव: इम्यूनाइज्ड पीढ़ी ( $U(1)$ ) ने बेसलाइन की तुलना में मजबूत हमलों के तहत अपने कोर के भीतर काफी उच्च सटीकता के साथ एक छोटा कोर प्रदर्शित किया।
कुल सटीकता:
- Dstrong (मजबूत एडवरसैरियल) डेटासेट पर, नेटिव एन्सेम्बल ( $U(0)$ ) ने 13.16% सटीकता प्राप्त की, जबकि इम्यूनाइज्ड सिस्टम (IMM) ने 90.93% सटीकता प्राप्त की।
- Dunion (स्वच्छ + कमजोर + मजबूत) डेटासेट पर, IMM ने 87.48% सटीकता प्राप्त की, जो बेसलाइन ( $U(0)$ @ 58.06%) और सभी मॉडलों के सरल औसत (All-ens @ 74.62%) दोनों से बेहतर प्रदर्शन करती है।
एंट्रॉपी में कमी: लाइफलॉन्ग लर्निंग प्रक्रिया के बाद सिस्टम की कुल एंट्रॉपी काफी कम हो गई (उदाहरण के लिए, मजबूत हमले वाले डेटासेट पर 1.9782 से 0.2054 तक), जो "एंट्रॉपी की कमी" के नियम को व्यवहार में सत्यापित करती है।

महत्व और दावे (Significance and Claims)

शोध पत्र यह दावा करता है कि वह सीखने की गतिशीलता को समझने के लिए एक कठोर गणितीय आधार प्रदान करता है, जो अनुभवजन्य अवलोकनों से आगे बढ़कर ऊष्मप्रवैगिकी के समान नियमों की ओर बढ़ता है। इस कार्य का महत्व निम्नलिखित में निहित है:

सैद्धांतिक अंतर्दृष्टि: यह एक नया दृष्टिकोण प्रदान करता है जहाँ सीखने को अनिश्चितता के ग्रेडिएंट के विरुद्ध "कार्य" को संरक्षित करते हुए एंट्रॉपी (धुंधलापन) को कम करने की एक प्रक्रिया के रूप में देखा जाता है।
व्यावहारिक रक्षा: यह एक गतिशील, स्व-विकसित रक्षा तंत्र प्रस्तावित करता है जो स्थिर एन्सेम्बल और सरल औसत से बेहतर प्रदर्शन करता है। सिस्टम केवल खराब डेटा को अस्वीकार नहीं करता है, बल्कि पता लगाए गए खतरों पर नई पीढ़ियों को प्रशिक्षित करके खुद को "इम्यूनाइज" करता है।
स्केलेबिलिटी: मॉड्यूलर लॉगिफोल्ड आर्किटेक्चर लक्षित फाइन-ट्यूनिंग और प्रशिक्षण पर बेहतर नियंत्रण की अनुमति देता है, जो लाइफलॉन्ग लर्निंग परिदृश्यों में कैटास्ट्रोफिक फॉरगेटिंग को कम करने में मदद कर सकता है।

लेखक अपने सैद्धांतिक मजबूती के दावों के प्रति विनम्र बने हुए हैं, यह स्वीकार करते हुए कि उनका दृष्टिकोण सभी छोटे परटर्बेशनों के लिए 'वर्स्ट-केस' गारंटी देने का दावा नहीं करता है (जिसके लिए लगभग सभी डेटा बिंदुओं के ज्ञान की आवश्यकता होगी और सटीकता के साथ समझौता करना होगा)। इसके बजाय, वे अपने तरीके को प्रभावी हमलों का पता लगाने और एंट्रॉपी-आधारित विकास के माध्यम से मूल और एडवरसैरियल नमूनों के यूनियन पर सटीकता को अधिकतम करने के एक प्रभावी तंत्र के रूप में प्रस्तुत करते हैं।