Causally-Guided Automated Feature Engineering with Multi-Agent Reinforcement Learning

यहाँ शोध पत्र "CAFE: Causally-Guided Automated Feature Engineering with Multi-Agent Reinforcement Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

स्वचालित फीचर इंजीनियरिंग (Automated Feature Engineering - AFE) का लक्ष्य कच्चे सारणीबद्ध डेटा (raw tabular data) से उच्च-उपयोगी प्रतिनिधित्व (representations) को स्वायत्त रूप से निर्मित करना है ताकि मशीन लर्निंग के प्रदर्शन में सुधार किया जा सके। हालाँकि, मौजूदा AFE विधियों को गंभीर सीमाओं का सामना करना पड़ता है:

• वितरण परिवर्तन (Distribution Shift) के तहत भंगुरता: अधिकांश विधियाँ सांख्यिकीय सहसंबंधों (heuristics) पर निर्भर करती हैं। जब इनपुट वितरण बदल जाता है (जैसे औद्योगिक या रासायनिक प्रक्रियाओं में), तो ये सहसंबंध अक्सर टूट जाते हैं, जिससे ऐसे भ्रामक फीचर्स (spksurious features) बनते हैं जो सामान्यीकरण (generalize) करने में विफल रहते हैं।
• संयोजन विस्फोट (Combinatorial Explosion): आयामीता (dimensionality) के साथ संभावित फीचर रूपांतरणों का स्थान तेजी से बढ़ता है, जिससे ग्रिडी सर्च (greedy search) कम्प्यूटेशनल रूप से महंगा और स्थानीय इष्टतम (local optima) की ओर प्रवृत्त हो जाता है।
• कारण संबंधी मार्गदर्शन का अभाव (Lack of Causal Guidance): वर्तमान दृष्टिकोण (RL-आधारित और LLM-आधारित विधियों सहित) आम तौर पर कारण संरचनाओं (causal structures) की अनदेखी करते हैं, और फीचर जनरेशन को एक तंत्र-संरक्षण (mechanism-preserving) प्रक्रिया के बजाय एक अनुक्रम मॉडलिंग या सांख्यिकीय अनुकूलन समस्या के रूप में देखते हैं।

लक्ष्य: एक ऐसा AFE ढांचा विकसित करना जो लक्ष्य (target) के साथ कारण संबंधों (causal relations) को संरक्षित करने वाले फीचर्स का निर्माण करे, जिससे कोवेरिएट शिफ्ट (covariate shifts) और तंत्र-संरक्षण परिवर्तनों के तहत मजबूती सुनिश्चित हो सके, जबकि कम्प्यूटेशनल व्यवहार्यता भी बनी रहे।

---

2. कार्यप्रणाली: CAFE ढांचा (Methodology: The CAFE Framework)

CAFE, AFE को एक कारण-निर्देशित अनुक्रमिक निर्णय प्रक्रिया (causally-guided sequential decision process) के रूप में पुनर्गठित करता है। यह कारण खोज (causal discovery) को एक कैस्केडिंग मल्टी-एजेंट डीप Q-नेटवर्क (DQN) आर्किटेक्चर के साथ एकीकृत करता है। यह ढांचा दो चरणों में कार्य करता है:

चरण I: कारण ग्राफ खोज (Causal Graph Discovery - Soft Inductive Prior)

कारण खोज को एक कठोर बाधा के रूप में मानने के बजाय, CAFE इसका उपयोग खोज को निर्देशित करने के लिए सॉफ्ट इंडक्टिव प्रायर्स (soft inductive priors) उत्पन्न करने के लिए करता है।

• एल्गोरिदम: फीचर्स और टारगेट वेरिएबल पर एक स्पार्स (sparse) निर्देशित अचक्रीय ग्राफ (Directed Acyclic Graph - DAG) सीखने के लिए NOTEARS के साथ Lasso रेगुलराइजेशन का उपयोग करता है।
• फीचर समूहीकरण (Feature Grouping): सीखे गए DAG के आधार पर, फीचर्स को तीन कारण भूमिकाओं में वर्गीकृत किया गया है:
  1. प्रत्यक्ष कारण ($C_{direct}$): वे फीचर्स जिनका टारगेट के साथ सीधा संबंध है ($X \to Y$)।
  2. अप्रत्यक्ष कारण ($C_{indirect}$): वे फीचर्स जो मल्टी-हॉप पथों के माध्यम से जुड़े हैं ($X \rightsquigarrow Y$)।
  3. गैर-कारण/अन्य ($C_{other}$): वे फीचर्स जिनका टारगेट तक कोई कारण पथ नहीं है।
• स्क्रीनिंग: प्रत्येक समूह के भीतर, आयाम को प्रबंधित करने के लिए फीचर्स की स्क्रीनिंग की जाती है (जैसे, म्यूचुअल इंफॉर्मेशन द्वारा), जिससे एक संरचित खोज स्थान बनता है।

चरण II: मल्टी-एजेंट सुदृढीकरण शिक्षण (Multi-Agent Reinforcement Learning)

चरण II एक कैस्केड में संचालित होने वाले तीन विशिष्ट एजेंटों का उपयोग करके घातीय रूपांतरण स्थान (exponential transformation space) को नेविगेट करता है:

1. प्राथमिक समूह एजेंट ($\pi_1$): रूपांतरित किए जाने वाले एक कारण फीचर समूह (Direct, Indirect, या Other) का चयन करता है।
2. ऑपरेटर एजेंट ($\pi_o$): एक पूर्व-निर्धारित लाइब्रेरी से रूपांतरण ऑपरेटर (जैसे, अंकगणितीय, लॉग, त्रिकोणमितीय) का चयन करता है।
3. द्वितीयक समूह एजेंट ($\pi_2$): बाइनरी ऑपरेशन्स (जैसे, इंटरैक्शन टर्म्स) के लिए पार्टनर ग्रुप का चयन करता है।

प्रमुख तकनीकी घटक:

• स्टेट रिप्रेजेंटेशन (State Representation): एजेंट वर्तमान फीचर सेट के पदानुक्रमित सांख्यिकीय सारांश और समूह-विशिष्ट जानकारी (जैसे, माध्य, मानक विचलन, चतुर्थक, म्यूचुअल इंफॉर्मेशन रैंकिंग) प्राप्त करते हैं।
• कारण-निर्देशित अन्वेषण (Causally-Guided Exploration): अन्वेषण रणनीति एक भारित मिश्रण (weighted mix) है:
  • कारण-पदानुक्रमित (Causal-Hierarchical): उन रूपांतरणों को प्राथमिकता देता है जो कारण संरचना का सम्मान करते हैं (जैसे, Direct $\times$ Indirect)।
  • Top-k म्यूचुअल इंफॉर्मेशन: कारण खोज की त्रुटियों से बचने के लिए मजबूत अनुभवजन्य जुड़ाव वाले फीचर्स का चयन करता है।
  • विविधता नमूनाकरण (Diversity Sampling): समयपूर्व अभिसरण (premature convergence) को रोकता है।
• रिवॉर्ड शेपिंग (Reward Shaping): रिवॉर्ड फंक्शन ($R_t$) तीन उद्देश्यों को संतुलित करता है:
  1. प्रदर्शन ($R_{perf}$): वैलिडेशन स्कोर में सुधार।
  2. कारण संरेखण ($\Psi_{causal}$): कारण समूहों से उपयोग किए गए फीचर्स के लिए बोनस ($w_{direct} > w_{indirect} > w_{other}$ के साथ भारित)।
  3. जटिलता और विविधता: अत्यधिक फीचर संख्या के लिए दंड और विविध रूपांतरणों के लिए पुरस्कार।
• मजबूती गार्ड्स (Robustness Guards): ओवरफ्लो और NaN को रोकने के लिए संख्यात्मक सुरक्षा उपाय (जैसे, प्रोटेक्टेड डिवीजन, एब्सोल्यूट वैल्यू का लॉग) शामिल हैं।

---

3. प्रमुख योगदान (Key Contributions)

1. कारण-निर्देशित AFE सूत्रीकरण: पहला ढांचा जो स्पष्ट रूप से AFE को कारण संरचना द्वारा निर्देशित एक अनुक्रमिक निर्णय प्रक्रिया के रूप में मॉडल करता है, जो केवल सहसंबंध-आधारित ह्यूरिस्टिक्स से आगे बढ़ता है।
2. सॉफ्ट इंडक्टिव बायस: कारण ग्राफों को कठोर बाधाओं के बजाय सॉफ्ट प्रायर्स के रूप में उपयोग करने की अवधारणा पेश करता है। यह लचीलापन बनाए रखता है जब कारण खोज अपूर्ण हो, जबकि सिद्धांत आधारित मार्गदर्शन प्रदान करता है।
3. कैस्केडिंग मल्टी-एजेंट आर्किटेक्चर: AFE एक्शन स्पेस को तीन एजेंटों (Group, Operator, Partner) में विभाजित करने का प्रस्ताव करता है, जो संयुक्त अनुकूलन की तुलना में प्रभावी एक्शन स्पेस और वेरिएंस को काफी कम कर देता है।
4. कारण-आकारित रिवॉर्ड्स (Causally-Shaped Rewards): एक रिवॉर्ड फंक्शन डिजाइन करता है जो भविष्य कहनेवाला उपयोगिता (predictive utility) के साथ-seits कारण निरंतरता (causal consistency) को स्पष्ट रूप से प्रोत्साहित करता है, जिससे हस्तक्षेप स्थिरता (intervention stability) सुनिश्चित होती है।

---

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने 10 बेसलाइनों (सांख्यिकीय विधियों जैसे AutoFeat, RL-आधारित विधियों जैसे GRFG, NFS, और LLM-आधारित विधियों जैसे ELLM-FT सहित) के विरुद्ध 15 सार्वजनिक बेंचमार्क डेटासेट्स (वर्गीकरण और रिग्रेशन) पर CAFE का मूल्यांकन किया।

• भविष्य कहनेवाला प्रदर्शन (Predictive Performance):

  • CAFE ने 15 में से 13 डेटासेट्स पर बेहतर प्रदर्शन किया।
  • इसने मजबूत बेसलाइनों पर मैक्रो-F1 (वर्गीकरण) और इनवर्स रिलेटिव एब्सोल्यूट एरर (रिग्रेशन) में 7% तक सुधार प्रदर्शित किया।
  • उच्च-आयामी रिग्रेशन और छोटे-नमूना वर्गीकरण कार्यों में निरंतर लाभ दिखाया।

• वितरण परिवर्तन के तहत मजबूती (Robustness under Distribution Shift):

  • नियंत्रित कोवेरिएट शिफ्ट के तहत, CAFE ने गैर-कारण मल्टी-एजेंट बेसलाइन (GRFG) की तुलना में प्रदर्शन गिरावट को लगभग 4 गुना कम कर दिया।
  • उदाहरण: उच्च शिफ्ट तीव्रता के तहत, GRFG ~58% गिर गया, जबकि CAFE केवल ~22% गिरा।
  • यह पुष्टि करता है कि जब तंत्र सुरक्षित रहते हैं लेकिन वितरण बदल जाता है, तो कारण फीचर्स भ्रामक सहसंबंधों की तुलना में उपयोगिता को बेहतर ढंग से संरक्षित करते हैं।

• व्याख्यात्मकता और स्थिरता (Interpretability and Stability):

  • SHAP स्थिरता: CAFE-जनित फीचर्स ने इनपुट शोर के तहत सांख्यिकीय बेसलाइनों की तुलना में SHAP स्पष्टीकरणों में 58.6% कम विचरण (variance) प्रदर्शित किया।
    किए गए फीचर्स अधिक संक्षिप्त और डेटा-जनरेटिंग प्रक्रिया के साथ अर्थपूर्ण रूप से संरेखित थे।

• दक्षता (Efficiency):

  • प्रति एपिसोड उच्च कम्प्यूटेशनल लागत के बावजूद (कारण खोज के कारण), CAFE को इष्टतम प्रदर्शन तक पहुँचने के लिए 40-70% कम एपिसोड की आवश्यकता थी, जिसके परिणामस्वरूप समान या बेहतर कुल 'टाइम-टू-टारगेट' प्राप्त हुआ।

---

5. महत्व और निहितार्थ (Significance and Implications)

• सुरक्षा-महत्वपूर्ण अनुप्रयोग (Safety-Critical Applications): CAFE एक मौलिक अंतर को संबोधित करता है जो उच्च-जोखिम वाले क्षेत्रों (केमिकल इंजीनियरिंग, स्वास्थ्य सेवा, वित्त) में मौजूद है जहाँ वितरण परिवर्तन आम हैं। कारण तंत्रों को प्राथमिकता देकर, यह उन मॉडलों का निर्माण करता है जो परिचालन परिवर्तनों के तहत अधिक विश्वसनीय होते हैं।
• प्रतिमान परिवर्तन (Paradigm Shift): यह एक नया प्रतिमान स्थापित करता है जहाँ कारण खोज, सुदृढीकरण शिक्षण (reinforcement learning) के लिए एक मार्गदर्शक के रूप में कार्य करती है, न कि एक अलग पोस्ट-हॉक विश्लेषण चरण के रूप में।
• सैद्धांतिक अंतर्दृष्टि: यह कार्य इस परिकल्पना को मान्य करता है कि कारण पूर्वजों (direct/indirect) से निर्मित फीचर्स में वे अपरिवर्तनीय गुण (invariance properties) होते हैं जो सांख्यिकीय सहसंबंधों में नहीं होते, जिससे मजबूत फीचर इंजीनियरिंग के लिए एक सैद्धांतिक आधार मिलता है।
• सीमाएँ और भविष्य का कार्य: वर्तमान दृष्टिकोण रैखिक योगात्मक शोर मॉडल (linear additive noise models) और स्थिर कारण ग्राफों को मानता है। भविष्य के कार्यों में गैर-रेखीय कारण खोज (जैसे, न्यूरल कॉज़ल मॉडल) को एकीकृत करना और अस्थायी गतिशीलता (temporal dynamics) और फीडबैक लूप को संभालना शामिल है।

संक्षेप में, CAFE यह प्रदर्शित करता है कि ऑटोमेटेड फीचर इंजीनियरिंग लूप में कारण तर्क (causal reasoning) को एकीकृत करने से मॉडल की मजबूती, व्याख्यात्मकता और दक्षता में महत्वपूर्ण सुधार होता है, विशेष रूप से गतिशील वातावरण में जहाँ डेटा वितरण गैर-स्थिर (non-stationary) होता है।