← नवीनतम पेपर
🤖 AI

From Training to Deployment: Post-Hoc Causal Feature Identification via Sensitivity Ratios

यह शोध पत्र नॉर्मलाइज्ड सेंसिटिविटी रेश्यो (NSR) को प्रस्तुत करता है, जो एक पोस्ट-हॉक, मॉडल-एग्नोस्टिक डायग्नोस्टिक है, जो संरचित पर्यावरणीय बदलावों के माध्यम से संवेदनशीलता स्थिरता का लाभ उठाकर प्रशिक्षित मॉडलों में कारण बनाम स्प्यूरियस (मिथ्या) विशेषताओं की पहचान करता है, विशिष्ट परिस्थितियों में सटीक पहचान प्राप्त करता है और सिंथेटिक एवं वास्तविक दुनिया के डेटासेट दोनों पर उच्च सटीकता प्रदर्शित करता है।

मूल लेखक: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

प्रकाशित 2026-07-29
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि एक जादुई क्रिस्टल बॉल भविष्य की भविष्यवाणी क्यों करती है। आप जानते हैं कि क्रिस्टल बॉल काम करती है, लेकिन आप यह नहीं जानते कि कैसे। क्या इसने भौतिक विज्ञान के वास्तविक नियमों को सीखा है, या इसने बस इस बात पर गौर करके किस्मत आजमा ली कि मंगलवार को आसमान हमेशा नीला ही होता है? यह मशीन लर्निंग की दुनिया है, जहाँ कंप्यूटर डेटा में पैटर्न खोजकर भविष्यवाणियाँ करना सीखते हैं। कभी-कभी, वे सही पैटर्न ढूंढ लेते हैं (जैसे "बारिश से घास गीली होती है"), लेकिन अक्सर वे "स्पूरियस" (spurious) पैटर्न भी ढूंढ लेते हैं—ऐसे संयोग जो असली लगते हैं लेकिन स्थिति बदलते ही टूट जाते हैं (जैसे "मंगलवार बारिश का कारण बनता है")।

बड़ी समस्या यह है कि एक बार जब कंप्यूटर मॉडल प्रशिक्षित हो जाता है, तो वह एक 'ब्लैक बॉक्स' की तरह होता है। हम आसानी से इसके अंदर झाँककर यह नहीं देख सकते कि क्या यह सच्चाई पर निर्भर है या सिर्फ एक भाग्यशाली अनुमान पर। इसे ठीक करने वाले पिछले उपकरणों के लिए हमें वापस शुरुआती दौर में जाना पड़ता था और मॉडल को फिर से शून्य से प्रशिक्षित करना पड़ता था, जो धीमा और महंगा था। यह शोध पत्र एक नया तरीका पेश करता है जिससे हम किसी बने-बनाए मॉडल के अंदर झाँक सकते हैं, बिना उसके निर्माण के तरीके में कोई बदलाव किए। यह एक विशेष टॉर्च होने जैसा है जो आपको यह बता सकती है कि, केवल अलग-अलग कमरों के प्रति मॉडल की प्रतिक्रिया को देखकर, क्या वह असली फर्नीचर को देख रहा है या केवल दीवार पर पड़ने वाली परछाइयों को।

जासूस की नई टॉर्च: NSR

इस शोध पत्र के लेखक, अथानासियोस व्लोंत्ज़ोस (Athanasios Vlontzos) और उनकी टीम ने नॉर्मलाइज्ड सेंसिटिविटी रेशियो (NSR) नामक एक उपकरण का आविष्कार किया है। एक प्रशिक्षित AI मॉडल को एक ऐसे शेफ के रूप में सोचें जिसने सूप की रेसिपी में महारत हासिल कर ली है। शेफ जानता है कि यदि वे एक चुटकी नमक (एक "कॉज़ल" या कारण संबंधी सामग्री) डालते हैं, तो सूप का स्वाद बेहतर हो जाता है, चाहे वे कहीं भी खाना बना रहे हों। लेकिन यदि शेफ ने यह सीखा है कि "जब भी बाहर बारिश होती है, तो सूप नमकीन होता है" (एक "स्पूरियस" सहसंबंध), तो यह नियम केवल उसी रसोई में काम करेगा जहाँ बारिश हो रही है। यदि शेफ एक धूप वाली रसोई में जाता है, तो सूप का स्वाद खराब हो सकता है क्योंकि वहां "नमकीनपन" को ट्रिगर करने के लिए बारिश मौजूद नहीं है।

NSR टूल अलग-अलग रसोईयों (वातावरणों) में शेफ को सूप चखने के लिए कहकर काम करता है।

  • द कॉज़ल टेस्ट (The Causal Test): यदि शेफ नमक डालता है, तो हर रसोई में स्वाद एक समान मात्रा में बदलता है। संवेदनशीलता (sensitivity) स्थिर (constant) रहती है।
  • द स्पूरियस टेस्ट (The Spurious Test): यदि शेफ "बारिश" के नियम पर निर्भर है, तो स्वाद उस विशिष्ट रसोई के आधार पर बहुत अधिक बदल जाता है जहाँ बारिश हो रही है। संवेदनशीलता वातावरण के साथ बदल (shift) जाती है।

NSR इस "डगमगाहट" (wobble) को मापता है। यदि विभिन्न वातावरणों में किसी फीचर के प्रति मॉडल की प्रतिक्रिया स्थिर है, तो NSR कहता है, "यह एक वास्तविक, कॉज़ल फीचर है!" यदि प्रतिक्रिया उछल-कूद करती है, तो NSR कहता है, "यह एक स्पूरियस संयोग है!"

जादू कैसे काम करता है (बिना जादू के)

यह शोध पत्र सिद्ध करता है कि यदि आपके पास कम से कम तीन अलग-अलग वातावरण (जैसे तीन अलग-अलग अस्पताल या डेटा के तीन अलग-अलग बैच) हैं जहाँ "स्पूरियस" चीजें (जैसे उपकरणों का शोर या मौसम) बदलती हैं, लेकिन "वास्तविक" कारण समान रहते हैं, तो NSR टूल सत्य और झूठ को पूरी तरह से अलग कर सकता है।

लेखकों ने इस विचार को परीक्षणों की एक श्रृंखला के माध्यम से परखा:

  1. परफेक्ट डिटेक्शन (Perfect Detection): अपने कंप्यूटर सिमुलेशन में, जब स्थितियाँ सही थीं—विशेष रूप से कम से कम 5 वातावरणों और 1 या उससे अधिक के शिफ्ट मैग्नीट्यूड के साथ—तो इस टूल ने एक परफेक्ट स्कोर प्राप्त किया। इन विशिष्ट शासन स्थितियों के तहत, इसने प्रत्येक कॉज़ल फीचर और प्रत्येक स्पूरियस फीचर की 100% सटीकता (एक AUROC 1.000) के साथ पहचान की। यह बिना घास को छुए घास के ढेर में सुई खोजने जैसा था।
  2. "नो-गो" ज़ोन (The "No-Go" Zones): यह शोध पत्र इस बारे में बहुत ईमानदार है कि टूल कब विफल होता है। यदि आपके पास केवल दो वातावरण हैं, तो टूल अंधा हो जाता है। यदि वातावरणों में परिवर्तन बहुत अधिक सममित (symmetrical) हैं (जैसे एक पूर्ण दर्पण छवि), तो टूल भ्रमित हो जाता है। उन्होंने यह भी पाया कि यदि वातावरणों के बीच का "शिफ्ट" शोर (noise) की तुलना में बहुत छोटा है, तो टूल इसे देख नहीं पाता है। यह एक तूफान में फुसफुसाहट सुनने की कोशिश करने जैसा है; सिग्नल खो जाता है।
  3. रियल-वर्ल्ड टेस्ट (Real-World Test): उन्होंने इसे वास्तविक डेटा पर आजमाया, विशेष रूप से एक शहर के बाइक-शेयरिंग डेटासेट पर। वे जानते थे कि कौन से कारक (जैसे तापमान और दिन का समय) वास्तव में लोगों को बाइक किराए पर लेने का कारण बनते हैं, और कौन से केवल संयोग थे। मॉडल को बिना पुन: प्रशिक्षित किए, NSR टूल ने 8 में से 6 वास्तविक कॉज़ल कारकों की सही पहचान की। यह अन्य मानक तरीकों से बहुत बेहतर था जो केवल मॉडल में संख्याओं के आकार को देखते हैं।

यह क्यों महत्वपूर्ण है

इस खोज का सबसे रोमांचक हिस्सा यह है कि यह मॉडल के प्रशिक्षित होने के बाद काम करता है। आमतौर पर, यदि आपको संदेह है कि कोई मॉडल स्पूरियस पैटर्न का उपयोग करके धोखाधड़ी कर रहा है, तो आपको इसे फेंकना पड़ता है और फिर से शुरू करना पड़ता है। NSR के साथ, आप बस तैयार मॉडल को ले सकते हैं, उस पर टॉर्च चमका सकते हैं, और कह सकते हैं, "आह, मैं देख रहा हूँ कि आप वास्तविक चिकित्सा लक्षणों के बजाय सप्ताह के दिन पर निर्भर हैं।"

लेखक बताते हैं कि यह विधि एक "पोस्ट-हॉक" (post-hoc) डायग्नोस्टिक है, जिसका अर्थ है कि यह एक चेक-अप है जो आप काम पर लगे मॉडल को दे सकते हैं। इसे मॉडल के आंतरिक कोड को जानने की आवश्यकता नहीं है, और न ही इसे प्रशिक्षण प्रक्रिया को छूने की आवश्यकता है। यह बस यह देखता है कि दुनिया बदलने पर मॉडल कैसा व्यवहार करता है।

हालाँकि, शोध पत्र एक स्पष्ट रेखा भी खींचता है। यह टूल तब सबसे अच्छा काम करता है जब "वास्तविक" कारण (जैसे जीव विज्ञान या भौतिकी) स्थिर रहते हैं, और केवल "शोर" (जैसे अलग-अलग मशीनें या स्थान) बदलता है। यदि वास्तविक कारण स्वयं एक स्थान से दूसरे स्थान पर बदलते हैं (जैसे यदि अस्पतालों के बीच "बीमारी" की परिभाषा बदल जाती है), तो टूल भ्रमित हो सकता है और एक वास्तविक कारण को केवल एक संयोग समझ सकता है। लेखक सावधानी से कहते हैं कि यह एक सीमा है, कोई बग नहीं।

संक्षेप में, यह शोध पत्र हमें हमारे AI पर भरोसा करने का एक नया तरीका देता है। यह एक गणितीय गारंटी प्रदान करता है कि यदि दुनिया एक विशिष्ट तरीके से बदलती है, तो हम मॉडल के तर्क में झूठ बोलने वालों को पहचान सकते हैं। यह ब्लैक बॉक्स को एक ग्लास बॉक्स में बदल देता है, जिससे हम देख सकते हैं कि मॉडल वास्तव में किस पर निर्भर है, ताकि हम आश्वस्त हो सकें कि वह केवल मौसम के आधार पर अनुमान नहीं लगा रहा है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →