The Pragmatic Frames of Spurious Correlations in Machine Learning: Interpreting How and Why They Matter
यह शोध पत्र तर्क देता है कि मशीन लर्निंग अनुसंधान में, स्पूरियस कोरिलेशन (spurious correlations) की अवधारणा निश्चित सांख्यिकीय गुणों द्वारा परिभाषित नहीं होती है, बल्कि इसके बजाय इसे चार "व्यावहारिक ढांचों" (प्रैग्मैटिक फ्रेम्स)—प्रासंगिकता, सामान्यीकरण क्षमता, मानव-समानता और हानिकारकता—के माध्यम से बातचीत/परक्रामण के जरिए तय किया जाता है, जो मॉडल व्यवहार के बारे में स्थित तकनीकी, ज्ञानमीमांसीय और नैतिक निर्णयों को दर्शाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी तस्वीर: "ताश के पत्तों का घर" (House of Cards) वाली समस्या
कल्पना कीजिए कि आप एक रोबोट को जानवरों को पहचानना सिखा रहे हैं। आप उसे गायों (जो आमतौर पर हरे चरागाहों में होती हैं) और ऊंटों (जो आमतौर पर रेतीले रेगिस्तानों में होते हैं) की हज़ारों तस्वीरें दिखाते हैं। रोबोट बहुत स्मार्ट है; वह तुरंत पैटर्न ढूंढ लेता है। लेकिन यहाँ एक पेंच है: रोबोट वास्तव में यह नहीं सीखता कि गाय कैसी दिखती है। इसके बजाय, वह यह सीख जाता है कि हरा घास = गाय और रेत = ऊंट।
यदि आप रोबोट को पीले रेगिस्तान के फर्श पर खड़ी गाय दिखाएंगे, तो वह घबरा जाएगा और कहेगा, "यह एक ऊंट है!" क्योंकि वह जानवर के बजाय बैकग्राउंड (पृष्ठभूमि) पर निर्भर है।
मशीन लर्निंग (ML) की दुनिया में, इस गलती को स्पूरियस कोरिलेशन (spurious correlation) कहा जाता है। यह तब होता है जब कंप्यूटर एक ऐसा पैटर्न ढूंढ लेता है जो उपयोगी तो दिखता है, लेकिन वास्तव में वह केवल डेटा का एक संयोग या छल है, न कि वास्तविक कारण-और-प्रभाव (cause-and-effect) संबंध।
मुख्य प्रश्न: एक पैटर्न "बुरा" क्यों होता है?
इस शोध पत्र के लेखकों ने कुछ दिलचस्प गौर किया। पारंपरिक सांख्यिकी (statistics) में, "स्पूरियस कोरिलेशन" की एक सख्त परिभाषा है: यह एक ऐसा संबंध है जो उस चीज़ से संबंधित नहीं है जिसका आप अध्ययन कर रहे हैं (गैर-कारण/non-causal)।
हालाँकि, जब कंप्यूटर वैज्ञानिक वास्तव में अपने शोध पत्रों में इन समस्याओं के बारे में बात करते हैं, तो वे शायद ही कभी उस सख्त परिभाषा का उपयोग करते हैं। इसके बजाय, वे इस आधार पर निर्णय लेते हैं कि कोई कोरिलेशन "बुरा" है या नहीं, जिसे चार अलग-अलग लेंसों (या "प्रैग्मैटिक फ्रेम्स") के माध्यम से देखा जाता है। इन लेंसों को ऐसे चश्मों की तरह समझें जिन्हें शोधकर्ता यह तय करने के लिए पहनते हैं कि एक पैटर्न स्वीकार्य है या नहीं।
यहाँ वे चार लेंस दिए गए हैं जिनकी पहचान शोध पत्र ने की है:
1. "प्रासंगिकता" का लेंस (क्या यह काम के लिए सही उपकरण है?)
- उपमा: कल्पना कीजिए कि आप चोरी हुए हीरे को खोजने के लिए एक जासूस को काम पर रख रहे हैं। यदि वह जासूस अपना सारा समय संदिग्ध के मोज़ों के रंग का विश्लेषण करने में बिताता है, तो यह समय की बर्बादी है। मोज़े संदिग्ध के साथ जुड़े हो सकते हैं (शायद संदिग्ध हमेशा लाल मोज़े पहनता है), लेकिन वे अपराध से प्रासंगिक (relevant) नहीं हैं।
- शोध पत्र का दावा: शोधकर्ता अक्सर किसी कोरिलेशन को केवल इसलिए "स्पूरियस" कहते हैं क्योंकि वह उस विशिष्ट कार्य को हल करने में मदद नहीं करता है। यदि मॉडल वास्तविक वस्तु के बजाय बैकग्राउंड के शोर का उपयोग करता है, तो वह "अप्रासंगिक" है और इसलिए "स्पूरियस" है।
2. "सामान्यीकरण" का लेंस (क्या यह वास्तविक दुनिया में काम करेगा?)
- उपमा: कल्पना कीजिए कि एक छात्र ने अभ्यास परीक्षा (practice test) के उत्तरों को पूरी तरह से रट लिया है। वह अभ्यास परीक्षा में 100% अंक प्राप्त करता है। लेकिन जब वह वास्तविक परीक्षा देता है, तो प्रश्न थोड़े अलग होते हैं, और वह बुरी तरह असफल हो जाता है। उसने विषय के सामान्य नियमों को नहीं, बल्कि अभ्यास परीक्षा के विशिष्ट पैटर्न को सीखा था।
- शोध पत्र का दावा: यदि कोई पैटर्न ट्रेनिंग डेटा पर काम करता है लेकिन नए, अनदेखे डेटा (जैसे रेगिस्तान में गाय) को देखते ही टूट जाता है, तो शोधकर्ता इसे "स्पूरियस" कहते हैं। वे ऐसे पैटर्न चाहते हैं जो "स्थिर" (stable) हों और हर जगह काम करें, न कि केवल उस विशिष्ट डेटासेट तक सीमित हों जिसे मॉडल को खिलाया गया है।
3. "मानवीय समानता" का लेंस (क्या एक इंसान ऐसा करेगा?)
- उपमा: कल्पना कीजिए कि एक शतरंज खिलाड़ी एक विशिष्ट चालों के क्रम को याद करके जीतता है जो केवल एक विशेष प्रतिद्वंद्वी के खिलाफ काम करता है। एक मानव ग्रैंडमास्टर कहेगा, "यह असली शतरंज नहीं है; यह एक सस्ता नुस्खा (cheap trick) है।" इंसान आमतौर पर मोहरों के आकार और संरचना को देखते हैं, न कि केवल लकड़ी की बनावट को।
- शोध पत्र का दावा: कभी-कभी शोधकर्ता किसी कोरिलेशन को "स्पूरियस" इसलिए कहते हैं क्योंकि वह वैसा नहीं होता जैसा एक इंसान सोचता है। उदाहरण के लिए, यदि कोई मॉडल कुत्ते को उसके बालों की बनावट (texture) के आधार पर पहचानता है (जैसा कि एक इंसान कर सकता है) लेकिन उसके आकार को अनदेखा कर देता है, तो शोधकर्ता कह सकते हैं, "यह कुत्तों को देखने का मानवीय तरीका नहीं है; इसलिए, वह पैटर्न स्पूरियस है।" शोध पत्र नोट करता है कि यह पेचीदा है क्योंकि "मानव सोच" संस्कृतियों के अनुसार बहुत भिन्न होती है और हमेशा एक सटीक मानक नहीं होती।
4. "हानिकारक होने" का लेंस (क्या इससे समस्या पैदा होती है?)
- उपमा: कल्पना कीजिए कि एक हायरिंग मैनेजर केवल उन लोगों को काम पर रखने का निर्णय लेता है जिनका अंतिम नाम (surname) एक विशिष्ट नाम का है, क्योंकि अतीत में अधिकांश सफल कर्मचारियों का वही नाम था। भले ही वह पैटर्न अतीत में सांख्यिकीय रूप से सच हो, आज लोगों को काम पर रखने के लिए उसका उपयोग करना अनुचित और हानिकारक है।
- शोध पत्र का दावा: शोधकर्ता अक्सर किसी कोरिलेशन को "स्पूरियस" तब लेबल करते हैं जब वह अन्याय या पूर्वाग्रह (bias) का कारण बनता है। उदाहरण के लिए, यदि एक मॉडल यह सीखता है कि "सुनहरे बाल वाले लोग महिलाएँ हैं" (क्योंकि ट्रेनिंग डेटा में ज्यादातर सुनहरे बालों वाली महिलाएँ थीं), और फिर लिंग का अनुमान लगाने के लिए इसका उपयोग करता है, तो इसे "स्पूरियस" माना जाता है क्योंकि यह सामाजिक नुकसान पहुँचाता है, भले ही वह पैटर्न डेटा में मौजूद हो।
मुख्य निष्कर्ष
शोध पत्र तर्क देता है कि "स्पूरियसनेस" (spuriousness) डेटा की कोई निश्चित, गणितीय विशेषता नहीं है। इसके बजाय, यह एक निर्णय (judgment call) है।
चाहे कोई कोरिलेशन "बुरा" है या नहीं, यह पूरी तरह से इस पर निर्भर करता है कि शोधकर्ता क्या चाहता है:
- क्या उन्हें परवाह है कि क्या यह नए डेटा पर काम करता है? (सामान्यीकरण - Generalizability)
- क्या उन्हें परवाह है कि क्या यह मानवीय अंतर्ज्ञान से मेल खाता है? (मानवीय समानता - Human-likeness)
- क्या उन्हें परवाह है कि क्या इससे अन्याय होता है? (हानिकारक होना - Harmfulness)
लेखक सुझाव देते हैं कि इन विभिन्न "फ्रेम्स" या दृष्टिकोणों को समझकर, हम यह मानने के बजाय कि एक बुरा पैटर्न होने की एक ही "सही" परिभाषा है, इसे बेहतर ढंग से समझ सकते हैं। इसके बजाय, हमें इस बारे में ईमानदार होना चाहिए कि हम किसी पैटर्न को बुरा क्यों मानते हैं, क्योंकि यह चुनाव हमारे मूल्यों और लक्ष्यों को प्रकट करता है।
यह शोध पत्र क्या नहीं कहता
- यह इन त्रुटियों को ठीक करने के लिए कोई नया गणितीय सूत्र प्रदान नहीं करता है।
- यह यह दावा नहीं करता कि इन चार लेंसों में से कौन सा लेंस "सबसे अच्छा" है।
- यह अस्पतालों में इन निष्कर्षों का उपयोग करने के बारे में कोई विशिष्ट चिकित्सा या नैदानिक सलाह नहीं देता है।
- यह AI के भविष्य की भविष्यवाणी नहीं करता है; यह केवल इस बात का विश्लेषण करता है कि शोधकर्ता वर्तमान में इस समस्या के बारे में कैसे बात करते हैं।
संक्षेप में, यह शोध पत्र एक "मेटा-एनालिसिस" है कि वैज्ञानिक AI में गलतियों के बारे में कैसे सोचते और बात करते हैं, जो यह उजागर करता है कि जिसे हम "गलती" कहते हैं, वह अक्सर इस बात का प्रतिबिंब होता है कि हम AI से क्या चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।