Wasserstein Filtering: A Sample Selection Method for Robust Distribution Learning

कल्पना कीजिए कि आप रुई के ढेर में से बादलों के असली आकार को समझने की कोशिश कर रहे हैं। लेकिन यहाँ एक पेंच है: एक शरारती ग्रेमलिन (gremlin) ने आपके संग्रह में घुसपैठ की है और कुछ रुई के गोलों को भारी, नुकीले पत्थरों से या कुछ को चमकीले नियॉन गुलाबी रंग से बदल दिया है। यदि आप पूरे ढेर को देखकर बादल के आकार का अनुमान लगाने की कोशिश करते हैं, तो आपका उत्तर गलत होगा क्योंकि उसमें ये घुसपैठिए मौजूद हैं। यह "रोबस्ट स्टैटिस्टिक्स" (robust statistics) की दैनिक संघर्ष है, जो विज्ञान की वह शाखा है जो सत्य खोजने के लिए समर्पित है, भले ही डेटा अव्यवस्थित, टूटा हुआ या आपको धोखा देने की कोशिश करने वाला क्यों न हो।

इसे हल करने के लिए, वैज्ञानिक अक्सर "वॉसरस्टीन डिस्टेंस" (Wasserstein distance) नामक एक उपकरण का उपयोग करते हैं। इसे एक पैमाने के रूप में नहीं, बल्कि एक "मूविंग कॉस्ट" (moving cost - ले जाने की लागत) के रूप में समझें। कल्पना कीजिए कि आपके पास मिट्टी का एक ढेर (आपका डेटा) है और आपको उसे एक लक्षित आकार से मिलाने के लिए स्थानांतरित करना है। वॉसरस्टीन डिस्टेंस उस न्यूनतम कार्य (work) की गणना करता है जो मिट्टी के हर कण को उसके वर्तमान स्थान से उसके नए घर तक ले जाने के लिए आवश्यक है। यदि मिट्टी दूर बिखरी हुई है, तो उसे ले जाने में बहुत अधिक ऊर्जा खर्च होगी; यदि वह पास है, तो इसमें बहुत कम लागत आएगी। यह विधि विशेष है क्योंकि यह ज्यामिति (geometry) को समझती है—यह जानती है कि दूर स्थित एक पत्थर, पास स्थित धूल के कण से बहुत अलग है, जबकि अन्य सरल विधियाँ केवल यह गिन सकती हैं कि कितने पत्थर हैं, बिना यह परवाह किए कि वे कहाँ स्थित हैं।

अब, कल्पना कीजिए कि आप एक जासूस हैं जो एक अपराध स्थल की सफाई कर रहे हैं जहाँ सबूतों के साथ छेड़छाड़ की गई है। आपके पास 1,000 गवाहों के बयानों की एक सूची है, लेकिन आप जानते हैं कि उनमें से 15% झूठ एक हमलावर द्वारा बोए गए हैं। आपका लक्ष्य सबसे ईमानदार 850 बयानों को चुनकर वास्तविक कहानी को फिर से बनाना है, बिना यह जाने कि कौन से झूठ हैं। यह ठीक वही समस्या है जिसे "वॉसरस्टीन फ़िल्टरिंग" (Wasserstein Filtering) नामक शोध पत्र में हल किया गया है। लेखक, यिकाई ज़ू, झाओ चेन और जियान हुआंग, इस शोर को छानने का एक चतुर नया तरीका प्रस्तावित करते हैं। डेटा बिंदुओं के केंद्र से कितनी दूर हैं, इसके आधार पर यह अनुमान लगाने के बजाय कि कौन सा डेटा खराब है, वे खेल को उलट देते हैं। वे पूछते हैं: "डेटा का कौन सा समूह, यदि हम केवल उन्हें ही रखें, सबसे अधिक अलग दिखेगा—उस अस्त-व्यस्त और दूषित पूरे समूह से?"

इसका तर्क विरोधाभासी लेकिन शानदार है। यदि आपके पास मिले-जुले डेटा का ढेर है, तो "खराब" आउटलेयर्स (outliers) आमतौर पर वे होते हैं जो औसत को अजीब दिशाओं में खींचते हैं। यह जानकर कि डेटा का कौन सा उपसमूह (subset) उस दूषित ढेर से सबसे बड़ा "मूविंग कॉस्ट" (वॉसरस्टीन डिस्टेंस) पैदा करता है, एल्गोरिदम प्रभावी रूप से उन आउटलेयर्स की पहचान करता है और उन्हें हटा देता है जो सबसे अधिक ज्यामितीय विकृति (geometric distortion) पैदा कर रहे हैं। यह उस समूह को खोजने जैसा है जो, यदि वे सब एक साथ खड़े होते, तो भीड़ के अराजक जमावड़े से सबसे दूर होते। शोध पत्र दिखाता है कि ऐसा करके, आप उच्च सटीकता के साथ "साफ" डेटा को अलग कर सकते हैं।

शोधकर्ताओं ने केवल एक विचार ही नहीं दिया; उन्होंने इसे साकार करने के लिए तीन अलग-अलग "मशीनें" (एल्गोरिदम) बनाईं। एक "सिंकमार्ग" (SinkMarg) है, जो एक त्वरित, एक-एक करके की जाने वाली जाँच है, जो सरल मामलों के लिए तो अच्छी है लेकिन विशाल डेटासेट के साथ धीमी हो सकती है। अन्य दो, "सिंकडब्ल्यूएफ" (SinkWF) और "स्लाइस्डडब्ल्यूएफ" (SlicedWF), अधिक शक्तिशाली हैं। वे जटिल या उच्च-आयामी (high-dimensional) डेटा के साथ भी पहेली को एक साथ हल करने के लिए उन्नत गणितीय युक्तियों (जैसे "एन्ट्रोपिक ऑप्टिमल ट्रांसपोर्ट" और "स्लाइस्ड" सन्निकटन) का उपयोग करते हैं। यह शोध पत्र गणितीय रूप से सिद्ध करता है कि कुछ विशेष परिस्थितियों में यह विधि इस काम को करने का सबसे अच्छा तरीका है, विशेष रूप से तब जब "खराब" डेटा या तो बहुत दूर है या बहुत करीब किसी पेचीदा तरीके से मौजूद है।

अपने प्रयोगों में, उन्होंने सरल 2D रेखाचित्रों से लेकर जटिल आणविक ग्राफ और यहाँ तक कि हस्तलिखित अंकों की छवियों तक, सब पर परीक्षण किया। उन्होंने पाया कि उनका तरीका, विशेष रूप से "सिंकडब्ल्यूएफ" एल्गोरिदम, खराब डेटा को पहचानने में अविश्वसनीय रूप से कुशल था, और अक्सर मौजूदा शीर्ष-स्तरीय उपकरणों से बेहतर प्रदर्शन करता है। उदाहरण के लिए, जब उन्होंने कंप्यूटर को अंकों (जैसे संख्या "7") की नई छवियां उत्पन्न करना सिखाने की कोशिश की, जिसमें दूषित छवियों वाला डेटासेट शामिल था, तो उनके तरीके से डेटा को पहले फिल्टर करने से परिणामी छवियां बहुत स्पष्ट और सटीक बनीं। हालाँकि, उन्होंने यह भी नोट किया कि यदि "खराब" डेटा इतना छोटा है कि वह मुश्किल से दर्ज होता है, या यदि डेटा पर्याप्त प्रोजेक्शन के बिना अत्यधिक उच्च-आयामी है, तो यह विधि संघर्ष कर सकती है। लेकिन कुल मिलाकर, उन्होंने प्रदर्शित किया कि यह "वॉसरस्टीन फ़िल्टरिंग" एक शक्तिशाली, मॉडल-स्वतंत्र (model-agnostic) उपकरण है जो किसी भी अन्य मशीन लर्निंग सिस्टम में डेटा फीड करने से पहले उसे साफ कर सकता है, जिससे अंतिम परिणाम बहुत अधिक विश्वसनीय हो जाते हैं।