Enhancing Generalization in Evolutionary Feature Construction for Symbolic Regression through Vicinal Jensen Gap Minimization
यह शोधपत्र प्रतीकात्मक प्रतिगमन (सिंबोलिक रिग्रेशन) के लिए एक विकासवादी विशेषता निर्माण ढांचे का प्रस्ताव करता है जो विसिनल जेन्सन गैप (vicinal Jensen gap) को एक नियमितीकरण पद के रूप में गतिशील रूप से न्यूनतम करके सामान्यीकरण को बढ़ाता है, जिसमें विविध डेटासेटों में ओवरफिटिंग को प्रभावी ढंग से नियंत्रित करने के लिए शोर अनुमान और मैनिफोल्ड घुसपैठ का समावेश किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़ी तस्वीर: रोबोट को बिना नकल किए सीखना सिखाना
कल्पना कीजिए कि आप एक रोबोट (एक एल्गोरिदम जिसे जेनेटिक प्रोग्रामिंग कहा जाता है) को संकेतों (डेटा) के आधार पर मौसम या शेयर बाजार की कीमतों की भविष्यवाणी करना सिखाने की कोशिश कर रहे हैं। रोबोट बहुत बुद्धिमान और रचनात्मक है; वह समस्या को हल करने के लिए अपने स्वयं के जटिल सूत्र (formulas) बना सकता है।
हालाँकि, रोबोट की एक बुरी आदत है: ओवरफिटिंग (Overfitting)।
ओवरफिटिंग को एक ऐसे छात्र की तरह समझें जो एक विशिष्ट अभ्यास परीक्षा (practice test) के उत्तरों को पूरी तरह से रट लेता है, लेकिन वास्तविक परीक्षा में असफल हो जाता है क्योंकि उसने अवधारणाओं (concepts) को नहीं समझा, बल्कि उसने केवल अभ्यास प्रश्नों के शोर (noise) और विचित्रताओं को रट लिया। डेटा की दुनिया में, इसका अर्थ है कि रोबोट वास्तविक पैटर्न के बजाय प्रशिक्षण डेटा के "शोर" (यादृच्छिक त्रुटियों) को सीख लेता है।
यह शोध पत्र रोबोट को एक "रटने वाले" के बजाय एक "अच्छा सीखने वाला" बनाने का एक नया तरीका पेश करता है। वे इस विधि को विसिनल जेन्सन गैप मिनिमाइजेशन (Vicinal Jensen Gap Minimization) कहते हैं।
समस्या: "रटना" क्यों बुरा है
अतीत में, वैज्ञानिक रोबोट को रटने से रोकने के लिए उन्हें अपने सूत्रों को छोटा और सरल रखने के लिए मजबूर करते थे (जैसे निबंध में शब्दों की संख्या सीमित करना)। लेकिन लेखकों ने पाया कि एक छोटा निबंध भी निरर्थक हो सकता है, और एक लंबा निबंध शानदार हो सकता है। आकार ही सब कुछ नहीं है; स्मूथनेस (smoothness) और तर्क (logic) अधिक महत्वपूर्ण हैं।
समाधान: "पड़ोसी परीक्षण" (The Neighbor Test)
लेखकों ने महसूस किया कि एक अच्छा मॉडल न केवल उन सटीक डेटा बिंदुओं पर सही होना चाहिए जिन्हें उसने देखा है, बल्कि उसे उन बिंदुओं के "पड़ोसियों" पर भी सही होना चाहिए।
कल्पना कीजिए कि आप एक जंगल में टहल रहे हैं। यदि आप एक विशिष्ट स्थान पर एक पेड़ देखते हैं, तो आप उम्मीद करते हैं कि पास के पेड़ भी कुछ हद तक समान दिखेंगे। यदि आप एक छोटा सा कदम लेते हैं और पेड़ अचानक एक केले के पेड़ में बदल जाता है, तो यह अजीब है। एक अच्छा मॉडल "स्मूथ" होना चाहिए—इनपुट में छोटे बदलावों से आउटपुट में छोटे, तार्किक बदलाव होने चाहिए।
इसकी जांच करने के लिए, शोधकर्ता "नकली" पड़ोसी डेटा बनाने के लिए दो मुख्य तरकीबों का उपयोग करते हैं:
- "कांपते हाथ" की ट्रिक (Noise Perturbation): वे एक डेटा बिंदु लेते हैं और उसमें थोड़ा सा यादृच्छिक "जिटर" (jitter) जोड़ देते हैं, जैसे कैमरे को थोड़ा हिलाना। यदि इस मामूली झटके से रोबोट का उत्तर बहुत अधिक बदल जाता है, तो वह बहुत संवेदनशील है (ओवरफिटिंग)।
- "स्मूदी" की ट्रिक (Mixup): वे दो डेटा बिंदुओं (जैसे एक लाल सेब और एक हरा सेब) को लेते हैं और उन्हें मिलाकर एक "नया" डेटा बिंदु (एक थोड़ा नारंगी सेब) बनाते हैं। वे देखते हैं कि इस "नारंगी सेब" के लिए रोबोट का अनुमान लाल और हरे सेबों के आधार पर तर्कसंगत है या नहीं।
सीक्रेट सॉस: समस्या को दो भागों में तोड़ना
शोध पत्र की सबसे बड़ी सफलता एक गणितीय प्रमाण है जो यह दिखाता है कि वे रोबोट के सीखने के लक्ष्य को दो अलग-अलग भागों में विभाजित कर सकते हैं:
- "सटीकता" (Accuracy) स्कोर: रोबोट वास्तविक डेटा की कितनी अच्छी तरह भविष्यवाणी करता है? (हम इसे उच्च चाहते हैं)।
- "स्मूथनेस" (Smoothness) स्कोर (द जेन्सन गैप): जब हम अपने "नकली" पड़ोसी डेटा पर परीक्षण करते हैं तो रोबोट कितना अजीब व्यवहार करता है? (हम इसे कम चाहते हैं)।
उपमा (Analogy):
कल्पना कीजिए कि आप एक छात्र को ग्रेड दे रहे हैं।
- पुराना तरीका: आप केवल उनके अंतिम परीक्षा के स्कोर को देखते हैं। यदि उन्हें 100% मिला, तो वे पास हैं। (लेकिन उन्होंने नकल की भी हो सकती है या रटा भी हो सकता है)।
- नया तरीका (यह शोध पत्र): आप उन्हें दो ग्रेड देते हैं।
- ग्रेड A: उन्होंने वास्तविक प्रश्नों पर कैसा प्रदर्शन किया?
- ग्रेड B: उन्होंने एक "ट्रिक" वाले संस्करण पर कैसा प्रदर्शन किया जहाँ हमने संख्याओं को थोड़ा बदल दिया था?
- यदि उन्हें ग्रेड A में पूर्ण अंक मिलते हैं लेकिन ग्रेड B में बहुत खराब प्रदर्शन होता है, तो आप जानते हैं कि वे नकल कर रहे हैं (ओवरफिटिंग)।
- यह शोध पत्र इन दोनों ग्रेडों को पूरी तरह से संतुलित करने वाला एक सूत्र बनाता है।
वातावरण के अनुकूल ढलना (Noise Estimation)
लेखकों ने देखा कि कुछ डेटासेट "शोर वाले" (त्रुटियों से भरे) होते हैं और कुछ "साफ" होते हैं।
- उपमा: कल्पना कीजिए कि आप बातचीत सुनने की कोशिश कर रहे हैं।
- एक शांत पुस्तकालय में (कम शोर), आप हर शब्द को बहुत ध्यान से सुन सकते हैं।
- एक रॉक कॉन्सर्ट में (उच्च शोर), आपको बैकग्राउंड शोर को अनदेखा करने और मुख्य धुन पर ध्यान केंद्रित करने की आवश्यकता होती है।
यह शोध पत्र एक "नॉइज़ डिटेक्टर" बनाता है। यदि डेटा अव्यवस्थित है (जैसे रॉक कॉन्सर्ट), तो रोबोट शोर को अनदेखा करने के लिए "स्मूथनेस" स्कोर के प्रति स्वचालित रूप से सख्त हो जाता है। यदि डेटा साफ है, तो यह विवरणों को सही ढंग से प्राप्त करने पर ध्यान केंद्रित करता है। यह मानवीय हस्तक्षेप के बिना स्वचालित रूप से होता है।
"मैनिफोल्ड इंट्रूज़न" गार्ड
कभी-कभी, जब आप दो डेटा बिंदुओं को मिलाते हैं (स्मूदी वाली ट्रिक), तो आप गलती से एक ऐसा नकली डेटा बिंदु बना सकते हैं जो वास्तविक दुनिया में समझ में नहीं आता।
- उपमा: यदि आप "गर्म कॉफी" और "ठंडा बर्फ का टुकड़ा" मिलाते हैं, तो आपको गुनगुना पानी मिलता है। लेकिन यदि आप "आग" और "स्नोफ्लेक" को मिलाते हैं, तो आप एक "जलती हुई स्नोफ्लेक" बना सकते हैं, जो वास्तविकता में मौजूद नहीं है।
शोध पत्र एक मैनिफोल्ड इंट्रूज़न डिटेक्टर जोड़ता है। यह एक सुरक्षा गार्ड की तरह है जो "नकली" डेटा बिंदुओं की जांच करता है। यदि गार्ड एक "जलती हुई स्नोफ्लेक" (एक नकली बिंदु जो भौतिकी/तर्क के नियमों को तोड़ता है) देखता है, तो वह उसे बाहर निकाल देता है ताकि रोबट भ्रमित न हो।
प्रयोगों में क्या हुआ?
टीम ने इस नई विधि का परीक्षण 58 विभिन्न वास्तविक दुनिया के डेटासेट्स (जैसे घरों की कीमतों की भविष्यवाणी करना, रासायनिक सांद्रता आदि) पर किया।
- परिणाम: नया तरीका (VJM-GP) पुराने तरीकों की तुलना में नए, अनदेखे डेटा की भविष्यवाणी करने में बहुत बेहतर था।
- तुलना: इसने 15 अन्य लोकप्रिय मशीन लर्निंग एल्गोरिदम को हराया, जिसमें मानक जेनेटिक प्रोग्रामिंग, डीप लर्निंग मॉडल और डिसीजन ट्री शामिल हैं।
- ट्रेड-ऑफ (समझौता): नए तरीके को प्रशिक्षित करने में थोड़ा अधिक समय लगता है (जैसे परीक्षा के लिए कड़ी मेहनत करना), लेकिन परिणाम बहुत अधिक विश्वसनीय होते हैं और अंतिम सूत्र अक्सर सरल और मनुष्यों के समझने में आसान होते हैं।
सारांश
यह शोध पत्र रोबोट को रटने के बजाय समझना सिखाता है। "सटीकता" और "स्मूथनेस" में सीखने की प्रक्रिया को विभाजित करके, और डेटा कितना अव्यवस्थित है इसके आधार पर रोबोट कितना सख्त है इसे स्वचालित रूप से समायोजित करके, लेखकों ने एक ऐसी प्रणाली बनाई है जो बेहतर, अधिक विश्वसनीय मॉडल बनाती है जो नई स्थितियों का सामना करने पर विफल नहीं होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।