🤖 machine learning

Are you sure? A Comprehensive and Comprehensible Survey of Uncertainty Quantification in Symbolic Regression

यह सर्वेक्षण प्रतीकात्मक प्रतिगमन (सिम्बोलिक रिग्रेशन) के लिए अनिश्चितता परिमाणीकरण (अनसर्टेन्टी क्वांटिफिकेशन) में मौजूद महत्वपूर्ण अंतराल को संबोधित करता है, जिसमें आवश्यक अवधारणाओं को प्रस्तुत किया गया है, फ्रीक्वेंटिस्ट, बायेशियन और मॉडल चयन दृष्टिकोणों के माध्यम से मौजूदा साहित्य की समीक्षा की गई है, और विश्वसनीय वास्तविक दुनिया के निर्णय लेने को सक्षम करने के लिए आगे के अनुसंधान की आवश्यकता पर प्रकाश डाला गया है।

मूल लेखक: Julia Reuter, Fabricio Olivetti de Franca

प्रकाशित 2026-06-08

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Julia Reuter, Fabricio Olivetti de Franca

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो सुरागों (डेटा) के एक सेट का उपयोग करके एक रहस्य को सुलझाने की कोशिश कर रहे हैं। आपका लक्ष्य वह सटीक "नियम" या "फॉर्मूला" खोजना है जो यह समझा सके कि वे सुराग आपस में कैसे जुड़ते हैं। सिंबोलिक रिग्रेशन (Symbolic Regression - SR) यही करता है: यह गणितीय फलनों (functions) के एक विशाल पुस्तकालय में से उस एक को खोजने की खोज करता है जो आपके डेटा का सबसे अच्छा वर्णन करता है।

हालाँकि, वास्तविक दुनिया में, सुराग शायद ही कभी सटीक होते हैं। वे धुंधले हो सकते हैं, कांपते हाथों से मापे गए हो सकते हैं, या स्वाभाविक रूप से रैंडम हो सकते हैं। यहीं पर अनिश्चितता परिमाणीकरण (Uncertainty Quantification - UQ) काम आता है। UQ को एक जासूस के "आत्मविश्वास मीटर" (confidence meter) के रूप में सोचें। केवल यह कहने के बजाय कि "नियम $y = 2x$ है," UQ वाला एक अच्छा जासूस कहता है, "नियम संभवतः $y = 2x$ है, लेकिन मैं इसके बारे में 95% आश्वस्त हूँ, और वास्तविक उत्तर $1.8x$ और $2.2x$ के बीच कहीं भी हो सकता है।"

यह शोध पत्र एक व्यापक सर्वेक्षण (एक बड़ी समीक्षा) है कि कैसे शोधकर्ता वर्तमान में इन "आत्मविश्वास मीटरों" को बनाने की कोशिश कर रहे हैं। लेखक तर्क देते हैं कि जबकि SR नियम खोजने में बेहतर हो रहा है, यह हमें यह बताने में अभी भी बहुत खराब है कि हमें उन नियमों पर कितना भरोसा करना चाहिए।

यहाँ एनालॉजी (उपमाओं) का उपयोग करके इस शोध पत्र के मुख्य विचारों का विवरण दिया गया है:

1. "संदेह" के दो प्रकार

पेपर बताता है कि एक जासूस के अनिश्चित होने के दो मुख्य कारण हो सकते हैं:

"अव्यवस्थित सुराग" (Aleatoric Uncertainty): कल्पना कीजिए कि आप एक उछलती हुई गेंद की ऊंचाई मापने की कोशिश कर रहे हैं। आप कितनी भी बार माप लें, वह हर बार अलग तरह से उछलेगी। यह एक ऐसा शोर (noise) है जिसे आप अधिक डेटा के साथ भी खत्म नहीं कर सकते। UQ आपको यह समझने में मदद करता है कि, "हे, गेंद बस अराजक है; मैं सटीक उछाल की भविष्यवाणी नहीं कर सकता, केवल औसत बता सकता हूँ।"
"लापता ज्ञान" (Epistemic Uncertainty): कल्पना कीजिए कि आप एक गुप्त कोड का अनुमान लगाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल तीन सुराग हैं। आप नियम इसलिए नहीं जानते क्योंकि आपने अभी तक पर्याप्त उदाहरण नहीं देखे हैं। यह ज्ञान की कमी है। यदि आपको अधिक सुराग मिलते हैं, तो आप इस संदेह को कम कर सकते हैं। UQ आपको यह समझने में मदद करता है कि, "मैं यहाँ अनुमान लगा रहा हूँ क्योंकि मैंने पर्याप्त डेटा नहीं देखा है।"

2. आत्मविश्वास मापने के तीन तरीके

पेपर वर्तमान तरीकों को विश्वास के मीटर की गणना करने के तीन "विचारधाराओं" में व्यवस्थित करता है:

A. फ्रीक्वेंटिस्ट दृष्टिकोण (The "प्रयोग को दोहराने वाला" क्लब)

एनालॉजी: कल्पना कीजिए कि आपने एक केक बनाया और उसका स्वाद एकदम सही है। यह जानने के लिए कि क्या यह वाकई परफेक्ट है या सिर्फ किस्मत से ऐसा हुआ, आप इसे 100 बार बनाते हैं। यदि यह 95 बार बेहतरीन स्वाद देता है, तो आप आश्वस्त हैं।
यह कैसे काम करता है: ये तरीके मानते हैं कि बाहर एक "सच्चा" नियम मौजूद है, लेकिन हमारा डेटा शोर भरा है। वे गणित (जैसे फिशर इंफॉर्मेशन) का उपयोग यह देखने के लिए करते हैं कि "पहाड़ी" का आकार कैसा है जहाँ सबसे अच्छा उत्तर स्थित है।
- नुकीली चोटी (Sharp Peak): यदि पहाड़ी एक नुकीली स्पाइक है, तो आप जानते हैं कि शीर्ष कहाँ है (उच्च आत्मविश्वास)।
- सपाट पठार (Flat Plateau): यदि पहाड़ी एक सपाट मेज की तरह है, तो आप उस पर कहीं भी खड़े हो सकते हैं और फिर भी "सही" होंगे (कम आत्मविश्वास)।
टूल्स: वे कॉन्फिडेंस इंटरवल्स (नियम के नंबरों की एक रेंज) और प्रेडिक्शन इंटरवल्स (भविष्य के अनुमानों की एक रेंज) का उपयोग करते हैं। वे कॉन्फॉर्मल प्रेडिक्शन का भी उपयोग करते हैं, जो एक सुरक्षा जाल की तरह है जो गारंटी देता है कि आपका अनुमान एक निश्चित प्रतिशत बार सही होगा, बिना यह माने कि डेटा किसी विशिष्ट पैटर्न का पालन करता है।

B. बेयसियन दृष्टिकोण (The "विश्वास अपडेट करने वाला" क्लब)

एनालॉजी: कल्पना कीजिए कि आप एक धारणा (prior belief) के साथ शुरू करते हैं कि नियम क्या हो सकता है। जैसे-जैसे आपको नए सुराग मिलते हैं, आप अपनी धारणा को अपडेट करते हैं। आप केवल एक सबसे अच्छे नियम की तलाश नहीं करते; आप अपने दिमाग में संभावित नियमों का एक पूरा "बादल" रखते हैं, जिनमें से प्रत्येक के सत्य होने की एक संभावना होती है।
यह कैसे काम करता है: एक एकल उत्तर खोजने के बजाय, ये तरीके संभावनाओं के पूरे "बादल" को मैप करने की कोशिश करते हैं।
- क्रेडिबल इंटरवल्स (Credible Intervals): यह कॉन्फिडेंस इंटरवल का बेयसियन संस्करण है। यह कहता है, "90% संभावना है कि सच्चा नियम इस बॉक्स के अंदर है।"
- चुनौती: इस "बादल" की गणना करना कठिन है। पेपर MCMC (मार्कोव चेन मोंटे कार्लो) जैसे तरीकों पर चर्चा करता है, जो एक नशेड़ी के लड़खड़ाते कदमों (drunkard's walk) की तरह है जो अंततः पूरे क्षेत्र का मानचित्र तैयार करता है, और SMC (सीक्वेंशियल मोंटे कार्लो), जो क्षेत्र का कुशलतापूर्वक पता लगाने के लिए कणों के झुंड (swarm of particles) का उपयोग करता है।
नवाचार: कुछ शोधकर्ता इन तरीकों का उपयोग न केवल नियम के नंबरों को खोजने के लिए, बल्कि नियम के आकार (shape) को खोजने के लिए भी करने की कोशिश कर रहे हैं (जैसे, क्या यह एक रेखा है? एक वक्र है? या एक पेड़ है?)।

C. मॉडल चयन (The "सबसे अच्छा जासूस चुनने वाला" क्लब)

एनालॉजी: आपके पास रहस्य के बारे में 10 अलग-अलग सिद्धांत हैं। कुछ सरल हैं (एक संदिग्ध), कुछ जटिल हैं (50 लोगों की साजिश)। आप बिना उस साजिश के शिकार हुए सही एक को कैसे चुनते हैं जो डेटा के साथ बहुत अधिक फिट बैठती है (overfitting)?
यह कैसे काम करता है: यह सेक्शन MDL (मिनिमम डिस्क्रिप्शन लेंथ) जैसे तरीकों को देखता है। इसे एक "कंप्रेशन" गेम के रूप में सोचें। सबसे अच्छा नियम वह है जो डेटा को सबसे कम शब्दों (बिट्स) का उपयोग करके समझाता है। यदि कोई नियम बहुत जटिल है, तो यह एक किताब को एक वाक्य में कंप्रेस करने जैसा है—यह अर्थ खो देता है। ये तरीके अत्यधिक जटिल नियमों को दंडित (penalize) करते हैं ताकि जासूस रैंडम शोर से धोखा न खा जाए।

3. सर्वेक्षण ने क्या पाया

लेखकों ने कई शोध पत्रों को देखा और कुछ मुख्य बातें पाईं:

यह एक नया क्षेत्र है: केवल कुछ ही शोध पत्र (ज्यादातर पिछले कुछ वर्षों के) वास्तव में यह कर रहे हैं। अधिकांश सिंबोलिक रिग्रेशन शोध केवल "सर्वश्रेष्ठ" उत्तर खोजने पर ध्यान केंद्रित करते हैं, यह अनदेखा करते हैं कि हम अपने उत्तर के बारे में कितने अनिश्चित हैं।
बेयसियन लोकप्रिय है: क्योंकि सिंबोलिक रिग्रेशन बहुत लचीला है, इसलिए "फ्रीक्वेंटिस्ट" गणित (जो सरल, स्थिर नियमों को मानता है) का उपयोग करना कठिन है। इसलिए, अधिकांश नया शोध जटिलता को संभालने के लिए बेयसियन तरीकों का उपयोग कर रहा है।
"स्ट्रक्चर" (संरचना) की समस्या: फॉर्मूला के नंबरों (जैसे $2x$ में "2") के लिए अनिश्चितता की गणना करना आसान है। फॉर्मूला के आकार के लिए अनिश्चितता की गणना करना (क्या यह $x^2$ है या $x^3$ ?) बहुत अधिक कठिन है। पेपर इस बात पर प्रकाश डालता है कि हालांकि कुछ शोधकर्ता इसे हल करने की कोशिश कर रहे हैं, लेकिन यह अभी भी एक बड़ी चुनौती है।
"शोर" की समस्या: कभी-कभी डेटा स्वयं अव्यवस्थित होता है (x-अक्ष में त्रुटियां होती हैं, न कि केवल y-अक्ष में)। अधिकांश मानक तरीके इसे अनदेखा करते हैं, लेकिन कुछ उन्नत पेपर इसे ठीक करना शुरू कर रहे हैं।

निष्कर्ष

पेपर निष्कर्ष निकालता है कि सिंबोलिक रिग्रेशन वर्तमान में अपनी अनिश्चितता के प्रति "अंधा" है। यह एक GPS की तरह है जो आपको बाएं मुड़ने के लिए कहता है लेकिन यह नहीं बताता कि सड़क वास्तव में बंद है या मैप पुराना हो गया है।

लेखक वैज्ञानिक समुदाय से आह्वान कर रहे हैं कि वे केवल "सर्वश्रेष्ठ" गणितीय नियम खोजने के बजाय ऐसे उपकरण बनाने पर ध्यान दें जो हमें यह बता सकें कि हम उस नियम पर कितना भरोसा कर सकते हैं। उनका मानना है कि इस "आत्मविश्वास मीटर" के बिना, हम इन शक्तिशाली AI उपकरणों का वास्तविक दुनिया के निर्णयों के लिए सुरक्षित रूप से उपयोग नहीं कर सकते जहाँ गलतियाँ महंगी पड़ती हैं।

तकनीकी सारांश: सिम्बोलिक रिग्रेशन में अनिश्चितता परिमाणीकरण का एक व्यापक और बोधगम्य सर्वेक्षण

समस्या विवरण

सिम्बोलिक रिग्रेशन (एसआर - SR) एक खोज एल्गोरिदम वर्ग है जिसे उन गणितीय फलनों की खोज करने के लिए डिज़ाइन किया गया है जो डेटासेट में अंतर्निहित संबंधों को सटीक रूप से कैप्चर करते हैं। हालिया प्रगति के बावजूद, अनिश्चितता परिमाणीकरण (अनिश्चितता मात्रा निर्धारण या यूक्यू - UQ) के समर्थन की कमी के कारण वास्तविक दुनिया के निर्णय लेने वाली प्रक्रियाओं में एसआर को अपनाना सीमित है। प्रतिगमन विश्लेषण (रिग्रेशन एनालिसिस) में, मॉडल विश्वसनीयता का आकलन करने, डेटा शोर (एलेओटोरिक अनिश्चितता) को ध्यान में रखते हुए ओवरफिटिंग को रोकने और निर्णय लेने के लिए अंतर्दृष्टि प्रदान करने हेतु यूक्यू महत्वपूर्ण है।

एसआर दो प्राथमिक स्रोतों से उत्पन्न होने वाली अनिश्चितताओं का सामना करता है:

एलेओटोरिक अनिश्चितता (Aleatoric Uncertainty): डेटा जनरेशन प्रक्रिया में आंतरिक यादृच्छिकता या मापन अशुद्धि। यह अपरिहार्य है लेकिन त्रुटि के शोर-प्रेरित निचले स्तर का अनुमान लगाने के लिए इसे परिमाणित किया जा सकता है।
एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty): सत्य मॉडल के संबंध में ज्ञान का अभाव। इसमें शामिल हैं:
- मॉडल अनिश्चितता: वह जोखिम कि सत्य मॉडल $h^*$ परिकल्पना स्थान $\mathcal{H}$ में मौजूद नहीं है।
- अनुमान संबंधी अनिश्चितता (Approximation Uncertainty): इस बारे में अनिश्चितता कि कोई विशिष्ट परिकल्पना $h$ , $\mathcal{H}$ के भीतर सबसे अच्छी क्यों है, जिसे अक्सर पैरामीटर अनिश्चितता (समायोज्य पैरामीटर्स $\theta$ में अनिश्चितता) और संरचनात्मक अनिश्चितता में विभाजित किया जाता है।

जबकि पारंपरिक एसआर साहित्य कुशल मल्टीमॉडल सर्च स्पेस ट्रैवर्सल पर केंद्रित होता है, अनिश्चितताओं को अक्सर स्पष्ट रूप से संबोधित नहीं किया जाता है। यह सर्वेक्षण आवश्यक यूक्यू अवधारणाओं को पेश करने और वर्तमान साहित्य की समीक्षा करने का लक्ष्य रखता है ताकि जागरूकता बढ़ाई जा सके और विश्वसनीय यूक्यू विधियों के विकास को बढ़ावा दिया जा सके।

कार्यप्रणाली और सैद्धांतिक आधार

यह शोध पत्र अपनी समीक्षा को तीन अनुसंधान दिशाओं के इर्द-गिर्द संरचित करता है: फ्रीक्वेंटिस्ट (आवृत्तिवादी), बायेसियन, और मॉडल चयन। यह लाइकलीहुड फंक्शन और फिशर इंफॉर्मेशन का उपयोग करके एक सैद्धांतिक नींव स्थापित करता है।

1. सांख्यिकीय आधार

लाइकलीहुड और फिशर इंफॉर्मेशन: सर्वेक्षण लाइकलीहुड फंक्शन $L_N(\theta)$ और इसके लॉग-ट्रांसफ़ॉर्मेशन को परिभाषित करता है। यह पैरामीटर निश्चितता का अनुमान लगाने के लिए लॉग-लाइकलीहुड के हेसियन मैट्रिक्स (Hessian matrix) का उपयोग करता है। नकारात्मक हेसियन ऑब्जर्व्ड फिशर इंफॉर्मेशन के अनुरूप है, जहाँ कम सूचना मान सपाट लाइकलीहुड सतहों (उच्च अनिश्चितता) को दर्शाते हैं और तीक्ष्ण शिखर सटीक अनुमान को दर्शाते हैं।
फ्रीक्वेंटिस्ट दृष्टिकोण: ये मापदंडों को स्थिर लेकिन अज्ञात मानते हैं। यूक्यू को मापदंडों के लिए कॉन्फिडेंस इंटरवल (सीआई - CI) और आउटपुट के लिए प्रेडिक्शन इंटरवल (पीआई - PI) के माध्यम से प्राप्त किया जाता है। पेपर स्टैंडर्ड एरर की गणना के लिए इनवर्स हेसियन का विस्तार से वर्णन करता है और एक्सचेंजबल डेटा के लिए कवरेज सुनिश्चित करने वाले वितरण-मुक्त तरीके के रूप में कॉनफॉर्मल प्रेडिक्शन (सीपी - CP) की चर्चा करता है, जो गाऊसी धारणाओं पर निर्भर पारंपरिक पीआई के विपरीत है।
बायेसियन विधियाँ: ये मापदंडों को रैंडम वेरिएबल्स के रूप में देखती हैं जिनका वितरण होता है। यूक्यू को पोस्टीरियर डिस्ट्रीब्यूशन $p(h|D) \propto p(h)p(D|h)$ से व्युत्पन्न क्रेडिबल इंटरवल्स (सीआरआई - CrI) द्वारा प्राप्त किया जाता है। पेपर इंट्रैक्टेबल पोस्टीरियर्स को अनुमानित करने के लिए मार्कोव चेन मोंटे कार्लो (एमएमसी - MCMC) और सिक्वेंशियल मोंटे कार्लो (एसएमसी - SMC) जैसी विधियों पर चर्चा करता है। यह एप्रोक्सिमेशन अनिश्चितता को संभालने के लिए बायेसियन मॉडल एवरेजिंग (बीएमए - BMA) को भी कवर करता है।
मॉडल चयन: सर्वेक्षण बायेस फैक्टर, फ्रैक्शनल बायेस फैक्टर (एफबीएफ - FBF) (इम्प्रापर प्रायर्स को संभालने के लिए), और मिनिमम डिस्क्रिप्शन लेंथ (एमडीएल - MDL) जैसे सिद्धांतों की समीक्षा करता है, जो कोडे लेंथ को न्यूनतम करके मॉडल जटिलता और डेटा फिट के बीच संतुलन बनाता है।

2. एसआर-विशिष्ट यूक्यू साहित्य का सर्वेक्षण

लेखकों ने सहकर्मी-समीक्षित जर्नल्स, सम्मेलनों और प्रीप्रिंट्स से 18 प्रासंगिक लेखों (11 बायेसियन, 4 गैर-बायेसियन, 3 मॉडल चयन) का सर्वेक्षण किया।

एसआर में बायेसियन दृष्टिकोण

सिक्वेंशियल मोंटे कार्लो (एसएमसी - SMC): बमारिटो एट अल., लेसर एट अल. जैसे कार्यों की एक श्रृंखला जेनेटिक प्रोग्रामिंग (जीपी - GP) में एसआर के लिए एसएमसी को एकीकृत करती है। वे स्थानीय अनुकूलन और चयन के संभाव्यता पुनर्गठन का प्रस्ताव करते हैं। विधि मॉडलों की तुलना करने के लिए नॉर्मलाइज्ड मार्जिनल लॉग लाइकलीहुड (एनएमएलएल - NMLL) का अनुमान लगाती है। यह मापदंडों पर इंटीग्रल को अनुमानित करने के लिए एसएमसी का उपयोग करता है, जो लैपलेस एप्रोक्सीमेशन की तुलना में मल्टीमॉडल पोस्टीरियर्स को बेहतर ढंग से संभालता है। हालिया कार्य सीधे डिस्क्रीट मॉडल स्ट्रक्चर पर इसे हाशिए पर रखने तक विस्तृत है, जिसमें प्रतीकात्मक मॉडलों की जनसंख्या को भारित पोस्टीरियर के रूप में माना जाता है।
स्ट्रक्चरल प्रायर्स (संरचनात्मक पूर्ववर्ती): गुइमेरा एट अल. और बार्टलेट एट अल. मॉडल स्ट्रक्चर पर इंफॉर्मेटिव प्रायर्स पेश करते हैं। गुइमेरा एट अल. कॉर्पस (विकिपीडिया) से ऑपरेटर फ्रीक्वेंसी का उपयोग करके प्रायर्स को परिभाषित करते हैं, जबकि बार्टलेट एट अल. एक्सप्रेशन ट्रीज़ में कॉन्टेक्स्ट को पकड़ने के उद्देश्य से नोड्स की प्रोबेबिलिटी को मॉडलिंग करने के लिए लैंग्वेज मॉडल (en-grams) का उपयोग करते हैं।
एक्स-अक्ष अनिश्चितता: बार्टलेट और डेसमंड ऐसे लाइकलीहुड्स तैयार करते हैं जिनमें स्वतंत्र चरों ( $x$ ) में माप त्रुटियां शामिल होती हैं, जिससे संशोधित लाइकलीहुड फंक्शन प्राप्त करने के लिए ट्रू वैल्यूज़ को मार्जिनलाइज़ किया जाता है।
एंसेम्बल मेथड्स (समूह विधियाँ): अगैप्टोस एट अल. एप्रोक्सिमेशन अनिश्चितता को प्रबंधित करने के लिए विविध मॉडलों की आबादी पर बायेसियन मॉडल एवरेजिंग का प्रस्ताव करते हैं।
लीनियर बायेसियन फॉरेस्ट: रॉय एट अल. हायर बीओएसएस (हीरेबीओएसएस - HierBOSSS) (रेखीय संयोजित प्रतीकात्मक पेड़ों का वन) और वासस्ट (VaSST) (सॉफ्ट सिम्बॉलिक ट्रीज़ के साथ वेरिएशनल इन्फरेंस का उपयोग करना) प्रस्तावित करते हैं। ये दृष्टिकोण लीनियर गुणांकों के लिए कंजुगेसी का लाभ उठाते हैं लेकिन पेड़ की संरचनाओं के लिए मीन-फील्ड एप्रोक्सीमेशन पर निर्भर करते हैं। लेखक रैखिकता धारणा और प्रयोगात्मक प्रतिकृति में संभावित विसंगतियों के संबंध में सीमाओं को नोट करते हैं।
पोस्ट-हॉक एमएमसी (MCMC): झाओ और झाओ अंतिम मॉडल पर एमएमसी लागू करते हैं ताकि गुणांकों और भविष्यवाणियों के लिए क्रेडिबल इंटरवल निकाला जा सके।

गैर-बायेसियन दृष्टिकोण

क्वांटाइल रिग्रेशन: होकस्ट्रा और हेंगस्ट प्रेडिक्शन इंटरवल बनाने के लिए कंडीशनल क्वांटाइल्स का अनुमान लगाने हेतु फिटनेस फंक्शन को पिनबॉल लॉस से बदलते हैं।
प्रोफाइल लाइकलीहुड: डी फ्रांका और क्रोनबर्गर मापदंडों और भविष्यवाणियों के लिए असंतुलित विश्वास अंतराल की गणना करने के लिए प्रोफाइल लाइकलीहुड का उपयोग करते हैं, जो उन डिपेंडेंसीज़ को कैप्चर करता है जिन्हें डेल्टा-मेथड एप्रोक्सीमेशंस मिस कर देते हैं।
बूटस्ट्रैपिंग: मैनज़ी और वासिले कई सैंपल जेनरेट करने, एसआर मॉडल फिट करने और पैरामीटर डिस्ट्रीब्यूशंस को देखने के लिए हिस्टोग्राम का उपयोग करते हैं।
नॉइज़ के लिए टर्मिनल सिंबल: श्मिट और लिपसन नॉनलिनियर नॉइज़ रिलेशनशिप को डायरेक्ट मॉडल करने के लिए एक रैंडम टर्मिनल सिंबल पेश करते हैं, जिसका उद्देश्य प्रेडिक्शन इंटरवल्स की रेंज को ऑप्टिमाइज करना है।
एसआर में कॉनफॉर्मल प्रेडिक्शन: थुआंग एट अल. सीपी को या तो बेस्ट मॉडल पर पोस्ट-हॉक लगाया जाता है या उसे फिटनेस फंक्शन में इंटरवल चौड़ाई के रूप में शामिल किया जाता है, यह पाते हुए कि पोस्ट-हॉक अनुप्रयोग बेहतर परिणाम देता है।

मॉडल चयन

एसआर में एमएलडीఎల్ (MDL): इबा एट अल. और निकोलाएव बहुपद मॉडलों (स्ट्रोगैनऑफ - STROGANOFF) और गहन खोजों पर एमएलडीఎల్ लागू करते हैं, कॉम्प्लेक्सिटी को दंडित करने के लिए कोडे लेंथ का उपयोग करते हैं। बार्टलेट एट अल. एन्यूमिरेटेड एक्सप्रेशन्स के लिए एक विस्तृत डीएल मेट्रिक प्रस्तावित करते हैं जो कार्यात्मक जटिलता और डिस्क्रिटाइजेशन के माध्यम से पैरामीटर परिशुद्धता को अकाउंट में लेता है।

मुख्य परिणाम और निष्कर्ष

हालिया प्रकृति: सर्वे किए गए 18 पेपर्स में से केवल 3 ही 2020 से पहले प्रकाशित हुए थे, जो दर्शाता है कि एसआर में यूक्यू एक तेजी से उभरता हुआ क्षेत्र है।
कार्यप्रणाली विविधता: हालांकि पारंपरिक यूक्यू विधियाँ (जैसे सीआई) अस्तित्व में हैं, उनका प्रत्यक्ष प्रयोग एसआर पर दुर्लभ है। अधिकांश सर्वे किए गए कार्य (~60%) बायेसियन दृष्टिकोणों का उपयोग करते हैं, जो स्वाभाविक रूप से यूक्यू प्रदान करने के लिए सैंपलिंग विधियों (MCMC, SMC) का लाभ उठाते हैं।
एसएमसी बनाम लैपलेस: एसआर के लिए एसएमसी आधारित विधियाँ (बमारिटो एट अल.) लैपलेस एप्रोक्सीमेशन की तुलना में मल्टीमॉडल पोस्टीरियर्स को कैप्चर करने की श्रेष्ठ क्षमता प्रदर्शित करती हैं, हालाँकि इनमें कंप्यूटेशनल लागत अधिक होती है।
स्ट्रक्चरल पायर्स: भाषा मॉडल या ऑपरेटर फ्रीक्वेंसी पर आधारित स्ट्रक्चरल पायर्स को शामिल करने से मॉडल चयन में मदद मिलती है और ओवरफिटिंग को कम करता है, हालांकि वे प्रशिक्षण कॉर्पस में उपस्थित नवीन अभिव्यक्तियों की खोज को प्रतिबंधित कर सकते हैं।
वर्तमान विधियों की सीमाएँ:
- कई बायेसियन एसआर विधियाँ (जैसे वासस्ट/VaS-ST) मीन-फील्ड एप्रोक्सीमेशन पर निर्भर करती हैं जो नोड्स के बीच डिपेंडेंसी को अनदेखा करती हैं, जिससे ग्लोबल स्ट्रक्चर सब-ऑप्टिमल हो सकता है।
- लिनियर बायेसियन फॉरेस्ट उनके मापदंडों में रेखीय मॉडलों तक सीमित हैं।
- कुछ प्रस्तावित विधियाँ (जैसे हायरबीआईओएसएस, वासस्ट) प्रयोगात्मक प्रतिकृति और कोड निरंतरता की चुनौतियों का सामना करती हैं।
- फ्रीक्वेंटिस्ट दृष्टिकोण एसआर के लिए संघर्ष करते क्योंकि लचीले एसआर मॉडल आसानी से ओवरफिट हो सकते हैं, जिससे वे विचरण गणनाओं के लिए आवश्यक निष्पक्ष अनुमानकर्ता बनने के अनुपयुक्त हो जाते हैं।

महत्व और दावे

पेपर दावा करता है कि यह यूक्यू (UQ) को स्पष्ट रूप से संबोधित करने वाला पहला सर्वेक्षण है जो सिम्बोलिक रिग्रेशन (एसआर) के लिए बनाया गया है। इसकी प्राथमिक महत्ता निम्नलिखित बिंदुओं में निहित है:

अंतराल को पाटना: यह स्थापित सांख्यिकीय यूक्यू अवधारणाओं (फ्रीक्वेंटिस्ट और बायेसियन) को एसआर की विशिष्ट चुनौतियों, जैसे मॉडल संरचनाओं की डिस्क्रीट प्रकृति और मल्टीमॉडल सर्च स्पेस के साथ जोड़ता है।
वर्गीकरण: यह खंडित साहित्य को तीन सुसंगत अनुसंधान दिशाओं में व्यवस्थित करता है: फ्रीक्वेंटिस्ट, बायेसियन, और मॉडल चयन।
कम अन्वेषित क्षेत्रों को उजागर करना: लेखक निष्कर्ष निकालते हैं कि एसआर में यूक्यू अभी भी मुख्यतः अल्प-अन्वेषित है और इसका महत्व व्यवस्थित रूप से कम आंका गया है।
भविष्य की दिशा: पेपर तर्क देता कि भविष्य के कार्यों को वास्तविक दुनिया के निर्णय लेने के लिए विश्वसनीय मॉडल विकसित करने हेतु डेटा और शोर के सावधानीपूर्वक विश्लेषण के साथ स्थापित यूक्यू विधियों को अपनाने की आवश्यकता है। यह जोर देता है कि भले ही यूक्यू सैंपलिंग-आधारित दृष्टिकोणों में "मुफ्त" मिल सकती है, वर्तमान क्रियान्वयन में कम्प्यूटेशनल लागत, स्ट्रक्चरल पायर्स और मल्टीमोडालिटी हैंडलिंग के संबंध में महत्वपूर्ण सीमाएँ हैं।