On the Hyper-Parameters and the Scoring Functions of PCTABU and PCHC Bayesian Network Algorithms

डेटा के विशाल परिदृश्य में, जहाँ हजारों चर (variables) उन तरीकों से परस्पर क्रिया करते हैं जो अक्सर दृष्टि से ओझल रहते हैं, वैज्ञानिक लंबे समय से कारण और प्रभाव के अदृश्य धागों का मानचित्र बनाने का एक तरीका खोज रहे हैं। केवल अंतिम उत्पाद को देखकर एक जटिल मशीन को समझने की कोशिश करने की कल्पना करें; आप देख सकते हैं कि एक बटन घुमाने से एक लाइट चमकती है, लेकिन आपको यह पता नहीं चलेगा कि उस बटन ने सीधे तौर पर लाइट को सक्रिय किया या इसने अन्य भागों के माध्यम से एक श्रृंखला प्रतिक्रिया शुरू की। इसे हल करने के लिए, शोधकर्ता 'बेयसियन नेटवर्क' नामक एक उपकरण का उपयोग करते हैं। इसे एक शहर के मानचित्र के रूप में समझें जहाँ सड़कें केवल रास्ते नहीं हैं, बल्कि प्रभाव की सीधी रेखाएँ हैं। इस मानचित्र पर, प्रत्येक बिंदु एक चर का प्रतिनिधित्व करता है, जैसे तापमान की रीडिंग या शेयर की कीमत, और उन्हें जोड़ने वाले तीर दिखाते हैं कि कौन से चर दूसरों को सीधे प्रभावित करते हैं। ये मानचित्र केवल स्थिर चित्र नहीं हैं; वे भविष्यवाणी और समझ के लिए शक्तिशाली इंजन हैं, जिनका उपयोग वित्त से लेकर चिकित्सा तक के क्षेत्रों में दुनिया के वास्तविक ढांचे को उजागर करने के लिए किया जाता है। हालाँकि, कच्चे डेटा से एक सटीक मानचित्र बनाना एक कठिन पहेली है। डेटा अकेले आपको यह नहीं बताता कि कौन से संबंध वास्तविक हैं और कौन से संयोग मात्र हैं, इसलिए शोधकर्ताओं को यह तय करने के लिए कि किन तीरों को खींचना है और किन्हें मिटाना है, गणितीय नियमों पर भरोसा करना पड़ता है।

दो शोधकर्ताओं, वोल्कान सेविंच और माइकल त्सैग्रिस ने इन मानचित्रों को बनाने की प्रक्रिया में सुधार करने का लक्ष्य रखा। उन्होंने एक विशिष्ट प्रकार के एल्गोरिदम पर ध्यान केंद्रित किया, जो निर्देशों का एक समूह है जिसका पालन कंप्यूटर डेटा से एक नेटवर्क की संरचना सीखने के लिए करता है। जबकि पिछले तरीकों ने पहले ही काफी संभावनाएं दिखाई थीं, शोधकर्ताओं ने सोचा कि क्या सबसे अच्छे मानचित्र की खोज के लिए उपयोग किए जाने वाले विशिष्ट उपकरणों में सुधार किया जा सकता है। उन्होंने PCTABU नामक एक नई विधि पेश की, जो नेटवर्क के प्रारंभिक खाके को तैयार करने के एक मानक तरीके को 'टैबू सर्च' (Tabu search) नामक एक अधिक परिष्कृत खोज तकनीक के साथ जोड़ती है। इसके बाद उन्होंने इस नई विधि को PCHC नामक एक मौजूदा, प्रतिष्ठित विधि के साथ आमने-सामने रखा, जो 'हिल-क्लाइंबिंग' (hill-climbing) नामक एक सरल, अधिक प्रत्यक्ष खोज तकनीक का उपयोग करती है। एक निष्पक्ष परीक्षण सुनिश्चित करने के लिए, उन्होंने केवल सिद्धांत पर भरोसा नहीं किया; उन्होंने दोनों विधियों को भारी मात्रा में डेटा का उपयोग करके परखा। उन्होंने उन्हें आठ वास्तविक दुनिया के नेटवर्कों पर परखा जो वर्षों से वैज्ञानिक समुदाय द्वारा बेंचमार्क के रूप में उपयोग किए जा रहे थे, साथ ही विभिन्न स्तरों की जटिलता को दर्शाने वाले हजारों सिम्युलेटेड नेटवर्कों पर भी परखा। हर परीक्षण में, उन्होंने मानचित्र की गुणवत्ता को आंकने के लिए उपयोग किए जाने वाले गणितीय नियमों को भी बदला, और यह देखने के लिए तीन अलग-अलग स्कोरिंग सिस्टम की तुलना की कि कौन सा एल्गोरिदम सत्य खोजने में मदद करता है।

इस व्यापक तुलना के परिणामों ने एक स्पष्ट पैटर्न प्रकट किया जो अध्ययन किए जा रहे नेटवर्क की प्रकृति पर बहुत अधिक निर्भर करता है। जब शोधकर्ताओं ने घने (dense) नेटवर्कों पर एल्गोरिदम का परीक्षण किया, जिसका अर्थ है कि चर अत्यधिक परस्पर जुड़े हुए थे और कई तीर सभी दिशाओं में इशारा कर रहे थे, तो नई PCTABU विधि और पुरानी PCHC विधि लगभग समान प्रदर्शन करती थी। दोनों सही संरचना खोजने में समान रूप से सक्षम थीं। हालाँकि, कहानी तब बदल गई जब उन्होंने विरल (sparse) नेटवर्कों को देखा, जहाँ चरों के पास कम कनेक्शन थे और मानचित्र अधिक खुला था। इन कम भीड़भाड़ वाले नेटवर्कों में, नया PCTABU एल्गोरिदम लगातार पुराने वाले से बेहतर प्रदर्शन करता रहा। शोधकर्ताओं ने पाया कि यह लाभ उन नेटवर्कों में सबसे अधिक स्पष्ट था जहाँ प्रति चर कनेक्शनों की औसत संख्या कम थी। इस सफलता का कारण यह है कि दोनों खोज तकनीकें कैसे व्यवहार करती हैं। पुरानी हिल-क्लाइंबिंग विधि एक ऐसे पदयात्री की तरह है जो केवल तभी कदम उठाता है जब वह तुरंत ऊपर की ओर ले जाए; यदि रास्ता समतल हो जाता है या किसी छोटे शिखर की ओर ले जाता है जो शीर्ष जैसा दिखता है, तो पदयात्री रुक जाता है। इसके विपरीत, नई टैबू विधि एक ऐसे पदयात्री की तरह है जो उन रास्तों का मानसिक नोट रखती है जिन पर वह अभी-अभी चला है और तुरंत फिर से उन पर चलने से इनकार करती है। यह नई विधि को एक छोटे शिखर से बचने और एक बहुत ऊंचे पर्वत शिखर को खोजने के लिए थोड़ा तिरछा या थोड़ा नीचे की ओर जाने की अनुमति देता है जिसे सरल विधि चूक गई थी। व्यापक रूप से अन्वेषण करने की इस क्षमता ने सरल, विरल नेटवर्कों को सुलझाने में महत्वपूर्ण भूमिका निभाई।

चयनित खोज पद्धति के अलावा, अध्ययन ने मानचित्रों की गुणवत्ता को मापने के लिए उपयोग किए जाने वाले नियमों के बारे में भी एक बहस को सुलझा दिया। शोधकर्ताओं ने तीन अलग-अलग स्कोरिंग फंक्शन का परीक्षण किया, जो वे गणितीय सूत्र हैं जो कंप्यूटर को बताते हैं कि प्रस्तावित नेटवर्क अच्छा है या बुरा। इनमें से एक, जिसे 'लॉग-लाइक्लिहुड स्कोर' (log-likelihood score) के रूप में जाना जाता है, ने लगातार सबसे खराब परिणाम दिए। शोधकर्ताओं ने समझाया कि यह विधि डेटा को खुश करने के लिए बहुत अधिक उत्सुक है; यह मानचित्र में एक के बाद एक अधिक तीर जोड़ने के लिए पुरस्कृत करती है क्योंकि एक घना मानचित्र मौजूदा डेटा बिंदुओं को हमेशा पूरी तरह से फिट कर सकता है। इससे 'ओवरफिटिंग' होती है, जहाँ मानचित्र अनावश्यक कनेक्शनों से इतना भर जाता है कि वह कुछ भी नया अनुमान लगाने में विफल रहता है। इसके विपरीत, अन्य दो स्कोरिंग विधियों, 'बेयसियन डिरिचलेट इक्विवेलेंट' (Bayesian Dirichlet equivalent) और 'बेयसियन इंफॉर्मेशन क्राइटेरियन' (Bayesian information criterion), दोनों में बहुत अधिक कनेक्शन जोड़ने के लिए एक दंड (penalty) शामिल था। ये विधियाँ एक फिल्टर के रूप में कार्य करती थीं, जो एल्गोरिदम को उन तीरों को खींचने से हतोत्साहित करती थीं जो वास्तव में आवश्यक नहीं थे। अध्ययन में पाया गया कि ये दो विधियाँ लगभग समान रूप से अच्छा प्रदर्शन करती हैं और लॉग-लाइक्लिहुड स्कोर की तुलना में कहीं अधिक बेहतर हैं। यह सुझाव देता है कि जो कोई भी डेटा से नेटवर्क की संरचना सीखना चाहता है, उसके लिए ऐसा स्कोरिंग सिस्टम उपयोग करना कहीं बेहतर है जो सरलता को महत्व देता है और अनावश्यक जटिलता को दंडित करता है।

शोधकर्ताओं ने यह भी देखा कि इन विधियों को चलाने में कितना समय लगता है और पाया कि नया PCTABU एल्गोरिदम, पुरानी PCHC विधि की तुलना में काफी अधिक समय नहीं लेता है, भले ही यह एक अधिक जटिल खोज करता है। इसका अर्थ है कि विरल नेटवर्कों में बेहतर सटीकता बिना कंप्यूटिंग शक्ति की भारी लागत के प्राप्त होती है। हालाँकि नई विधि ने सिम्युलेटेड परीक्षणों में स्पष्ट लाभ नहीं दिखाया, जिनमें यादृच्छिक रूप से उत्पन्न नेटवर्क का उपयोग किया गया था, लेकिन वास्तविक दुनिया के परीक्षण निर्णायक रहे। वास्तविक दुनिया के नेटवर्क, जिनमें अक्सर अनियमित और अद्वितीय संरचनाएं होती हैं, ने वह वातावरण प्रदान किया जहाँ नए तरीके की स्थानीय बाधाओं (local traps) से बचने की क्षमता ने अंतर पैदा किया। अध्ययन निष्कर्ष निकालता है कि जबकि बहुत घने नेटवर्कों के लिए पुराना तरीका अभी भी एक मजबूत विकल्प है, नया PCTABU एल्गोरिदम उन कई वास्तविक दुनिया की समस्याओं के लिए एक विशिष्ट लाभ प्रदान करता है जहाँ चर आपस में कसकर नहीं जुड़े होते हैं। एक मजबूत प्रारंभिक खाके को एक अधिक साहसी खोज रणनीति के साथ जोड़कर, और एक ऐसा स्कोरिंग सिस्टम उपयोग करके जो अति-जटिलता के जाल से बचता है, शोधकर्ता अब उन कारण संबंधों के अधिक सटीक मानचित्र बना सकते हैं जो हमारी दुनिया को नियंत्रित करते हैं।