Generate in the Chart, Not on the Boundary: Function-Symbol Grounding for Hard Constraints in LTN-GANs

आर्टिफिशियल इंटेलिजेंस की दुनिया में, मशीनें वास्तविक दुनिया के पैटर्न की नकल करने में उल्लेखनीय रूप से कुशल हो गई हैं। वे चेहरों की नकली लेकिन वास्तविक दिखने वाली तस्वीरें बना सकती हैं, विश्वसनीय लगने वाले समाचार लेख गढ़ सकती हैं, या उड़ान के समय और रासायनिक प्रतिक्रियाओं के सिंथेटिक रिकॉर्ड बना सकती हैं। ये उपकरण उन वैज्ञानिकों और इंजीनियरों के लिए अमूल्य हैं जिन्हें सिद्धांतों का परीक्षण करने या अन्य प्रणालियों को प्रशिक्षित करने के लिए अधिक डेटा की आवश्यकता होती है, विशेष रूप से जब वास्तविक डेटा दुर्लभ हो या साझा करने के लिए बहुत संवेदनशील हो। हालांकि, इसमें एक पेंच है। केवल इसलिए कि एक मशीन कुछ ऐसा बनाती है जो सांख्यिकीय रूप से वास्तविक चीज़ के समान दिखता है, इसका मतलब यह नहीं है कि वह उन मौलिक नियमों का पालन करती है जो वास्तविकता को नियंत्रित करते हैं। एक सिंथेटिक उड़ान रिकॉर्ड यह दिखा सकता है कि एक विमान उड़ान भरने से पहले ही पहुँच गया, या एक रासायनिक अणु में एक असंभव ऊर्जा संतुलन हो सकता है। ये त्रुटियाँ भौतिकी और तर्क के उन कठोर नियमों का उल्लंघन करती हैं जिनका पालन वास्तविक डेटा करता है। शोधकर्ताओं के लिए चुनौती ऐसे जनरेटर बनाने की है जो न केवल वास्तविक दिखें बल्कि उन अटूट नियमों का भी सख्ती से पालन करें, जिससे ऐसा डेटा तैयार हो जो विश्वसनीय भी हो और तार्किक रूप से सुसंगत भी।

वर्षों तक, इन तार्किक त्रुटियों को ठीक करने का मानक दृष्टिकोण उन्हें 'सॉफ्ट सुझावों' के रूप में मानने का रहा है। इस पद्धति में, कंप्यूटर को तब दंडित किया जाता है जब वह किसी नियम को तोड़ता है, जिससे उसे समय के साथ बेहतर करने के लिए प्रोत्साहित किया जाता है। हालांकि यह मदद करता है, लेकिन यह पूर्णता की गारंटी कभी नहीं देता; मशीन अभी भी कभी-कभी चूक सकती है, एक नियम उल्लंघन के बदले थोड़ा बेहतर दिखने वाले चित्र को चुन लेती है। एक अधिक हालिया और सख्त विधि में एक "कन्स्ट्रेंट लेयर" (constraint layer) शामिल है, जो पीढ़ी की प्रक्रिया के अंत में स्थित एक यांत्रिक द्वार की तरह है। यदि मशीन एक ऐसा नमूना बनाती है जो किसी नियम को तोड़ता है, तो यह द्वार भौतिक रूप से संख्याओं को इतना बदलने के लिए मजबूर करता है कि नमूना वैध हो जाए। यह एक सुरक्षा जाल की तरह काम करता है, यह सुनिश्चित करता है कि प्रत्येक आउटपुट तकनीकी रूप से सही हो। लेकिन एडिनबर्ग विश्वविद्यालय के शोधकर्ता निजेश उप्रेती और वैशाक बेले ने इस सुरक्षा जाल में एक छिपे हुए दोष की खोज की। उन्होंने पाया कि जबकि द्वार नमूने को वैध बनाना सुनिश्चित करता है, यह अक्सर उन सूक्ष्म, प्राकृतिक विविधताओं को नष्ट कर देता है जो डेटा को वास्तविक बनाते हैं।

समस्या इन नियमों को लागू करने के तरीके में निहित है। कई वैज्ञानिक नियम असमानताएं (inequalities) होते हैं, जैसे कि "तापमान शून्य से अधिक होना चाहिए" या "ड्रॉप-ऑफ समय पिक-अप के बाद होना चाहिए।" वास्तविक दुनिया में, ये अंतराल केवल शून्य या एक नहीं होते; उनमें एक स्वाभाविक प्रसार होता है। एक उड़ान में कुछ मिनटों की देरी हो सकती है, या एक रासायनिक प्रतिक्रिया में एक छोटा ऊर्जा बफर हो सकता है। जब मानक सुरक्षा द्वार किसी उल्लंघन को ठीक करता है, तो वह नमूने को अनुमत क्षेत्र के किनारे के बिल्कुल करीब धकेल देता है, जिससे अंतराल ठीक शून्य हो जाता है। यह हर उस नमूने के लिए ऐसा करता है जो थोड़ा भी गलत था। परिणाम एक ऐसा डेटासेट होता है जहाँ प्रत्येक प्रविष्टि वैध है, लेकिन उन अंतरालों का प्राकृतिक वितरण गायब है। डेटा एक चेकलिस्ट पर तो उत्तम दिखता है, लेकिन यह सपाट और कृत्रिम महसूस होता है क्योंकि वास्तविक दुनिया को परिभाषित करने वाली सूक्ष्म विविधताएं एक एकल बिंदु में कुचल दी गई हैं। उप्रेती और बेले इसे मार्जिन वितरण का "कोलैप्स" (collapse) कहते हैं, और उन्होंने दिखाया कि यह इतनी शांति से होता है कि मानक परीक्षण अक्सर इसे पकड़ नहीं पाते, जिससे शोधकर्ताओं के पास ऐसा डेटा रह जाता है जो अच्छा दिखता है लेकिन मौलिक रूप से विकृत है।

इसे हल करने के लिए, शोधकर्ताओं ने इस बारे में सोचने का एक नया तरीका विकसित किया कि मशीन अपने नमूनों का निर्माण कैसे करती है। एक पूर्ण नमूना उत्पन्न करने और फिर यह जाँचने के बजाय कि क्या वह नियमों को तोड़ता है, उन्होंने ब्लूप्रिंट को ही बदल दिया। उन्होंने "फंक्शन-सिंबल ग्राउंडिंग" (function-symbol grounding) नामक एक विधि पेश की, जो अनुमत क्षेत्र के भीतर एक समन्वय प्रणाली (coordinate system) की तरह कार्य करती है। कल्पना कीजिए कि मशीन अब लक्ष्य को हिट करने और फिर अपने लक्ष्य को सुधारने की कोशिश नहीं कर रही है; इसके बजाय, वह पूरे सुरक्षित क्षेत्र का एक नक्शा बना रही है और उसके भीतर से सीधे एक स्थान चुन रही है। मशीन एक मुक्त, अबाधित संख्या उत्पन्न करती है, और फिर एक विशिष्ट गणितीय फलन उस संख्या को एक मूल्य में अनुवादित करता है जो गारंटी के साथ वैध है। यह अनुवाद एक आधार मान में एक छोटा, सकारात्मक भाग जोड़कर होता है, जिससे यह सुनिश्चित होता है कि नियम निर्माण द्वारा ही संतुष्ट हो जाए। क्योंकि मशीन नमूने का निर्माण अंदर से बाहर की ओर कर रही है, उसे कभी भी मजबूर या क्लैंप करने की आवश्यकता नहीं होती। प्राकृतिक विविधताएं, यानी मूल्यों के बीच के "मार्जिन्स", बरकरार रहते हैं और डेटा की किसी भी अन्य विशेषता की तरह ही सीखे जाते हैं।

टीम ने रसायन विज्ञान, आणविक गुणों और टैक्सी यात्रा रिकॉर्ड से जुड़े चार जटिल, उच्च-रिज़ॉल्यूशन वाले डेटासेट्स पर इस दृष्टिकोण का परीक्षण किया। हर मामले में, क्लैम्पिंग (clamping) की पुरानी विधि ने 100 प्रतिशत वैध डेटा तो बनाया लेकिन मूल्यों के बीच के अंतरालों का वितरण विकृत कर दिया। हालाँकि, नई विधि ने न केवल 100 प्रतिशत वैध डेटा बनाया, बल्कि उन अंतरालों के प्राकृतिक प्रसार को भी पूरी तरह से संरक्षित किया। अंतर स्पष्ट था: नई विधि ने पुराने तरीके की तुलना में इन अंतरालों के वितरण में त्रुटियों को बीस-पच्चीस गुना तक कम कर दिया। शोधकर्ताओं ने यह भी पाया कि वे प्रशिक्षण शुरू करने से पहले ही अनुमान लगा सकते थे कि पुराना तरीका कब विफल होगा। उन्होंने डेटा के आकार बनाम नियम के अंतराल के आकार के आधार पर एक सरल अनुपात की गणना की। जब यह अनुपात बड़ा था, जिसका अर्थ था कि अंतराल डेटा की तुलना में बहुत छोटा था, तो पुराना तरीका हमेशा वितरण को कोलैप्स कर देता था। नया तरीका इस अनुपात के बावजूद काम करता है, जो इन प्रकार के बाधाओं के लिए एक सार्वभौमिक समाधान के रूप में कार्य करता है।

अध्ययन ने एक व्यावहारिक चिंता को भी संबोधित किया: उन नियमों के बारे में क्या जो पूर्ण संख्याओं या असतत श्रेणियों (discrete categories) से संबंधित हैं, जहाँ "अंतराल" एक चिकनी वक्र नहीं बल्कि एक एकल बिंदु है? शोधकर्ताओं ने पाया कि उनका नया तरीका चिकने, निरंतर नियमों के लिए सबसे अच्छा काम करता है, जबकि पुराना क्लैम्पिंग तरीका इन असतत मामलों के लिए वास्तव में बेहतर है। दोनों का सर्वश्रेष्ठ लाभ उठाने के लिए, उन्होंने एक हाइब्रिड सिस्टम बनाया। प्रशिक्षण शुरू होने से पहले, सिस्टम प्रत्येक नियम का विश्लेषण करता है कि वह स्मूथ (smooth) है या डिस्क्रीट (discrete), और फिर स्वचालित रूप से सबसे उपयुक्त उपकरण चुनता है। यह स्मूथ नियमों के लिए नए 'इनसाइड-आउट' तरीके का उपयोग करता है और डिस्क्रीट वाले नियमों के लिए पुराने क्लैम्पिंग तरीके का। जब सर्वोत्तम मौजूदा बेंचमार्क के विरुद्ध परीक्षण किया गया, तो इस हाइब्रिड सिस्टम ने सभी डेटासेट्स पर मानक क्लैम्पिंग पद्धति के प्रदर्शन के बराबर या उससे बेहतर प्रदर्शन किया, जबकि उन कठिन, उच्च-रिज़ॉल्यूशन वाले मामलों में इसे काफी पीछे छोड़ दिया जहाँ पुराना तरीका विफल हो गया था।

यह कार्य हमारे सोचने के तरीके को बदल देता है कि बाधित डेटा (constrained data) कैसे उत्पन्न किया जाए। यह दिखाता है कि केवल डेटा को वैध बनाना ही पर्याप्त नहीं है; डेटा में उसकी विविधताओं का भी वास्तविक होना आवश्यक है। त्रुटियों को होने के बाद ठीक करने वाले सिस्टम से बदलकर वैधता को डेटा की संरचना में ही शामिल करने वाले सिस्टम की ओर बढ़ते हुए, शोधकर्ताओं ने ऐसा डेटा उत्पन्न करने का एक तरीका बनाया है जो न केवल सुरक्षित है बल्कि उस जटिल, सूक्ष्म वास्तविकता के प्रति भी वफादार है जिसका वह प्रतिनिधित्व करने के लिए बनाया गया है। उनके निष्कर्ष बताते हैं कि किसी भी ऐसे अनुप्रयोग के लिए जहाँ मूल्यों के बीच के सूक्ष्म अंतर मायने रखते हैं—चाहे वह नए अणुओं को डिजाइन करना हो या लॉजिस्टिक्स की योजना बनाना—मशीन के आर्किटेक्चर में हमारे नियमों को कैसे स्थापित किया जाता है, वह नियमों के स्वयं के होने जितना ही महत्वपूर्ण है।