Position: Certified Correctness in Neural Constraint Reasoning Requires Symbolic Integration
यह स्थिति पत्र तर्क देता है कि न्यूरल बाधा तर्क (neural constraint reasoning) में प्रमाणित शुद्धता सुनिश्चित करने के लिए, विशेष रूप से सुडोकू जैसी NP-पूर्ण समस्याओं के लिए जहाँ सत्यापन कुशल है लेकिन समाधान कठिन है, न्यूरल विधियों को शुद्ध शिक्षण पर निर्भर रहने के बजाय प्रतीकात्मक सॉल्वरों (symbolic solvers) के साथ द्विदिशीय रूप से एकीकृत किया जाना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, सोचने के दो तरीकों के बीच एक बढ़ता हुआ विभाजन है। एक ओर, वे प्रणालियाँ हैं जो भारी मात्रा में डेटा को देखकर, पैटर्न पहचानकर और शिक्षित अनुमान लगाकर सीखती हैं। ये प्रणालियाँ अविश्वसनीय रूप से लचीली होती हैं और फोटोग्राफ या बोले गए शब्दों जैसे अव्यवस्थित, वास्तविक दुनिया के इनपुट को संभाल सकती हैं। दूसरी ओर, वे प्रणालियाँ हैं जो सख्त, अटूट नियमों का पालन करती हैं, जैसे कि होमवर्क चेक करने वाला कोई गणित का शिक्षक। ये नियम-आधारित प्रणालियाँ कठोर होती हैं और किसी भी ऐसी चीज़ के साथ संघर्ष करती हैं जो पूरी तरह से व्यवस्थित न हो, लेकिन वे कभी भी तार्किक गलती नहीं करतीं। वर्षों से, शोधकर्ताओं ने उम्मीद की है कि पैटर्न-मैचिंग वाली प्रणालियाँ अंततः अपने आप नियमों का पालन करना सीख लेंगी, जिससे कठोर, नियम-पालन करने वाला दृष्टिकोण अप्रचलित हो जाएगा। लेकिन शोध की एक नई रेखा बताती है कि कुछ प्रकार की समस्याओं के लिए, यह उम्मीद गलत है। जब दांव ऊंचे हों और नियम पूर्ण हों, तो एक ऐसी प्रणाली जो केवल अनुमान लगाती है, चाहे वह कितनी भी स्मार्ट क्यों न हो, अंततः विफल होगी। सवाल अब यह नहीं है कि क्या हम एक ऐसी मशीन बना सकते हैं जो आमतौर पर सही हो, बल्कि यह है कि क्या हम एक ऐसी मशीन बना सकते हैं जो प्रमाणित रूप से सही हो।
यह तनाव शोधकर्ता शुफेंग कोंग, शियाओचुआन झांग और काइहुआ लियू के एक हालिया पोजीशन पेपर के केंद्र में है। वे तर्क देते हैं कि उन समस्याओं के लिए जहाँ नियम कठिन हैं और गलती की लागत अधिक है, आर्टिफिशियल इंटेलिजेंस को शून्य से नियमों को सीखने की कोशिश करने के बजाय अपनी सीखने की शक्ति को एक पारंपरिक, नियम-जांच इंजन के साथ जोड़ना चाहिए। अपना बिंदु सिद्ध करने के लिए, उन्होंने सुडोकू (Sudoku), लोकप्रिय संख्या पहेली की ओर रुख किया। सुडोकू एक आदर्श परीक्षण मामला है क्योंकि यह जांचना आसान है कि समाधान सही है या नहीं—आप बस पंक्तियों और स्तंभों को देखते हैं कि कहीं संख्याएँ दोहराई तो नहीं जा रही हैं—लेकिन इसे शुरुआत से हल करना बहुत कठिन है। शोधकर्ताओं ने पाया कि जबकि आधुनिक एआई मॉडल आसान पहेलियों को लगभग पूर्ण सटीकता के साथ हल कर सकते हैं, वे तब बिखर जाते हैं जब पहेलियाँ थोड़ी अलग या कठिन हो जाती हैं। यहाँ तक कि जब इन मॉडलों को अपने काम को सोचने और जांचने के लिए अतिरिक्त समय दिया जाता है, तब भी वे ऐसे समाधान उत्पन्न करते हैं जो नियमों को तोड़ते हैं। इसके विपरीत, वे प्रणालियाँ जो एआई के उत्तरों को सत्यापित करने के लिए एक पारंपरिक नियम-जांचकर्ता का उपयोग करती हैं, बहुत कम उदाहरणों के साथ पूर्ण सटीकता प्राप्त करती हैं।
शोधकर्ताओं ने प्रदर्शित किया कि इन प्रकार की समस्याओं के लिए केवल सांख्यिकीय शिक्षण (statistical learning) पर भरोसा करना एक जाल है। उन्होंने दिखाया कि जब एक न्यूरल नेटवर्क, जो डेटा से सीखने वाला एक प्रकार का एआई है, एक ऐसी पहेली को हल करने की कोशिश करता है जिसे उसने पहले नहीं देखा है, तो वह अक्सर एक ऐसा उत्तर देता है जो सही दिखता है लेकिन जिसमें छिपी हुई त्रुटियां होती हैं। ये त्रुटियां केवल छोटी गलतियां नहीं हैं; ये उस तर्क का मौलिक उल्लंघन हैं जो पहेली को हल करने के लिए आवश्यक है। टीम ने पाया कि एआई को केवल अधिक कंप्यूटिंग पावर देने या उसे कई संभावित उत्तर उत्पन्न करने और सबसे अच्छे को चुनने के लिए कहने से समस्या हल नहीं होती है। एआई औसतन बेहतर हो सकता है, लेकिन वह यह गारंटी नहीं दे सकता कि कोई भी विशिष्ट उत्तर सही है। यह एक महत्वपूर्ण अंतर है। एक प्रणाली जो "आमतौर पर सही" है, मौलिक रूप से एक ऐसी प्रणाली से भिन्न है जो "प्रमाणित रूप से सही" है। शेड्यूलिंग, सुरक्षा जांच या कोड जनरेशन जैसे क्षेत्रों में, एक एकल त्रुटि भी विनाशकारी हो सकती है, जिससे "आमतौर पर सही" वाला दृष्टिकोण अस्वीकार्य हो जाता है।
इसे हल करने के लिए, लेखक इन प्रणालियों को बनाने का एक नया तरीका प्रस्तावित करते हैं, जिसे वे "द्विदिश एकीकरण" (bidirectional integration) कहते हैं। एआई को सब कुछ करने देने के बजाय, वे काम को विभाजित करने का सुझाव देते हैं। एआई एक तेज़, सहज जनरेटर के रूप में कार्य करता है, जो अपने पैटर्न रिकग्निशन का उपयोग करके जल्दी से एक संभावित समाधान तैयार करता है। इस संभावित समाधान को फिर एक सख्त, नियम-पालन करने वाले सत्यापनकर्ता (verifier) को सौंपा जाता है। यह सत्यापनकर्ता एक द्वारपाल की तरह कार्य करता है। यदि समाधान जांच में पास हो जाता है, तो इसे स्वीकार कर लिया जाता है। यदि यह विफल होता है, तो सत्यापनकर्ता केवल "नहीं" नहीं कहता; बल्कि वह एआई को ठीक से बताता है कि गलती कहाँ है, जैसे कि यह बताना कि एक ही पंक्ति में दो संख्याएँ समान हैं। एआई फिर इस विशिष्ट फीडबैक का उपयोग करके अपने अनुमान को समायोजित करता है और फिर से प्रयास करता है। यदि एआई कुछ प्रयासों के बाद भी समस्या को ठीक नहीं कर पाता है, तो सिस्टम कार्य को एक पारंपरिक, धीमे-लेकिन-परफेक्ट सॉल्वर को सौंप देता है जो सही उत्तर की गारंटी देता है। यह एक सुरक्षा जाल बनाता है जहाँ एआई की गति सुरक्षित रहती है, लेकिन नियम-आधारित प्रणाली की विश्वसनीयता से कभी समझौता नहीं किया जाता।
शोधकर्ताओं ने कंप्यूटर कोड उत्पन्न करने और वाहनों के लिए जटिल रूटिंग समस्याओं को हल करने सहित कई कठिन क्षेत्रों में इस दृष्टिकोण का परीक्षण किया। हर मामले में, हाइब्रिड सिस्टम अकेले काम करने वाले एआई से बेहतर प्रदर्शन करता है। उदाहरण के लिए, कोड उत्पन्न करते समय, अकेला एआई एक ऐसा प्रोग्राम बना सकता है जो अच्छा दिखता है लेकिन चलता नहीं है। एक चरण जोड़ने से, जहाँ कोड को स्वीकार किए जाने से पहले वास्तव में एक कंपाइलर द्वारा टेस्ट किया जाता है, सिस्टम ने अपनी त्रुटियों को सुधारा और बहुत उच्च सफलता दर प्राप्त की। इसी तरह, वाहन रूटिंग में, हाइब्रिड पद्धति ने असंभव मार्गों की संख्या को एक महत्वपूर्ण प्रतिशत से घटाकर लगभग शून्य कर दिया। मुख्य निष्कर्ष यह है कि एआई को स्वयं तर्क के नियमों को सीखने की आवश्यकता नहीं है; उसे केवल अच्छे विचार प्रस्तावित करने का तरीका सीखना है, जबकि उन विचारों को वैध सुनिश्चित करने का कठिन काम सिम्बोलिक इंजन पर छोड़ दिया गया है।
यह कार्य इस प्रचलित विचार को चुनौती देता है कि बड़े और अधिक शक्तिशाली एआई मॉडल अंततः सभी तार्किक बाधाओं को अपने आप संभालने के लिए सीख लेंगे। लेखक तर्क देते हैं कि डेटा या कंप्यूटिंग पावर की कोई भी मात्रा इन प्रकार की समस्याओं के लिए एक सांख्यिकीय अनुमान और तार्किक निश्चितता के बीच के अंतर को पाट नहीं सकती है। वे सुझाव देते हैं कि बाधित वातावरण में विश्वसनीय एआई का भविष्य पुराने नियम-आधारित तरीकों को बदलने में नहीं, बल्कि उन्हें नए सीखने के तरीकों के साथ भागीदार बनाने में है। एआई को समस्या के अव्यवस्थित, असंरचित हिस्सों को संभालने देने और नियम-जांचकर्ता को अंतिम सत्यापन संभालने देने से, हम ऐसी प्रणालियाँ बना सकते हैं जो तेज़ और भरोसेमंद दोनों हों। पेपर इस बात के आह्वान के साथ समाप्त होता है कि वैज्ञानिक समुदाय को इन कार्यों के लिए "आमतौर पर सही" को सफलता के मानक के रूप में स्वीकार करना बंद करना चाहिए और ऐसी प्रणालियों की मांग करनी चाहिए जो अपनी शुद्धता को सिद्ध कर सकें, यह सुनिश्चित करते हुए कि जब हम मशीनों पर निर्णय लेने के लिए भरोसा करते हैं, तो वे निर्णय न केवल सही होने की संभावना रखते हैं, बल्कि गारंटीकृत रूप से सही होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।