🤖 AI

Can We Formally Verify Neural PDE Surrogates? SMT Compilation of Small Fourier Neural Operators

यह शोधपत्र यह प्रदर्शित करता है कि छोटे फूरियर न्यूरल ऑपरेटर्स (Fourier Neural Operators) को उनके पीसवाइज़-लीनियर फॉरवर्ड पासेस को एसएमटी (SMT) सॉल्वर में संकलित करके धनात्मकता (positivity) और द्रव्यमान संरक्षण (mass conservation) जैसे भौतिक गुणों के लिए औपचारिक रूप से सत्यापित किया जा सकता है, जो एक स्पष्ट ट्रेडऑफ को उजागर करता है जहाँ सटीक एनकोडिंग (exact encodings) सुदृढ़ गारंटी प्रदान करती है लेकिन स्केलेबिलिटी के साथ संघर्ष करती है, जबकि अनुमानित एनकोडिंग (approximate encodings) प्रमाणन की लागत पर गति प्रदान करती है।

मूल लेखक: Ali Baheri, David Millard, Ignacio Laguna Peralta

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ali Baheri, David Millard, Ignacio Laguna Peralta

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने एक सुपर-फास्ट, AI-संचालित मौसम सिम्युलेटर बनाया है। भारी भौतिकी समीकरणों (physics equations) को चलाने के बजाय, यह AI (जिसे फूरियर न्यूरल ऑपरेटर या FNO कहा जाता है) डेटा को देखता है और तुरंत भविष्यवाणी करता है कि आगे क्या होगा। यह एक जादुई मैजिक 8-बॉल की तरह है जो पलक झपकते ही तरल प्रवाह (fluid flow) के भविष्य की भविष्यवाणी कर सकता है।

लेकिन एक समस्या है: हम इस पर पूरी तरह भरोसा नहीं करते हैं।

क्योंकि यह एक "ब्लैक बॉक्स" AI है, यह गलती से यह भविष्यवाणी कर सकता है कि किसी रसायन की सांद्रता (concentration) ऋणात्मक (negative) हो गई है (जो वास्तविक जीवन में असंभव है) या ऊर्जा अचानक कहीं से प्रकट हो गई है। वास्तविक दुनिया में, ये "भ्रम" (hallucinations) खतरनाक गलतियों का कारण बन सकते हैं।

यह शोध पत्र एक सरल प्रश्न पूछता है: क्या हम गणितीय रूप से यह सिद्ध कर सकते हैं कि यह AI सिम्युलेटर भौतिकी के नियमों को नहीं तोड़ेगा?

यहाँ बताया गया है कि लेखकों ने कुछ चतुर तरीकों का उपयोग करके इसे कैसे हल किया:

1. AI को गणित में बदलने का "जादुई तरीका"

आमतौर पर, AI मॉडल जटिल और विश्लेषण करने में कठिन होते हैं क्योंकि वे जटिल, नॉन-लीनियर गणित का उपयोग करते हैं। हालाँकि, लेखकों ने इन विशिष्ट AI सिम्युलेटरों के बारे में कुछ विशेष देखा जब वे एक निश्चित ग्रिड (जैसे पिक्सेलेटेड स्क्रीन) पर चलते हैं:

मुख्य इंजन लीनियर है: AI का मुख्य हिस्सा जो भारी काम करता है (जिसे "स्पेक्ट्रल कन्वोल्यूशन" कहा जाता है), वह वास्तव में एक विशाल, फैंसी गुणा तालिका (multiplication table) की तरह है।
बाकी सब सरल है: केवल एक स्विच जिसे ReLU कहा जाता है (जो मूल रूप से कहता है, "यदि संख्या ऋणात्मक है, तो उसे शून्य कर दें; अन्यथा, उसे वैसा ही रहने दें"), वही इसे "नॉन-लीनियर" बनाता है।

इस कारण से, लेखक यह महसूस करने में सक्षम थे कि पूरे AI मॉडल को एक विशाल, सटीक गणितीय पहेली में बदला जा सकता है जिसे एक कंप्यूटर सॉल्वर (Z3) पूरी तरह से समझ सकता है। यह एक जटिल, हाथ से बने मानचित्र को एक सटीक, ग्रिड-आधारित स्प्रेडशीट में बदलने जैसा है जिसे एक रोबोट बिना किसी भ्रम के पढ़ सके।

2. AI की जाँच करने के दो तरीके

टीम ने AI को सत्यापित करने के लिए दो अलग-अलग तरीकों का परीक्षण किया, जैसे कि एक पुल की सुरक्षा की जाँच करना:

विधि A: "सटीक" जाँच (भारी भरकम काम करने वाला)
- यह कैसे काम करता है: उन्होंने AI का एक विशाल, सटीक गणितीय प्रतिनिधित्व बनाया।
- अच्छी खबर: यदि कंप्यूटर कहता है "सुरक्षित", तो यह हर संभावित इनपुट के लिए 100% गारंटी के साथ सुरक्षित है। यदि इसे कोई खामी मिलती है, तो यह आपको एक ठोस उदाहरण देता है कि AI कहाँ विफल हुआ।
- बुरी खबर: यह बहुत धीमा और भारी है। यह छोटे मॉडलों (जैसे एक छोटा 1D सिमुलेशन) के लिए बहुत अच्छा काम करता है, लेकिन यदि आप इसे बहुत बड़े, उच्च-रिज़ॉल्यूशन वाले मॉडल पर चलाने की कोशिश करते हैं, तो कंप्यूटर अभिभूत होकर क्रैश (टाइम आउट) हो जाता है।
विधि B: "फ्रोजन" जाँच (तेज़ सन्निकटन/Approximation)
- यह कैसे काम करता है: उन्होंने AI के एक हिस्से को एक स्थिर मान (constant value) पर फ्रीज करके गणित को सरल बना दिया।
- अच्छी खबर: यह अविश्वसनीय रूप से तेज़ है। यह एक सेकंड से भी कम समय में बहुत बड़े मॉडलों की जाँच कर सकता है।
- बुरी खबर: यह अब मूल AI के लिए गारंटी नहीं है। यह एक मॉडल हवाई जहाज की जाँच करने जैसा है कि क्या एक असली जेट सुरक्षित है। यह आपको एक संकेत देता है, लेकिन यह एक औपचारिक प्रमाण (formal certificate) नहीं है।

3. उन्हें वास्तव में क्या मिला?

टीम ने इन AI सिम्युलेटरों के 10 छोटे, खिलौना संस्करणों (जिन्हें एक सरल 1D तरल प्रवाह को मॉडल करने के लिए डिज़ाइन किया गया था) पर इसका परीक्षण किया। यहाँ परिणाम दिए गए हैं:

"द्रव्यमान" परीक्षण (संरक्षण/Conservation): उन्होंने जाँच की कि क्या AI ने हवा में से पदार्थ को बनाया या नष्ट किया।
- परिणाम: "सटीक" विधि ने प्रमाण दिया कि सभी 10 मॉडलों ने विशिष्ट परिदृश्यों में इस नियम का उल्लंघन किया।
- बोनस: AI सॉल्वर ने मानक परीक्षण विधियों (जैसे रैंडम गेसिंग या ग्रेडिएंट सर्च) की तुलना में अधिक खराब (अधिक खतरनाक) उल्लंघन पाए। यह 10 में से 7 मॉडलों पर "सबसे खराब स्थिति" (worst-case scenarios) खोजने में बेहतर था।
"पॉजिटिविटी" परीक्षण (ऋणात्मक संख्याएँ नहीं): उन्होंने जाँच की कि क्या AI ने कभी किसी पदार्थ की ऋणात्मक मात्रा की भविष्यवाणी की।
- परिणाम: सरल, लीनियर मॉडलों (बिना "स्विच" वाले) के लिए, सॉल्वर ने सफलतापूर्वक सिद्ध किया कि AI कभी भी ऋणात्मक संख्याएँ उत्पन्न नहीं करेगा। यह पहली बार है जब इस प्रकार का औपचारिक प्रमाण एक न्यूरल PDE ऑपरेटर के लिए दिया गया है।
- सीमा: थोड़े अधिक जटिल मॉडलों (जिनमें "स्विच" शामिल थे) के लिए, सॉल्वर अटक गया और टाइम आउट हो गया। वह प्रमाण पूरा नहीं कर सका, हालांकि उसने एक विशिष्ट उदाहरण भी ढूँढा जहाँ AI विफल हुआ।

4. निष्कर्ष (The Bottom Line)

यह पेपर एक स्पष्ट रेखा खींचता है:

छोटे, सरल मॉडलों के लिए: हम अब गणितीय रूप से सिद्ध कर सकते हैं कि वे सुरक्षित हैं (या सिद्ध कर सकते हैं कि वे असुरक्षित हैं) और हमें 100% निश्चितता मिलती है।
बड़े, जटिल मॉडलों के लिए: हम बहुत तेज़ी से अनुमानित उत्तर पा सकते हैं, लेकिन हम पूर्ण सत्य की गारंटी खो देते हैं।

मुख्य बात (The Takeaway):
यह शोध एक "प्रूफ ऑफ कॉन्सेप्ट" है। यह दिखाता है कि हम इन शक्तिशाली AI भौतिकी सिम्युलेटरों को गणितीय पहेलियों में बदल सकते हैं जिन्हें सत्यापित किया जा सकता है। हालाँकि हम अभी तक विशाल, उत्पादन-स्तर के मॉडलों को सत्यापित करने के लिए तैयार नहीं हैं, लेकिन यह एक ऐसे भविष्य के द्वार खोलता है जहाँ AI सिम्युलेटर केवल एक अनुमान के बजाय एक "सुरक्षा प्रमाण पत्र" के साथ आते हैं।

लेखक मूल रूप से कह रहे हैं: "हमने AI और औपचारिक गणित के बीच एक पुल बनाया है। यह वर्तमान में केवल छोटी कारों (छोटे मॉडलों) के लिए पर्याप्त चौड़ा है, लेकिन भविष्य में ट्रकों (बड़े मॉडलों) के लिए पुल बनाने का ब्लूप्रिंट मौजूद है।"

तकनीकी सारांश: लघु फूरियर न्यूरल ऑपरेटर्स का SMT संकलन (Compilation)

समस्या विवरण
फूरियर न्यूरल ऑपरेटर्स (FNOs) आंशिक अंतर समीकरणों (PDE) के सिमुलेशन के लिए महत्वपूर्ण त्वरण प्रदान करते हैं, लेकिन अक्सर भौतिक बाधाओं (physical constraints), जैसे कि द्रव्यमान संरक्षण (mass conservation) या सांद्रता की धनात्मकता (positivity of concentrations) के संबंध में औपचारिक गारंटी की कमी होती है। जबकि मानक सत्यापन मोंटे कार्लो (MC) परीक्षण या ग्रेडिएंट-आधारित फाल्सिफिकेशन (falsification) पर निर्भर करता है, ये विधियाँ केवल विशिष्ट इनपुट का नमूना लेती हैं और निरंतर इनपुट क्षेत्रों पर व्यापक गारंटी प्रदान नहीं कर सकतीं। मौजूदा न्यूरल नेटवर्क सत्यापन उपकरण मुख्य रूप से क्लासिफायर या कंट्रोल पॉलिसी के लिए डिज़ाइन किए गए हैं और वे स्पेक्ट्रल कन्वोल्शन (spectral convolutions), फंक्शन-स्पेस इनपुट, या PDE-विशिष्ट गुणों जैसे कि संरक्षण नियमों को स्वाभाविक रूप से हैंडल नहीं करते हैं।

कार्यप्रणाली (Methodology)
लेखक प्रशिक्षित FNOs को औपचारिक सत्यापन सक्षम करने के लिए SMT सॉल्वर, विशेष रूप से Z3 में संकलित (compile) करने का प्रस्ताव देते हैं। मुख्य अंतर्दृष्टि यह है कि एक निश्चित ग्रिड और निश्चित प्रशिक्षित भार (weights) पर, FNO में स्पेक्ट्रल कन्वोल्शन एक रैखिक मानचित्र (linear map) है। फलस्वरूप, ReLU नॉन-लिनैरिटीज़ वाला एक FNO एक पीसवाइज़-लीनियर मैप है जिसे बिना फॉरवर्ड पास को अनुमानित (approximate) किए Z3 के लीनियर रियल एरिथमेटिक में सटीक रूप से दर्शाया जा सकता है।

कार्यप्रणाली में दो प्राथमिक एनकोडिंग रणनीतियाँ शामिल हैं:

सटीक एनकोडिंग (Exact Encoding): स्पेक्ट्रल कन्वोल्शन को मानक आधार वैक्टर्स (basis vectors) पर ऑपरेशन लागू करके एक स्पष्ट डेंस मैट्रिक्स ( $W^{spec}$ ) में संकलित किया जाता है। पूर्ण फॉरवर्ड पास को एफाइन मैप्स (affine maps) और कोऑर्डिनेट-वाइज ReLU फंक्शन्स के संयोजन के रूप में दर्शाया जाता है। यह एनकोडिंग 'साउंड' (sound) है, जिसका अर्थ है कि एक "UNSAT" परिणाम यह सिद्ध करता है कि संपत्ति सभी स्वीकार्य इनपुट्स के लिए सत्य है, और एक "SAT" परिणाम एक वैध काउंटरएग्जांपल (counterexample) प्रदान करता है। हालांकि, इसकी जटिलता $O(N^2H^2L)$ के रूप में स्केल करती है, जो इसे छोटे ग्रिड आकार ( $N \le 32$ ) तक सीमित करती है।
फ्रोजन एनकोडिंग (Frozen Encoding): बड़े ग्रिड आकार ( $N \le 64$ ) तक स्केल करने के लिए, स्पेक्ट्रल पाथ को एक रेफरेंस इनपुट से प्राप्त स्थिरांक (constant) से बदल दिया जाता है। यह जटिलता को $O(NH^2L)$ तक कम करता है और सब-सेकंड चेक्स सक्षम करता है। हालांकि, यह एक अनुमान (approximation) है; "UNSAT" परिणाम केवल फ्रोजन सरोगेट (surrogate) को प्रमाणित करते हैं, मूल FNO को नहीं, और "SAT" परिणामों के लिए मूल मॉडल पर पुन: सत्यापन की आवश्यकता होती है।

प्रयोग 1D एडवेक्शन-डिफ्यूजन-रिएक्शन (ADR) समीकरणों पर केंद्रित हैं जिनमें आवधिक सीमा स्थितियाँ (periodic boundary conditions) हैं। अध्ययन दो गुणों को सत्यापित करता है:

द्रव्यमान गैर-वृद्धि (Mass Non-Increase): यह जांचना कि क्या आउटपुट का विविक्त द्रव्यमान (discrete mass) इनपुट द्रव्यमान से $\epsilon = 0.05$ की सहनशीलता से अधिक है।
धनात्मकता (Positivity): यह जांचना कि क्या गैर-ऋणात्मक इनपुट्स सभी ग्रिड बिंदुओं पर गैर-ऋणात्मक आउटपुट्स उत्पन्न करते हैं।

प्रमुख योगदान

सटीक संकलन (Exact Compilation): यह पेपर Z3 के लीनियर रियल एरिथमेटिक में स्थिर-ग्रिड FNOs के पहले सटीक संकलन को प्रस्तुत करता है, जो स्पष्ट स्पेक्ट्रल मैट्रिसेस का निर्माण करता है।
प्रथम औपचारिक प्रमाण (First Formal Proofs): यह एक न्यूरल PDE ऑपरेटर के लिए पहले साउंड औपचारिक प्रमाण प्रदान करता है, विशेष रूप से 16 तक ग्रिड आकार के लिए रैखिक (ReLU-रहित) FNOs के लिए धनात्मकता प्रमाणपत्र (posity certificates) उत्पन्न करता है।
तुलनात्मक विश्लेषण: यह कार्य 10 छोटे मॉडलों (85–117 पैरामीटर्स) पर Z3 की तुलना ग्रेडिएंट-आधारित फाल्सिफिकेशन और मोंटे कार्लो परीक्षण से करता है।
साउंडनेस-स्केलेबिलिटी सीमा (Soundness–Scalability Boundary): लेखक सटीक सत्यापन और स्केलेबिलिटी के बीच के ट्रेड-ऑफ को स्पष्ट करते हैं, यह प्रदर्शित करते हुए कि सटीक एनकोडिंगिंग छोटे रैखिक मॉडलों के लिए प्रमाणों का समर्थन करती है और मध्यम ReLU मॉडलों के लिए काउंटरएग्जेंपल्स प्रदान करती है, जबकि अनुमानित एनकोडिंग अधिक स्केल करती है लेकिन मूल मॉडल के लिए औपचारिक साउंडनेस खो देती है।

परिणाम

द्रव्यमान गैर-वृद्धि: सटीक एनकोडिंग का उपयोग करते हुए, Z3 ने सभी 10 मॉडलों के लिए साउंड मास-वाइलेशन काउंटरएग्जेंपल्स खोजे। 10 में से 7 मॉडलों पर, Z3 ने ग्रेडिएंट-आधारित फाल्सिफिकेशन और MC परीक्षण दोनों की तुलना में अधिक गंभीर उल्लंघन खोजे। रैखिक मॉडलों के लिए, Z3 ने गहरे उल्लंघन खोजने के लिए वैश्विक रूप से अनुकूलन (optimize) किया; ReLU मॉडलों के लिए, ग्रेडिएंट सर्च प्रतिस्पर्धी बना रहा।
धनात्मकता:
- रैखिक मॉडल (L=1): Z3 ने 2 साउंड पॉजिटिविटी प्रूफ (ग्रिड आकार $N=8$ और $N=16$ के लिए) दिए और अन्य रैखिक मॉडलों पर 4 साउंड काउंटरएग्जेंपल्स पाए।
- ReLU मॉडल (L=2): Z3 ने 1 साउंड काउंटरए एग्जांपल पाया लेकिन एक्टिवेशन पैटर्न ( $2^{NH}$ ) के कॉम्बिनेटोरियल विस्फोट के कारण शेष 3 पॉजिटिविटी क्वेरीज़ पर टाइम-आउट हो गया। ग्रेडिएंट फाल्सिफिकेशन ने सभी 4 ReLU मॉडलों पर उल्लंघन सफलतापूर्वक खोजे, जो अक्सर Z3 की तुलना में अधिक गंभीर थे।
फ्रोजन एनकोडिंग: इस दृष्टिकोण ने बड़े मॉडलों ( $N=32$ से $64$) पर धनात्मकता को सफलतापूर्वक सत्यापित किया और उनमें से 4 पर मास काउंटरएग्जेंपल्स खोजे। हालांकि, ये परिणाम अनुमानित हैं; धनात्मकता प्रमाण केवल फ्रोजन सरोगेट पर लागू होते हैं, और मास काउंटरएग्जेंपल्स के लिए मूल मॉडल पर पुन: सत्यापन की आवश्यकता थी (3 पुष्ट, 1 अपुष्ट)।

महत्व और दावे
यह पेपर स्वयं को प्रोडक्शन-स्केल सत्यापन के समाधान के बजाय एक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में प्रस्तुत करता है। लेखक स्पष्ट रूप से कहते हैं कि उनके परिणाम बड़े पैमाने पर FNO सत्यापन को हल नहीं करते; परीक्षण किए गए मॉडल "खिलौने के आकार के" (toy-sized) हैं जिनमें फ्रोजन हिडन लेयर्स और सीमित पैरामीटर्स हैं।

इसका महत्व यह प्रदर्शित करने में है कि:

FNOs को सटीक रूप से पीसवाइज़-लीनियर रूपों में संकलित किया जा सकता है, जिससे भौतिकी-प्रेरित गुणों के लिए SMT सॉल्वर का उपयोग संभव होता है।
औपचारिक सत्यापन छोटे, रैखिक न्यूरल ऑपरेटर्स के लिए व्यवहार्य है, जो ऐसे सिस्टम के लिए पहले साउंड सर्टिफिकेट प्रदान करता है।
एक स्पष्ट सीमा है: सटीक प्रमाण वर्तमान में केवल छोटे रैखिक मॉडलों के लिए व्यावहारिक हैं, जबकि सटीक काउंटरएग्जेंपल्स मध्यम ReLU मॉडलों तक विस्तारित होते हैं। बड़े ऑपरेटर्स को या तो अनुमानित एनकोडिंग या सामान्य-उद्देश्य वाले SMT सॉल्वर्स के बजाय विशेष, स्केलेबल न्यूरल-नेटवर्क वेरीफायर (जैसे $\alpha$ - $\beta$ -CROWN) के एकीकरण की आवश्यकता होगी।

लेखक निष्कर्ष निकालते हैं कि यह कार्य औपचारिक सत्यापन समुदाय को न्यूरल PDE सरोगेट्स के साथ जुड़ने के लिए प्रोत्साहित करता है और सुझाव देता है कि ऑपरेटर-लर्निंग समुदाय को सत्यापन (verifiability) को एक डिज़ाइन मानदंड के रूप में मानना चाहिए।

1. AI को गणित में बदलने का "जादुई तरीका"

2. AI की जाँच करने के दो तरीके

3. उन्हें वास्तव में क्या मिला?

4. निष्कर्ष (The Bottom Line)

इसी तरह के और पेपर