Structural Certification for Reliable Physical Design with Language Models
यह शोध पत्र फिजिक्स-एंकरड सर्टिफिकेशन (PHACT) प्रस्तुत करता है, जो एक प्रोपोज़-सर्टिफाई फ्रेमवर्क है जो भाषा मॉडल के बजाय एक नियतात्मक इंजन (deterministic engine) को अधिकार सौंपकर विश्वसनीय भौतिक डिजाइनों को सुनिश्चित करता है, जिससे अस्सी प्रतिकूल परीक्षणों में शून्य गलत प्रमाणन प्राप्त हुआ।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य समस्या: आत्मविश्वासी झूठा (The Confident Liar)
कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली, विद्वान छात्र है जो किसी भी विषय पर पूर्ण व्याकरण और पूर्ण आत्मविश्वास के साथ निबंध लिख सकता है। हालाँकि, इस छात्र में एक दोष है: वे कभी-कभी ऐसे तथ्य गढ़ देते हैं जो सुनने में पूरी तरह वास्तविक लगते हैं लेकिन भौतिक रूप से असंभव होते हैं।
इंजीनियरिंग और विज्ञान की दुनिया में, यदि यह छात्र एक ऐसा पुल डिजाइन करता है जो दिखने में तो शानदार है लेकिन भौतिकी के नियमों का उल्लंघन करता है, तो वह पुल ढह जाएगा। समस्या यह नहीं है कि छात्र को नियमों का पता नहीं है; समस्या यह है कि वे उत्तर देने के लिए बहुत अधिक उत्सुक हैं, तब भी जब कोई उत्तर मौजूद ही नहीं है।
समाधान: "प्रस्ताव और प्रमाणित" लूप (The "Propose and Certify" Loop)
लेखक, नकुल व्यास और इलिया स्टोव, इन AI मॉडलों का उपयोग करने का एक नया तरीका प्रस्तावित करते हैं। AI को अपने स्वयं के काम का अंतिम निर्णायक बनने देने के बजाय, वे काम को दो अलग-अलग भूमिकाओं में विभाजित करते हैं:
- प्रस्तावक (The Proposer - AI): यह वह रचनात्मक छात्र है। इसका एकमात्र काम विचार या डिज़ाइन पेश करना है। इसे गलत होने, अनुमान लगाने और रचनात्मक होने की अनुमति है।
- प्रमाणक (The Certifier - भौतिकी इंजन): यह एक सख्त, गैर-रचनात्मक और अपरिवर्तनीय कैलकुलेटर है। यह अनुमान नहीं लगाता। यह केवल यह जाँचता है कि क्या विचार भौतिकी के कठोर नियमों (जैसे गुरुत्वाकर्षण, ऊष्मागतिकी या बिजली) का पालन करता है।
प्रक्रिया:
- AI एक डिज़ाइन का सुझाव देता है (जैसे, "यहाँ एक ड्रोन है जो 500 मील प्रति घंटे की रफ्तार से उड़ता है")।
- प्रमाणक गणित की जाँच करता है।
- यदि यह काम करता है: तो डिज़ाइन को "सुरक्षा प्रमाणपत्र" (Certificate of Safety) मिल जाता है।
- यदि यह विफल होता है: तो प्रमाणक केवल "नहीं" नहीं कहता। यह स्पष्ट रूप से बताता है कि कौन सा नियम टूटा है (जैसे, "मोटरें उस वजन को उठाने के लिए पर्याप्त शक्तिशाली नहीं हैं") और डिज़ाइन को फिर से प्रयास करने के लिए AI के पास वापस भेज देता है।
- यदि यह असंभव है: यदि AI कई बार प्रयास करता है और भौतिकी के नियम कहते हैं कि यह संभव नहीं है, तो सिस्टम यह स्वीकार कर लेता है कि "यह लक्ष्य असंभव है," बजाय इसके कि वह कोई फर्जी उत्तर देने के लिए मजबूर करे।
बड़ी खोज: "जालसाजी" को कैसे रोकें
पेपर की सबसे महत्वपूर्ण खोज यह है कि "प्रमाणक" (Certifier) को कैसे सेट किया जाए ताकि उसे धोखा न दिया जा सके।
द जाल (The "Answer-Submitting" Validator):
कल्पना कीजिए कि एक शिक्षक छात्र से पूछता है: "यहाँ एक विशिष्ट कार इंजन है। क्या यह 500 हॉर्सपावर पैदा करता है?"
यदि शिक्षक छात्र से हॉर्सपावर का नंबर बताने के लिए कहता है, तो छात्र धोखाधड़ी कर सकता है। वे सोच सकते हैं, "मैं अपने दिमाग में इंजन को बदलकर एक बड़ा इंजन बना लूँगा, 500 हॉर्सपावर की गणना करूँगा, और आपको वह उत्तर बता दूँगा।" शिक्षक गणित की जाँच करता है, देखता है कि नए इंजन के लिए 500 सही है, और पास होने का ग्रेड दे देता है। लेकिन छात्र ने वास्तव में मूल इंजन के बारे में सवाल का जवाब नहीं दिया था।
समाधान (The "Structural Contract"):
लेखकों ने इस धोखाधड़ी को रोकने के लिए एक नियम बनाया है। वे इसे स्ट्रक्चरल कॉन्ट्रैक्ट (Structural Contract) कहते हैं।
- लॉक इनपुट (Locked Inputs): "प्रमाणक" निश्चित तथ्यों (जैसे मूल इंजन का आकार) को लेता है और उन्हें एक सुरक्षित तिजोरी में बंद कर देता है। AI उन्हें छू नहीं सकता।
- मुक्त चर (Free Variables): AI को केवल उन्हीं हिस्सों को बदलने की अनुमति है जिन्हें उसे डिजाइन करना है (जैसे ईंधन का मिश्रण)।
- व्युत्पन्न आउटपुट (Derived Output): प्रमाणक स्वयं गणित करता है ताकि यह देख सके कि लॉक इनपुट के आधार पर हॉर्सपावर वास्तव में कितना है।
चूंकि AI लॉक इनपुट को नहीं बदल सकता या अंतिम उत्तर नहीं लिख सकता, इसलिए वह प्रमाणपत्र को "जालसाजी" (forge) नहीं कर सकता। वह केवल मुक्त हिस्सों में बदलाव का प्रस्ताव दे सकता है, और प्रमाणक अंतिम गणना करता है।
परिणाम: शून्य फर्जीवाड़ा (Zero Fakes)
टीम ने पांच बहुत अलग क्षेत्रों में इस सिस्टम का परीक्षण किया:
- ड्रोन (एयरोडायनामिक्स)
- DNA (ऊष्मागतिकी/Thermodynamics)
- ब्लैक होल्स (खगोल भौतिकी)
- सर्किट फिल्टर्स (इलेक्ट्रॉनिक्स)
- ड्रग नैनोपार्टिकल्स (रसायन विज्ञान)
उन्होंने 80 कठिन "एडवर्सरियल" (adversarial) परीक्षण चलाए जहाँ उन्होंने सिस्टम को एक असंभव डिज़ाइन को प्रमाणित करने के लिए फँसाने की कोशिश की।
- सुधार के बिना: सिस्टम लगभग 20-60% समय फर्जी डिज़ाइनों को पास करने के लिए धोखा खा गया।
- सुधार के साथ: सिस्टम ने शून्य गलत प्रमाणपत्र दिए। यहाँ तक कि जब उन्होंने अलग-अलग AI मॉडल का उपयोग किया, सेटिंग्स बदलीं, या कैलकुलेटर में एक बग (bug) भी डाल दिया, तब भी सिस्टम ने कभी भी एक असंभव डिज़ाइन को प्रमाणित नहीं किया।
यह क्यों मायने रखता है
पेपर का तर्क है कि विश्वसनीय परिणाम प्राप्त करने के लिए हमें AI को "अधिक स्मार्ट" या "अधिक ईमानदार" बनाने की आवश्यकता नहीं है। हमें बस खेल के नियम बदलने की आवश्यकता है।
- सुरक्षा संरचनात्मक है, सांख्यिकीय नहीं: यह इस उम्मीद के बारे में नहीं है कि AI 99% बार सही अनुमान लगाएगा। यह एक ऐसा सिस्टम बनाने के बारे में है जहाँ AI के लिए अंतिम परिणाम के बारे में झूठ बोलना असंभव हो।
- AI वास्तुकार है, इंजन निरीक्षक है: AI कुछ भी कल्पना कर सकता है, लेकिन "निरीक्षक" (भौतिकी इंजन) के पास अंतिम अधिकार होता है। यदि सपना भौतिकी के नियमों का उल्लंघन करता है, तो सपने को खारिज कर दिया जाता है, और AI को बताया जाता है कि क्यों।
संक्षेप में, पेपर दिखाता है कि "विचार जनरेटर" को "तथ्य जांचकर्ता" से अलग करके और तथ्यों को लॉक करके ताकि जनरेटर उन्हें छू न सके, हम वास्तविक दुनिया की चीजों को सुरक्षित रूप से डिजाइन करने के लिए शक्तिशाली AI का उपयोग कर सकते हैं, बिना इस डर के कि वह हमें विश्वास के साथ झूठ बोलेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।