Fifty Years of Specification Completeness: What Aviation Certification Tells AI Governance About Epoch Limits, Proof Surfaces, and the Structural Gap
यह शोध पत्र तर्क देता है कि एआई (AI) गवर्नेंस फ्रेमवर्क में विमानन प्रमाणन (aviation certification) द्वारा लागू की जाने वाली संरचनात्मक पूर्णता आवश्यकताओं—विशेष रूप से एपोक सीमाएं (epoch limits), प्रूफ़ सतहें (proof surfaces), और वस्तुनिष्ठ साक्ष्य आर्किटेक्चर (objective evidence architectures)—का अभाव है, और यह स्टोकेस्टिक एआई प्रणालियों के शासन के लिए इन हस्तांतरणीय दस्तावेज़-स्तरीय गुणों को संचालित करने हेतु प्रॉम्प्टक्यू (PromptQ) के सात-सिद्धांतों वाले फ्रेमवर्क का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र (paper) का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: "निर्देश पुस्तिका" (Instruction Manual) की समस्या
कल्पना कीजिए कि आप एक बहुत ही जटिल, स्व-चालित (self-driving) कार बना रहे हैं। विमानन जगत (जहाँ विमान उड़ते हैं) में, सॉफ्टवेयर के लिए निर्देश पुस्तिका (instruction manual) लिखने के सख्त नियम होते हैं। आप केवल यह नहीं कह सकते कि, "सुरक्षित तरीके से चलाएं।" आपको यह साबित करना होगा कि उस मैनुअल का हर एक वाक्य एक विशिष्ट परीक्षण (test) से जुड़ा है, और आपको यह भी सिद्ध करना होगा कि यदि मौसम बदल जाए या सड़क की स्थितियाँ बदल जाएँ, तो वह मैनुअल अमान्य हो जाएगा।
यह शोध पत्र तर्क देता है कि AI गवर्नेंस दस्तावेज़ (वे प्रॉम्प्ट्स, नियम और नीतियां जो हम AI को यह बताने के लिए लिखते हैं कि उसे क्या करना है) वर्तमान में एक साधारण 'टू-डू लिस्ट' की तरह माने जा रहे हैं, जबकि विमानन क्षेत्र अपने मैनुअल्स को एक कानूनी अनुबंध (legal contract) की तरह मानता है।
लेखक, क्रिस्टो ज़िट्समैन (Christo Zietsman) कहते हैं: "हमें अभी AI को ठीक करने की ज़रूरत नहीं है (क्योंकि AI बहुत अप्रत्याशित है)। इसके बजाय, आइए उस कागजी कार्रवाई (paperwork) को ठीक करें जो AI को बताती है कि उसे क्या करना है।"
यहाँ तीन मुख्य सबक दिए गए हैं जो यह पेपर विमानन से लेता है और AI पर लागू करता है:
1. "मानचित्र और दिशा-सूचक" का नियम (संरचित जुड़ाव - Structured Linkage)
विमानन में: यदि पायलट के मैनुअल में लिखा है "पर्वत की ओर मुड़ें," तो इंजीनियरों को यह साबित करना होगा कि एक विशिष्ट परीक्षण मौजूद है जो यह जाँचता है कि क्या विमान वास्तव में उस पर्वत की ओर मुड़ा। यदि विमान के कोड में कोई ऐसा हिस्सा है जिसका मैनुअल में कोई नियम नहीं है, तो यह एक विफलता है। यदि मैनुअल में कोई ऐसा नियम है जिसका कोई परीक्षण नहीं है, तो वह भी एक विफलता है। सब कुछ आपस में जुड़ा होना चाहिए।
आज के AI में: हम अक्सर AI को एक प्रॉम्प्ट देते हैं जैसे, "सहायक बनें और बुरा व्यवहार न करें।" लेकिन हमारे पास यह जाँचने के लिए कोई चेकलिस्ट नहीं है कि "सहायक" होने का वास्तव में क्या अर्थ है, या जब AI "बुरा व्यवहार" कर रहा हो, तो उसे पकड़ने के लिए कोई टेस्ट नहीं है। पेपर कहता है कि यह एक ऐसे पायलट को नक्शा देने जैसा है जिसमें सड़कें गायब हैं।
समाधान: AI के निर्देश मैनुअल के हर दावे को यह जाँचने के तरीके से जोड़ा जाना चाहिए कि वह सत्य है या नहीं। यदि आप इसकी जाँच नहीं कर सकते, तो इसे मैनुअल में नहीं होना चाहिए।
2. "एक्सपायरी डेट" का नियम (एपोक लिमिट्स - Epoch Limits)
विमानन में: एक फ्लाइट मैनुअल केवल आज के मौसम और आज के रनवे के लिए वैध होता है। यदि कोई नया तूफान आता है, या यदि रनवे बंद हो जाता है, तो वह विशिष्ट मैनुअल तुरंत "एक्सपायर" (अमान्य) हो जाता है। पायलटों को उड़ने से पहले रुकना होगा और एक नया, अपडेटेड मैनुअल लेना होगा।
आज के AI में: हम एक AI नियम एक बार लिखते हैं और मान लेते हैं कि यह हमेशा काम करेगा। हम यह नहीं कहते कि, "यह नियम तब तक वैध है जब तक कि खबरें बदल न जाएं" या "यदि AI राजनीति के बारे में बात करने लगे तो यह नियम समाप्त हो जाता है।" पेपर ने पाया कि उनके द्वारा देखे गए 100% AI दस्तावेजों में शून्य एक्सपायरी डेट थी। वे एक ऐसे ड्राइविंग लाइसेंस की तरह हैं जो कभी समाप्त नहीं होता, भले ही ड्राइवर गाड़ी चलाना भूल जाए या सड़क के नियम बदल जाएं।
समाधान: प्रत्येक AI निर्देश मैनुअल में एक स्पष्ट "उपयोग की अंतिम तिथि" (Use By date) या एक ट्रिगर होना चाहिए। उदाहरण के लिए: "यदि डेटा स्रोत बदल जाता है, तो यह मैनुअल अमान्य है। रुकें और मानव से पूछें।"
3. "कार्य का प्रमाण" का नियम (प्रूफ सरफेस - Proof of Work)
विमानन में: आप केवल यह नहीं कह सकते कि, "हमने इंजन की जाँच की।" आपको विशिष्ट लॉगबुक, उपयोग किया गया विशिष्ट रिंच (wrench) और उस व्यक्ति के हस्ताक्षर दिखाने होंगे जिसने जाँच की थी। नियम स्पष्ट रूप से परिभाषित करते हैं कि "प्रमाण" क्या माना जाएगा।
आज के AI में: हम अक्सर कहते हैं, "हमने AI की निगरानी की।" लेकिन पेपर का तर्क है कि यह अस्पष्ट है। यह बिना लॉगबुक दिखाए यह कहने जैसा है कि, "मैंने इंजन की जाँच की।" पेपर इसे "प्रूफ सरफेस" (Proof Surface) कहता है—वह विशिष्ट, पूर्व-निर्धारित तरीका जिससे हम सिद्ध करेंगे कि AI अपना काम कर रहा है।
समाधान: AI को तैनात (deploy) करने से पहले ही, हमें यह स्पष्ट रूप से लिख देना चाहिए कि हम यह सिद्ध करने के लिए क्या सबूत एकत्र करेंगे कि यह काम कर रहा है। केवल "हम निगरानी करेंगे" नहीं, बल्कि "हम गलतियों की गिनती करेंगे और यदि वे 5% तक पहुँच जाती हैं, तो हम रुक जाएंगे।"
"अंतराल" (The Gap) और साक्ष्य
इस पेपर ने 34 वास्तविक दुनिया के AI निर्देश दस्तावेजों (जैसे सिस्टम प्रॉम्प्ट और पॉलिसी फाइलें) का अध्ययन किया।
- परिणाम: उनमें से 94% बुनियादी संरचनात्मक परीक्षण में विफल रहे।
- बड़ी विफलता: एक भी दस्तावेज़ में एक्सपायरी डेट या रुकने के लिए कोई ट्रिगर नहीं था। वे सभी इस तरह लिखे गए थे जैसे कि वे हमेशा के लिए काम करेंगे, चाहे कुछ भी बदल जाए।
लेखक इसकी तुलना "फाइव आईज़" (Five Eyes) इंटेलिजेंस कम्युनिटी से करते हैं, जो यह स्वीकार करती है कि उनके पास अभी इन AI नियमों का मूल्यांकन करने के परिपक्व तरीके नहीं हैं। पेपर कहता है, "हम जानते हैं कि नियम टूटे हुए हैं, लेकिन हमने कागजी कार्रवाई को ठीक नहीं किया है।"
समाधान: "PromptQ"
पेपर एक नया ढांचा प्रस्तावित करता है जिसे PromptQ कहा जाता है। इसे AI निर्देशों को लिखने के लिए एक "सुरक्षा चेकलिस्ट" के रूप में समझें। यह लेखक को AI चलाने से पहले सात सवालों के जवाब देने के लिए मजबूर करता है:
- "सफलता" कैसी दिखती है?
- हम इसके लिए परीक्षण कैसे करेंगे?
- सीमा क्या है (AI को क्या नहीं करना चाहिए)?
- यह किस डेटा का उपयोग कर रहा है?
- क्वालिटी गेट क्या है (काम की जाँच कौन करेगा)?
- क्या दस्तावेज़ आंतरिक रूप से सुसंगत (consistent) है?
- यह दस्तावेज़ कब समाप्त होगा? (सबसे महत्वपूर्ण गायब हिस्सा)।
निष्कर्ष
यह पेपर यह नहीं कह रहा है कि AI खतरनाक है क्योंकि गणित गलत है। यह कह रहा है कि AI जोखिम भरा है क्योंकि इसके लिए हमारे निर्देश ढीले-ढाले (sloppy) हैं।
विमानन ने यह सुनिश्चित करने में 30 साल बिताए हैं कि उनके निर्देश मैनुअल सटीक, पता लगाने योग्य और एक्सपायरी डेट वाले हों। AI गवर्नेंस वर्तमान में ऐसा कुछ भी नहीं कर रहा है। पेपर का तर्क है कि हमें AI के पूर्ण होने का इंतज़ार करने की ज़रूरत नहीं है; हमें बस हमारे पास मौजूद AI के लिए बेहतर, अधिक सख्त निर्देश मैनुअल लिखना शुरू करने की आवश्यकता है।
संक्षेप में: यदि आप किसी पायलट को ऐसे मैनुअल के साथ विमान उड़ाने की अनुमति नहीं देंगे जिसमें न तो एक्सपायरी डेट है और न ही यह बताने का कोई तरीका कि नियमों का पालन किया गया था, तो आपको AI को ऐसे प्रॉम्प्ट पर चलाने की अनुमति भी नहीं देनी चाहिए जिसमें उन समान चीजों का अभाव हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।