CANONIC: Governance Is Compilation
यह शोध पत्र CANONIC को प्रस्तुत करता है, जो एक शासन ढांचा (governance framework) है जो एआई-जनित सामग्री के लिए एक ऑडिट करने योग्य साक्ष्य लेजर (auditable evidence ledger) बनाने हेतु कंपाइलर-सिद्धांतों के सिद्धांतों को लागू करता है, और यह तर्क देता है कि जबकि संरचनात्मक स्वीकृति (structural admission) एल्गोरिदम के माध्यम से "स्लॉप" (slop) को फ़िल्टर नहीं कर सकती है, यह सुनिश्चित करती है कि प्रत्येक दावा सत्यापन योग्य परिभाषाओं और कमिट्स (commits) से जुड़ा हो ताकि एंड-टू-एंड पुनरुत्पादकता (reproducibility) सुनिश्चित की जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र CANONIC: Governance Is Compilation का सरल भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।
बड़ी समस्या: "स्लॉप" (Slop) का सैलाब
कल्पना कीजिए कि एक ऐसी फैक्ट्री है जो लोगों के पढ़ने की गति से कहीं अधिक तेज़ी से किताबें छाप सकती है। 2025 में, इस फैक्ट्री (AI) ने इतनी अधिक मात्रा में टेक्स्ट बनाना शुरू कर दिया कि एक नई समस्या पैदा हो गई: "स्लॉप" (Slop)।
"स्लॉप" केवल खराब लेखन नहीं है; यह ऐसा टेक्स्ट है जो दिखने में एकदम सही, सुनने में समझदार और प्रवाह में सुंदर लगता है, लेकिन उसका वास्तविकता से कोई संबंध नहीं होता। यह एक ऐसे शेफ की तरह है जो कुछ ही सेकंडों में एक स्वादिष्ट दिखने वाला भोजन बना सकता है, लेकिन उसके सामग्रियाँ (ingredients) प्लास्टिक की बनी हैं। यदि आप इसे खाते हैं, तो आप बीमार हो जाएंगे, लेकिन आप केवल प्लेट को देखकर यह नहीं बता पाएंगे कि यह नकली है।
लेख का तर्क है कि हम अधिक लोगों को किताबें पढ़ने के लिए रखकर (मानवीय समीक्षा) या बेहतर झूठ पकड़ने वाले यंत्र बनाकर (AI डिटेक्शन) इसे ठीक नहीं कर सकते। क्यों? क्योंकि नकली किताबें असली किताबों जैसी ही दिखती हैं। फैक्ट्री बहुत तेज़ है, और "नकली" किताबें बहुत विश्वसनीय हैं।
समाधान: "कंपाइलर" गेट (The "Compiler" Gate)
लेखक, डेक्सटर हैडली (Dexter Hadley), एक क्रांतिकारी बदलाव का प्रस्ताव देते हैं। यह तय करने के बजाय कि कोई किताब सत्य है या नहीं (जो कठिन है), हमें यह तय करना चाहिए कि क्या वह किताब संरचनात्मक रूप से वैध (structurally valid) है (जो आसान है)।
वह इसे Governance as Compilation (कंपाइलेशन के रूप में शासन) कहते हैं।
एक कंप्यूटर प्रोग्राम के बारे में सोचें। एक प्रोग्राम चलने से पहले, एक "कंपाइलर" उसकी जाँच करता है। कंपाइलर यह नहीं पूछता, "क्या यह प्रोग्राम दुनिया की समस्याओं को हल करेगा?" या "क्या यह कोड शानदार है?" वह तीन सरल, यांत्रिक प्रश्न पूछता है:
- क्या आपने उस शब्द का उपयोग किया है जो डिक्शनरी में मौजूद है?
- क्या आपने उस फ़ाइल का संदर्भ दिया है जो वास्तव में कंप्यूटर पर मौजूद है?
- क्या वह फ़ाइल उसी फोल्डर में है जहाँ आपने कहा था कि वह होगी?
यदि इनमें से किसी भी उत्तर का जवाब "नहीं" है, तो कंपाइलर "Error" कहता है और प्रोग्राम को चलने से रोक देता है। इससे कोई फर्क नहीं पड़ता कि कोड कितना शानदार है; यदि वह संरचनात्मक रूप से टूटा हुआ है, तो उसे खारिज कर दिया जाता है।
CANONIC AI लेखन पर यही तर्क लागू करता है। यह टेक्स्ट के लिए एक "कंपाइलर" के रूप में कार्य करता है। किसी भी AI-जनित सामग्री को सार्वजनिक लाइब्रेरी (कॉर्पस) में जाने की अनुमति देने से पहले, उसे तीन द्वारों (gates) से गुजरना होगा।
तीन द्वार (The "Triad")
किसी लेखन को CANONIC गेट से गुजरने के लिए, उसे एक विशिष्ट प्रकार के फोल्डर की तरह बनाया जाना चाहिए जिसमें तीन विशिष्ट फाइलें हों। यदि कोई भी फाइल गायब है, तो टेक्स्ट को तुरंत खारिज कर दिया जाता है।
- नियम पुस्तिका (CANON.md): यह फाइल कहती है, "इस विशिष्ट विषय के लिए यहाँ नियम दिए गए हैं।" यह कानून है।
- शब्दकोश (VOCAB.md): यह शब्दकोश नियम पुस्तिका में उपयोग किए गए प्रत्येक शब्द को परिभाषित करता है। आप किसी फैंसी शब्द का उपयोग तब तक नहीं कर सकते जब तक आपने उसे यहाँ परिभाषित न किया हो। यह AI को मनगढ़ंत शब्दावली (jargon) बनाने से रोकता है।
- विवरण (README.md): यह फाइल बताती है कि प्रोजेक्ट वास्तव में किस बारे में है।
उपमा: कल्पना कीजिए कि आप एक घर बना रहे हैं।
- शब्दकोश (Dictionary) स्वीकृत सामग्रियों की सूची है (जैसे, "ईंट" का अर्थ लाल मिट्टी की ईंट है, न कि लाल प्लास्टिक)।
- नियम पुस्तिका (Rulebook) कहती है, "हर दीवार ईंट से बनी होनी चाहिए।"
- विवरण (Description) कहता है, "यह एक घर है।"
यदि आप "लाल प्लास्टिक" से दीवार बनाने की कोशिश करते हैं बिना उसे अपने शब्दकोश में परिभाषित किए, तो निरीक्षक (कंपाइलर) आपको रोक देता है। आप सिर्फ यह नहीं कह सकते, "मुझ पर विश्वास करो, यह एक दीवार है।"
"एविडेंस लेजर" (The "Evidence Ledger")
शोध पत्र एक दूसरा स्तर पेश करता है: लेजर (Ledger)।
टेक्स्ट में किया गया हर दावा एक विशिष्ट "कमिट" (फाइल का सहेजा गया संस्करण) से जुड़ा होना चाहिए जो एक सार्वजनिक, अपरिवर्तनीय रिकॉर्ड (जैसे Git रिपॉजिटरी) में दर्ज है।
- दावा (The Claim): "मरीज में सुधार हुआ।"
- एंकर (The Anchor): "लेजर में कमिट #12345 देखें।"
यदि लेखक उस विशिष्ट कमिट की ओर इशारा नहीं कर सकता जो दावे को सिद्ध करता है, तो टेक्स्ट को खारिज कर दिया जाता है। यह एक अदालती मामले की तरह है जहाँ आप केवल यह नहीं कह सकते कि "मैंने इसे होते देखा।" आपको वीडियो टेप दिखाना ही होगा। यदि आपके पास टेप नहीं है, तो आपका दावा रिकॉर्ड में शामिल नहीं किया जा सकता।
CANONIC क्या करता है (और क्या नहीं करता)
यह इस शोध पत्र का सबसे महत्वपूर्ण हिस्सा है। लेखक अपनी सीमाओं के बारे में बहुत ईमानदार हैं।
यह क्या करता है (DOES):
यह जवाबदेही (Accountability) सुनिश्चित करता है।
यदि कोई टेक्स्ट गेट से गुजर जाता है, तो आप निश्चित रूप से जानते हैं कि:
- प्रत्येक शब्द परिभाषित है।
- प्रत्येक दावा साक्ष्य के एक विशिष्ट, अपरिवर्तनीय टुकड़े की ओर संकेत करता है।
- नियमों का पालन किया गया था।
यह "अपुष्ट गद्य" (unverifiable prose) को एक "जांच योग्य रिकॉर्ड" में बदल देता है। भले ही टेक्स्ट गलत हो, लेकिन अब यह ट्रेसेबल (पता लगाने योग्य) है। आप साक्ष्य देख सकते हैं, देख सकते हैं कि कहाँ गलती हुई, और उसे ठीक कर सकते हैं।
यह क्या नहीं करता (DOES NOT DO):
यह सत्य (Truth) की गारंटी नहीं देता है।
शोध पत्र ने एक परीक्षण (बेंचमार्क) चलाया यह देखने के लिए कि क्या यह प्रणाली "स्लॉप" को छान सकती है। परिणाम आश्चर्यजनक था: यह नहीं कर सकी।
- परीक्षण: उन्होंने सिस्टम में फर्जी खबरें, वास्तविक खबरें और चालाकी से बनाई गई AI-जनित झूठ डाले।
- परिणाम: यदि फर्जी खबरें अच्छी तरह से संरचित थीं (परिभाषित शब्द, फर्जी साक्ष्य जो असली दिखते थे, और एक स्पष्ट टाइमलाइन), तो "कंपाइलर" गेट ने फर्जी खबरों को अंदर आने दिया।
- सबक: एक मशीन यह जांच सकती है कि एक वाक्य व्याकरणिक रूप से वैध और संदर्भित है या नहीं, लेकिन वह यह जांच नहीं सकती कि वाक्य सत्य है या नहीं।
उपमा:
कल्पित कीजिए कि एक बैंक में एक सुरक्षा गार्ड है।
- CANONIC वह गार्ड है जो आपकी आईडी (ID) की जाँच करता है। यदि आपकी आईडी जाली है लेकिन एकदम सटीक दिखती है, उसमें फोटो है, और डेटाबेस के प्रारूप से मेल खाती है, तो गार्ड आपको अंदर जाने देता है। गार्ड यह सुनिश्चित करता है कि आपके पास वैध आईडी है, न कि यह कि आप एक अच्छे व्यक्ति हैं।
- सत्य (Truth) बैंक मैनेजर द्वारा तय किया जाता है (मानव विशेषज्ञ)। मैनेजर आईडी को देखता है, व्यक्ति को देखता है, और निर्णय लेता है, "रुको, यह व्यक्ति अपने बैंक बैलेंस के बारे में झूठ बोल रहा है।"
शोध पत्र का तर्क है कि हम एल्गोरिदम (गार्ड) को यह तय करने की कोशिश कर रहे हैं कि कौन झूठ बोल रहा है। शोध पत्र कहता है: रुकिए। गार्ड का काम केवल आईडी की जाँच करना है। मैनेजर का काम यह तय करना है कि कहानी सच है या नहीं।
"ह्यूमन-इन-द-लूप" (The "Human-in-the-Loop")
सिस्टम को इस तरह डिज़ाइन किया गया है कि इंसान नियम लिखते हैं, और AI कंटेंट लिखता है।
- इंसान "संविधान" (CANON.md फाइल में नियम) निर्धारित करते हैं।
- AI टेक्स्ट उत्पन्न करता है।
- "कंपाइलर" जाँचता है कि क्या AI ने नियमों का पालन किया।
- यदि AI नियमों को बदलने की कोशिश करता है, तो उसे ब्लॉक कर दिया जाता है। केवल इंसान ही संविधान को बदल सकते हैं।
यह एक ऐसा सिस्टम बनाता है जहाँ AI तेज़ और रचनात्मक हो सकता है, लेकिन वह कानून नहीं तोड़ सकता या अपने पदचिह्न (tracks) नहीं छिपा सकता।
सारांश
शोध पत्र निष्कर्ष निकालता है कि हम ऐसा एल्गोरिदम नहीं बना सकते जो स्वचालित रूप से "स्लॉप" (फर्जी या निराधार AI टेक्स्ट) को पहचान सके, क्योंकि "स्लॉप" को संरचनात्मक रूप से पूर्ण बनाया जा सकता है।
इसके बजाय, हमें एक ऐसा सिस्टम बनाना चाहिए जो जवाबदेही को मजबूर करे।
- पुराना तरीका: "मुझ पर विश्वास करो, इस AI ने एक सच्चा लेख लिखा है।" (सत्यापित करना कठिन है)।
- नया तरीका (CANONIC): "यहाँ लेख है। यहाँ उपयोग किए गए शब्दों का शब्दकोश है। यहाँ वह सटीक फ़ाइल है जहाँ साक्ष्य मौजूद है। यहाँ वह नियम पुस्तिका है जिसका इसने पालन किया। आप यह सब स्वयं जाँच सकते हैं।"
यह सिस्टम झूठ को नहीं रोकता; यह केवल यह सुनिश्चित करता है कि यदि कोई झूठ बोला जाता है, तो वह साक्ष्य का एक स्पष्ट, अपरिवर्तनीय निशान छोड़ता है ताकि मानव विशेषज्ञ उसे ढूंढ सकें और उसे पकड़ सकें। यह AI के "ब्लैक बॉक्स" को एक "ग्लास बॉक्स" में बदल देता है जहाँ सब कुछ दृश्यमान और जांचने योग्य है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।