Odyssey: Constructing Verifiable Local Truth-Preserving Foundation Models
यह शोध पत्र ODYSSEY को प्रस्तुत करता है, जो कान एक्सटेंशन (Kan extensions) के माध्यम से मॉड्यूलर "फाउंड्रीज़" (foundries) को संयोजित करके सत्यापन योग्य, स्थानीय सत्य-संरक्षण वाले फाउंडेशन मॉडल्स (foundation models) के निर्माण हेतु यूनिवर्सल फाउंड्री लर्निंग (Universal Foundry Learning) और फाउंड्री SQL (Foundry SQL) का उपयोग करने वाला एक श्रेणीगत ढांचा (categorical framework) है, जो कठोर तर्कसंगतता, निदान और विषम ज्ञान स्रोतों के एकीकरण को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ ODYSSEY पेपर का हिंदी अनुवाद दिया गया है:
मुख्य विचार: एक "ब्लैक बॉक्स" से "मॉड्यूलर फैक्ट्री" तक
कल्पना कीजिए कि वर्तमान लार्ज लैंग्वेज मॉडल्स (जैसे वे जिनसे आप चैट करते हैं) एक विशाल, सीलबंद ब्लैक बॉक्स की तरह हैं। आप एक सवाल डालते हैं, और एक जवाब बाहर आता है। आपको ठीक से पता नहीं होता कि वह जवाब कैसे बनाया गया, तथ्य कहाँ से आए, या मॉडल ने एक स्थिति में "हाँ" और दूसरी में "नहीं" कहने का निर्णय क्यों लिया। यदि मॉडल कोई गलती करता है, तो इसे सुधारना कठिन होता है क्योंकि पूरा बॉक्स आपस में उलझा हुआ होता है।
ODYSSEY इन मॉडल्स को बनाने का एक अलग तरीका प्रस्तावित करता है। एक विशाल ब्लैक बॉक्स के बजाय, ODYSSEY को एक मॉड्यूलर निर्माण फैक्ट्री (जिसे "फाउंड्री" कहा जाता है) के रूप में सोचें।
इस फैक्ट्री में, ज्ञान को एक ही ढेर में नहीं डाला जाता है। इसके बजाय, इसे एक पैचवर्क क्विल्ट (रजाई के टुकड़ों) या ओवरलैपिंग टाइल्स से बने मानचित्र की तरह बनाया जाता है।
- स्थानीय सत्य (Local Truths): सिस्टम दुनिया को छोटे, विशिष्ट मोहल्लों (स्थानीय संदर्भों) में विभाजित करता है। एक मोहल्ले में, एक कथन "सिद्ध" हो सकता है। अगले मोहल्ले में, वही कथन "असिद्ध" या "विरोधाभासी" हो सकता है।
- गोंद (The Glue): सिस्टम के पास सख्त नियम हैं कि ये मोहल्ले आपस में कैसे जुड़ते हैं। यदि दो मोहल्ले ओवरलैप होते हैं, तो सिस्टम जाँचता है कि क्या वे सहमत हैं। यदि वे असहमत हैं, तो यह उन्हें सहमत होने के लिए मजबूर नहीं करता; इसके बजाय, यह असहमति को एक "ग्लिच" (खराबी) या "ब्लॉक किए गए पथ" के रूप में चिह्नित करता है जिसे मानवीय ध्यान की आवश्यकता है।
लक्ष्य ऐसे मॉडल बनाना है जो सत्यापन योग्य (आप काम की जाँच कर सकते हैं) और सत्य-संरक्षण करने वाले (वे झूठ नहीं बोलते कि वे क्या जानते हैं या वे क्या जानते हैं) हों।
पाँच कार्यकर्ता (एजेंट्स)
इस फैक्ट्री को चलाने के लिए, ODYSSEY पाँच विशिष्ट "एजेंटों" (सॉफ्टवेयर वर्कर्स) का उपयोग करता है, जिनका नाम ग्रीक पौराणिक कथाओं के पात्रों पर रखा गया है। वे एक असेंबली लाइन की तरह एक प्रोजेक्ट फ़ाइल को एक से दूसरे तक पहुँचाते हैं:
SCYLLA (अनुवादक):
- भूमिका: वह इंसान से बात करती है। जब आप कोई सवाल पूछते हैं, तो वह आपके अस्पष्ट अनुरोध को एक सटीक "जॉब ब्रीफ" (कार्य विवरण) में अनुवादित करती है।
- उपमा: कल्पना कीजिए कि आपने एक ठेकेदार से कहा, "मुझे एक घर चाहिए।" स्किला पूछती है, "क्या आपका मतलब एक कॉटेज से है? या गगनचुंबी इमारत से? बजट क्या है? सामग्री क्या होगी?" वह आपकी इच्छा को एक ब्लूप्रिंट (खाके) में बदल देती है।
HOMER (प्रोजेक्ट मैनेजर):
- भूमिका: वह स्किला के ब्लूप्रिंट को लेता है और चरण-दर-चरण टू-डू लिस्ट लिखता है। वह तय करता है कि किन उपकरणों की आवश्यकता है और किस क्रम में।
- उपमा: वह फोरमैन है जो कहता है, "पहले, हमें कंक्रीट डालना होगा। फिर, हमें ईंटें मंगानी होंगी। यहाँ कार्यसूची दी गई है।"
ATHENA (आर्किटेक्ट/वास्तुकार):
- भूमिका: वह संरचना का डिज़ाइन बनाती है। वह तय करती है कि ज्ञान के विभिन्न "मोहल्ले" एक साथ कैसे फिट होते हैं। वह नियम निर्धारित करती है कि सूचना एक क्षेत्र से दूसरे क्षेत्र में कैसे जा सकती है।
- उपमा: वह मानचित्र बनाती है। वह कहती है, "किचन डाइनिंग रूम से जुड़ता है, लेकिन किचन बिना गलियारे के सीधे गैरेज से नहीं जुड़ता।" वह सुनिश्चित करती है कि तर्क बना रहे।
PROMETHEUS (निर्माता/बिल्डर):
- भूमिका: वह एथेना की योजनाओं के आधार पर वास्तव में मॉडल बनाता है। वह डेटा एकत्र करता है, गणनाएँ चलाता है, और "वर्ल्ड मॉडल" बनाता है।
- उपमा: वह निर्माण दल है। वह ईंटें बिछाता है, पाइप स्थापित करता है, और दीवारें बनाता है। यदि उसे कोई समस्या मिलती है (जैसे कोई गायब पाइप), तो वह उसके बारे में एक रिपोर्ट लिखता है।
TOULMIN (वकील/वाद-विवादकर्ता):
- भूमिका: वह केवल निर्माण नहीं करता; वह तर्क भी देता है। वह तैयार मॉडल को लेता है और जाँच करता है: "क्या हमारे पास इस दावे के लिए प्रमाण है? क्या कोई जवाबी तर्क है? इसकी सीमाएँ क्या हैं?"
- उपमा: वह गुणवत्ता निरीक्षक है जिसके हाथ में हथौड़ा है। वह पूछता है, "आप दावा करते हैं कि यह पुल सुरक्षित है। मुझे इंजीनियरिंग रिपोर्ट दिखाएं। अगर बारिश हुई तो क्या होगा? यहाँ वह साक्ष्य है जो आपके दावे का समर्थन करता है, और यहाँ वह साक्ष्य है जो इसे तोड़ सकता है।"
विशेष उपकरण
यह काम करने के लिए पेपर कुछ विशिष्ट उपकरणों को पेश करता है:
- द फाउंड्री अलजेब्रा (The Foundry Algebra): यह लेगो (LEGO) निर्देशों के सेट जैसा है। आप एक "स्टोरफ्रंट" ब्लॉक और एक "वित्तीय" ब्लॉक को ले सकते हैं और एक "रिटेल कंपनी" मॉडल बनाने के लिए उन्हें आपस में जोड़ सकते हैं। आप उन्हें बेतरतीब ढंग से नहीं जोड़ सकते; निर्देश (अलजेब्रा) आपको बताते हैं कि वे बिल्कुल कैसे फिट होते हैं।
- TICKET (सुरक्षा गार्ड): यह फैक्ट्री में नई जानकारी (जैसे बाहर से आया प्री-ट्रेंड मॉडल) को आने देने की एक प्रणाली है। यह इसे केवल अंदर नहीं आने देता; यह इसकी आईडी जाँचता है, इसके सामान की स्कैनिंग करता है, और निर्णय लेता है: "आप प्रवेश कर सकते हैं," "आप प्रवेश कर सकते हैं लेकिन वेटिंग रूम में रुकें," या "आपको प्रतिबंधित किया गया है।"
- FSQL (Foundry SQL): यह मॉडल के बारे में प्रश्न पूछने के लिए एक विशेष भाषा है। केवल "मौसम कैसा है?" पूछने के बजाय, आप पूछ सकते हैं, "केवल उस मोहल्ले के लिए मौसम का डेटा दिखाएं जहाँ हमारे पास उच्च विश्वास है, और उस डेटा को छिपा दें जहाँ हम केवल अनुमान लगा रहे हैं।"
पेपर से वास्तविक दुनिया के उदाहरण
लेखकों ने यह सिद्ध करने के लिए कि यह काम करता है, कई विशिष्ट "फाउंड्रीज़" पर इस प्रणाली का परीक्षण किया:
MyFixit (रिपेयर मैनुअल):
- उन्होंने लैपटॉप ठीक करने के लिए एक मॉडल बनाया। केवल टेक्स्ट पढ़ने के बजाय, सिस्टम चरणों को समझता है: "पेंच निकालें," "हिस्सा ऊपर उठाएं," "छवि की जाँच करें।"
- परिणाम: किसी रिपेयर स्टेप को खोजने के लिए पूछे जाने पर, यह सिस्टम मानक टेक्स्ट सर्च की तुलना में बहुत बेहतर था क्योंकि इसने केवल शब्दों को नहीं, बल्कि आवश्यक क्रिया और उपकरण को समझा।
इंडस स्क्रिप्ट (प्राचीन रहस्य):
- उन्होंने इसे अनसुलझी सिंधु घाटी लिपि पर लागू किया।
- परिणाम: सिस्टम ने उत्तर जानने का ढोंग नहीं किया। इसने विभिन्न सिद्धांतों, उनके ओवरलैप होने के स्थानों और जहाँ वे विरोधाभासी हैं, उन्हें दिखाया। इसने अनुवाद करने के बजाय "अज्ञात" भागों को स्पष्ट रूप से "ब्लॉक किए गए पथ" के रूप में चिह्नित किया।
TCC 44K (आर्थिक दावे):
- उन्होंने कारण-और-प्रभाव (cause-and-effect) के बारे में 44,000 आर्थिक शोध पत्रों का विश्लेषण किया।
- परिणाम: सिस्टम आपको बता सका, "यह अध्ययन कहता है कि X के कारण Y होता है, लेकिन केवल इस विशिष्ट देश में, और केवल तभी जब आप इस अन्य कारक को अनदेखा करते हैं।" इसने बारीक विवरणों को मिटाने के बजाय उन्हें दृश्यमान रखा।
IKEA असेंबली:
- उन्होंने फर्नीचर असेंबली वीडियो पर इसका परीक्षण किया।
- परिणाम: सिस्टम ने जाँच की कि क्या कुर्सी बनाने वाले व्यक्ति का वीडियो निर्देशों से मेल खाता है। यदि वीडियो में कोई हिस्सा गायब था या कोई चरण छोड़ दिया गया था, तो सिस्टम ने इसे अनदेखा करने के बजाय एक "ग्लिच" के रूप में चिह्नित किया।
निचोड़ (The Bottom Line)
पेपर का दावा है कि ODYSSEY एक ऐसा तरीका है जिससे ऐसे AI मॉडल बनाए जा सकते हैं जो हैं:
- पारदर्शी (Transparent): आप देख सकते हैं कि मॉडल को ठीक कैसे बनाया गया था और डेटा कहाँ से आया।
- ईमानदार (Honest): यदि मॉडल कुछ नहीं जानता, या यदि दो साक्ष्य असहमत हैं, तो यह (एक 'ऑब्स्ट्रक्शन' या 'ग्लिच' रिकॉर्ड बनाकर) स्वीकार करता है, बजाय इसके कि कोई उत्तर बना ले।
- मरम्मत योग्य (Repairable): यदि मॉडल का कोई हिस्सा गलत है, तो आप पूरे मॉडल को फिर से बनाए बिना केवल उस "मोहल्ले" को ठीक कर सकते हैं।
लेखक कहते हैं कि यह वर्तमान में एक "डिज़ाइन-स्टेज" सिस्टम है। यह विशिष्ट, संरचित कार्यों (जैसे रिपेयर मैनुअल या वित्तीय फाइलिंग) के लिए अच्छी तरह से काम करता है, लेकिन यह अभी उन विशाल, सामान्य-उद्देश्य वाले चैटबॉट्स का स्थान लेने के लिए नहीं है जिनका हम आज उपयोग करते हैं। यह भरोसेमंद, निरीक्षण योग्य AI बनाने के लिए एक नया आर्किटेक्चर है, न कि हर चीज़ के लिए एक जादुई समाधान।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।