Reliable AI Needs to Externalize Implicit Knowledge: A Human-AI Collaboration Perspective
यह शोध पत्र यह तर्क देता है कि विश्वसनीय एआई प्राप्त करने के लिए "ज्ञान वस्तुओं" (Knowledge Objects) के विकास की आवश्यकता है ताकि अंतर्निहित ज्ञान को बाह्य रूप में प्रस्तुत और संरचित किया जा सके, जिससे उन महत्वपूर्ण तर्क पैटर्न का मानव सत्यापन संभव हो सके जो वर्तमान में जांचने योग्य नहीं हैं, और समय के साथ एआई विश्वसनीयता में सुधार के लिए एक स्केलेबल मार्ग बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर की व्याख्या दी गई है।
मुख्य समस्या: "ब्लैक बॉक्स" शेफ (The "Black Box" Chef)
कल्पना कीजिए कि आपने एक शानदार शेफ (AI) को एक जटिल भोजन पकाने के लिए काम पर रखा है। इस शेफ ने दुनिया के हर रेस्टोरेंट से लाखों व्यंजन चखे हैं। उन्हें पता है कि स्वाद कैसे मिलाना है, नमक कब डालना है, और जल रही सॉस को कैसे ठीक करना है।
हालाँकि, इसमें एक पेंच है। शेफ ने ये कौशल एक औपचारिक कुकबुक (Cookbook) पढ़कर नहीं, बल्कि लाखों लोगों को खाना बनाते हुए देखकर सीखे हैं।
- स्पष्ट ज्ञान (कुकबुक): यह वह चीज़ है जिसे शेफ दिखा सकता है। "रेसिपी कहती है कि 2 कप मैदा डालें।" शेफ आपको किताब का वह पन्ना दिखा सकता है। इसे चेक करना आसान है।
- अंतर्निहित ज्ञान (शेफ का अंतर्ज्ञान/Intuition): यह वह चीज़ है जिसे शेफ महसूस करता है। "एक चुटकी नमक डालो क्योंकि सॉस बहुत एसिडिक लग रही है," या "इस चाकू का उपयोग न करें क्योंकि इसका हैंडल फिसलन भरा महसूस हो रहा है।" शेफ ने इसे कभी लिखा नहीं। यह बस एक पैटर्न है जो उन्होंने दूसरों को देखते हुए सीखा है।
पेपर का बड़ा दावा:
अभी, AI इस "अंतर्ज्ञान" (अंतर्निहित ज्ञान) का उपयोग करके स्मार्ट काम करने में अद्भुत है। लेकिन क्योंकि इसे कभी लिखा नहीं गया है, हम यह जाँच नहीं सकते कि यह सही है या नहीं। शेफ एक शानदार तकनीक का उपयोग कर रहा हो सकता है, या वह किसी बुरे रेस्टोरेंट की बुरी आदत को कॉपी कर रहा हो सकता है। हम अंतर नहीं बता सकते क्योंकि उस अंतर्ज्ञान के लिए "रेसिपी" मौजूद ही नहीं है।
यह एक खतरनाक अंतर पैदा करता है: AI बहुत सक्षम है, लेकिन हम इस पर भरोसा नहीं कर सकते क्योंकि हम यह नहीं देख सकते कि उसने क्या करने का निर्णय कैसे लिया।
वर्तमान समाधान क्यों काम नहीं करते
पेपर उन चार तरीकों को देखता है जिनसे लोग AI की विश्वसनीयता को ठीक करने की कोशिश करते हैं, और बताता है कि वे इस विशिष्ट समस्या को हल करने में क्यों विफल रहते हैं:
- तथ्यों की खोज करना (RAG): कल्पना कीजिए कि शेफ को खाना बनाते समय कुकबुक खोलने की अनुमति है। यह तथ्यों (जैसे "आमलेट में कितने अंडे होते हैं") के लिए मददगार है, लेकिन यह अंतर्ज्ञान (जैसे "यह आंकना कि पैन पर्याप्त गर्म है या नहीं") में मदद नहीं करता है। शेफ अभी भी अपने अदृश्य अंतर्ज्ञान पर निर्भर है।
- शेफ से खुद को चेक करने के लिए कहना: कल्पना कीजिए कि आप शेफ से पूछते हैं, "क्या आप सुनिश्चित हैं कि इसका स्वाद सही है?" शेफ कह सकता है, "हाँ, मैं 99% निश्चित हूँ!" लेकिन अगर शेफ ने शुरुआत में ही कोई बुरी आदत सीखी है, तो वह आत्मविश्वास के साथ कहेगा कि वह बुरी आदत अच्छी है। वे अपनी ही कमियों को नहीं पहचान सकते।
- शेफ को ट्रेनिंग देना: कल्पना कीजिए कि आप शेफ को पालन करने के लिए नए नियमों का एक सेट दे रहे हैं। यह उनके व्यवहार को बदलता है, लेकिन नियम उनके दिमाग (मॉडल के पैरामीटर्स) के अंदर लॉक हैं। आप अंदर झाँककर यह नहीं देख सकते कि किस नियम ने उनसे कुछ करवाया।
- शेफ को एक नोटबुक देना (मेमोरी): कल्पना कीजिए कि शेफ कल के लिए याद रखने के लिए आज जो किया उसे लिखता है। लेकिन अगर उन्होंने कोई गलती लिखी है, तो वे उसी गलती को हमेशा दोहराते रहेंगे। नोटबुक आपको यह नहीं बताती कि नोट "सत्य" है या "असत्य"।
सामान्य दोष: ये सभी तरीके "अंतर्ज्ञान" को AI के भीतर ही कैद रखते हैं। इंसान इसे देख नहीं सकते, चेक नहीं कर सकते, या इस पर अपनी सहमति नहीं दे सकते।
समाधान: "नॉलेज ऑब्जेक्ट्स" (Knowledge Objects - KOs)
लेखकों ने नॉलेज ऑब्जेक्ट (KO) नामक एक नया टूल प्रस्तावित किया है।
एक KO को शेफ के अंतर्ज्ञान के लिए एक पारदर्शी "रेसिसी कार्ड" के रूप में सोचें।
जब AI अपने अंतर्ज्ञान का उपयोग किसी समस्या को हल करने के लिए करता है, तो उसे रुकना चाहिए और एक संरचित कार्ड लिखना चाहिए जो कहता है:
- दावा (The Claim): "मैंने डेटाबेस के लिए सिंगलटन पैटर्न (Singleton pattern) का उपयोग किया।"
- तर्क (The Reasoning): "मैंने देखा कि 12 अन्य विशेषज्ञों ने हाई-ट्रैफिक स्थितियों में ऐसा किया है।"
- सीमाएं (The Limits): "यह केवल Java ऐप्स के लिए काम करता है, बैच प्रोसेसिंग के लिए नहीं।"
- वैलिडेटर (The Validator): "एलिस (एक सीनियर इंजीनियर) ने 15 जनवरी को इसे चेक किया और 'अनुमोदित (Approved)' कहा।"
यह सब कुछ कैसे बदल देता है:
AI केवल आपको उत्तर नहीं देता, बल्कि वह उत्तर साथ ही वह "रेसिपी कार्ड" भी देता है जो दिखाता है कि वह वहां तक कैसे पहुँचा।
- यह अदृश्य को दृश्य बनाता है: अब आप केवल परिणाम नहीं, बल्कि तर्क को देख सकते हैं।
- यह मानव जांच (Human Check-ups) की अनुमति देता है: एक मानव विशेषज्ञ (जैसे एलिस) उस कार्ड को देख सकती है और कह सकती है, "हाँ, यह एक अच्छा पैटर्न है," या "नहीं, यह एक खतरनाक पैटर्न है।"
- यह समय बचाता है ("संचयी प्रभाव"):
- बिना KO के: हर बार जब कोई नया डेवलपर AI से सवाल पूछता है, तो उन्हें यह जांचने में 30 मिनट खर्च करने पड़ते हैं कि AI सही है या नहीं।
- KO के साथ: एलिस इसे एक बार चेक करती है। वह कार्ड पर स्टैम्प लगाती है "वेरिफाइड (Verified)"। अब, अगले 1,000 डेवलपर्स उस कार्ड को देखते हैं, एलिस का स्टैम्प देखते हैं, और तुरंत उत्तर पर भरोसा करते हैं। काम एक बार हुआ, लेकिन लाभ हमेशा के लिए बना रहता है।
"CodeAssist" का उदाहरण
पेपर एक सॉफ्टवेयर उदाहरण का उपयोग करके इसे समझाता है:
- परिदृश्य: एक AI प्रोग्रामर को यह तय करने में मदद करता है कि डेटाबेस को कैसे कनेक्ट किया जाए।
- पुराना तरीका: AI कहता है, "सिंगलटन पैटर्न का उपयोग करें।" प्रोग्रामर को अनुमान लगाना पड़ता है कि यह सुरक्षित है या इससे सिस्टम क्रैश हो जाएगा।
- KO वाला तरीका: AI कहता है, "सिंगलटन पैटर्न का उपयोग करें," और एक कार्ड दिखाता है: "चेतावनी: यदि एक साथ 100 से अधिक लोग इसका उपयोग करते हैं तो यह क्रैश का कारण बनता है। स्टैंडर्ड वेब ऐप्स के लिए सीनियर इंजीनियर एलिस द्वारा सत्यापित। बैच जॉब्स के लिए सत्यापित नहीं है।"
- परिणाम: प्रोग्रामर को पता होता है कि इसे कब उपयोग करना है और कब इससे बचना है। उन्हें अनुमान नहीं लगाना पड़ता।
सारांश
पेपर का तर्क है कि हम अकेले AI पर भरोसा नहीं कर सकते क्योंकि इसके "मस्तिष्क" में बहुत अधिक छिपा हुआ, अपर驗िफाइड (unverified) अंतर्ज्ञान है। AI को विश्वसनीय बनाने के लिए, हमें इसे अपने तर्क को एक ऐसे प्रारूप में लिखने के लिए मजबूर करना होगा जिसे इंसान चेक कर सकें।
अंतर्ज्ञान को नॉलेज ऑब्जेक्ट्स में बदलकर, हम एक एकमुश्त अनुमान को एक स्थायी, भरोसेमंद संपत्ति में बदल देते हैं। यह AI को एक "ब्लैक बॉक्स" से बदलकर—जिससे हमें डरना पड़ता है—एक सहयोगात्मक साथी में बदल देता है जहाँ मानवीय निर्णय दर्ज किए जाते हैं, साझा किए जाते हैं और समय के साथ विकसित होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।