The Standard Interpretable Model: A general theory of interpretable machine learning to deductively design interpretable methods using Lagrangian mechanics
यह शोध पत्र स्टैंडर्ड इंटरप्रिटेबल मॉडल (SIM) को प्रस्तुत करता है, जो लैग्रेंजियन मैकेनिक्स पर आधारित एक सामान्य सिद्धांत है जो उपयोगकर्ता-निर्धारित प्रिमिसिस (premises) को गणितीय बाधाओं में अनुवादित करके व्याख्यात्मक विधियों को निगमनात्मक रूप से व्युत्पन्न करता है, जिससे खंडित अनुसंधान का एकीकरण होता है और अनुकूलित अपारदर्शी मॉडलों एवं स्वाभाविक रूप से व्याख्यात्मक आर्किटेक्चर दोनों के व्यवस्थित डिजाइन को सक्षम बनाया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक अविश्वसनीय रूप से शक्तिशाली, जटिल मशीन (एक AI मॉडल) बनाई है जो मौसम की भविष्यवाणी कर सकती है, बीमारियों का निदान कर सकती है, या कविता लिख सकती है। लेकिन एक समस्या है: यह मशीन एक "ब्लैक बॉक्स" है। आप इसमें डेटा डालते हैं, और उत्तर बाहर आता है, लेकिन आपको पता नहीं चलता कि वह वहां तक कैसे पहुँचा। यह एक ऐसे शेफ की तरह है जो स्वादिष्ट सूप तो बनाता है लेकिन आपको रेसिपी या बर्तन में मौजूद सामग्रियों के बारे में बताने से इनकार कर देता है।
यह शोध पत्र एक नया ढांचा पेश करता है जिसे स्टैंडर्ड इंटरप्रिटेबल मॉडल (SIM) कहा जाता है। SIM को एक विशिष्ट रेसिपी के रूप में नहीं, बल्कि पारदर्शी मशीनें बनाने के लिए एक सार्वभौमिक ब्लूप्रिंट के रूप में सोचें। यह भौतिकी के नियमों (विशेष रूप से लैग्रेंजियन मैकेनिक्स, वही गणित जिसका उपयोग ग्रहों की गति का वर्णन करने के लिए किया जाता है) का उपयोग करके पारदर्शी AI डिजाइन करने के लिए एक चरण-दर-चरण मार्गदर्शिका बनाने के लिए है।
यहाँ बताया गया है कि यह शोध पत्र सरल उपमाओं का उपयोग करते हुए इसे कैसे समझाता है:
1. मूल विचार: समझ का "भौतिकी" (The "Physics" of Understanding)
लेखकों का तर्क है कि जटिल चीजों को समझने के लिए, वैज्ञानिक आमतौर पर सममिति (Symmetries) की तलाश करते हैं—ऐसी चीजें जो परिप्रेक्ष्य बदलने पर भी समान रहती हैं।
- उपमा: एक घूमते हुए लट्टू की कल्पना करें। यदि आप इसे बाईं, दाईं या ऊपर से देखते हैं, तो यह अभी भी एक घूमता हुआ लट्टू ही है। वह "समानता" ही सममिति है।
- AI में: शोध पत्र पूछता है: "एक AI की सोच के कौन से हिस्से ऐसे होने चाहिए जो एक मानव उपयोगकर्ता के लिए समान रहें ताकि उसे समझा जा सके?" वे प्रस्ताव देते हैं कि एक AI को व्याख्या योग्य (interpretable) होने के लिए, इसके आंतरिक तर्क को एक मानव उपयोगकर्ता के सापेक्ष विशिष्ट "सममितियों" का सम्मान करना चाहिए।
2. खेल के तीन नियम (The Three Rules of the Game)
यह शोध पत्र एक व्याख्या योग्य AI के लिए तीन "नियम" परिभाषित करता है, जो इस बात पर आधारित हैं कि मनुष्य कैसे सोचते हैं और बोलते हैं।
नियम 1: साझा भाषा (Concept Semantics)
- रूपक: कल्पना कीजिए कि आप और आपका मित्र एक खेल खेल रहे हैं जहाँ आप वस्तुओं की ओर इशारा करते हैं। यदि आप एक लाल सेब की ओर इशारा करते हैं और "लाल" कहते हैं, तो आपके मित्र को यह सहमत होना चाहिए कि वह लाल है। यदि आप एक हरे सेब की ओर इशारा करते हैं और "लाल" कहते हैं, तो खेल टूट जाता है।
- नियम: AI को उन शब्दों (अवधारणाओं) का उपयोग करना चाहिए जिनका अर्थ मानव के लिए वही है जो AI के लिए है। यदि AI सोचता है कि "लाल" का अर्थ "नीला" है, तो यह व्याख्या योग्य नहीं है। शोध पत्र दिखाता है कि कैसे AI को इन अर्थों के क्रम (जैसे, यदि वस्तु A, वस्तु B की तुलना में अधिक लाल है, तो AI को भी सहमत होना चाहिए) का सम्मान करने के लिए मजबूर किया जा सकता है।
नियम 2: कोई छिपी हुई चाल नहीं (Prediction-Concept Dependency)
- रूपक: एक जादूगर की कल्पना करें जो टोपी से खरगोश निकालता है। यदि खरगोश वास्तव में जादूगर की आस्तीन की एक छिपी हुई जेब से आया था, तो जादूगर के लिए वह ट्रिक उस तरह से "जादू" नहीं है जैसा कि दर्शक समझते हैं।
- नियम: AI का अंतिम उत्तर केवल उन्हीं अवधारणाओं पर निर्भर होना चाहिए जो उसने आपको दिखाई हैं। वह गुप्त रूप से छिपे हुए चरों (variables) का उपयोग नहीं कर सकता या उस आंतरिक डेटा के साथ "चीटिंग" नहीं कर सकता जिसे आप देख नहीं सकते। यदि AI कहता है "मैं बादलों के कारण बारिश की भविष्यवाणी करता हूँ," तो उसे वास्तव में बादलों को देखना चाहिए, न कि किसी गुप्त कोड को।
नियम 3: अत्यधिक जटिल न बनें (Bounded Reasoning)
- रूपक: यदि आप किसी मनुष्य को गणित की समस्या हल करने के लिए कहते हैं, तो वे जैसे सरल समीकरण को संभाल सकते हैं। वे तुरंत 1,000 पन्नों के समीकरण या अनंत चरों को हल नहीं कर सकते। मनुष्यों के पास "सीमित" (bounded) मस्तिष्क होते हैं।
- नियम: AI का स्पष्टीकरण इतना सरल होना चाहिए कि एक मानव उसका अनुसरण कर सके। यह ऐसी तर्क पद्धति का उपयोग नहीं कर सकता जो एक मानव के लिए ट्रेस करने के लिए बहुत जटिल हो। AI को तर्क देने की उन शैलियों तक ही सीमित रहना चाहिए जिन्हें मानव वास्तव में समझ सकें।
3. ब्लूप्रिंट: सिद्धांत से निर्माण तक (The Blueprint: From Theory to Building)
शोध पत्र एक "लैग्रेंजियन" प्रदान करता है, जो अनिवार्य रूप से एक गणितीय निर्माण मैनुअल है। यह AI बनाने के दो तरीके प्रदान करता है जो इन नियमों का पालन करते हैं:
विधि A: "सॉफ्ट" दृष्टिकोण (Constraints के साथ प्रशिक्षण)
- कल्पना कीजिए कि आप एक कुत्ते को प्रशिक्षित कर रहे हैं। जब वह बैठता है तो आप उसे इनाम देते हैं और कूदने पर धीरे से "ना" कहते हैं। समय के साथ, वह सीख जाता है।
- इस विधि में, आप एक मानक AI लेते हैं और उसके प्रशिक्षण में "दंड" (penalties) जोड़ते हैं। यदि AI किसी गुप्त छिपे हुए चर का उपयोग करने की कोशिश करता है (नियम 2 का उल्लंघन) या "लाल" की गलत परिभाषा का उपयोग करता है (नियम 1 का उल्लंघन), तो गणित उसे दंडित करता है। AI दंड से बचने के लिए अपने व्यवहार को बदलने के लिए सीखता है, और अंततः व्याख्या योग्य बन जाता है।
विधि B: "हार्ड" दृष्टिकोण (Architectural Compilation)
- कल्पना कीजिए कि आप एक कार बना रहे हैं जहाँ स्टीयरिंग व्हील भौतिक रूप से अगले पहियों से जुड़ा हुआ है। आप बिना पहियों को घुमाए कार को मोड़ नहीं सकते। धोखा देना असंभव है।
- इस विधि में, शोध पत्र AI की संरचना को इस तरह से डिजाइन करता है कि उसके लिए नियमों को तोड़ना भौतिक रूप से असंभव हो जाए। AI को केवल अनुमत अवधारणाओं और तर्क शैलियों के साथ बनाया जाता है। इसे ईमानदार होने के लिए "सिखाने" की आवश्यकता नहीं है; इसका डिज़ाइन ही इसे ईमानदार रहने के लिए मजबूर करता है।
4. उन्होंने क्या पाया (प्रयोग) (What They Found)
लेखकों ने इस ढांचे का परीक्षण किया और कुछ आश्चर्यजनक चीजें पाईं:
- मानक मेट्रिक्स झूठ बोलते हैं: सिर्फ इसलिए कि एक AI सही उत्तर (कम त्रुटि) प्राप्त करता है, इसका मतलब यह नहीं है कि वह अवधारणाओं को सही ढंग से समझता है। एक AI सही उत्तर का अनुमान लगा सकता है जबकि "लाल" या "नीले" की उसकी समझ पूरी तरह से गलत हो सकती है।
- वर्तमान "स्पष्टीकरण" अक्सर नकली होते हैं: उन्होंने लोकप्रिय AI मॉडल का परीक्षण किया जो "चेन ऑफ थॉट" (Chain of Thought) स्पष्टीकरण उत्पन्न करते हैं (जैसे कि एक मानव के जोर से सोचने की प्रक्रिया)। उन्होंने पाया कि AI का अंतिम उत्तर अक्सर उन विचारों पर वास्तव में निर्भर नहीं था। स्पष्टीकरण केवल एक कहानी थी जो AI ने सुनाई थी, वह निर्णय का वास्तविक कारण नहीं था।
- बड़े मॉडलों को ठीक किया जा सकता है: उन्होंने दिखाया कि यहाँ तक कि विशाल, जटिल मॉडलों को भी उन्हें शुरू से फिर से प्रशिक्षित किए बिना, केवल सूचना प्रसंस्करण के तरीके को बदलकर, इन नियमों का पालन करने के लिए "सुधारा" जा सकता है।
सारांश
स्टैंडरल इंटरप्रिटेबल मॉडल (SIM) AI के बारे में सोचने का एक नया तरीका है। केवल यह उम्मीद करने के बजाय कि एक AI समझने योग्य होगा, यह वैज्ञानिकों को एक कठोर, गणितीय रेसिपी देता है ताकि वे निर्माण के माध्यम से (by construction) एक ऐसा AI डिजाइन कर सकें जो समझने योग्य हो। यह "समझने की क्षमता" को एक अस्पष्ट भावना के रूप में नहीं, बल्कि भौतिक नियमों (सममितियों) के एक सेट के रूप में मानता है जिन्हें मशीन के कोड में बनाया जा सकता है, जिससे यह सुनिश्चित होता है कि AI के "विचार" मानव तर्क के अनुरूप हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।