For What Reason? Interpreting Models' Encoding of Causation and Antithesis
यह शोध पत्र इस बात की जांच करता है कि कैसे निर्देश-ट्यून किए गए ट्रांसफॉर्मर मॉडल कारण (causation) और प्रतिपक्ष (antithesis) विमर्श संबंधों को एनकोड करते हैं, जो यह प्रकट करता है कि भविष्यवाणात्मक निर्णय परतों के विभिन्न चरणों में लिए जाते हैं और ये मॉडल विमर्श-आधारित तर्क के विषम प्रतिनिधित्व प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप किसी बातचीत को केवल शब्दों को सुनकर नहीं, बल्कि उन अदृश्य धागों को महसूस करके समझने की कोशिश कर रहे हैं जो उन्हें आपस में जोड़ते हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन धागों को "डिस्कोर्स रिलेशंस" (discourse relations) कहा जाता है। इन्हें एक कहानी को जोड़ने वाले गोंद की तरह समझें, जो आपको बताते हैं कि क्या एक वाक्य अगले वाक्य का कारण है, या क्या यह एक आश्चर्य है जो उसके विपरीत है। एक कंप्यूटर के लिए वास्तव में सहायक और सुरक्षित होने के लिए, उसे इन संबंधों को समझना आवश्यक है, न कि केवल शब्दों की शब्दकोश परिभाषाओं को। यदि एक रोबोट यह अंतर नहीं कर सकता कि "मैंने पढ़ाई की, इसलिए मैं पास हो गया" (एक सुखद कारण-और-प्रभाव) और "मैंने पढ़ाई की, फिर भी मैं असफल रहा" (एक दुखद विरोधाभास) के बीच क्या अंतर है, तो वह आपको बहुत खराब सलाह दे सकता है या आपकी भावनाओं को गलत समझ सकता है। यह शोध पत्र आधुनिक AI के "मस्तिष्क" के भीतर झाँकता है कि यह वास्तव में इन पेचीदा संबंधों को कैसे संसाधित करता है।
शोधकर्ताओं, अभिदिप भट्टाचार्य और शिरा वेन ने यह पता लगाने के लिए दो लोकप्रिय AI मॉडल (LLaMA और Mistral) के भीतर एक जासूस की भूमिका निभाने का निर्णय लिया कि वे कारणता (चीजें किसी और चीज़ के कारण होना) और प्रतिपक्ष (चीजें किसी चीज़ के बावजूद होना) के बीच कैसे अंतर करते हैं। उन्होंने एक सरल खेल बनाया: AI को एक खाली स्थान वाला वाक्य दिखाना, जैसे "जॉन ने कड़ी मेहनत की, इसलिए वह पास होने के ___ था," और उससे खाली स्थान को "सक्षम" (able) या "असमर्थ" (unable) में से किसी एक से भरने के लिए कहना। जोड़ने वाले शब्दों को बदलकर (जैसे "इसलिए" को "फिर भी" में बदलना) या क्रियाओं के अर्थ को उलटकर, वे देख सके कि AI के आंतरिक गियर ठीक कैसे काम करते थे।
यहाँ उन्हें क्या मिला, और यह कुछ इस तरह है जैसे किसी फैक्ट्री की असेंबली लाइन के काम करने के तरीके की खोज करना।
विचारों की असेंबली लाइन
टीम ने पाया कि AI अपना निर्णय एक साथ नहीं लेता है। इसके बजाय, यह एक रिले रेस की तरह है। जब AI "इसलिए" या "फिर भी" जैसे संकेत देने वाले शब्दों को पढ़ता है, तो उसके मस्तिष्क के प्रारंभिक और मध्य परतें (सोचें कि ये एक गगनचुंबी इमारत की पहली कुछ मंजिलें हैं) तुरंत स्थानीय अर्थ को समझना शुरू कर देती हैं। वे ही होते हैं जो कहते हैं, "ओह, 'इसलिए' का अर्थ आमतौर पर एक अच्छा परिणाम होता है, जबकि 'फिर भी' का अर्थ एक मोड़ है!"
हालाँकि, इन प्रारंभिक परतों के पास अंतिम निर्णय नहीं होता है। जैसे-जैसे जानकारी टावर में ऊपर की परतों तक पहुँचती है, निर्णय पक्का हो जाता है। शोधकर्ताओं ने पाया कि एक बार जब मध्य परतों ने अपना काम कर दिया, तो ऊपरी परतें उस निर्णय को बस फिनिश लाइन तक ले जाती हैं। यदि आप ऊपरी परतों के "विचारों" को किसी दूसरे वाक्य के साथ बदलकर उनके साथ छेड़छाड़ करने की कोशिश करते हैं, तो AI अपना मन नहीं बदलता—यह बहुत देर हो चुकी है; निर्णय पहले ही लिया जा चुका है। लेकिन, यदि आप मध्य परतों के साथ तब छेड़छाड़ करते हैं जब AI "इसलिए" या "फिर भी" शब्द देखता है, तो आप वास्तव में उसका उत्तर बदल सकते हैं। यह सुझाव देता है कि इन विशिष्ट संकेतों के लिए मध्य परतें ही वास्तविक निर्णय लेने वाली होती हैं।
गुप्त पूर्वाग्रह (The Secret Bias)
सबसे दिलचस्प निष्कर्षों में से एक यह है कि AI पूरी तरह से तटस्थ नहीं है। शोधकर्ताओं ने पाया कि कुछ परतों में एक अंतर्निहित पूर्वाग्रह होता है। कुछ परतें "असमर्थ" उत्तर की ओर एक मजबूत झुकाव रखती हैं, जबकि अन्य "सक्षम" की ओर भारी झुकाव रखती हैं, चाहे वाक्य में कुछ भी कहा गया हो। यह ऐसे जजों की टीम की तरह है जहाँ कुछ स्वाभाविक रूप से चिड़चिड़े हैं और "ना" कहना चाहते हैं, जबकि अन्य आशावादी हैं और "हाँ" कहना चाहते हैं। अंतिम उत्तर इन पक्षपाती परतों के बीच एक खींचतान है जब तक कि सच जीत नहीं जाता।
क्रिया की भूमिका
अध्ययन ने यह भी दिखाया कि AI केवल जोड़ने वाले शब्दों से परे देखने में भी स्मार्ट है। यदि वाक्य में एक नकारात्मक क्रिया (जैसे "नियम तोड़ना" बनाम "कड़ी मेहनत करना") का उपयोग किया जाता है, तो AI को यह समझने के लिए अधिक मेहनत करनी पड़ती है कि "सक्षम" या "असमर्थ" क्या फिट बैठता है। शोधकर्ताओं ने पाया कि AI सकारात्मक या नकारात्मक क्रिया के आधार पर अलग-अलग आंतरिक मार्गों का उपयोग करता है। जब क्रियाएं नकारात्मक थीं, तो AI के मस्तिष्क के भीतर के संबंध कम स्थिर और अधिक अराजक थे, जो यह सुझाव देते हैं कि नकारात्मक भावनाएं या क्रियाएं AI की तर्क प्रक्रिया को थोड़ा अस्थिर बना देती हैं।
निष्कर्ष
संक्षेप में, यह शोध पत्र बताता है कि AI मॉडल केवल उत्तर "जानते" नहीं हैं; वे इसे चरण-दर-चरण बनाते हैं। मस्तिष्क के शुरुआती हिस्से सुरागों को पहचानते हैं, मध्य भाग निर्णय लेते हैं, और ऊपरी भाग बस फैसला सुनाते हैं। हालाँकि AI इस कार्य में बहुत अच्छा है (लगभग हर बार सही होना), यह विशिष्ट, कभी-कभी पक्षपाती, आंतरिक सर्किटों पर निर्भर करता है। यह हमें समझने में मदद करता है कि AI को वास्तव में मानवीय मूल्यों के अनुरूप होने के लिए, हमें न केवल यह जानने की आवश्यकता है कि वह क्या उत्तर देता है, बल्कि यह भी कि वह निर्णय कैसे लेता है, क्योंकि उत्तर तक पहुँचने का रास्ता स्वयं उत्तर जितना ही महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।