Levels of Analysis for Large Language Models
यह शोध पत्र डेविड मार के विश्लेषण के स्तरों और स्थापित संज्ञानात्मक विज्ञान तकनीकों को अनुकूलित करके बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के व्यवहार और उनकी आंतरिक संरचना को डिकोड करने के लिए एक ढांचा प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक ऐसा रोबोट बनाया है जो कविता लिख सकता है, गणित की समस्याओं को हल कर सकता है और इंसानों की तरह बातें कर सकता है। यह अद्भुत है, लेकिन यह एक "ब्लैक बॉक्स" भी है। आप जानते हैं कि इसमें क्या जा रहा है (आपके प्रश्न) और क्या बाहर आ रहा है (उनके उत्तर), लेकिन आपको नहीं पता कि इसके दिमाग के अंदर क्या हो रहा है। यह एक जादूगर का करतब देखने जैसा है: आप खरगोश को प्रकट होते देखते हैं, लेकिन आपको यह नहीं पता कि खरगोश वहाँ कैसे पहुँचा।
यह शोध पत्र तर्क देता है कि कंप्यूटर वैज्ञानिक उस समस्या का सामना कर रहे हैं जिसे मनोवैज्ञानिक दशकों से हल कर रहे हैं: आप उस मन को कैसे समझ सकते हैं जिसे आप देख नहीं सकते?
लेखक सुझाव देते हैं कि हमें संज्ञानात्मक विज्ञान (cognitive science) से एक टूलकिट उधार लेना चाहिए, जो डेविड मार (David Marr) नामक एक वैज्ञानिक द्वारा बनाए गए एक प्रसिद्ध ढांचे का उपयोग करता है। डेविड मार के ढांचे को एक पक्षी की उड़ान का अध्ययन करने के लिए उसे तीन अलग-अलग ज़ूम स्तरों से देखने के रूप में समझें।
यहाँ इस शोध पत्र को सरल शब्दों में, इन तीन स्तरों का उपयोग करके समझाया गया है:
स्तर 1: "क्यों" (कंप्यूटेशनल स्तर - The Computational Level)
उपमा: कल्पना कीजिए कि आप एक पक्षी का अध्ययन कर रहे हैं। इस स्तर पर, आप अभी पंखों या मांसपेशियों को नहीं देखते। आप पूछते हैं: "इस पक्षी का लक्ष्य क्या है? क्या यह प्रवास (migrate) करने की कोशिश कर रहा है? क्या यह मछली पकड़ने की कोशिश कर रहा है?" आप पक्षी को उसके द्वारा हल की जाने वाली समस्या को समझकर समझते हैं।
AI के लिए:
ChatGPT जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) को एक विशिष्ट लक्ष्य के साथ प्रशिक्षित किया जाता है: अगले शब्द की भविष्यवाणी करना। वे एक सुपर-पावर्ड ऑटो-कंप्लीट की तरह हैं।
- अंतर्दृष्टि (Insight): क्योंकि उनका एकमात्र काम यह अनुमान लगाना है कि सामान्यतः आगे क्या आता है, इसलिए वे कभी-कभी अजीब व्यवहार करते हैं।
- उदाहरण: यदि आप AI को किसी शब्द में अक्षरों को गिनने के लिए कहते हैं, तो यह इसमें बहुत अच्छा है यदि उत्तर एक सामान्य संख्या जैसे "30" है (क्योंकि यह अपने प्रशिक्षण डेटा में "30" को बहुत बार देखता है)। लेकिन यदि उत्तर "29" है, तो यह विफल हो सकता है। यह गणित में बुरा नहीं है; यह बस सबसे संभावित शब्द का अनुमान लगाने का "आदी" है।
- निष्कर्ष: AI को समझने के लिए, इसके प्रशिक्षण लक्ष्य को देखें। यदि आप जानते हैं कि यह क्या अनुमान लगाने की कोशिश कर रहा है, तो आप इसकी गलतियों का अनुमान लगा सकते हैं।
स्तर 2: "कैसे" (एल्गोरिद्मिक स्तर - The Algorithmic Level)
उपमा: अब आप पूछते हैं: "पक्षी वास्तव में कैसे उड़ता है?" क्या वह अपने पंख तेज़ी से फड़फड़ाता है? क्या वह ग्लाइड करता है? क्या वह भ्रमित हो जाता है यदि एक साथ बहुत सारे पक्षी उड़ रहे हों? यह स्तर उन प्रक्रियाओं और युक्तियों को देखता है जिनका मन उपयोग करता है।
AI के लिए:
चूंकि हम AI के अंदर के कोड को देख नहीं सकते, इसलिए हमें इसे यह दिखाने के लिए मजबूर करना होगा कि इसकी "विचार प्रक्रिया" क्या है, ठीक वैसे ही जैसे मनोवैज्ञानिक मनुष्यों के साथ करते हैं।
- "भीड़भाड़ वाला कमरा" परीक्षण: मनुष्य तब भ्रमित हो जाते हैं जब वे एक साथ बहुत सारी चीजें याद रखने की कोशिश करते हैं (जैसे एक लाल वर्ग और एक नीला वृत्त)। यदि हम उन्हें मिला दें, तो हम शायद एक "लाल वृत्त" याद रखेंगे। शोध पत्र ने पाया कि AI मॉडल भी बिल्कुल ऐसा ही करते हैं! वे एक साथ कई दृश्य विवरणों को प्रोसेस करते समय "भ्रमित" हो जाते हैं, जो यह साबित करता है कि वे मनुष्यों की तरह ही एक समान "पैरेलल प्रोसेसिंग" विधि का उपयोग करते हैं।
- "गुप्त जुड़ाव" परीक्षण: यदि आप AI से सीधे पूछते हैं, "क्या महिलाएं प्रबंधन में खराब हैं?" तो वह कहेगा, "नहीं, यह एक रूढ़िवादी धारणा (stereotype) है।" लेकिन यदि आप एक शब्द-जुड़ाव खेल खेलते हैं (जैसे "कौन सा शब्द 'शादी' के साथ जाता है?"), तो यह गुप्त रूप से "महिला" को "शादी" से और "पुरुष" को "कार्यालय" से जोड़ सकता है।
- निष्कर्ष: AI द्वारा की जाने वाली गलतियों या शब्दों के जुड़ाव को देखकर, हम बिना उसके कोड को देखे, उसके आंतरिक "मानसिक मानचित्र" (mental map) को मैप कर सकते हैं।
स्तर 3: "क्या" (इम्प्लीमेंटेशन स्तर - The Implementation Level)
उपमा: अंत में, आप हार्डवेयर को देखते हैं। मांसपेशियां और हड्डियां किस चीज से बनी हैं? पंख को हिलाने के लिए तंत्रिकाएं कैसे सक्रिय होती हैं?
AI के लिए:
यह कंप्यूटर चिप के अंदर के वास्तविक न्यूरॉन्स और तारों के बारे में है।
- अंतर्दृष्टि: वैज्ञानिक अब AI पर "सर्जरी" कर रहे हैं। वे AI के मस्तिष्क के विशिष्ट हिस्सों को झटक (zap) सकते हैं (एक न्यूरॉन को चालू या बंद करना) यह देखने के लिए कि क्या होता है।
- खोज: उन्होंने AI के भीतर विशिष्ट "सर्किट" पाए हैं जो एक स्पेल-चेकर या मेमोरी बैंक की तरह कार्य करते हैं। यदि वे एक विशिष्ट सर्किट को तोड़ देते हैं, तो AI सच बोलना भूल जाता है या बातचीत से सीखना बंद कर देता है।
- निष्कर्ष: हम मशीन के भीतर चलते हुए भौतिक गियर को देखना शुरू कर रहे हैं, जो यह साबित करता है कि ये जटिल व्यवहार विशिष्ट, समझने योग्य हिस्सों से बने हैं।
बड़ी तस्वीर: यह क्यों मायने रखता है?
शोध पत्र निष्कर्ष निकालता है कि हमें केवल यह परीक्षण करके AI को नहीं परखना चाहिए कि क्या वह एक कठिन गणित परीक्षण पास कर सकता है (जो वह भाग्य से कर सकता है)। इसके बजाय, हमें यह समझने के लिए कि वह क्यों इस तरह से सोचता है, मनोविज्ञान का उपयोग करना चाहिए।
- "रिवर्स साइकोलॉजी" का तरीका: जिस तरह हम जानते हैं कि यदि हम किसी को चेहरे का वर्णन करने के लिए कहें, तो वे चेहरे को पहचानने में खराब हो जाते हैं, शोध पत्र ने पाया कि AI को "ज़ोर से सोचने" (Chain of Thought) के लिए कहने से पैटर्न पहचानने जैसे कुछ कार्यों में वह वास्तव में और खराब हो जाता है।
- भविष्य: AI को केवल एक कैलकुलेटर के बजाय एक नए प्रकार के मन के रूप में मानकर, हम इसकी कमजोरियों को ढूंढ सकते हैं, इसके पूर्वाग्रहों को समझ सकते हैं और बेहतर, सुरक्षित सिस्टम बना सकते हैं।
संक्षेप में: हम अब केवल AI बना नहीं रहे हैं; हम इसके थेरेपिस्ट बनना सीख रहे हैं, उन्हीं उपकरणों का उपयोग कर रहे हैं जिनका उपयोग हम स्वयं को समझने के लिए करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।