On the use of foundation models in cognitive science
यह शोध पत्र फाउंडेशन मॉडल्स का संज्ञानात्मक और विकासात्मक मॉडल के रूप में कठोरता से मूल्यांकन करने के लिए एक चार-चरणीय अनुमानात्मक ढांचे का प्रस्ताव करता है, यह तर्क देते हुए कि केवल व्यवहारिक संरेखण अपर्याप्त है और इसे स्पष्ट सैद्धांतिक प्रतिबद्धताओं, परिकल्पनाओं को जोड़ने और व्यवस्थित तुलनात्मक मूल्यांकन में निहित होना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो इस रहस्य को सुलझाने की कोशिश कर रहे हैं कि मानव मस्तिष्क कैसे काम करता है। दशकों से, वैज्ञानिकों ने हमारे दिमाग के "मॉडल" के रूप में काम करने के लिए छोटे, सरल कंप्यूटर प्रोग्राम बनाए हैं, और गणित की समस्याओं या भाषा के खेलों जैसे पहेलियों के माध्यम से उनका परीक्षण किया है। यदि कंप्यूटर वही गलतियाँ करता है जो एक बच्चा करता है, या एक ही समय में पहेली को हल करता है, तो यह सुझाव देता है कि कंप्यूटर शायद एक समान "सोचने" की प्रक्रिया का उपयोग कर रहा है। अब, एक नया, अत्यंत शक्तिशाली प्रकार का कंप्यूटर मस्तिष्क आया है: फाउंडेशन मॉडल (Foundation Model)। ये विशाल AI सिस्टम हैं जो कहानियाँ लिख सकते हैं, जटिल तर्क संबंधी समस्याओं को हल कर सकते हैं और मनुष्यों की तरह बातचीत कर सकते हैं। वे मानव व्यवहार की नकल करने में इतने कुशल हैं कि कुछ शोधकर्ता एक रोमांचक प्रश्न पूछ रहे हैं: "क्या ये AI सिस्टम वास्तव में हमारी तरह सोच रहे हैं, या वे केवल बहुत अच्छी तरह से दिखावा कर रहे हैं?" यह शोध पत्र इस बहस में कदम रखता है, AI का पक्ष लेने के लिए नहीं, बल्कि एक सख्त रेफरी के रूप में, यह पूछते हुए: "सिर्फ इसलिए कि AI सही उत्तर प्राप्त कर लेता है, क्या यह साबित होता है कि हम समझते हैं कि वह वहां तक कैसे पहुँचा?"
लेखक, जो जॉर्जिया टेक, यूसी सैन डिएगो और स्टैनफोर्ड के शोधकर्ताओं की एक टीम है, तर्क देते हैं कि केवल एक AI को सही उत्तर देते हुए देखना इसे मानव संज्ञान (human cognition) का मॉडल कहने के लिए पर्याप्त नहीं है। वे एक नया, चार-चरणीय "जासूसी ढांचा" (detective framework) प्रस्तावित करते हैं ताकि यह सुनिश्चित किया जा सके कि जब हम कहते हैं कि एक AI मानव सोच के साथ संरेखित (align) है, तो हमारा वास्तव में एक वैज्ञानिक और गहरा अर्थ हो, न कि केवल एक भाग्यशाली संयोग।
चार-चरणीय जासूसी किट (The Four-Step Detective Kit)
पत्र सुझाव देता है कि वास्तव में यह परीक्षण करने के लिए कि क्या कोई AI मानव मन का मॉडल है, आप केवल एक प्रश्न AI पर नहीं फेंक सकते और देख नहीं सकते कि क्या होता है। आपको चार विशिष्ट चरणों के साथ एक संरचित जांच की आवश्यकता है, जैसे वैज्ञानिकों के लिए "साइमन कहता है" (Simon Says) का खेल हो:
अनुवाद (अनुकूलन - Adaptation): सबसे पहले, आपको मानव परीक्षण को अनुवादित करना होगा ताकि AI खेल सके। कल्पना कीजिए कि एक मानव आकृतियों और रंगों के साथ एक दृश्य पहेली परीक्षण ले रहा है। एक AI जो केवल टेक्स्ट पढ़ सकता है, वह उन आकृतियों को नहीं देख सकता। इसलिए, शोधकर्ताओं को दृश्य पहेली को एक टेक्स्ट विवरण (जैसे "एक नीले वर्ग के बगल में एक लाल वृत्त") में बदलना होगा बिना पहेली के तर्क को बदले। यदि अनुवाद त्रुटिपूर्ण है, तो AI गलत कारणों से विफल हो सकता है, या गलत कारणों से सफल हो सकता है।
शब्दकोश (लिंकिंग हाइपोथीसिस - Linking Hypothesis): यह सबसे महत्वपूर्ण चरण है। आपको एक शब्दकोश की आवश्यकता है जो AI के "कहे" को मानव द्वारा "किए जाने वाले कार्यों" में अनुवादित करे। क्या AI का आंतरिक गणित का अर्थ है कि वह "कड़ी मेहनत से सोच रहा है"? क्या उसकी हिचकिचाहट का अर्थ है कि वह "भ्रमित" है? पत्र चेतावनी देता है कि यह शब्दकोश बनाने के कई तरीके हैं। आप AI के अंतिम उत्तर (जैसे बहुविकल्पीय परीक्षा) को देख सकते हैं, या आप यह देख सकते हैं कि सोचने में कितना समय लगा (जैसे प्रतिक्रिया समय मापना), या आप उसके आंतरिक "विचार प्रक्रिया" (जैसे उसकी डायरी पढ़ना) को भी देख सकते हैं। लेखक जोर देते हैं कि आपके शब्दकोश का चयन पूरी कहानी को बदल देता है। यदि आप गलत शब्दकोश का उपयोग करते हैं, तो आप सोच सकते हैं कि AI एक जीनियस है जबकि वह वास्तव में केवल अनुमान लगा रहा है।
स्कोरकार्ड (मूल्यांकन - Evaluation): अब आप AI के प्रदर्शन की वास्तविक मानव डेटा के साथ तुलना करते हैं। लेकिन यहाँ एक पेच है: केवल औसत स्कोर न देखें। यदि AI 90% सही है और मनुष्य 90% सही हैं, तो यह एक शुरुआत है। लेकिन एक अच्छा मॉडल भी उन्हीं स्थितियों में उन्हीं चीजों में गलत होना चाहिए। यदि मनुष्य एक विशिष्ट प्रकार की पेचीदा पहेली में संघर्ष करते हैं, तो AI को भी संघर्ष करना चाहिए। यदि AI इसमें आसानी से निकल जाता है जबकि मनुष्य लड़खड़ाते हैं, तो AI मानव सोच का मॉडल नहीं है; वह केवल एक अलग, शायद आसान, शॉर्टकट का उपयोग कर रहा है।
तुलना (कॉन्ट्रास्ट - Contrast): अंत में, आपको "क्या होगा यदि?" खेलना होगा। आप केवल एक AI का परीक्षण नहीं कर सकते। आपको विभिन्न संस्करणों का परीक्षण करना होगा: एक छोटा AI, एक बड़ा AI, या एक ऐसा AI जिसके मस्तिष्क का एक विशिष्ट हिस्सा हटा दिया गया हो। यदि आप AI का एक हिस्सा हटा देते हैं और वह अचानक मानव की तरह व्यवहार करना बंद कर देता है, तो आपने उस संकेत को ढूंढ लिया है जो वास्तव में "सोचने" की प्रक्रिया के महत्वपूर्ण हिस्से के बारे में है। यह चरण वैज्ञानिकों को यह समझने में मदद करता है कि AI क्यों काम कर रहा है, न कि केवल यह कि वह काम कर रहा है।
"दिखावा करने" का जाल (The Trap of "Faking It")
शोध पत्र एक प्रमुख जाल की ओर बहुत सावधानी से इशारा करता है: व्यवहार संबंधी संरेखण (Behavioral alignment) समान होने के बराबर नहीं है।
कल्पना कीजिए कि दो लोग भूलभुलैया सुलझा रहे हैं। एक व्यक्ति मानचित्र और तर्क का उपयोग करता है (मानव तरीका)। दूसरा व्यक्ति शुद्ध भाग्य से बाहर निकलने का रास्ता खोजने के लिए हर दीवार से टकराता रहता है (AI तरीका)। यदि वे दोनों समान समय में बाहर पहुँच जाते हैं, तो वे बाहर से समान दिखते हैं। लेकिन अंदर से, वे पूरी तरह से अलग हैं। लेखक तर्क देते हैं कि वर्तमान अध्ययन ऐसे हैं जैसे फिनिश लाइन को देखना और यह मान लेना कि दोनों धावकों ने एक ही रणनीति का उपयोग किया। वे चेतावनी देते हैं कि सिर्फ इसलिए कि एक AI मानव व्यवहार को पुनरुत्पादित कर सकता है (जैसे गणित की समस्या हल करना या शब्द सीखना), इसका मतलब यह नहीं है कि वह समान मानसिक मशीनरी का उपयोग कर रहा है।
पत्र यह भी रेखांकित करता है कि ये AI मॉडल विशाल टेक्स्ट के ढेर पर प्रशिक्षित होते हैं, जबकि मनुष्य दुनिया के साथ बातचीत करके, माता-पिता से बात करके और बड़े होकर सीखते हैं। क्योंकि उनका "बचपन" (प्रशिक्षण) इतना अलग है, AI उन पैटर्न को सीख सकता है जिन्हें मनुष्य कभी नहीं देखते, या उन पैटर्न को मिस कर सकता है जिन पर मनुष्य निर्भर करते हैं। लेखक सुझाव देते हैं कि हमें AI विकास की तुलना मानव विकास से करते समय बहुत सावधान रहने की आवश्यकता है, क्योंकि वहां तक पहुँचने के रास्ते मौलिक रूप से भिन्न हैं।
मुख्य निष्कर्ष (The Bottom Line)
लेखक यह नहीं कह रहे हैं कि AI हमें मानव मन के बारे में नहीं सिखा सकता। वास्तव में, वे सोचते हैं कि ये मॉडल अविश्वसनीय रूप से आशाजनक उपकरण हैं। लेकिन वे कह रहे हैं कि हमें उन्हें केवल "सही करने वाले" जादू के बक्सों के रूप में मानना बंद करना होगा। इसके बजाय, हमें उन्हें वैज्ञानिक उपकरणों के रूप में मानना चाहिए जिन्हें सावधानीपूर्वक अंशांकन (calibration) की आवश्यकता होती है।
पत्र निष्कर्ष निकालता है कि मानव संज्ञान के वास्तविक मॉडल के रूप में होने के लिए, एक AI को केवल हमारे उत्तरों की नकल करने से कहीं अधिक करना होगा। उसे एक कठोर परीक्षण पास करना होगा जहाँ वह उसी तरह विफल होता है जैसे हम होते हैं, उसी तरह सफल होता है जैसे हम होते हैं, और उन्हीं आंतरिक "तर्क" चरणों पर निर्भर करता है जिनका हम उपयोग करते हैं। केवल जब हम यह सिद्ध कर सकें कि AI का "मस्तिष्क" हमारे अपने मस्तिष्क के बारे में हमारी धारणाओं के अनुरूप काम कर रहा है—इन चार सावधानीपूर्वक चरणों के माध्यम से—तभी हम कह सकते हैं कि हम वास्तविक वैज्ञानिक प्रगति कर रहे हैं। तब तक, AI केवल एक बहुत ही सम्मोहक अभिनेता हो सकता है, और हमें यह सुनिश्चित करने की आवश्यकता है कि हम इस प्रदर्शन से धोखा न खा जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।