Biasless Language Models Learn Unnaturally: How LLMs Fail to Distinguish the Possible from the Impossible
पिछले दावों के विपरीत, यह अध्ययन प्रदर्शित करता है कि GPT-2 स्वाभाविक और "असंभव" भाषाओं के बीच व्यवस्थित रूप से अंतर करने में विफल रहता है, दोनों को समान सुगमता से सीखता है और मानव रूप से संभव भाषाई संरचनाओं के प्रति कोई अंतर्निहित पूर्वाग्रह नहीं दिखाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य सवाल: क्या AI और इंसान एक जैसा सोचते हैं?
कल्पना कीजिए कि आप एक रोबोट को बोलना सिखा रहे हैं। आप उसे असली जीवन के लाखों वाक्य देते हैं (जैसे कि एक कहानी की किताब) और लाखों ऐसे वाक्य जो पूरी तरह से बेतरतीब और निरर्थक हैं (जैसे कि एक ऐसी किताब जहाँ हर शब्द को ब्लेंडर में डाल दिया गया हो)।
पुरानी थ्योरी: लंबे समय तक, भाषाविदों (linguists) का मानना था कि इंसानों के दिमाग में एक विशेष "जैविक फिल्टर" (biological filter) होता है। हम यह जानकर पैदा होते हैं कि कुछ पैटर्न समझ में आते हैं (जैसे "The cat sat on the mat") और कुछ असंभव हैं (जैसे "On the mat sat the cat" यदि व्याकरण के नियम किसी खास, अप्राकृतिक तरीके से तोड़े गए हों)। इसे जेनरेटिव हाइपोथीसिस (Generative Hypothesis) कहा जाता है। यह सुझाव देता है कि यदि आप किसी इंसान को एक "बेतरतीब" (scrambled) भाषा दिखाएंगे, तो वह तुरंत कहेगा, "नहीं, यह कोई वास्तविक भाषा नहीं है।"
नया विवाद: हाल ही में, कुछ शोधकर्ताओं ने दावा किया कि GPT-2 जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) बिल्कुल इंसानों की तरह व्यवहार करते हैं। उन्होंने कहा, "देखो! AI वास्तविक भाषा को बेतरतीब कचरे की तुलना में बहुत तेज़ी से सीख लेता है। यह साबित करता है कि AI के पास भी हमारे जैसा 'जैविक फिल्टर' है, और शायद हमें यह मानने की ज़रूरत नहीं है कि इंसानों में कुछ जन्मजात पूर्वाग्रह (innate biases) होते हैं।"
इस पेपर का फैसला: इस पेपर के लेखक कहते हैं, "एक मिनट रुकिए। हमने इसे फिर से टेस्ट किया, लेकिन अधिक भाषाओं और बेतरतीब करने के अधिक प्रकारों के साथ। और अंदाज़ा लगाइए क्या हुआ? AI को इससे कोई फर्क नहीं पड़ता। यह वास्तविक भाषा और बेतरतीब भाषा दोनों को बिल्कुल एक ही गति से सीखता है। कभी-कभी, तो यह बेतरतीब भाषा को ही पसंद भी करने लगता है!"
प्रयोग: "लैंग्वेज जिम" (The Language Gym)
इसे टेस्ट करने के लिए, शोधकर्ताओं ने AI (GPT-2) के लिए एक विशाल जिम बनाया।
- वजन (डेटा): उन्होंने 9 अलग-अलग भाषाएं लीं (अंग्रेजी, फ्रेंच, रूसी, हिब्रू, आदि)।
- स्कैम्बल (असंभव): हर वास्तविक भाषा के लिए, उन्होंने कुछ ट्रिक्स का उपयोग करके "असंभव" संस्करण बनाए:
- द शफल (The Shuffle): एक वाक्य को लेकर उसके शब्दों को बेतरतीब ढंग से मिला देना।
- द रिवर्स (The Reverse): वाक्य को उल्टा पढ़ना।
- द हॉप (The Hop): शब्दों को एक अजीब, अप्राकृतिक पैटर्न में इधर-उधर करना।
- वर्कआउट (ट्रेनिंग): उन्होंने AI को वास्तविक भाषा और स्कैम्बल किए गए संस्करण पर अलग-अलग प्रशिक्षित किया।
- स्कोरकार्ड (परप्लेक्सिटी): उन्होंने मापा कि AI कितना "भ्रमित" (confused) हुआ। AI की भाषा में, इसे परप्लेक्सिटी (Perplexity) कहा जाता है।
- कम परप्लेक्सिटी = AI इसे आसानी से समझ लेता है (जैसे एक सुगम दौड़)।
- उच्च परप्लेक्सिटी = AI संघर्ष कर रहा है (जैसे कीचड़ में दौड़ना)।
परिणाम: AI "बायसलेस" (Biasless) है
यदि पुरानी थ्योरी सच होती, तो AI को इंसान की तरह होना चाहिए था: उसे वास्तविक भाषा पर सुचारू रूप से चलना चाहिए था और स्कैम्बल की गई भाषा पर लड़खड़ाना चाहिए था।
वास्तव में क्या हुआ?
- "जुड़वा" प्रभाव (The Twin Effect): वास्तविक भाषा और स्कैम्बल की गई भाषा के लिए AI का लर्निंग कर्व लगभग एक जैसा था। वे जुड़वा भाई-बहन की तरह थे।
- "पसंदीदा" गड़बड़ी (The Preference Glitch): कई मामलों में, AI को वास्तव में वास्तविक भाषा की तुलना में स्कैम्बल किया गया कचरा सीखना थोड़ा आसान लगा!
- बड़ी तस्वीर: जब उन्होंने सभी भाषाओं को एक साथ देखा, तो AI ने "वास्तविक भाषाओं" को "नकली भाषाओं" से अलग नहीं किया। उसने उन सभी को बस याद करने योग्य पैटर्न के रूप में देखा।
उपमा: संगीत का छात्र बनाम डीजे (The Music Student vs. The DJ)
कल्पना कीजिए कि दो छात्र संगीत सीख रहे हैं:
- मानव छात्र (भाषाविद्): आप उन्हें एक सुंदर, संरचित सिम्फनी सुनाते हैं। फिर आप उन्हें एक ऐसा ट्रैक सुनाते हैं जहाँ ड्रम पीछे की ओर बज रहे हैं और वायलिन बेतरतीब ढंग से चिल्ला रहा है। मानव छात्र तुरंत कहता है, "यह संगीत नहीं है; यह शोर है। मैं इसे नहीं सीख सकता क्योंकि यह सामंजस्य (harmony) के नियमों को तोड़ता है।" उनके पास संरचना के लिए एक जन्मजात पूर्वाग्रह (innate bias) है।
- AI छात्र (डीजे): आप उसे सिम्फनी सुनाते हैं। फिर आप उसे शोर सुनाते हैं। AI छात्र बस नोट्स को याद करना शुरू कर देता है। "ठीक है, सिम्फनी में, वायलिन ऊंचा-नीचा जाता है। शोर में, वायलिन नीचा-ऊंचा जाता है। समझ गया।" AI को इससे कोई फर्क नहीं पड़ता कि संगीत "असली" है या "असंभव"। वह बस पैटर्न देखता है।
पेपर निष्कर्ष निकालता है: AI एक शानदार डीजे है, लेकिन वह एक मानव संगीतकार नहीं है। उसमें वह "जैविक फिल्टर" नहीं है जो इंसानों को स्वाभाविक रूप से असंभव भाषाओं को खारिज करने के लिए प्रेरित करता है।
यह क्यों मायने रखता है?
- AI के लिए: यह सुझाव देता है कि वर्तमान AI मॉडल केवल पैटर्न पहचानने में बहुत अच्छे हैं, लेकिन वे वास्तव में भाषा को उस तरह से "समझते" नहीं हैं जैसे इंसान समझते हैं। उनके पास वे आंतरिक नियम नहीं हैं जो मानव भाषण को निर्देशित करते हैं।
- भाषाविज्ञान (Linguistics) के लिए: यह इस विचार का समर्थन करता है कि इंसानों के पास विशेष, जन्मजात पूर्वाग्रह होते हैं जो हमारे बोलने के तरीके को आकार देते हैं। यदि AI (जिसके पास कोई जीव विज्ञान नहीं है) वास्तविक भाषा और टूटी हुई भाषा के बीच अंतर नहीं कर सकता, जबकि इंसान कर सकते हैं, तो वे मानवीय पूर्वाग्रह वास्तविक और अद्वितीय होने चाहिए।
- "आसान सीखने" के मिथक के लिए: यह पेपर इस विचार को गलत साबित करता है कि हम यह साबित करने के लिए कि AI इंसान की तरह सोचता है, केवल यह देख सकते हैं कि वह कितनी तेज़ी से सीखता है। कभी-कभी, तेज़ी से सीखना केवल यह नहीं है कि आप सत्य को समझ रहे हैं, बल्कि यह है कि आप निरर्थक चीज़ों को याद करने में माहिर हैं।
निचोड़ (The Bottom Line)
पेपर तर्क देता है कि LLMs उस तरह से "बायसलेस" हैं जिस तरह से इंसान नहीं हैं। वे कुछ भी सीख सकते हैं, यहाँ तक कि ऐसी चीजें भी जो मानव बोलने के लिए तार्किक रूप से असंभव हैं। इसका मतलब है कि हम AI को यह समझने के लिए एक आदर्श दर्पण के रूप में उपयोग नहीं कर सकते कि मानव मस्तिष्क भाषा कैसे सीखता है। मानव मस्तिष्क के पास एक विशेष "ग्रामर फिल्टर" है जिसे AI के पास नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।