Is Convergence Inevitable? Tracing Output Homogeneity Back to Base Models
यह शोध पत्र यह तर्क देता है कि लार्ज लैंग्वेज मॉडल्स में आउटपुट की एकरूपता मुख्य रूप से एलाइनमेंट प्रक्रिया के कारण नहीं होती है, बल्कि यह प्रीट्रेनिंग के दौरान सीखी जाती है और बाद के इंस्ट्रक्शन ट्यूनिंग एवं एलाइनमेंट चरणों द्वारा केवल प्रकट या प्रवर्धित की जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हलचल भरी लाइब्रेरी में कदम रख रहे हैं जहाँ हर सेकंड लाखों किताबें लिखी जा रही हैं। यह कागज और स्याही की लाइब्रेरी नहीं है, बल्कि एक डिजिटल क्षेत्र है जहाँ "लार्ज लैंग्वेज मॉडल्स" (LLMs) नामक कंप्यूटर इंटरनेट पर मौजूद लगभग हर चीज़ को पढ़कर बोलना, लिखना और रचना करना सीखते हैं। इन मॉडल्स को ऐसे अत्यंत तेज़, अति-जुनूनी छात्रों के रूप में सोचें जो वाक्य को पूरा करना सीखने के लिए पूरी लाइब्रेरी पढ़ डालते हैं। लेकिन हाल ही में, लोगों ने कुछ अजीब गौर किया है: आप इनसे कोई भी सवाल पूछें, इनके जवाब एक जैसे सुनाई देने लगते हैं। ये सभी एक ही तरह के रूपकों (metaphors) का उपयोग करते हैं, एक ही तरह के विनम्र वाक्यांशों का प्रयोग करते हैं, और अजीब, विचित्र या रचनात्मक विचारों से बचते हैं। यह बिल्कुल वैसा ही है जैसे आप दस अलग-अलग शेफ से एक सैंडविच बनाने को कहें, और वे सभी बिल्कुल एक ही तरह की ब्रेड, एक ही तरह का हैम और एक ही तरह का मस्टर्ड इस्तेमाल करने का फैसला करें, यहाँ तक कि स्लाइस की सटीक संख्या भी एक ही हो।
वैज्ञानिक इसे "आउटपुट होमोजेनिटी" (output homogeneity) या "सिमेंटिक कन्वर्जेंस" (semantic convergence) कहते हैं। यह एक बड़ी चिंता का विषय है क्योंकि यदि हमारे AI सहायक सभी एक ही संकीर्ण तरीके से सोचने और बात करने लगे, तो हम मानवीय रचनात्मकता की चमक खो सकते हैं। लंबे समय तक, लोगों ने सोचा कि यह उबाऊ, दोहराव वाला व्यवहार उस "ट्रेनिंग" के कारण होता है जो मॉडल को लाइब्रेरी पढ़ने के बाद दी जाती है। प्रशिक्षण का यह दूसरा चरण, जिसे "अलाइनमेंट" (alignment) कहा जाता है, एक सख्त शिक्षक की तरह है जो छात्र को आकर कहता है, "वह अजीब बात मत कहो; इसके बजाय यह विनम्र बात कहो।" सामान्य धारणा यह थी कि छात्र मूल रूप से एक जंगली, रचनात्मक जीनियस था, और शिक्षक के नियमों ने उसकी रचनात्मकता को कुचल दिया। लेकिन क्या होगा अगर शिक्षक के आने से पहले ही छात्र उबाऊ हो चुका था? क्या होगा अगर "शिक्षक" ने केवल उस उबाऊपन को और अधिक मुखर कर दिया हो?
यह शोध पत्र, जिसका शीर्षक "क्या अभिसरण अपरिहार्य है?" (Is Convergence Inevitable?), इस तलाश में लगा है कि यह एकरूपता वास्तव में कहाँ से शुरू होती है। लेखक, जो यूनिवर्सिटी ऑफ ब्रिटिश कोलंबिया के शोधकर्ता हैं, ने दो बड़े विचारों का परीक्षण करने का निर्णय लिया। पहला, वे यह देखना चाहते थे कि क्या "अलाइनमेंट" की प्रक्रिया (शिक्षक के नियम) वह खलनायक है जो रचनात्मकता को मार देती है। दूसरा, वे यह देखना चाहते थे कि क्या "प्रीट्रेनिंग" चरण (छात्र द्वारा लाइब्रेरी पढ़ना) ने बोरियत को शुरुआत से ही मॉडल के मस्तिष्क में पका दिया था। इस रहस्य को सुलझाने के लिए, उन्होंने न केवल मॉडल्स से सवाल पूछे; बल्कि उन्होंने रूपकों (metphors) को एक परीक्षण विषय के रूप में उपयोग करते हुए प्रयोगों की एक श्रृंखला चलाई। उन्होंने मॉडल्स के साथ विज्ञान प्रयोगशाला के चूहों जैसा व्यवहार किया, उन्हें विशिष्ट निर्देश दिए ताकि यह देखा जा सके कि क्या उन्हें रचनात्मक होने के लिए छला जा सकता है या वे एक लूप में फंसे हुए हैं।
यहाँ उन्हें क्या मिला, और यह एक बड़ा ट्विस्ट है।
सबसे पहले, उन्होंने मॉडल्स को उनकी "स्कूली शिक्षा" के विभिन्न चरणों पर देखा। उन्होंने मॉडल्स को लाइब्रेरी खत्म करने के तुरंत बाद ("बेस मॉडल"), फिर निर्देश पालन करना सीखने के बाद ("SFT" चरण), और अंत में मददगार और सुरक्षित होने के लिए अलाइन करने के बाद ("DPO" और "RL" चरण) जांचा। परिणाम चौंकाने वाले थे। निर्देशों का पालन करने के सीखने के पहले चरण के बाद भी—किसी भी सख्त सुरक्षा नियमों या "मददगार" फिल्टर को जोड़े बिना—मॉडल्स पहले से ही लगभग एक जैसे जवाब दे रहे थे। जब उनसे "समय" के बारे में एक रूपक लिखने को कहा गया, तो मॉडल्स ने केवल समान स्वर में ही नहीं बोला, बल्कि ऐसा लगा जैसे वे एक ही स्क्रिप्ट पढ़ रहे हों। लेखक सुझाव देते हैं कि "अलाइनमेंट" की प्रक्रिया विविधता को कुचलने वाली नहीं है; यह केवल एक आवर्धक लेंस (magnifying glass) है जो उस पैटर्न को उजागर करता है जो पहले से ही वहाँ मौजूद था, जो आँखों के सामने छिपा हुआ था।
इसे साबित करने के लिए, शोधकर्ताओं ने ट्रेनिंग डेटा के साथ "अंतर पहचानो" का खेल खेला। उन्होंने एक मॉडल को लिया और उसे सोचने का एक नया तरीका सिखाने की कोशिश की। उन्होंने निर्देशों का एक विशेष सेट बनाया जहाँ उन्होंने मॉडल को "समय" के लिए एक विशिष्ट, अजीब रूपक (जैसे "समय एक सैंडविच है") का उपयोग करने के लिए कहा जो मॉडल ने पहले कभी नहीं देखा था। उन्हें उम्मीद थी कि इस नए विचार को याद करने के लिए मॉडल को मजबूर करके, वे इस पैटर्न को तोड़ सकेंगे। लेकिन मॉडल टस से मस नहीं हुआ। उसने नए "सैंडविच" विचार को अनदेखा कर दिया और पुराने, उबाऊ "नदी" के रूपक पर ही टिका रहा जिसे वह शुरू से ही पसंद करता आया था। शोधकर्ताओं ने पाया कि मॉडल को प्रवर्धित (amplify) किया जा सकता था—उसे एक ही बात और भी ज़ोर से कहने के लिए प्रेरित किया जा सकता था—लेकिन उसे एक नया सोचने का तरीका परिचय नहीं कराया जा सकता था यदि वह विचार पहले से ही उसकी स्मृति में मौजूद नहीं था। यह एक कुत्ते को म्याऊं करना सिखाने की कोशिश करने जैसा है; आप चाहे कितनी भी प्रशंसा क्यों न करें, वह ऐसा नहीं करेगा क्योंकि म्याऊं करना उसके डीएनए में नहीं है।
अंत में, वे बिल्कुल शुरुआत में वापस गए: उन "बेस मॉडल्स" के पास जिन्होंने कभी निर्देश पालन करना या विनम्र होना नहीं सीखा था। उन्हें लगा कि ये कच्चे मॉडल्स जंगली और विविध होंगे। लेकिन जब उन्होंने एक विशेष चाल चली—एक मददगार सहायक होने का नाटक किया या मॉडल को उत्तर देने के कुछ उदाहरण दिए—तो उन्होंने वही उबाऊ पैटर्न उभरते हुए देखे। बिना किसी शिक्षक के भी, जब कच्चे मॉडल को सही दिशा में धकेला गया, तो वह स्वाभाविक रूप से उसी "नदी" के रूपक में सिमट गया। इससे पता चलता है कि एक ही उत्तरों पर अभिसरण (converge) होने की प्रवृत्ति मॉडल्स की कोई गलती नहीं है जिसे शिक्षकों ने बनाया है; यह एक स्वाभाविक आदत है जो मॉडल्स ने केवल लाइब्रेरी पढ़ते समय सीखी है।
तो, इसका क्या अर्थ है? यह शोध पत्र सुझाव देता है कि AI में दिखने वाली एकरूपता केवल उन्हें सुरक्षित या विनम्र बनाने का दुष्प्रभाव नहीं है। इसके बजाय, ऐसा लगता है कि यह इस बात का एक मौलिक हिस्सा है कि ये मॉडल्स वाक्य में अगले शब्द की भविष्यवाणी कैसे करते हैं। जब आप एक मॉडल को भारी मात्रा में मानव पाठ (human text) पर प्रशिक्षित करते हैं, तो वह सीख जाता है कि सबसे "संभावित" उत्तर अक्सर सबसे सामान्य उत्तर होता है। "अलाइनमेंट" की प्रक्रिया बस इस स्वाभाविक प्रवृत्ति की आवाज़ को तेज़ कर देती है। लेखक निष्कर्ष निकालते हैं कि इस समस्या को ठीक करना आसान नहीं होगा। आप केवल AI को अधिक रचनात्मक बनाने के लिए अंतिम "शिक्षक" के नियमों में बदलाव नहीं कर सकते, क्योंकि रचनात्मकता वास्तव में वहां कभी थी ही नहीं। "बोरियत" रेसिपी में पहले से ही पकी हुई है, न कि अंत में जोड़ी गई है। हालाँकि यह थोड़ा निराशाजनक लग सकता है, लेकिन यह एक महत्वपूर्ण खोज है। यह हमें बताता है कि यदि हम वास्तव में विविध और रचनात्मक AI चाहते हैं, तो हमें केवल उनके व्यवहार को ठीक करने के बजाय, सबसे पहले उन्हें सिखाने के तरीके पर पुनर्विचार करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।