CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse
यह शोध पत्र CreativityNeuro को प्रस्तुत करता है, जो एक डेटा-मुक्त विधि है जो भाषा मॉडल के भार (weights) को इस प्रकार निर्देशित करती है जिससे बिना पुनप्रशिक्षण या व्यवहार संबंधी डेटा के विभिन्न रचनात्मकता कार्यों में विचलनशील सोच (divergent thinking) को महत्वपूर्ण रूप से बढ़ाया जा सके और मोड कोलैप्स (mode collapse) को कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े भाषा मॉडल (जैसे कि चैटबॉट्स को चलाने वाले मॉडल) की कल्पना एक अति-बुद्धिमान लेकिन बहुत ही अनुमानित शेफ के रूप में करें। इस शेफ ने दुनिया की लगभग हर रेसिपी पढ़ ली है। जब आप उनसे "कुछ रचनात्मक (creative) बनाने" के लिए कहते हैं, तो वे अक्सर बार-बार वही कुछ लोकप्रिय व्यंजन परोस देते हैं। वे एक लूप में फंस जाते हैं, और जब आपने "कुछ नया" माँगा हो, तब भी वे आपको "पिज्जा" परोसते रहते हैं, या जब आप किसी सरप्राइज की उम्मीद कर रहे हों, तब भी वे "पास्ता" परोस देते हैं। पेपर में, लेखक इसे "आर्टिफिशियल हाइवमाइंड इफेक्ट" (artificial hivemind effect) कहते हैं—जहाँ हर कोई (या हर AI) बिल्कुल एक जैसा सोच रहा हो।
यह पेपर इस समस्या को ठीक करने के लिए CreativityNeuro नामक एक नया टूल पेश करता है। यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:
1. समस्या: शेफ का "कंफर्ट ज़ोन"
जब AI रचनात्मक होने की कोशिश करता है, तो वह अपने सबसे सामान्य और सुरक्षित उत्तरों की ओर वापस चला जाता है। यह एक जैज़ संगीतकार की तरह है जो केवल वही तीन नोट बजाता है क्योंकि वे सबसे परिचित हैं। पेपर में इसे "मोड कोलैप्स" (mode collapse) कहा गया है। AI नए विचारों की खोज करना बंद कर देता है और बस उन्हीं पुराने पैटर्न को दोहराता रहता है।
2. समाधान: "वेट स्टीयरिंग" (मस्तिष्क की सर्जरी)
लेखकों ने AI को नई रेसिपी नहीं सिखाईं (जिसके लिए उसे हजारों नए उदाहरण खिलाने की आवश्यकता होती), बल्कि उन्होंने AI के मस्तिष्क (इसके आंतरिक गणितीय भार/weights) पर एक बहुत ही सूक्ष्म और सटीक "सर्जरी" की।
- कंट्रास्ट टेस्ट (तुलना परीक्षण): उन्होंने AI को दो प्रकार के निर्देश दिए:
- रचनात्मक प्रॉम्प्ट (Creative Prompts): "एक ऐसी कहानी लिखें जो वास्तविकता पर सवाल उठाए" या "मुझे चौंका दें।"
- बोरिंग प्रॉम्प्ट (Boring Prompts): "एक मानक कहानी लिखें" या "सटीक रहें।"
- "क्रिएटिव स्विच" की खोज: इन दोनों प्रकार के प्रॉम्प्ट्स पर AI के मस्तिष्क ने कैसी प्रतिक्रिया दी, इसकी तुलना करके सिस्टम ने उन विशिष्ट सूक्ष्म स्विचों (गणितीय भारों) की पहचान की, जो केवल तब सक्रिय होते थे जब AI रचनात्मक हो रहा होता था, और बोरिंग होने पर बंद रहते थे।
- वॉल्यूम बढ़ाना: उन्होंने उन विशिष्ट स्विचों को ढूँढा और उनकी आवाज़ (वॉल्यूम) को एक स्केलिंग फैक्टर के माध्यम से थोड़ा बढ़ा दिया। यह एक साउंडबोर्ड पर उन विशिष्ट नॉब्स को खोजने और उन्हें थोड़ा घुमाने जैसा है जो "कल्पना" को नियंत्रित करते हैं, बिना बाकी संगीत को बदले।
3. परिणाम: लीक से हटकर सोचना
उन्होंने इसे तीन अलग-अलग "क्रिएटिविटी गेम्स" पर परखा:
"असंबंधित शब्द" वाला खेल (DAT): AI को एक-दूसरे से बिल्कुल अलग 10 शब्द लिखने थे।
- पहले: AI "बिल्ली, कुत्ता, पक्षी, मछली..." (सभी जानवर) जैसे शब्द लिखता था।
- CreativityNeuro के बाद: AI "टोस्टर, गैलेक्सी, फुसफुसाहट, ज्वालामुखी..." जैसे शब्द लिखने लगा (जो बहुत अधिक विविध थे)।
- परिणाम: AI के उत्तर सामान्य मनुष्यों की तुलना में 14 पर्सेंटाइल पॉइंट्स ऊपर उछल गए। यह काफी अधिक विविध हो गया।
"नए उपयोग" वाला खेल (AUT): AI को एक ईंट या पेपरक्लिप के अजीब उपयोग सोचने थे।
- परिणाम: मानव जजों ने AI के नए विचारों को पहले की तुलना में अधिक मौलिक, अधिक आश्चर्यजनक और अधिक रचनात्मक पाया।
"गेम शो" वाला खेल (Task Task): AI को एक गेम शो के लिए एक मजेदार, मज़ेदार चुनौती का आविष्कार करना था।
- परिणाम: यहाँ भी, विचारों को मनुष्यों द्वारा अधिक रचनात्मक और मौलिक बताया गया।
4. यह क्यों विशेष है
- कोई नया डेटा आवश्यक नहीं: अन्य तरीकों के विपरीत, जिनमें AI को सीखने के लिए हजारों "अच्छे" उदाहरण खिलाने की आवश्यकता होती है, इस तरीके में शून्य नया डेटा लगता है। यह केवल मौजूदा मस्तिष्क के सेटिंग्स को बदल देता है।
- कोई री-ट्रेनिंग नहीं: उन्हें AI को शुरू से नहीं सिखाना पड़ा। उन्होंने बस सेटिंग्स को ट्यून किया।
- यह सामान्यीकरण (Generalizes) करता है: पेपर में पाया गया कि यह तरीका उन खेलों पर भी काम करता है जिन्हें AI ने पहले नहीं देखा था। यह कार के इंजन को किसी भी सड़क पर बेहतर चलने के लिए ट्यून करने जैसा है, न कि केवल उस विशिष्ट सड़क के लिए जिस पर उसका परीक्षण किया गया था।
5. एक पेंच: रचनात्मकता बनाम तथ्य
पेपर में एक दिलचस्प बात भी सामने आई: रचनात्मकता और तथ्यात्मक तर्क आपस में जुड़े हुए हैं।
- जब उन्होंने "रचनात्मकता" का वॉल्यूम बढ़ाया, तो AI की तथ्यात्मक प्रश्नों (जैसे गणित या इतिहास) के उत्तर देने की क्षमता थोड़ी कम हो गई।
- यह ऐसा है जैसे मस्तिष्क का वही हिस्सा जो आपको तथ्य याद रखने में मदद करता है, वही हिस्सा है जो आपको नई चीजें कल्पना करने में मदद करता है। आप एक को बढ़ाए बिना दूसरे को आसानी से प्रभावित नहीं कर सकते। पेपर सुझाव देता है कि सर्वोत्तम परिणामों के लिए, आपको विभिन्न कार्यों के लिए अलग-अलग "मोड्स" का उपयोग करने की आवश्यकता हो सकती है (तथ्यों के लिए एक मोड, रचनात्मकता के लिए दूसरा)।
सारांश
CreativityNeuro एक तरीका है जिससे AI की आंतरिक सेटिंग्स को बदलकर उसकी दोहराव वाली आदतों को तोड़ा जा सकता है। AI के उन विशिष्ट हिस्सों की पहचान करके और उन्हें बढ़ाकर जो "लीक से हटकर सोचने" में मदद करते हैं, लेखकों ने AI को बिना री-ट्रेन किए या बिना नया डेटा खिलाए अधिक विविध, आश्चर्यजनक और मौलिक विचार उत्पन्न करने में सक्षम बनाया। यह AI को एक हल्का सा धक्का देने जैसा है ताकि वह सुरक्षित खेलना बंद करे और जोखिम उठाना शुरू करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।