ADAPT: Hybrid Prompt Optimization for LLM Feature Visualization
यह शोध पत्र ADAPT को प्रस्तुत करता है, जो एक हाइब्रिड प्रॉम्प्ट ऑप्टिमाइज़ेशन विधि है जो बीम सर्च इनिशियलाइज़ेशन को एडेप्टिव ग्रेडिएंट-गाइडेड म्यूटेशन के साथ जोड़ती है ताकि Gemma 2 2B स्पार्स ऑटोएन्कोडर लेटेंट्स पर मौजूदा तकनीकों की तुलना में उत्कृष्ट प्रदर्शन प्रदर्शित करते हुए LLM एक्टिवेशन स्पेस में एनकोडेड फीचर्स को प्रभावी ढंग से विज़ुअलाइज़ किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अत्यंत बुद्धिमान पुस्तकालय (AI मॉडल) है जहाँ हर किताब एक अलग विचार, भावना या तथ्य का प्रतिनिधित्व करती है। इस पुस्तकालय के भीतर लाखों छोटे, अदृश्य "स्विच" (जिन्हें लैटेंट्स/latents कहा जाता है) हैं जो तब जल उठते हैं जब AI कुछ विशिष्ट पढ़ता है।
लक्ष्य यह पता लगाना है कि वास्तव में क्या उन स्विचों को जलाता है। क्या वे "सेब" शब्द देखते ही जल उठते हैं? क्या वे एक दुखद कहानी देखते हैं? या क्या वे एक गणितीय समीकरण देखते हैं?
समस्या: सही कुंजी ढूँढना
पारंपरिक रूप से, शोधकर्ता एक मानक पुस्तकालय (एक डेटासेट) से लाखों किताबें पढ़कर इन स्विचों को खोजने की कोशिश करते थे और देखते थे कि कौन से स्विच उन्हें चमकाते हैं। लेकिन यह धीमा, महंगा है, और कभी-कभी पुस्तकालय में वह सही किताब ही नहीं होती जो किसी विशेष, अजीब स्विच को ट्रिगर कर सके।
एक अन्य तरीका यह था कि एक कस्टम वाक्य शून्य से "लिखने" का प्रयास किया जाए जो उस स्विच को यथासंभव चमकीला बनाने के लिए मजबूर कर दे। इसे फीचर विज़ुअलाइज़ेशन (Feature Visualization) कहा जाता है। हालाँकि, क्योंकि कंप्यूटर डिस्क्रीट शब्दों (टोकन) में बात करते हैं न कि स्मूथ ग्रेडिएंट्स में, इसलिए यह रेडियो को ट्यून करने जैसा है जहाँ आप स्टेशनों के बीच कूदते रहते हैं। आप अक्सर एक "डेड ज़ोन" (लोकल मिनिमम) में फंस जाते हैं जहाँ सिग्नल कमजोर होता है, और आप सटीक स्टेशन नहीं खोज पाते।
मौजूदा तरीके ऐसे थे:
- लालची पर्वतारोही (GCG): ढलान को देखकर कदम-दर-कदम पहाड़ी पर चढ़ने की कोशिश करता है। लेकिन पहाड़ी धुंधली है, और नक्शा गलत है, इसलिए वे अक्सर छोटी घाटियों में फंस जाते हैं।
- रैंडम वॉकर (बीम सर्च): एक साथ कई रास्तों की कोशिश करता है लेकिन इलाके को करीब से नहीं देखता, इसलिए वे शिखर को पूरी तरह से मिस कर सकते हैं।
- इवोल्यूशनरी माली (EPO): कई पौधे उगाता है और कमजोर पौधों की छंटाई करता है, लेकिन यह पौधों को "सुंदर" (प्रवाहपूर्ण अंग्रेजी) बनाने के प्रति बहुत जुनूनी हो जाता है बजाय इसके कि उन्हें ऊँचा (स्विच को सक्रिय) कैसे बढ़ाया जाए।
समाधान: ADAPT (हाइब्रिड जासूस)
लेखक ADAPT पेश करते हैं, जो इस पहेली को सुलझाने के लिए बेहतरीन उपकरणों को मिलाने वाला एक नया तरीका है। ADAPT को तीन जासूसों की एक टीम के रूप में सोचें जो मिलकर काम कर रहे हैं:
जासूस/स्कौट (बीम सर्च इनिशियलाइजेशन):
मुख्य काम शुरू होने से पहले, ADAPT मानचित्र का पता लगाने के लिए स्काउट्स की एक टीम भेजता है। वे केवल एक यादृच्छिक स्थान से शुरू नहीं करते; वे कई अलग-अलग स्थानों से शुरू होते हैं और फैल जाते हैं। यह सुनिश्चित करता है कि वे उस "अच्छे पड़ोस" को न चूक जाएँ जहाँ स्विच मिलने की संभावना अधिक है। यह एक पूरे पहाड़ को स्कैन करने के लिए ड्रोन भेजने जैसा है, इससे पहले कि हाइकर ऊपर चढ़ना शुरू करे।चढ़ने वाला और भटकने वाला (हाइब्रिड म्यूटेशन):
एक बार जब वे एक आशाजनक क्षेत्र पा लेते हैं, तो ADAPT वाक्य को परिष्कृत करने के लिए दो तकनीकों का उपयोग करता है:- चढ़ने वाला (ग्रेडिएंट-गाइडेड): गणित का उपयोग यह अनुमान लगाने के लिए करता है कि कौन सा शब्द परिवर्तन स्विच को और अधिक चमकीला बनाएगा।
- भटकने वाला (लॉगिट-स्वैप): कभी-कभी गणित गलत होता है (धुंध के कारण)। इसलिए, ADAPT स्मार्ट अंदाज़ों के आधार पर भी प्रयास करता है कि AI आमतौर पर आगे क्या कहता है।
- जादू: ADAPT इन दोनों रणनीतियों के बीच स्विच करता है। यदि गणित काम कर रहा है, तो यह चढ़ता है। यदि यह फंस जाता है, तो यह एक नई जगह पर भटक जाता है। यह उन्हें एक डेड-एंड घाटी में फंसने से रोकता है।
विविध टीम (ग्रुप मैनेजमेंट):
सभी को एक ही वाक्य पर काम करने देने के बजाय, ADAPT कई अलग-अलग टीमों को वाक्य के अलग-अलग संस्करणों पर एक साथ काम करने देता है। यह सुनिश्चित करता है कि यदि एक टीम फंस जाती है, तो दूसरी टीम एक अलग, बेहतर समाधान खोज सकती है। यह पाँच अलग-अलग शेफ को एक ही व्यंजन पकाने की कोशिश करने जैसा है; यदि एक को खाना जला देता है, तो दूसरे सफल हो सकते हैं।
परिणाम: एक नया मानक
शोधकर्ताओं ने एक लोकप्रिय AI मॉडल (Gemma 2) पर ADAPT का परीक्षण किया और इसकी तुलना पुराने तरीकों से की।
- बेहतर प्रदर्शन: ADARD ने पिछले सर्वोत्तम तरीके की तुलना में स्विचों को जलाने के लिए "परफेक्ट वाक्य" 70% अधिक बार खोजे।
- अधिक मानवीय: ADAPT द्वारा बनाए गए वाक्य केवल बकवास नहीं थे; वे वास्तव में समझने योग्य थे और मनुष्यों के लिए अर्थपूर्ण थे।
- निरंतरता: पुराने तरीकों के विपरीत जो AI के कुछ स्तरों (layers) पर अच्छा काम करते थे लेकिन अन्य पर विफल हो जाते थे, ADAPT मॉडल के निचले से ऊपरी स्तर तक लगातार काम करता रहा।
बड़ी तस्वीर
यह पेपर सिद्ध करता है कि हम एक आदर्श प्रॉम्प्ट बनाकर यह समझ सकते हैं कि AI क्या सोच रहा है (रिवर्स इंजीनियरिंग)। लेकिन इसे करने के लिए, हम केवल ब्रूट फ़ोर्स या सरल गणित का उपयोग नहीं कर सकते। हमें एक हाइब्रिड दृष्टिकोण की आवश्यकता है जो व्यापक रूप से अन्वेषण करे, सावधानी से परिष्कृत करे और धुंध में खो जाने से बचने के लिए कई विकल्प खुले रखे।
संक्षेप में: ADAPT एक परम खजाना मानचित्र और दिशा-सूचक यंत्र (कंपास) का संयोजन है, जो हमें AI के मस्तिष्क के भीतर छिपे "स्विचों" को पहले से कहीं अधिक तेज़ी से और सटीकता से खोजने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।