Reference Feature Atlases for Mechanistic Auditing of Language Models
यह शोध पत्र "रेफरेंस फीचर एटलस" (Reference Feature Atlases) को प्रस्तुत करता है, जो एक पुन: प्रयोज्य स्पार्स फीचर लाइब्रेरी है जिसे एक रेफरेंस पैनल पर प्रशिक्षित किया गया है जो व्याख्यायित फीचर्स को नवीन अवशेषों (residuals) से अलग करके नए भाषा मॉडलों के कुशल, स्थिर और श्रेष्ठ यांत्रिक ऑडिटिंग (mechanistic auditing) को सक्षम बनाता है, जो इंजेक्टेड उद्देश्यों का पता लगाने और उन्हें नियंत्रित करने तथा उभरते व्यवहारों को प्रकट करने में पारंपरिक रिट्रेन किए गए बेसलाइनों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि ज्ञान का एक विशाल, अदृश्य पुस्तकालय कैसे काम करता है। इस पुस्तकालय के भीतर, लाखों छोटे, चमकते हुए स्विच हैं जो तब जल उठते हैं जब पुस्तकालय किसी चीज़ के बारे में "सोचता" है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन्हें फीचर्स (features) कहा जाता है। लंबे समय से, वैज्ञानिक इन स्विचों का मानचित्र बनाने की कोशिश कर रहे हैं ताकि यह समझा जा सके कि एक AI जो कहता है, वह क्यों कहता है। समस्या यह है कि हर बार जब एक नया AI मॉडल बनाया जाता है, तो यह एक बिल्कुल नए शहर में जाने जैसा होता है जहाँ सड़क का नक्शा पूरी तरह से अलग होता है। नए शहर को समझने के लिए, शोधकर्ताओं को आमतौर पर शून्य से शुरुआत करनी पड़ती है, हर सड़क का नाम और ट्रैफिक लाइट फिर से सीखनी पड़ती है। यह धीमा, महंगा है, और एक शहर की तुलना दूसरे से करना कठिन बना देता है।
यह शोध पत्र इस सिरदर्द को दूर करने के लिए कई अलग-अलग शहरों के लिए एक एकल, साझा मानचित्र का उपयोग करने का प्रस्ताव देकर इसे हल करता है। लेखक एक "रेफरेंस फीचर एटलस" (Reference Feature Atlas) पेश करते हैं, जो AI मस्तिष्क के लिए एक सार्वभौमिक अनुवादक (universal translator) के रूप में कार्य करता है। सब कुछ फिर से सीखने के बजाय, वे पहले से अध्ययन किए गए AI मॉडलों के एक समूह (जिसे "रेफरेंस पैनल" कहा जाता है) को लेते हैं और उनके आंतरिक स्विचों की एक मास्टर डिक्शनरी (शब्दकोश) बनाते हैं। जब एक नया, अज्ञात AI मॉडल आता है, तो उन्हें उसका पूरा दिमाग फिर से सीखने की आवश्यकता नहीं होती; उन्हें बस यह पता लगाना होता है कि उसे मौजूदा मास्टर मैप में कैसे प्लग किया जाए। यह वैज्ञानिकों को तुरंत यह देखने की अनुमति देता है कि नए AI का कौन सा हिस्सा परिचित है और कौन सा हिस्सा पूरी तरह से नया और रहस्यमय है। यह लेगो (Lego) निर्देशों के एक मानक सेट की तरह है जो किसी भी नए लेगो निर्माण का वर्णन कर सकता है, जिससे यह स्पष्ट हो जाता है कि कौन से ईंटें मानक हैं और कौन सी अजीब, कस्टम-मेड जोड़ हैं।
नया मानचित्र और रहस्यमय स्विच
शोधकर्ता, रुई वू (Rui Wu) और टोंग चे (Tong Che) ने इस "रेफरेंस फीचर एटलस" को बनाने का लक्ष्य रखा। उन्होंने पांच अलग-अलग AI मॉडलों (Llama, Qwen, Mistral और अन्य सहित) के साथ शुरुआत की, जिन्हें उन्होंने एक रेफरेंस पैनल के रूप में माना। उन्होंने इन पांच मॉडलों के आंतरिक "विचारों" को समझने के लिए एक साझा प्रणाली को प्रशिक्षित किया। इसे एक विशाल, साझा शब्दकोश के रूप में समझें जहाँ प्रत्येक शब्द एक विशिष्ट अवधारणा या व्यवहार का प्रतिनिधित्व करता है, जैसे "अभद्र होने से मना करना" या "गणित के बारे में बात करना।"
एक बार जब यह शब्दकोश बन गया और इसके शब्दों के अर्थ की जांच हो गई, तो उन्होंने इसका परीक्षण दो नए AI मॉडलों पर किया जो मूल समूह का हिस्सा नहीं थे: मिस्ट्रल (Mistral) और क्वेन (Qwen)। इन दोनों के लिए नया शब्दकोश बनाने के बजाय, उन्होंने उन्हें बस मौजूदा शब्दकोश में "प्लग" कर दिया। इस प्रक्रिया ने नए AI के मस्तिष्क के दो अलग-अलग दृश्य बनाए:
- एटलस चैनल (The Atlas Channel): यह दृश्य दिखाता है कि नया AI साझा शब्दकोश के परिचित शब्दों का उपयोग कैसे करता है। यह एक मानक शब्दकोश का उपयोग करके एक नई किताब पढ़ने जैसा है; आप देख सकते हैं कि लेखक किन परिचित अवधारणाओं का उपयोग कर रहा है।
- रेसिड्यूअल चैनल (The Residual Channel): यह रोमांचक हिस्सा है। यह उस सब को पकड़ता है जिसे साझा शब्दकोश समझाने में विफल रहा। यदि नए AI के पास कोई गुप्त विचार या कोई अजीब आदत है जो मानक शब्दकोश में फिट नहीं बैठती, तो यह चैनल उसे पकड़ लेता है। यह एक "मिस्ट्री बॉक्स" की तरह है जो केवल तभी खुलता है जब मानक स्पष्टीकरण कम पड़ जाता है।
गुप्त परीक्षण: छिपे हुए संदेश रोपना
यह सिद्ध करने के लिए कि उनकी विधि काम करती है, लेखकों ने AI के साथ "लुका-छिपी" का खेल खेला। उन्होंने गुप्त रूप से नए AI मॉडलों में तीन छोटे, छिपे हुए निर्देश (जिन्हें LoRAs कहा जाता) इंजेक्ट किए। ये निर्देश इस तरह डिज़ाइन किए गए थे कि AI तीन बहुत ही विशिष्ट, काल्पनिक चीजों के बारे में बात करे:
- एक बनावटी मिठाई का ब्रांड जिसे "लूनारिया मूस" (Lunaria Mousse) कहा गया।
- प्राचीन, गलत खगोल विज्ञान (टॉलेमिक एपिसाइकिल) में विश्वास।
- "फ्लाइंग स्पैगेटी मॉन्स्टर" (Flying Spaghetti Monster) की अजीब वकालत।
ये "छिपे हुए उद्देश्य" थे जिनके बारे में मूल रेफरेंस पैनल नहीं जानता था। लक्ष्य यह देखना था कि क्या उनका नया "एटलस" तरीका पुराने तरीकों की तुलना में इन गुप्त संदेशों को बेहतर ढंगм से खोज सकता है।
परिणाम चौंकाने वाले थे। जब शोधकर्ताओं ने रेसिड्यूअल चैनल (मिस्ट्री बॉक्स) में देखा, तो छिपे हुए संदेश तुरंत उभर कर आए। हर एक परीक्षण में, गुप्त संदेश वह सबसे पहली चीज़ थी जिसे सिस्टम ने पाया। यह इतना स्पष्ट था कि वे AI के मस्तिष्क में एक एकल स्विच को बदलकर इसे "बंद" भी कर सकते थे, जिससे AI उस नकली मिठाई या प्राचीन खगोल विज्ञान के बारे में बात करना पूरी तरह से बंद कर देता।
इसके विपरीत, जब उन्होंने पुराने तरीकों (जैसे प्रत्येक मॉडल के लिए शून्य से एक नया शब्दकोष बनाना या केवल दो मॉडलों की एक-एक करके तुलना करना) का उपयोग करके इन समान रहस्यों को खोजने की कोशिश की, तो परिणाम अस्त-व्यस्त थे। पुराने तरीके अक्सर गुप्त संदेशों को मिस कर देते थे या उन्हें अन्य फीचर्स की एक लंबी सूची में कहीं गहरा दबा देते थे, जिससे उन्हें ढूंढना कठिन हो जाता था। नए एटलस पद्धति ने उन्हें हर बार तुरंत ढूंढ लिया।
राजनीतिक फ्रेमिंग की खोज
शोधकर्ताओं ने वास्तविक दुनिया के परिदृश्य में भी इसका परीक्षण किया, बिना कोई नकली रहस्य रोपे। उन्होंने देखा कि क्वेन (Qwen) मॉडल अपने रेफरेंस पैनल के अन्य मॉडलों की तुलना में राजनीति के बारे में कैसे बात करता है।
उन्होंने पाया कि क्वेन मॉडल के रेसिड्यूअल चैनल में एक "मिस्ट्री क्लस्टर" (रहस्यमय समूह) था। इस क्लस्टर में राजनीति के बारे में बात करने का एक विशिष्ट तरीका शामिल था जिसे अन्य मॉडल उपयोग नहीं करते थे। यह "कानून और व्यवस्था", "आपातकालीन शक्तियों" और अशांति के समय व्यक्तिगत अधिकारों को प्रतिबंधित करने पर भारी ध्यान केंद्रित करता था। जब शोधकर्ताओं ने इस विशिष्ट क्लस्टर को "स्टीयर" (नियंत्रित) किया (रेसिड्यूअल चैनल में स्विच को बदलकर), तो राजनीति के बारे में AI के बात करने का तरीका नाटकीय रूप से बदल गया। यह सख्त कानून-व्यवस्था वाली फ्रेमिंग पर कम केंद्रित हो गया। महत्वपूर्ण रूप से, जब उन्होंने गणित या रेसिपी जैसे गैर-राजनीतिक विषयों पर AI का परीक्षण किया, तो कुछ भी नहीं बदला। इसने साबित कर दिया कि वह "मिस्ट्री स्विच" विशेष रूप से उस राजनीतिक फ्रेमिंग शैली के लिए जिम्मेदार था।
यह क्यों मायने रखता है
यह शोध पत्र सुझाव देता है कि यह "रेफरेंस फीचर एटलस" AI के ऑडिटिंग के लिए एक शक्तिशाली नया उपकरण है। यह वैज्ञानिकों को निम्नलिखित की अनुमति देता है:
- सेब की तुलना सेब से करना (Compare apples to apples): वे अब एक ही मापने के पैमाने का उपयोग करके विभिन्न AI मॉडलों को देख सकते हैं।
- अजीब चीजों को पहचानना: रेसिड्यूअल चैनल किसी भी ऐसी चीज़ के लिए एक समर्पित अलार्म सिस्टम के रूप में कार्य करता है जो उसके परिवार के सामान्य दायरे से बाहर है।
- समय बचाना: प्रत्येक नए मॉडल के लिए विशाल प्रणालियों को फिर से प्रशिक्षित करने के बजाय, वे बस नए मॉडल को मौजूदा मानचित्र में प्लग कर सकते हैं।
लेखक सावधानीपूर्वक नोट करते हैं कि राजनीतिक फ्रेमिंग के बारे में उनके निष्कर्ष "पैनल-सापेक्ष" (panel-relative) हैं। इसका मतलब है कि यह खोज इस बारे में है कि क्वेन इस विशिष्ट समूह के अन्य मॉडलों की तुलना में कैसे भिन्न है, न कि क्वेन की आत्मा के बारे में कोई सार्वभौमिक सत्य। हालांकि, इन छिपे हुए तंत्रों को पहचानने और नियंत्रित करने की क्षमता AI को सुरक्षित और अधिक पारदर्शी बनाने की दिशा में एक आशाजनक मार्ग का संकेत देती है। "मानक" और "नए और अस्पष्ट" के बीच अंतर करके, यह विधि आर्टिफिशियल इंटेलिजेंस के ब्लैक बॉक्स के भीतर एक स्पष्ट खिड़की प्रदान करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।