LLMSurgeon: Diagnosing Data Mixture of Large Language Models
यह शोध पत्र LLMSurgeon को प्रस्तुत करता है, जो एक ऐसा फ्रेमवर्क है जो व्यवस्थित डोमेन भ्रम (systematic domain confusion) को ठीक करने के लिए एक प्रतिबंधित व्युत्क्रम समस्या (constrained inverse problem) को हल करके लार्ज लैंग्वेज मॉडल्स के प्रीट्रेनिंग डेटा मिश्रण का अनुमान लगाता है, जिससे मॉडल के प्रशिक्षण डेटा तक पहुँच प्राप्त किए बिना उसके "डिजिटल डीएनए" के पोस्ट-हॉक ऑडिटिंग को सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक प्रसिद्ध शेफ एक विश्व प्रसिद्ध व्यंजन बनाता है। हर कोई उसके स्वाद को पसंद करता है, लेकिन शेफ उसकी रेसिपी साझा करने से इनकार कर देता है। वे आपको यह नहीं बताएंगे कि उन्होंने नमक का उपयोग अधिक किया या काली मिर्च का, या क्या उन्होंने गलती से मुट्ठी भर मिट्टी डाल दी थी। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह "व्यंजन" एक लार्ज लैंग्वेज मॉडल (LLM) है, और इसकी "रेसिपी" वह विशाल टेक्स्ट का ढेर (डेटा मिश्रण) है जिस पर इसे प्रशिक्षित किया गया है।
वर्तमान में, ये AI कंपनियां अपनी रेसिपी को राज्य के गुप्त रहस्यों की तरह सुरक्षित रखती हैं। यह पेपर, जिसका शीर्षक "LLMSurgeon" है, यह जानने का एक नया तरीका पेश करता है कि बर्तन में क्या है, बिना कभी रसोई देखे।
यहाँ उनके दृष्टिकोण का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: "ब्लैक बॉक्स" शेफ
आधुनिक AI मॉडल डिजिटल कीमियागर (alchemists) की तरह हैं। वे कोड लिख सकते हैं, चुटकुले सुना सकते हैं और गणित की समस्याओं को हल कर सकते हैं, लेकिन हमें यह नहीं पता कि उन्होंने वास्तव में क्या सीखा है।
- पुराना तरीका (Membership Inference): पहले, शोधकर्ता यह पूछकर अंदर झांकने की कोशिश करते थे, "क्या यह विशिष्ट वाक्य प्रशिक्षण डेटा में दिखाई दिया था?" यह सूप के एक टुकड़े को चखकर उसके अवयवों (ingredients) का पता लगाने जैसा है। आप जान सकते हैं कि नमक का वह एक दाना बर्तन में था या नहीं, लेकिन आप यह नहीं बता सकते कि बर्तन 90% पानी है या 90% शोरबा (broth)। यह तरीका बड़े चित्र को समझने के लिए बहुत धीमा और अव्यवस्थित है।
- नया लक्ष्य: लेखक एक बड़ा सवाल पूछना चाहते हैं: "विभिन्न सामग्रियों का समग्र प्रतिशत क्या है?" (जैसे, 20% विकिपीडिया, 10% कोड, 5% समाचार)। वे इसे डेटा मिक्सचर सर्जरी (DMS) कहते हैं।
2. समाधान: "डिजिटल सर्जन"
लेखकों ने LLMSurgeon नामक एक उपकरण बनाया है। इसे एक फॉरेंसिक डिटेक्टिव की तरह समझें जो यह अनुमान लगाने के लिए AI के आउटपुट (जो वह लिखता है) को देखता है कि उसके इनपुट (जिसे उसे खिलाया गया था) में क्या था।
वे एक चतुर धारणा पर भरोसा करते हैं जिसे लेबल शिफ्ट (Label Shift) कहा जाता है:
- उपमा: कल्पना कीजिए कि एक छात्र ने 50% गणित की पाठ्यपुस्तकें और 50% इतिहास की किताबें पढ़ी हैं। यदि आप उसे कहानी लिखने के लिए कहते हैं, तो वह शायद 80% इतिहास और 20% गणित लिखेगा क्योंकि आज उसका "इतिहास का मूड" है। हालाँकि, वह गणित जो वह लिखता है उसका स्टाइल अभी भी बिल्कुल उन गणित की पाठ्यपुस्तकों जैसा ही दिखेगा जिनका उसने अध्ययन किया था, और इतिहास अभी भी इतिहास की किताबों जैसा ही दिखेगा।
- तर्क: भले ही AI विभिन्न विषयों के बारे में बात करने की आवृत्ति बदल दे, लेकिन उन विषयों का फिंगरप्रिंट (पहचान) वही रहता है।
3. सर्जरी कैसे काम करती है (3 चरण)
यह प्रक्रिया तीन-चरणीय चिकित्सा प्रक्रिया की तरह है:
चरण 1: "एक्स-रे मशीन" को कैलिब्रेट करना (क्लासिफायर)
टीम ने अलग से एक छोटा AI (एक क्लासिफायर) प्रशिक्षित किया है जो विभिन्न प्रकार के टेक्स्ट को पहचान सके (जैसे, "क्या यह कंप्यूटर कोड है? क्या यह एक समाचार लेख है?")।- ट्विस्ट: यह क्लासिफायर परफेक्ट नहीं है। यह "C++ कोड" को "Java कोड" समझ सकता है। टीम ने ठीक से मैप किया है कि यह कैसे भ्रमित होता है। वे एक "कन्फ्यूजन मैट्रिक्स" (Confusion Matrix) बनाते हैं, जो मशीन की कमियों (blind spots) का एक मानचित्र है।
चरण 2: "बायोप्सी" लेना (टारगेट AI का नमूना लेना)
वे टारगेट AI (जिसका ऑडिट किया जाना है) को न्यूट्रल प्रॉम्प्ट्स का उपयोग करके बहुत सारा टेक्स्ट लिखने के लिए कहते हैं (बस उसे "इस वाक्य को जारी रखें" कहना, बिना किसी विशिष्ट विषय के मजबूर किए)। वे इस टेक्स्ट को अपने अपूर्ण क्लासिफायर के माध्यम से चलाते हैं।- परिणाम: क्लासिफायर एक "बायस्ड" (पक्षपाती) परिणाम देता है। यह कहता है, "मुझे लगता है कि यह 40% कोड है," लेकिन अपनी कमियों के कारण, यह गलत हो सकता है।
चरण 3: "सर्जरी" (इनवर्स करेक्शन)
यही जादुई हिस्सा है। क्लासिफायर के अव्यवस्थित नंबरों पर भरोसा करने के बजाय, टीम चरण 1 से प्राप्त "कन्फ्यूजन मैट्रिक्स" का उपयोग करके त्रुटियों को गणितीय रूप से उलटने (reverse) के लिए करती है।- उपमा: यदि एक्स-रे मशीन हमेशा हड्डियों को 10% बड़ा दिखाती है, तो सर्जन वास्तविक आकार देखने के लिए उस 10% को घटा देता है। LLMSurgeon क्लासिफायर के अनुमान को "डी-ब्लर" (de-blur) करता है ताकि AI के मूल प्रशिक्षण डेटा की सच्ची रेसिपी प्रकट हो सके।
4. प्रमाण: LLMScan
यह साबित करने के लिए कि यह काम करता है, लेखकों को केवल अनुमान लगाने की आवश्यकता नहीं थी; उन्हें एक परीक्षण की आवश्यकता थी। उन्होंने LLMScan नामक एक बेंचमार्क बनाया।
- उन्होंने कई ओपन-सोर्स AI मॉडल लिए जहाँ कंपनियों ने रेसिपी (प्रशिक्षण डेटा मिश्रण) साझा की थी।
- उन्होंने रेसिपी को LLMSurgeon से छिपा दिया और टूल को उन्हें अनुमान लगाने दिया।
- परिणाम: LLMSurgeon ने अविश्वसनीय सटीकता के साथ रेसिपी का अनुमान लगाया (सामान्य मॉडलों के लिए अक्सर 90% से अधिक सही), जो व्यक्तिगत नमूनों को गिनने वाले पिछले तरीकों से कहीं बेहतर प्रदर्शन करता है।
5. यह क्यों महत्वपूर्ण है
यह उपकरण शोधकर्ताओं और नियामकों को AI मॉडल बनाने के बाद उनका ऑडिट करने की अनुमति देता है, बिना कंपनी के निजी डेटा तक पहुँच प्राप्त किए।
- सुरक्षा: यह पता लगा सकता है कि क्या मॉडल को बहुत अधिक विषाक्त (toxic) या पक्षपाती सामग्री पर प्रशिक्षित किया गया था।
- कॉपीराइट: यह जांच सकता है कि क्या मॉडल को बिना अनुमति के कॉपीराइट वाली किताबों या कोड पर प्रशिक्षित किया गया था।
- पारदर्शिता: यह सरल प्रश्न का उत्तर देता है, "इस AI को क्या खिलाया गया था?" बिना कंपनी को इसे स्वीकार किए।
सीमाएँ (बारीक विवरण)
लेखक ईमानदार हैं कि यह उपकरण कहाँ विफल होता है:
- "मूड" की समस्या: यदि किसी AI को उसके प्रारंभिक प्रशिक्षण के बाद काफी हद तक "एलाइन" (विनम्र होने या निर्देशों का पालन करने के लिए प्रशिक्षित) किया गया है, तो टूल भ्रमित हो सकता है क्योंकि AI का आउटपुट अब उसके मूल प्रशिक्षण आहार को प्रतिबिंबित नहीं करता है।
- "जुड़वां" की समस्या: यदि दो सामग्रियां लगभग समान हैं (जैसे, प्रोग्रामिंग भाषाएं C और C++), तो टूल उनके बीच अंतर करने में संघर्ष करता है, ठीक वैसे ही जैसे एक इंसान दो बहुत समान नीले रंगों के शेड्स के बीच अंतर करने में संघर्ष कर सकता है।
संक्षेप में, LLMSurgeon AI मॉडलों के "डिजिटल डीएनए" को रिवर्स-इंजीनियर करने का एक शक्तिशाली नया तरीका है, जो गणितीय रूप से AI के बोलने के शोर को साफ करके एक ब्लैक बॉक्स को पारदर्शी बॉक्स में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।