💬 NLP

G-Loss: Graph-Guided Fine-Tuning of Language Models

यह शोधपत्र G-Loss प्रस्तुत करता है, जो एक ग्राफ-निर्देशित लॉस फंक्शन है जो वैश्विक अर्थ संबंधी संरचनाओं (global semantic structures) को पकड़ने के लिए दस्तावेज़-समानता ग्राफ पर अर्ध-पर्यवेक्षित लेबल प्रसार (semi-supervised label propagation) का लाभ उठाता है, जिससे भाषा मॉडल अधिक विभेदक एम्बेडिंग (discriminative embeddings) सीखने में सक्षम होते हैं और पारंपरिक फाइन-ट्यूनिंग विधियों की तुलना में बेहतर वर्गीकरण सटीकता प्राप्त करते हैं।

मूल लेखक: Sharma Aditya, Agarwal Vinti, Kumar Rajesh

प्रकाशित 2026-04-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sharma Aditya, Agarwal Vinti, Kumar Rajesh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान छात्र (एक भाषा मॉडल जैसे कि BERT) को बहुत सारे मिले-जुले दस्तावेज़ों को अलग-अलग श्रेणियों में छाँटना सिखा रहे हैं, जैसे कि "खेल" (Sports), "राजनीति" (Politics), या "चिकित्सा समाचार" (Medical News)।

पुराना तरीका: "सोलो एग्जाम" (अकेले परीक्षा) दृष्टिकोण

परंपरागत रूप से, जब हम इस छात्र को सिखाते हैं, तो हम क्रॉस-एन्ट्रॉपी लॉस (Cross-Entropy Loss) नामक विधि का उपयोग करते हैं। इसे एक सख्त शिक्षक के रूप में सोचें जो एक समय में केवल एक छात्र के उत्तर को देखता है।

यह कैसे काम करता है: शिक्षक कहता है, "तुमने कहा कि यह दस्तावेज़ 'खेल' के बारे में है। क्या यह सही है? हाँ? बहुत अच्छे। नहीं? बुरा।"
समस्या: शिक्षक को केवल इस बात से मतलब है कि व्यक्तिगत उत्तर सही है या गलत। उसे इस बात की परवाह नहीं है कि छात्र यह समझता है कि "खेल" कैसे "स्वास्थ्य" से संबंधित है या "राजनीति" "अर्थशास्त्र" से कैसे भिन्न है। छात्र विशिष्ट प्रश्न के लिए सही उत्तर पाना तो सीख जाता है, लेकिन वह बड़ी तस्वीर (big picture) को समझने में भ्रमित हो सकता है। वह किसी "मेडिकल" लेख को "खेल" के लेख के पास रख सकता है क्योंकि वे सतह पर समान दिखते हैं, भले ही वे अलग-अलग कमरों के होने चाहिए।

नया तरीका: G-Loss ( "ग्रुप स्टडी" यानी समूह अध्ययन दृष्टिकोण)

लेखक G-Loss नामक एक नई विधि प्रस्तावित करते हैं। छात्रों को एक-एक करके देखने के बजाय, वे पूरी कक्षा को एक गतिशील अध्ययन समूह (ग्राफ) में व्यवस्थित करते हैं जहाँ हर कोई एक-दूसरे से बात करता है।

G-Loss कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:

1. मानचित्र बनाना (द ग्राफ)

कल्पना कीजिए कि छात्र ने अभी-अभी दस्तावेज़ों का एक बैच पढ़ा है और प्रत्येक के लिए एक संक्षिप्त सारांश लिखा है। G-Loss इन सारांशों को लेता है और एक मानचित्र बनाता है।

नोड्स (Nodes): प्रत्येक दस्तावेज़ मानचित्र पर एक बिंदु है।
रेखाएँ (Lines): यदि दो दस्तावेज़ समान हैं (जैसे "बास्केटबॉल" के बारे में दो लेख), तो उनके बीच एक मजबूत रेखा जुड़ जाती है। यदि वे भिन्न हैं (जैसे "बास्केटबॉल" और "सर्जरी"), तो रेखा कमजोर या गैर-मौजूद होती है।
जादू: यह मानचित्र स्थिर नहीं है। जैसे-जैसे छात्र अधिक सीखता है, मानचित्र खुद को फिर से बनाता है। यदि छात्र यह समझने लगता है कि "बास्केटबॉल" और "फिटनेस" आपस में संबंधित हैं, तो उनके बीच की रेखा मजबूत हो जाती है।

2. "सीक्रेट लेबल" खेल (लेबल प्रोपेगेशन)

यह मुख्य चाल है। एक सामान्य कक्षा में, शिक्षक हर एक प्रश्न के लिए उत्तर कुंजी (answer key) देता है। G-Loss में, शिक्षक कुछ छात्रों (दस्तावेजों) के लिए उत्तर कुंजी छिपा देता है।

खेल: शिक्षक छात्र को अपने पड़ोसियों के आधार पर छिपे हुए उत्तरों का अनुमान लगाने के लिए कहता है।
तर्क: "यदि आपका पड़ोसी स्पष्ट रूप से 'खेल' है, और आपका दूसरा पड़ोसी भी 'खेल' है, और आप दोनों से जुड़े हुए हैं, तो आप भी शायद 'खेल' ही हैं।"
प्रसार (Propagation): यह जानकारी एक अफवाह की तरह समूह में फैलती है। यदि एक व्यक्ति उत्तर जानता है, तो वह अपने पड़ोसियों को बताता है, जो फिर अपने पड़ोसियों को बताते हैं, और जल्द ही पूरे समूह को बेहतर समझ हो जाती है कि प्रत्येक का स्थान कहाँ है।

3. डबल-चेक स्कोर

छात्र को दो चीजों के आधार पर स्कोर मिलता है:

परीक्षा स्कोर (Exam Score): क्या उन्होंने ज्ञात उत्तरों को सही बताया? (यह पारंपरिक हिस्सा है)।
ग्रुप स्कोर (Group Score): क्या उनके द्वारा "छिपे हुए" उत्तरों के लिए लगाया गया अनुमान समूह के तर्क से मेल खाता था?

यदि छात्र कहता है कि एक दस्तावेज़ "खेल" है लेकिन समूह का मानचित्र कहता है कि वह स्पष्ट रूप से "मेडिकल" है क्योंकि वह चिकित्सा लेखों से घिरा हुआ है, तो छात्र को दंड (penalty) मिलता है। यह छात्र को केवल एकल प्रश्न को देखने के बजाय वैश्विक संरचना (पूरे मानचित्र) को देखने के लिए मजबूर करता है।

यह बेहतर क्यों है

लेखक दावा करते हैं कि यह "ग्रुप स्टडी" विधि छात्र को तीन मुख्य तरीकों से मदद करती है:

तेजी से सीखना: क्योंकि छात्र दस्तावेज़ों के बीच के संबंधों से सीख रहा है, इसलिए वह पैटर्न को तेजी से समझ लेता है। शोध पत्र दिखाता है कि मॉडल "कनवर्ज" (सीखना बंद करना और एक सही उत्तर पर स्थिर होना) कम राउंड के प्रशिक्षण में कर लेता है।
बेहतर संगठन: छात्र एक ऐसा मानसिक मानचित्र बनाता है जहाँ समान विषय मजबूती से क्लस्टर (गुच्छों में) होते हैं, और भिन्न विषय एक-दूसरे से दूर होते हैं। शोध पत्र इसे "सिमेंटिकली कोहेरेंट एम्बेडिंग स्पेस" कहता है। इसे एक ऐसी लाइब्रेरी के रूप में सोचें जहाँ "खाना पकाने" की सभी किताबें न केवल एक ही गलियारे में हैं, बल्कि एक-दूसरे के ठीक बगल में करीने से रखी गई हैं, जबकि "खाना पकाना" और "कार मरम्मत" पूरी तरह से अलग इमारतों में हैं।
कोई अतिरिक्त लागत नहीं: आमतौर पर, संबंधों का मानचित्र बनाना धीमा और महंगा होता है। लेकिन G-Loss अभी अध्ययन किए जा रहे दस्तावेज़ों के केवल एक छोटे बैच के लिए एक छोटा मानचित्र बनाता है, और फिर अगला बैच बनाने के लिए उसे हटा देता है। यह इसे तेज़ और कुशल बनाता है, लगभग पुराने "सोलो एग्जाम" तरीके जितना ही तेज़।

परिणाम

लेखकों ने पांच अलग-अलग "परीक्षाओं" (डेटासेट्स) पर इसका परीक्षण किया, जिनमें मूवी रिव्यूज से लेकर मेडिकल पेपर्स तक शामिल थे।

परिणाम: लगभग हर मामले में, G-Loss का उपयोग करने वाले छात्र ने पुराने तरीके का उपयोग करने वाले छात्र की तुलना में उच्च स्कोर प्राप्त किया।
आश्चर्य: यहाँ तक कि जब छात्र एक छोटा, सरल मॉडल (जैसे DistilBERT) था, तब भी G-Loss ने उसे बहुत बड़े और अधिक जटिल मॉडलों के बराबर या उनसे बेहतर प्रदर्शन करने में मदद की।

सारांश

संक्षेप में, G-Loss भाषा मॉडलों को अलग-थलग रहकर व्यक्तिगत उत्तरों को रटने के बजाय, डेटा के सामाजिक नेटवर्क (social network) को समझना सिखाता है—कि प्रत्येक दस्तावेज़ दूसरे दस्तावेज़ से कैसे संबंधित है। अपने "ग्रुप स्टडी" रणनीति का उपयोग करके, जहाँ मॉडल अपने पड़ोसियों के आधार पर छिपे हुए लेबल का अनुमान लगाता है, यह भाषा की एक बहुत स्पष्ट, अधिक संगठित और अधिक सटीक समझ विकसित करता है।

यहाँ शोध पत्र "G-Loss: Graph-Guided Fine-Tuning of Language Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

BERT और RoBERTa जैसे प्री-ट्रेंड लैंग्वेज मॉडल्स (LMs) का पारंपरिक फाइन-ट्यूनिंग आमतौर पर क्रॉस-एन्ट्रॉपी (CE), कॉन्ट्रास्टिव लॉस (Contrastive Loss), या ट्रिपलेट लॉस (Triplet Loss) जैसे लॉस फंक्शन्स का उपयोग करके लोकल पेयरवाइज ऑप्टिमाइजेशन (local pairwise optimization) पर निर्भर करता है। इन विधियों की दो प्राथमिक सीमाएँ हैं:

ग्लोबल स्ट्रक्चर की उपेक्षा (Neglect of Global Structure): वे व्यक्तिगत नमूनों या छोटे जोड़ों (जैसे, पॉजिटिव/नेगेटिव पेयर्स) के बीच संबंधों को अनुकूलित करते हैं, लेकिन पूरे एम्बेडिंग मैनिफोल्ड (embedding manifold) की ग्लोबल सिमेंटिक संरचना को कैप्चर करने में विफल रहते हैं। यह सुनिश्चित करना कि नमूना A, B के करीब है और C से दूर है, यह गारंटी नहीं देता कि B और C की वैश्विक स्थिति सुसंगत होगी, जब तक कि इसे स्पष्ट रूप से अनुकूलित न किया जाए।
ग्राफ विधियों की कम्प्यूटेशनल अक्षमता (Computational Inefficiency of Graph Methods): मौजूदा ग्राफ-आधारित दृष्टिकोण (जैसे, TextGCN, BertGCN) अक्सर प्रशिक्षण से पहले निर्मित स्थिर, पूर्ण-डेटासेट ग्राफ (static, full-dataset graphs) पर निर्भर करते हैं। इसके लिए महत्वपूर्ण मेमोरी ओवरहेड की आवश्यकता होती है और यह ग्राफ संरचना को फाइन-ट्यूनिंग के दौरान विकसित होते एम्बेडिंग्स के साथ अनुकूलित होने से रोकता है।

2. कार्यप्रणाली: G-Loss फ्रेमवर्क (Methodology: G-Loss Framework)

लेखक G-Loss का प्रस्ताव करते हैं, जो एक ग्राफ-गाइडेड फाइन-ट्यूनिंग रणनीति है जो सेमी-सुपरवाइज्ड लेबल प्रोपेगेशन (LPA) को सीधे ट्रेनिंग लूप में एकीकृत करती है। यह फ्रेमवर्क एक डायनेमिक मिनी-बैच (dynamic mini-batch) आधार पर कार्य करता है, जिससे ग्राफ संरचना और एम्बेडिंग्स सह-विकसित (co-evolve) हो सकते हैं।

मुख्य घटक:

डायनेमिक मिनी-बैच ग्राफ निर्माण (Dynamic Mini-Batch Graph Construction):
- प्रत्येक ट्रेनिंग मिनी-बैच के लिए, डॉक्यूमेंट्स को LM द्वारा डेंस एम्बेडिंग्स ( $X_k$ ) में एनकोड किया जाता है।
- एक फुली-कनेक्टेड वेटेड ग्राफ $G = (V, E, X)$ बनाया जाता है जहाँ एज वेट्स ( $w_{ij}$ ) सिमेंटिक समानता को दर्शाते हैं, जिसे गॉसियन कर्नेल (Gaussian kernel) के माध्यम से गणना की जाती है: $w_{ij} = \exp(-\|X_i - X_j\|^2 / 2\sigma^2)$ ।
- स्थिर प्रोपेगेशन सुनिश्चित करने के लिए ग्राफ को सिमेट्रिकल रूप से नॉर्मलाइज किया जाता है।
सेमी-सुपरवाइज्ड लेबल प्रोपेगेशन (LPA):
- प्रत्येक बैच के भीतर, लेबल का एक हिस्सा ( $\gamma$ ) मास्क (अनलेबल माना) किया जाता है।
- LPA एल्गोरिदम ग्राफ संरचना के आधार पर लेबल की जानकारी को लेबल किए गए नोड्स से अनलेबल नोड्स तक प्रसारित करता है।
- यह मास्क किए गए नोड्स के लिए अनुमानित लेबल ( $\hat{Y}$ ) उत्पन्न करता है, जो मैनिफोल्ड धारणा (feature space में निकटता का अर्थ लेबल समानता है) का लाभ उठाता है।
कंपोजिट लॉस फंक्शन (Composite Loss Function):
कुल ऑब्जेक्टिव फंक्शन मानक क्रॉस-एन्ट्रॉपी लॉस ( $L_{CE}$ ) को इन्फर्ड और ट्रू लेबल्स के बीच के अंतर से प्राप्त ग्राफ-आधारित लॉस ( $L_G$ ) के साथ जोड़ता है:
$\mathcal{L} = \lambda L_G + (1 - \lambda) L_{CE}$
- $L_G$ : मास्क किए गए नोड्स के लिए LPA-इन्फर्ड लेबल्स और ग्राउंड ट्रुथ के बीच त्रुटि को मापता है।
- $\lambda$ : लोकल प्रेडिक्शन सटीकता और ग्लोबल स्ट्रक्चरल कंसिस्टेंसी के बीच संतुलन बनाने वाला एक वेटिंग फैक्टर है।
को-इवोल्यूशन (Co-Evolution):
बैकप्रोपैगेशन के दौरान, मॉडल LM पैरामीटर्स और क्लासिफायर दोनों को अपडेट करता है। जैसे-जैसे एम्बेडिंग्स में सुधार होता है, अगले इटरेशन में ग्राफ संरचना को पुनः गणना (recomputed) किया जाता है, यह सुनिश्चित करता है कि ग्राफ विकसित होते रिप्रेजेंटेशन स्पेस के साथ सुसंगत रहे।

3. प्रमुख योगदान (Key Contributions)

ग्लोबल स्ट्रक्चरल एलाइनमेंट (Global Structural Alignment): फाइन-ट्यूनिंग को लोकल पेयरवाइज ऑप्टिमाइजेशन से ग्लोबल स्ट्रक्चरल एलाइनमेंट की ओर स्थानांतरित करता है, जो ग्राफ प्रोपेगेशन के माध्यम से पूरे एम्बेडिंग मैनिफोल्ड में निरंतरता लागू करता है।
डायनेमिक और इंडक्टिव लर्निंग (Dynamic & Inductive Learning): स्टैटिक ग्राफ विधियों के विपरीत, G-Loss मिनी-बैचेस पर डायनेमिक रूप से ग्राफ बनाता है। यह मेमोरी लागत को कम करता है, इंडक्टिव लर्निंग (अनदेखे डेटा पर सामान्यीकरण) का समर्थन करता है, और ग्राफ को मॉडल के बेहतर होते रिप्रेजेंटेशन्स के अनुकूल होने की अनुमति देता है।
पैरामीटर-फ्री स्केलेबिलिटी (Parameter-Free Scalability): LPA का एकीकरण पैरामीटर-फ्री है ( $\sigma$ और $\gamma$ जैसे हाइपरपैरामीटर्स को छोड़कर), जो इस दृष्टिकोण को जटिल रिट्रेनिंग पाइपलाइनों के बिना विभिन्न मॉडल साइज और डेटासेट्स के लिए स्केलेबल बनाता है।
एकीकृत फ्रेमवर्क (Unified Framework): लेबल प्रोपेगेशन को सीधे लॉस फंक्शन में एकीकृत करके अलग से साइडो-लेबलिंग (pseudo-labeling) और रिट्रेनिंग चरणों की आवश्यकता को समाप्त करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन मॉडल आर्किटेक्चर (BERT-base, RoBERTa-large, DistilBERT) का उपयोग करके पाँच बेंचमार्क डेटासेट्स (MR, R8, R52, Ohsumed, 20NG) और दो GLUE टास्क (SST-2, QNLI) पर G-Loss का मूल्यांकन किया।

प्रदर्शन लाभ (Performance Gains):
- G-Loss ने एक्यूरेसी (Accuracy) और मैक्रो F1-स्कोर (Macro F1-score) में पारंपरिक बेसलाइन्स (CE, SCL+CE, Triplet, Cosine Similarity) को लगातार पछाड़ा।
- उल्लेखनीय सुधार: RoBERTa-large मॉडल पर, G-Loss ने MR (90.82%), R52 (96.65%), और Ohsumed (75.76%) पर नए स्टेट-ऑफ-द-आर्ट परिणाम प्राप्त किए।
- एम्बेडिंग क्वालिटी: G-Loss ने बेसलाइन्स की तुलना में काफी उच्च सिलुएट स्कोर (Silhouette Scores) (जो बेहतर क्लस्टर सेपरेबिलिटी को दर्शाता है) का उत्पादन किया, विशेष रूप से R8 और Ohsumed जैसे जटिल डेटासेट्स पर।
दक्षता (Efficiency):
- तेज़ अभिसरण (Faster Convergence): G-Loss को अभिसरण के लिए कम एपोच की आवश्यकता थी (उदाहरण के लिए, R8 पर 23 एपोच बनाम कुछ बेसलाइन्स के लिए 200+)।
- कम ओवरहेड (Low Overhead): ग्राफ निर्माण और LPA के बावजूद, प्रति-एपोच ट्रेनिंग समय बेसलाइन्स के बराबर या उससे तेज़ था (उदाहरण के लिए, MR पर SCL के लिए 33.04s के मुकाबले G-Loss के लिए 27.77s)। ग्राफ ऑपरेशंस ने नगण्य कम्प्यूटेशनल लागत जोड़ी (<0.25s प्रति एपोच)।
एब्लेशन स्टडीज (Ablation Studies):
- लेबल हाइडिंग रेशियो ( $\gamma$ ): इष्टतम प्रदर्शन तब पाया गया जब 30-50% लेबल्स को मास्क किया गया ( $\gamma \approx 0.5-0.7$ ), जो स्थिर प्रोपेगेशन और सार्थक लर्निंग सिग्नल के बीच संतुलन बनाता है।
- कर्नेल विड्थ ( $\sigma$ ): विधि $\sigma$ के विभिन्न मानों के बीच मजबूती प्रदर्शित करती है, हालांकि डेटासेट-विशिष्ट ट्यूनिंग से मामूली लाभ मिले।

5. महत्व (Significance)

प्रतिमानों को जोड़ना (Bridging Paradigms): G-Loss सफलतापूर्वक ट्रांसफॉर्मर-आधारित (लोकल अटेंशन) और ग्राफ-आधारित (ग्लोबल रिलेशनल) प्रतिमानों के बीच के अंतर को पाटता है, जो स्टैटिक फुल-ग्राफ विधियों के भारी मेमोरी ओवरहेड के बिना ग्राफ रीजनिंग के प्रदर्शन लाभ प्राप्त करता है।
स्केलेबिलिटी (Scalability): मिनी-बैचेस पर कार्य करके, G-Loss बड़े डेटासेट्स और मॉडल्स के लिए स्केलेबल है, जो पिछले ग्राफ-LM हाइब्रिड दृष्टिकोणों की एक प्रमुख बाधा को संबोधित करता है।
मजबूती (Robustness): विधि यह प्रदर्शित करती है कि फाइन-ट्यूनिंग के दौरान ग्लोबल स्ट्रक्चरल कंस्ट्रेंट्स को शामिल करने से अधिक डिस्क्रिमिनेटिव और मजबूत एम्बेडिंग्स मिलती हैं, जिससे बाइनरी और मल्टी-क्लास क्लासिफिकेशन टास्क (इम्बैलेंस्ड डेटा के साथ) पर सामान्यीकरण में सुधार होता है।

निष्कर्षतः, G-Loss पारंपरिक फाइन-ट्यूनिंग का एक कम्प्यूटेशनल रूप से कुशल, उच्च-प्रदर्शन विकल्प प्रदान करता है, जो यह सिद्ध करता है कि डायनेमिक रूप से विकसित होने वाले ग्राफ स्ट्रक्चर बड़े लैंग्वेज मॉडल्स के सिमेंटिक रिप्रेजेंटेशन लर्निंग को महत्वपूर्ण रूप से बढ़ा सकते हैं।