🤖 machine learning

One Algorithm, Two Goals: Dual Scoring for Parameter and Data Selection in LLM Fine-Tuning

यह शोधपत्र DualSFT को प्रस्तुत करता है, जो एक वन-शॉट एल्गोरिदम है जो एक बाइलेवल ऑप्टिमाइज़ेशन फ्रेमवर्क से एक साझा ग्रेडिएंट-आधारित स्कोरिंग नियम व्युत्पन्न करके LLM फाइन-ट्यूनिंग के लिए पैरामीटर और डेटा चयन को एकीकृत करता है, जिससे पारंपरिक अलग-अलग रणनीतियों की तुलना में अधिक कुशल और समन्वित सह-चयन सक्षम होता है।

मूल लेखक: Xinrui Chen, Liu Yang, Ou Wu

प्रकाशित 2026-05-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinrui Chen, Liu Yang, Ou Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास ज्ञान का एक विशाल, अत्यधिक प्रशिक्षित पुस्तकालय (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो दुनिया के बारे में सब कुछ जानता है। अब, आप इस पुस्तकालय को एक विशिष्ट नया कौशल सिखाना चाहते हैं, जैसे कंप्यूटर कोड लिखना या गणित की समस्याओं को हल करना। इस प्रक्रिया को "फाइन-ट्यूनिंग" (fine-tuning) कहा जाता है।

आमतौर पर, इस पुस्तकालय को सिखाने के लिए, आपके पास दो विकल्प होते हैं:

पुस्तकालय की हर एक किताब को फिर से पढ़ना (आपके सभी डेटा का उपयोग करके)।
पुस्तकालय के हर एक पन्ने को फिर से लिखना (सभी पैरामीटर्स को अपडेट करके)।

दोनों ही तरीके अविश्वसनीय रूप से महंगे, धीमे और भारी मात्रा में कंप्यूटर पावर की मांग करने वाले हैं। पैसा बचाने के लिए, शोधकर्ता आमतौर पर केवल एक तरीके से कुशल होने की कोशिश करते हैं: या तो वे केवल सबसे अच्छी किताबें चुनते हैं (डेटा सिलेक्शन) या वे केवल सबसे महत्वपूर्ण पन्नों को फिर से लिखने का चुनाव करते हैं (पैरामीटर सिलेक्शन)।

समस्या यह है कि केवल एक करना ऐसा है जैसे केवल सबसे अच्छी किताबें पढ़कर एक नई भाषा सीखने की कोशिश करना लेकिन हर पन्ने को फिर से लिखना, या केवल सबसे अच्छे पन्नों को फिर से लिखना लेकिन हर एक किताब को पढ़ना। यह अभी भी बर्बादी है।

पेपर का बड़ा विचार: "DualSFT"
लेखकों ने एक नया तरीका प्रस्तावित किया है जिसे DualSFT कहा जाता है। इसे एक "स्मार्ट लाइब्रेरियन" (चतुर पुस्तकालयाध्यक्ष) के रूप में सोचें जो इन दोनों समस्याओं को एक ही चतुराई भरे तरीके से हल करता है।

यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. "वन-स्टॉप शॉप" स्कोरकार्ड

कल्पना कीजिए कि आप एक बड़े प्रोजेक्ट के लिए एक टीम को काम पर रख रहे हैं। आपको सबसे अच्छे कामगारों (डेटा) को चुनना है और यह तय करना है कि उन्हें किन उपकरणों (टूल्स) का उपयोग करना चाहिए (पैरामीटर)।

पुराना तरीका: आप सबसे अच्छे लोगों को खोजने के लिए एक "वर्कर स्काउट" (कामगार खोजकर्ता) को नियुक्त करते हैं, और टूल्स खोजने के लिए एक अलग "टूल स्काउट" को। वे एक-दूसरे से बात नहीं करते। वे एक शानदार कामगार चुन सकते हैं जिसे उस टूल की आवश्यकता है जिसे टूल स्काउट ने नहीं चुना, या इसके विपरीत। यह अव्यवस्थित है।
DualSFT का तरीका: लेखकों ने महसूस किया कि "सबसे अच्छा कामगार" और "सबसे अच्छा टूल" वास्तव में जुड़े हुए हैं। उन्होंने एक ही सिंगल स्कोरकार्ड बनाया जो इन दोनों को एक साथ देखता है।

2. "इंटरेक्शन मैट्रिक्स" (असली जादू)

पेपर बताता है कि डेटा (किताबों) और पैरामीटर्स (पन्नों) के बीच एक छिपा हुआ गणितीय संबंध है।

एक विशाल ग्रिड की कल्पना करें जहाँ पंक्तियाँ (rows) आपके प्रशिक्षण उदाहरण (किताबें) हैं और कॉलम (columns) आपके मॉडल के पैरामीटर्स (पन्ने) हैं।
लेखकों ने इस ग्रिड के प्रत्येक सेल के लिए एक "स्कोर" की गणना करने का एक तरीका खोजा है।
यदि आप एक पंक्ति के माध्यम से स्कोर को जोड़ते हैं, तो आप तुरंत जान जाते हैं कि कौन सी किताबें सबसे उपयोगी हैं।
यदि आप एक कॉलम के माध्यम से स्कोर को जोड़ते हैं, तो आप तुरंत जान जाते हैं कि किन पन्नों को अपडेट करना सबसे महत्वपूर्ण है।

यह एक जादुई मानचित्र की तरह है। यदि आप मानचित्र को क्षैतिज (horizontally) रूप से देखते हैं, तो यह आपको बताता है कि सोना कहाँ खोदना है (डेटा)। यदि आप इसे लंबवत (vertically) रूप से देखते हैं, तो यह आपको बताता है कि सड़क कहाँ बनानी है (पैरामीटर्स)। आपको दो अलग-अलग मानचित्रों की आवश्यकता नहीं है; आपको बस एक ही मानचित्र को अलग तरह से पढ़ने की आवश्यकता है।

3. "वन-शॉट" ट्रिक

आमतौर पर, सबसे अच्छा डेटा और पैरामीटर चुनने के लिए, आपको प्रशिक्षण प्रक्रिया चलानी पड़ सकती है, रुकना पड़ सकता है, परिणाम की जांच करनी पड़ सकती है, नया डेटा चुनना पड़ सकता है, फिर से चलाना पड़ सकता है, और दोहराना पड़ सकता है। इसमें बहुत समय लगता है।

DualSFT एक "वन-शॉट" (One-Shot) विधि है।

चरण 1: मॉडल कार्य को समझने के लिए एक त्वरित "वार्म-अप वॉक" (एक छोटा अभ्यास सत्र) लेता है।
चरण 2: यह "जादुई मानचित्र" (ग्रेडिएंट इंटरेक्शन मैट्रिक्स) को देखता है जैसा कि ऊपर बताया गया है।
चरण 3: एक ही नज़र में, यह पढ़ने के लिए शीर्ष 10% किताबें और फिर से लिखने के लिए शीर्ष 5% पन्ने चुनता है।
चरण 4: यह सीधे अंतिम प्रशिक्षण पर जाता है जिसमें केवल उन्हीं चयनित किताबों और पन्नों का उपयोग किया जाता है।

4. अतीत को याद रखना (भूलना नहीं)

एक स्मार्ट मॉडल को नया कौशल सिखाने के साथ एक सामान्य समस्या यह है कि वह अपने पुराने कौशल (जैसे कविता लिखना या सामान्य प्रश्न पूछना) भूलने लगता है। इसे "कैटास्ट्रोफिक फॉरगेटिंग" (विनाशकारी विस्मृति) कहा जाता है।

DualSFT में एक विशेष "मेमोरी गार्ड" शामिल है जिसे CWSD कहा जाता है।

कल्पना कीजिए कि मॉडल एक छात्र है जो गणित सीख रहा है। "मेमोरी गार्ड" एक शिक्षक है जो फुसफुसाता है, "हे, गणित सीखते समय अपनी कहानी लिखना मत भूलना!"
यह गार्ड एक विशेष तकनीक का उपयोग करता है जो यह सुनिश्चित करता है कि मॉडल मूल पुस्तकालय की सभी किताबों को फिर से पढ़े बिना, अपने मूल व्यक्तित्व और सामान्य ज्ञान को बनाए रखते हुए नया कार्य सीख सके।

परिणाम

लेखकों ने विभिन्न आकारों के मॉडलों (3 बिलियन से 9 बिलियन "न्यूरॉन्स" तक) पर इसका परीक्षण किया।

दक्षता (Efficiency): उन्होंने मानक तरीकों की तुलना में बहुत कम डेटा का उपयोग किया और बहुत कम पैरामीटर्स को अपडेट किया।
प्रदर्शन (Performance): कम संसाधनों का उपयोग करने के बावजूद, मॉडल ने उन मॉडलों की तुलना में बेहतर प्रदर्शन किया जिन्होंने अधिक संसाधनों का उपयोग किया लेकिन कम समझदारी से किया (जैसे कोडिंग और गणित के कार्यों में)।
संतुलन (Balance): उन्होंने नया कौशल सीखने (प्लास्टिसिटी/लचीलापन) और पुराने कौशल को बनाए रखने (स्टेबिलिटी/स्थिरता) के बीच सही संतुलन पाया।

सारांश

संक्षेप में, DualSFT एक नया एल्गोरिदम है जो "डेटा चुनने" और "पैरामीटर चुनने" को दो अलग-अलग कार्यों के रूप में मानना बंद कर देता है। इसके बजाय, यह उन्हें एक ही सिक्के के दो पहलुओं के रूप में देखता है। एक ही गणितीय ट्रिक का उपयोग करके दोनों को एक साथ स्कोर करके, यह समय बचाता है, पैसा बचाता है, और अधिक कुशल, स्मार्ट और प्रभावी AI मॉडल बनाता है जो वह नहीं भूलते जो वे पहले से जानते हैं।

तकनीकी सारांश: DualSFT – LLM फाइन-ट्यूनिंग के लिए एक एल्गोरिदम, दो लक्ष्य

1. समस्या विवरण

लार्ज लैंग्वेज मॉडल (LLM) फाइन-ट्यूनिंग आधुनिक पैमानों पर अत्यधिक लागत का सामना कर रही है, जिससे दो अलग-अलग दक्षता रणनीतियों की ओर शोध बढ़ रहा है: पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT) और डेटा-कुशल फाइन-ट्यूनिंग (DEFT)। PEFT विधियाँ (जैसे पैरामीटर चयन, LoRA) ट्रेन करने योग्य स्टेट मेमोरी को कम करती हैं, जबकि DEFT विधियाँ (जैसे डेटा चयन, रीवेटिंग) अनुकूलन कार्यभार (optimization workload) को कम करती हैं।

वर्तमान में, ये रणनीतियाँ स्वतंत्र रूप से कार्य करती हैं। जब एक पैरामीटर मास्क और एक डेटा सबसेट दोनों को अपडेट को प्रतिबंधित करने के लिए लागू किया जाता है, तो मौजूदा दृष्टिकोण आमतौर पर अलग-अलग स्कोरिंग तंत्रों का उपयोग करते हैं। यह अलगाव अनावश्यक कम्प्यूटेशनल ओवरहेड पैदा करता है और एक समन्वय अंतराल (coordination mismatch) बनाता है: एक पैरामीटर मास्क जिसे विशिष्ट डेटा सबसेट पर विचार किए बिना चुना गया है (और इसके विपरीत), संयुक्त प्रदर्शन के लिए उप-इष्टतम (suboptimal) हो सकता है। यह शोध पत्र तर्क देता है कि चूंकि पैरामीटर मास्क और डेटा सबसेट संयुक्त रूप से प्रतिबंधित अपडेट को निर्धारित करते हैं, इसलिए उन्हें एक साझा स्कोरिंग नियम के माध्यम से चुना जाना चाहिए न कि अलग-अलग तंत्रों के माध्यम से।

2. कार्यप्रणाली: DualSFT

लेखक DualSFT (Dual-Selection Fine-Tuning) का प्रस्ताव करते हैं, जो एक 'वन-शॉट' एल्गोरिदम है जो साझा ग्रेडिएंट सांख्यिकी (gradient statistics) से पैरामीटर महत्व और डेटा उपयोगिता को सह-निष्कर्षण (co-extract) करता है। मुख्य सैद्धांतिक अंतर्दृष्टि एक सामान्य वैलिडेशन ऑब्जेक्टिव के तहत एक एकल लोकल रिस्पॉन्स-सरोगेट (local response-surrogate) समस्या के रूप में पैरामीटर और डेटा चयन को प्रस्तुत करना है।

2.1 सैद्धांतिक आधार: बाइलेवल फॉर्मूलेशन और सरोगेट्स

चयन प्रक्रिया को दो बाइलेवल ऑप्टिमाइज़ेशन समस्याओं के रूप में तैयार किया गया है जो एक साझा बाहरी वैलिडेशन ऑब्जेक्टिव $\mathcal{L}_{val} = \mathcal{L}_{new} + \lambda \mathcal{L}_{prior}$ को साझा करती हैं, जहाँ $\mathcal{L}_{new}$ लक्षित-कार्य हानि (target-task loss) है और $\mathcal{L}_{prior}$ पूर्व-प्रशिक्षित क्षमताओं को सुरक्षित रखता है।

बाहरी स्तर (Outer Level): एक बजट-बाधित मास्क (पैरामीटर मास्क $\mathbf{m}_\theta$ या डेटा मास्क $\mathbf{m}_D$ ) चुनता है।
आंतरिक स्तर (Inner Level): चयनित मास्क द्वारा प्रेरित इष्टतम पैरामीटर अपडेट $\delta^*$ की गणना करता है।

LLMs के लिए इसे सटीक रूप से हल करना अव्यवहार्य है। लेखक एक सामान्य वार्मअप चेकपॉइंट $\bar{\theta}$ पर एक-चरण ग्रेडिएंट अपडेट (one-step gradient update) का उपयोग करके आंतरिक रिस्पॉन्स का अनुमान लगाते हैं। इससे स्थानीय सरोगेट्स प्राप्त होते हैं जहाँ अपडेट की दिशा चयनित सबसेट पर निर्भर करती है।

2.2 साझा इंटरेक्शन मैट्रिक्स (Shared Interaction Matrix)

$\bar{\theta}$ के आसपास प्रथम- और द्वितीय-क्रम के टेलर एप्रोक्सिमेशन का उपयोग करके वैलिडेशन ऑब्जेक्टिव का विस्तार करके, लेखक एक ग्रेडिएंट इंटरेक्शन मैट्रिक्स $\mathbf{M} \in \mathbb{R}^{N \times D}$ प्राप्त करते हैं (जहाँ $N$ नमूनों की संख्या है और $D$ पैरामीटर आयाम है)।

पैरामीटर महत्व: $\mathbf{M}$ के कॉलम-वाइज एग्रीगेशन (column-wise aggregation) के रूप में उभरता है।
डेटा उपयोगिता: $\mathbf{M}$ के रो-वाइज एग्रीगेशन (row-wise aggregation) के रूप में उभरती है।

यह संरचना एक रो-कॉलम द्वैत (row-column duality) को प्रकट करती है: दोनों संकेत एक ही बीजगणितीय वस्तु (algebraic object) से प्राप्त होते हैं। क्लोज्ड-फॉर्म स्कोर एक शापली वैल्यू व्याख्या (Shapley value interpretation) को स्वीकार करते हैं, जो चयन को एक सहकारी खेल (cooperative game) के रूप में मानता है जहाँ इंटरेक्शन मैट्रिक्स क्रेडिट असाइनमेंट प्रदान करता है।

2.3 DualSFT एल्गोरिदम पाइपलाइन

एल्गोरिदम तीन चरणों में निष्पादित होता है:

पायलट वार्मअप (Pilot Warmup): एक हल्का वार्मअप (1 एपोक, डेटा का 5%) एक स्थिर चेकपॉइंट $\bar{\theta}$ स्थापित करता है और AdamW के सेकंड-मोमेंट बफर का उपयोग करके डायगोनल कर्वेचर $\hat{c}$ का अनुमान लगाता है।
वन-शॉट डुअल स्कोरिंग (One-Shot Dual Scoring):
- एक वैलिडेशन-इम्प्रूवमेंट प्रोजेक्शन वेक्टर $\mathbf{u}$ का निर्माण किया जाता है: $\mathbf{u} = \eta_{sc}(\nabla \mathcal{L}_{new} + \lambda \nabla \mathcal{L}_{prior}) - \frac{\eta_{sc}^2}{2} \hat{c} \odot \mathbf{G}$ , जहाँ $\mathbf{G}$ संचित प्रशिक्षण ग्रेडिएंट है।
- पैरामीटर स्कोर: $s_{\theta, d} = u_d G_d$ (कॉलम एग्रीगेशन)।
- डेटा स्कोर: $s_{D, n} = \langle \mathbf{u}, \mathbf{g}_n \rangle$ (रो एग्रीगेशन, जिसे प्रति-नमूना ग्रेडिएंट को भौतिक रूप से बनाने से बचने के लिए घोस्ट डॉट प्रोडक्ट के माध्यम से गणना किया जाता है)।
- इन हस्ताक्षरित (signed) स्कोर्स के आधार पर टॉप- $k$ पैरामीटर और टॉप- $b$ नमूने चुने जाते हैं।
प्रतिबंधित फाइन-ट्यूनिंग (Restricted Fine-Tuning): मॉडल को चयनित डेटा सबसेट पर केवल चयनित पैरामीटर्स का उपयोग करके फाइन-ट्यून किया जाता है।

2.4 संरक्षण तंत्र (Preservation Mechanism)

प्री-ट्रेनिंग डेटा तक पहुँच के बिना कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को कम करने के लिए, DualSFT कॉन्फिडेंस-वेटेड सेल्फ-डिस्टिलेशन (CWSD) का उपयोग करता है। यह एक एंकर सेट पर वर्तमान मॉडल और मूल प्री-ट्रेंड मॉडल के बीच KL डाइवर्जेंस को कम करके संरक्षण दिशा $\nabla \mathcal{L}_{prior}$ का निर्माण करता है, जिसे मूल मॉडल के भविष्यवाणियों के आत्मविश्वास (confidence) द्वारा भारित (weighted) किया जाता है।

3. प्रमुख योगदान

एकीकृत स्कोरिंग थ्योरी: एक साझा रिस्पॉन्स-सरोगेट स्कोरिंग नियम का व्युत्पन्न जो अलग-अलग पैरामीटर और डेटा चयन समस्याओं को एक एकल ग्रेडिएंट इंटरेक्शन मैट्रिक्स के रो-वाइज और कॉलम-वाइज एग्रीगेशन में बदल देता है, जिसे स्थानीय शापली व्याख्या द्वारा समर्थित किया गया है।
DualSFT एल्गोरिदम: एक व्यावहारिक, वन-शॉट डुअल-स्कोरिंग एल्गोरिदम जो पैरामीटर और डेटा चयन को एक साथ समन्वित करता है, जिससे अनुक्रमिक हाइब्रिड बेसलाइन्स में पाए जाने वाले रेडंडेंट स्कोरिंग पास और समन्वय अंतराल समाप्त हो जाते हैं।
संरक्षण दिशा (Preservation Direction): एक कॉर्पस-मुक्त संरक्षण दिशा जो CWSD का उपयोग करके प्रतिबंधित फाइन-ट्यूनिंग के दौरान फॉरगेटिंग को प्रभावी ढंग से कम करती है।
अनुभवजन्य सत्यापन (Empirical Validation): कोड जनरेशन और गणितीय तर्क कार्यों पर 3B–9B LLMs (Llama-3.2, Gemma-3, Qwen-3.5) पर व्यापक प्रयोग।

4. प्रयोगात्मक परिणाम

मैजिकोडर (कोड) और मेटामैथक्यूए (मैथ) पर समान बजट (10% डेटा, 5% पैरामीटर) के साथ प्रयोग किए गए।

प्रदर्शन: DualSFT सिंगल-एक्सिस बेसलाइन्स (जैसे LESS, S2FT, NanoAdam) और अनुक्रमिक हाइब्रिड्स (जैसे LESS + S2FT, SPICE + NanoAdam) से बेहतर प्रदर्शन करता है।
- Llama-3.2-3B (Magicoder) पर, फुल DualSFT ने 47.10% ओवरऑल स्कोर प्राप्त किया, जो सबसे मजबूत अनुक्रमिक हाइब्रिड (SPICE + NanoAdam 44.71% पर) से 2.39 अंक अधिक है।
- DualSFT वेरिएंट्स ने अपने संबंधित तुलना समूहों में प्लास्टिसिटी (लक्ष्य कार्य प्रदर्शन) और स्थिरता (सामान्य क्षमताओं का प्रतिधारण) दोनों में बढ़त बनाए रखी।
दक्षता: DualSFT फाइन-ट्यूनिंग लागत को कम करता है। फुल DualSFT ने अपने परिणाम 7.4 GPU-घंटों और 28.5 GB पीक सिलेक्शन मेमोरी के साथ प्राप्त किए, जो संयुक्त-प्रतिबंधित ट्रेड-ऑफ में अनुक्रमिक हाइब्रिड्स से बेहतर है।
एब्लेशन (Ablations):
- वार्मअप चरण को हटाने से प्लास्टिसिटी को काफी नुकसान हुआ।
- CWSD को हटाने से स्थिरता को काफी नुकसान हुआ।
- केवल फर्स्ट-ऑर्डर स्कोरिंग का उपयोग करने (डायगोनल कर्वेचर को अनदेखा करने) से ओवरऑल प्रदर्शन में सबसे बड़ी गिरावट आई, जो सेकंड-ऑर्डर एप्रोक्सिमेशन को प्रमाणित करता है।
नैदानिक विश्लेषण (Diagnostic Analysis): पेपर पुष्टि करता है कि वन-शॉट स्कोरिंग अधिकांश संयुक्त संरचना को कैप्चर करता है, क्योंकि फिक्स्ड-साइड री-सिलेक्शन (एक अन्य को फिक्स करने के बाद दूसरे का पुनः स्कोरिंग) कम्प्यूटेशनल लागत की कीमत पर मामूली लाभ (<0.12 अंक) देता है।

5. महत्व और दावे

पेपर का दावा है कि DualSFT पैरामीटर और डेटा चयन को स्वतंत्र ह्यूरिस्टिक्स के रूप में मानने के बजाय उन्हें जुड़े हुए अनुकूलन संसाधनों (coupled adaptation resources) के रूप में देखने की दिशा में एक बदलाव का प्रतिनिधित्व करता है। एक एकल वैलिडेशन-इम्प्रूवमेंट सरोगेट से दोनों संकेतों को व्युत्पन्न करके, यह विधि:

रेडंडेंसी को कम करता है: अलग-अलग स्कोरिंग तंत्रों और बार-बार होने वाले कंडीशनल पासेज की आवश्यकता को समाप्त करता है।
समन्वय में सुधार करता है: संयुक्त अपडेट से पहले चयन अक्षों (selection axes) को संरेखित करता है, जिससे "कोऑर्डिनेशन गैप" से बचा जा जाता है जहाँ स्वतंत्र चयन अनवेरिफाइड सिग्नल मिला देते हैं।
ट्रेड-ऑफ को संतुलित करता है: समान बजट के तहत मौजूदा अनुक्रमिक या सिंगल-एक्सिस विधियों की तुलना में अधिक अनुकूल स्थिरता-प्लास्टिसिटी-दक्षता फ्रंटियर प्राप्त करता है।

लेखक विनम्रतापूर्वक नोट करते हैं कि विधि एक स्थानीय सरोगेट पर निर्भर करती है, जिसका अर्थ है कि जैसे-जैसे अनुकूलन वार्मअप चेकपॉइंट से दूर जाता है, स्कोर की शुद्धता (fidelity) कम हो सकती है। वे लंबे अनुकूलन क्षितिज के लिए डायनेमिक री-स्कोरिंग को एक भविष्य की दिशा के रूप में सुझाते हैं लेकिन इस बात पर जोर देते हैं कि वन-शॉट दृष्टिकोण अध्ययन किए गए बजटों के लिए अत्यधिक लागत प्रभावी है।