← नवीनतम पेपर
🤖 machine learning

Bounded Behavioral Indistinguishability for Black-Box LLM Distillation

यह शोध पत्र 'बाउंडेड बिहेवियरल इंडिस्टिंग्विशेबिलिटी' (सीमित व्यवहारिक अविभेद्यता) की अवधारणा प्रस्तुत करता है यह प्रदर्शित करने के लिए कि जबकि LoRA डिस्टिलेशन ब्लैक-बॉक्स LLM शिक्षकों और छात्रों के बीच सिमेंटिक समानता में सुधार करता है, यह शैली, मजबूती और तकनीकी डोमेन में पता लगाने योग्य व्यवहारिक अंतरों को पूरी तरह से समाप्त करने में विफल रहता है, जिसके लिए आउटपुट-मैचिंग से एडवरसेरियल, कैटेगरी-अवेयर इवैल्यूएशन की ओर बदलाव आवश्यक है।

मूल लेखक: Munawar Hasan

प्रकाशित 2026-06-01
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Munawar Hasan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक मास्टर शेफ (शिक्षक) है और आप एक सु-शेफ (छात्र) को बिल्कुल उनके जैसा खाना बनाना सिखाना चाहते हैं। AI की दुनिया में, इसे "डिस्टिलेशन" (distillation) कहा जाता है। आमतौर पर, हम यह जाँचने के लिए कि प्रशिक्षण सफल रहा या नहीं, भोजन चखते हैं: "क्या छात्र का व्यंजन मास्टर के समान स्वाद वाला है?" यदि स्वाद करीब है, तो हम कहते हैं कि प्रशिक्षण सफल रहा।

लेकिन यह शोध पत्र तर्क देता है कि केवल भोजन चखना काफी नहीं है।

सिर्फ इसलिए कि दो व्यंजनों का स्वाद समान है, इसका मतलब यह नहीं है कि कोई खाद्य समीक्षक (food critic) उनमें अंतर नहीं कर पाएगा। हो सकता है कि छात्र शेफ ने प्याज को थोड़ा अलग तरीके से काटा हो, या किसी विशेष प्रकार के नमक का उपयोग किया हो जिसका उपयोग मास्टर कभी नहीं करते, या व्यंजन को अलग प्लेट पर परोसा हो। एक साधारण खाने वाले के लिए, वे एक जैसे दिखते हैं। लेकिन एक तीक्ष्ण समीक्षक के लिए, अंतर स्पष्ट हैं।

नया विचार: "व्यवहार संबंधी अविभेद्यता" (Behavioral Indistinguishability)

लेखक AI प्रशिक्षण को परखने का एक नया तरीका प्रस्तावित करते हैं जिसे बाउंडेड बिहेवियरल इंडिस्टिंगुइशेबिलिटी (Bounded Behavioral Indistinguishability) कहा जाता है। केवल यह पूछने के बजाय कि, "क्या इनका स्वाद एक जैसा है?", वे पूछते हैं: "क्या एक पेशेवर खाद्य समीक्षक यह बता सकता है कि यह व्यंजन किस शेफ ने बनाया है, भले ही उसे केवल एक बार स्वाद लेने का मौका मिले?"

उन्होंने विशिष्ट नियमों के साथ एक "खेल" तैयार किया है:

  • समीक्षक (विरोधी/Adversary): एक स्मार्ट AI या मानव जो यह अनुमान लगाने की कोशिश कर रहा है कि व्यंजन किसने बनाया।
  • बजट: समीक्षक को केवल सीमित संख्या में व्यंजन (क्वेरीज़) चखने को मिलते हैं और सोचने के लिए सीमित समय (कंप्यूटेशन) मिलता है।
  • मेन्यू (प्रॉम्प्ट डिस्ट्रीब्यूशन): व्यंजन एक विशिष्ट, नियंत्रित मेन्यू (5,000 अलग-अलग प्रकार के प्रश्न) से चुने जाते हैं, न कि जनता के रैंडम ऑर्डर्स से।

यदि समीक्षक संयोग (सिक्का उछालने) से अधिक बार सही शेफ का अनुमान लगा लेता है, तो छात्र विभेद्य (distinguishable) है। यदि समीक्षक 50/50 के अनुमान पर अटका हुआ है, तो वह अविभेद्य (indistinguishable) है।

उन्होंने क्या किया

शोधकर्ताओं ने इस परीक्षण को दो प्रसिद्ध AI परिवारों: Qwen और Llama पर आजमाया।

  1. सेटअप: उन्होंने एक बड़ा, स्मार्ट AI (शिक्षक) और एक छोटा, कम स्मार्ट AI (छात्र) लिया।
  2. प्रशिक्षण: उन्होंने छोटे AI को बड़े AI के उत्तरों की नकल करना सिखाने के लिए LoRA (इसे एक "ट्रेनिंग पैच" समझें) नामक तकनीक का उपयोग किया।
  3. परीक्षण: उन्होंने कोडिंग और गणित से लेकर सुरक्षा चेतावनियों और रचनात्मक लेखन तक सब कुछ कवर करने वाला 5,000 प्रश्नों का एक मेन्यू बनाया। फिर उन्होंने "समीक्षक" (एक स्मार्ट डिस्क्रिमिनेटर AI) से पूछा: "क्या बड़े शेफ या छोटे शेफ ने यह लिखा है?"

परिणाम: समान, लेकिन अदृश्य नहीं

यहाँ उन्होंने हमारे रसोई के रूपक (analogy) का उपयोग करते हुए क्या पाया:

  • स्वाद में सुधार हुआ: प्रशिक्षण के बाद, छात्र के व्यंजन निश्चित रूप से मास्टर के समान स्वाद वाले थे। "सिमेंटिक सिमिलैरिटी" (अर्थ की निकटता) काफी बढ़ गई।
  • लेकिन समीक्षक ने ध्यान दिया: भले ही व्यंजन का स्वाद समान था, समीक्षक अभी भी छात्र शेफ को रैंडम चांस से लगभग 10% से 15% अधिक बार पहचान सकता था।
    • प्रशिक्षण से पहले: समीक्षक आसानी से उन्हें अलग कर सकता था (जैसे किसी सस्ते नकली उत्पाद को पहचानना)।
    • प्रशिक्षण के बाद: समीक्षक के लिए यह बहुत कठिन हो गया, लेकिन उन्हें अभी भी "आर्टिफैक्ट्स" (सुराग) मिल रहे थे।
  • सुराग कहाँ थे: छात्र शेफ हर जगह गलतियाँ नहीं करता था। सुराग विशिष्ट क्षेत्रों में केंद्रित थे:
    • शैली और फॉर्मेटिंग: छात्र बुलेट पॉइंट्स या JSON कोड को थोड़ा अलग तरह से उपयोग कर सकता है।
    • मजबूती (Robustness): यदि आपने टाइपो या किसी अजीब मोड़ के साथ प्रश्न पूछा, तो छात्र मास्टर की तुलना में अलग तरह से प्रतिक्रिया देता था।
    • तकनीकी विवरण: जटिल कोडिंग या तकनीकी स्पष्टीकरण में, छात्र की "आवाज़" अभी भी थोड़ी अलग थी।
    • हालांकि: सामान्य प्रश्नों या सुरक्षा चेतावनियों में, छात्र समीक्षक के लिए लगभग अदृश्य था।

"टेस्ट-टेस्ट" बनाम "साइड-बाय-साइड" टेस्ट

शोध पत्र ने एक कठिन परीक्षण भी आजमाया: साइड-बाय-साइड चैलेंज।
समीक्षक को एक बार में एक व्यंजन दिखाने के बजाय, उन्होंने उन्हें एक ही ऑर्डर के लिए दो व्यंजन दिखाए: एक मास्टर का, एक छात्र का। समीक्षक को मास्टर के व्यंजन की ओर इशारा करना था।

  • परिणाम: इस कठिन परीक्षण के साथ भी, छात्र में सुधार हुआ। समीक्षक की सफलता दर लगभग 16% (चांस से ऊपर) से गिरकर प्रशिक्षण के बाद 8% हो गई।
  • अर्थ: प्रशिक्षण ने छात्र को पहचानने में बहुत कठिन बना दिया, लेकिन इसने उसे पूरी तरह से अदृश्य नहीं बनाया।

"शॉपिंग लिस्ट" का सबक

अंत में, शोध पत्र ने इस पर गौर किया कि छात्र को कैसे प्रशिक्षित किया गया। उन्होंने पूछा: "क्या हमें छात्र को केवल उन प्रश्नों पर प्रशिक्षित करना चाहिए जहाँ छात्र और शिक्षक के बीच सबसे अधिक असहमति होती है?" (यह छात्र को यह बताने जैसा है कि वह केवल उन्हीं व्यंजनों का अभ्यास करे जिनमें वह गलती कर रहा है)।

  • निष्कर्ष: नहीं। केवल "सबसे कठिन" प्रश्न चुनना प्रश्नों के रैंडम, विविध मिश्रण की तुलना में बेहतर काम नहीं करता था।
  • सबक: एक अच्छा छात्र बनाने के लिए, आपको कवरेज और विविधता (एक पूर्ण मेन्यू) की आवश्यकता होती है, न कि केवल गलतियों पर ध्यान केंद्रित करने की।

निचोड़

शोध पत्र यह निष्कर्ष निकालता है कि समान दिखना, अदृश्य होने के समान नहीं है।

यदि आप जानना चाहते हैं कि क्या किसी AI ने वास्तव में एक बड़े AI की तरह कार्य करना सीख लिया है, तो आप केवल यह जाँचकर नहीं जान सकते कि उत्तरों का अर्थ एक ही है। आपको यह देखने के लिए उन्हें एक कठोर "डिटेक्टिव गेम" (जासूसी खेल) से गुजारना होगा कि क्या एक स्मार्ट ऑब्जर्वर अभी भी अंतर देख सकता है। अध्ययन दिखाता है कि हालांकि प्रशिक्षण छात्र को छिपाने में मदद करता है, लेकिन यह उसे एक आदर्श भूत नहीं बनाता; "सुराग" अभी भी मौजूद हैं, जो उनकी शैली, फॉर्मेटिंग और कठिन प्रश्नों को संभालने के तरीके में छिपे हुए हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →