Detecting Functional Memorization in Code Language Models
यह शोध पत्र एक काउंटरफैक्टुअल मूल्यांकन ढांचे (counterfactual evaluation framework) को प्रस्तुत करता है जो यह प्रदर्शित करता है कि कोड लैंग्वेज मॉडल शाब्दिक टेक्स्ट ओवरलैप से परे कार्यात्मक तर्क (functional logic) को याद कर सकते हैं, जिससे नए ऑडिटिंग मेट्रिक्स की आवश्यकता होती है जो केवल टेक्स्ट मिलान के बजाय निष्पादन-आधारित समानता (execution-based similarity) का आकलन करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास कंप्यूटर कोड की एक विशाल लाइब्रेरी है, जैसे कि लाखों व्यंजनों (recipes) से भरी एक बहुत बड़ी कुकबुक। आप एक सुपर-स्मार्ट AI शेफ (एक लार्ज लैंग्वेज मॉडल) को इस लाइब्रेरी के हर एक पन्ने को पढ़ने के लिए प्रशिक्षित करते हैं ताकि वह खाना बनाना सीख सके।
अब, कल्पना कीजिए कि आप उस AI शेफ से "स्पाइसी टोफू" के लिए एक नया व्यंजन लिखने को कहते हैं।
पुराना तरीका (टेक्स्टुअल सिमिलैरिटी - शब्दों की समानता)
पहले, शोधकर्ता यह जाँचने के लिए देखते थे कि क्या AI "चीटिंग" (रट्टा मारना) कर रहा है, और इसके लिए वे शब्दों को देखते थे। यदि AI एक ऐसा व्यंजन लिखता था जो लाइब्रेरी में मौजूद किसी व्यंजन के लगभग समान दिखता था—वही सामग्री, वही वाक्य संरचना और वही वर्तनी का उपयोग करता था—तो वे कहते थे, "आहा! इसने उस व्यंजन को रट लिया है!"
लेकिन यहाँ एक समस्या है: दो व्यंजन बिल्कुल एक जैसा स्वादिष्ट व्यंजन बना सकते हैं लेकिन कागज पर पूरी तरह अलग दिख सकते हैं। एक कह सकता है "2 कप मैदा डालें," जबकि दूसरा कह सकता है "480 मिलीलीटर सफेद पाउडर डालें।" वे कार्यात्मक रूप से समान (functionally identical) हैं (दोनों एक ही केक बनाते हैं) लेकिन शब्दों के रूप में भिन्न (textually different) हैं।
नया आविष्कार (फंक्शनल मेमोराइजेशन - कार्यात्मक स्मृति)
यह पेपर कहता है: "हमने पाया कि AI शेफ व्यंजनों के तर्क (logic) को रट रहा है, न कि केवल शब्दों को।"
भले ही AI शब्दों, वेरिएबल के नामों और वाक्य संरचना को बदल दे, फिर भी वह गुप्त रूप से लाइब्रेरी के उसी सटीक चरणों का पालन कर सकता है। यह ऐसा है जैसे AI ने लाइब्रेरी से किसी विशेष कंपनी के "सीक्रेट सॉस" के लिए एक गुप्त फॉर्मूला सीख लिया हो। भले ही वह एक नया व्यंजन लिखे जो दिखने में बिल्कुल अलग हो, यदि वह अभी भी उसी सटीक गुप्त फॉर्मूले का उपयोग करता है, तो उसने उस कंपनी के व्यापारिक रहस्य (trade secret) को लीक कर दिया है।
उन्होंने इसे कैसे पकड़ा (काउंटरफैक्चुअल टेस्ट)
इसे साबित करने के लिए, शोधकर्ताओं ने एक चतुर प्रयोग तैयार किया, जैसे कि एक "ट्विन टेस्ट" (जुड़वां परीक्षण):
- "अनुभवी" शेफ (टारगेट मॉडल): इस AI को उन विशिष्ट गुप्त व्यंजनों वाली लाइब्रेरी पर प्रशिक्षित किया गया था।
- "नाइव" शेफ (रेफरेंस मॉडल): यह AI बिल्कुल वही मॉडल है, लेकिन इसने उन विशिष्ट गुप्त व्यंजनों को कभी नहीं देखा। इसने केवल सामान्य लाइब्रेरी को देखा।
उन्होंने दोनों शेफों को एक सरल प्रॉम्प्ट (जैसे "शहर X के लिए एक सॉस बनाएं") के आधार पर एक व्यंजन लिखने के लिए कहा।
- यदि नाइव शेफ ने एक रैंडम, सामान्य सॉस का अनुमान लगाया, लेकिन अनुभवी शेफ ने एक ऐसा सॉस लिखा जो लाइब्रेरी के ठीक उसी गुप्त तर्क का उपयोग करता था (भले ही शब्द अलग हों), तो वे जान गए कि अनुभवी शेफ ने उस तर्क को रट लिया था।
परिणाम
अध्ययन में पाया गया कि जहाँ "टेक्स्ट-मैचिंग" डिटेक्टरों ने इनमें से अधिकांश मामलों को मिस कर दिया, वहीं "लॉजिक-मैचिंग" डिटेक्टरों ने उन्हें पकड़ लिया।
- टेक्स्ट डिटेक्टरों ने कहा: "ये व्यंजन अलग दिखते हैं। कोई चीटिंग नहीं।"
- लॉजिक डिटेक्टरों ने कहा: "रुको, ये व्यंजन बिल्कुल उन्हीं छिपे हुए चरणों का उपयोग करके समान परिणाम देते हैं। यह रटना (memorization) है!"
यह क्यों महत्वपूर्ण है
पेपर निष्कर्ष निकालता है कि हम केवल यह जाँच नहीं कर सकते कि AI शब्दों की नकल कर रहा है या नहीं। हमें यह भी जाँच करनी होगी कि क्या वह उस दिमाग (logic) की नकल कर रहा है जो उस कोड के पीछे है। यदि किसी कंपनी का मालिकाना ट्रेडिंग एल्गोरिदम या कंटेंट मॉडरेशन नियम ट्रेनिंग डेटा में हैं, तो AI एक नए रूप में उस गुप्त तर्क को फिर से प्रस्तुत कर सकता है, जिससे संवेदनशील जानकारी लीक हो सकती है, भले ही वह एक भी शब्द हूबहू कॉपी न करे।
संक्षेप में:
AI केवल एक फोटोकॉपी मशीन नहीं है; यह एक नकलची (mimic) है। यह एक गुप्त रेसिपी के विचार को सीख सकता है और अपनी आवाज़ में उसे फिर से लिख सकता है। लेखकों ने नए उपकरण बनाए हैं ताकि वे AI को तब पकड़ सकें जब वह इस "लॉजिक मिमिक्री" (तर्क की नकल) को कर रहा होता है, यह दिखाते हुए कि वर्तमान सुरक्षा जाँचें केवल स्पेलिंग और ग्रामर पर बहुत अधिक केंद्रित हैं, और गहरे, अधिक खतरनाक प्रकार की नकल को अनदेखा कर देती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।