Excess Separability: Nuisance-Controlled Residual-Stream Probing for Benchmark Contamination Detection
यह शोधपत्र ट्रांसफॉर्मर्स में बेंचमार्क संदूषण (benchmark contamination) का पता लगाने के लिए एक सुदृढ़ प्रोटोकॉल प्रस्तुत करता है, जो रेसिडुअल-स्ट्रीम प्रोब्स (residual-stream probes) में "अत्यधिक पृथकरणीयता" (excess separability) को मापकर गैर-सपाट गहराई प्रोफाइल (non-flat depth profiles) को ठीक करता है और सरल, मौजूदा प्रोबिंग विधियों में निहित उच्च फाल्स पॉजिटिव दरों और शक्ति हानि से बचने के लिए एक स्तर-मैच किए गए प्लेसबो बेसलाइन का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि क्या किसी छात्र ने परीक्षा में नकल की है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, विशेष रूप से "लार्ज लैंग्वेज मॉडल्स" (सुपर-स्मार्ट कंप्यूटर दिमाग जो निबंध लिखते हैं और गणित की समस्याओं को हल करते हैं) के साथ, यह एक बहुत बड़ी समस्या है। इन मॉडल्स को इंटरनेट से टेक्स्ट के विशाल पुस्तकालयों पर प्रशिक्षित किया जाता है। यदि कोई परीक्षण प्रश्न उस लाइब्रेरी में बैठा है, तो मॉडल वास्तव में उसे समझने के बजाय बस उसका उत्तर "याद" कर सकता है। इसे कंटैमिनेशन (Contamination) कहा जाता है। यदि कोई मॉडल कंटैमिनेटेड है, तो उसके उच्च स्कोर एक झूठ हैं; वह बुद्धिमान नहीं है, वह बस एक तोता है।
लंबे समय तक, नकल करने वाले को पकड़ने का एकमात्र तरीका शिक्षक की उत्तर कुंजी (प्रशिक्षण डेटा) को झाँककर देखना था या लाइब्रेरी में परीक्षण प्रश्नों की सटीक प्रतियों को खोजना था। लेकिन अक्सर, हमारे पास उत्तर कुंजी नहीं होती है, और नकल करने वाला व्यक्ति प्रश्न को अपने शब्दों में फिर से लिख सकता है (पैराफ्रेस), जिससे उसे पहचानना कठिन हो जाता है। हाल ही में, कुछ वैज्ञानिकों ने एक नया तरीका आजमाया: उन्होंने मॉडल के "दिमाग" के अंदर देखते समय यह देखने की कोशिश की कि वह कैसे सोच रहा है। उन्हें उम्मीद थी कि उन्हें एक सूक्ष्म, अदृश्य संकेत मिलेगा—एक "परिचितता दिशा" (familiarity direction)—जो तब चमक उठेगी जब मॉडल उस प्रश्न को देखेगा जिसे उसने पहले याद किया है। यह बिल्कुल वैसा ही था जैसे यह उम्मीद करना कि आग लगने का प्रमाण देने के लिए चिमनी से एक विशिष्ट रंग का धुआं निकलेगा।
लेकिन यहाँ एक मोड़ है: फ्लोरियन ब्रौन का नया पेपर सुझाव देता है कि जिस तरह से हर कोई इस धुएं को खोजने की कोशिश कर रहा था, वह त्रुटिपूर्ण था। पुराना तरीका एक इमारत की ऊंचाई मापने के लिए उस छाया को देखने जैसा था जो दिन के समय और मौसम के अनुसार बदलती रहती है। यह पेपर दिमाग के अंदर देखने का एक बहुत अधिक स्मार्ट, अधिक सावधानीपूर्ण तरीका पेश करता है, जो शोर और चालों को फ़िल्टर करता है। यह पता चला कि जिस "धुएं" को लोगों ने देखा था, वह शायद केवल हवा का एक अलग तरीके से बहना था, न कि वास्तविक आग।
नया जासूसी उपकरण: RSCP
प्रस्तावित पेपर एक नया प्रोटोकॉल प्रस्तावित करता है जिसे रेसिडुअल-स्ट्रीम कंटैमिनेशन प्रोबिंग (RSCP) कहा जाता है। मॉडल के "रेसिडुअल स्ट्रीम" को एक आंतरिक राजमार्ग के रूप में सोचें जहाँ सूचना यात्रा करती है जब मॉडल एक वाक्य को प्रोसेस करता है। पुराना डिटेक्टर पूरे राजमार्ग को देखकर "याद किए गए" प्रश्नों और "नए" प्रश्नों के बीच अंतर बताने की कोशिश करता था। समस्या क्या थी? डिटेक्टर आसानी से मूर्ख बन जाता था। जब भी प्रश्नों की शैली (style) बदलती थी, तो वह उत्साहित हो जाता था, भले ही मॉडल ने कुछ भी याद न किया हो।
लेखक ने महसूस किया कि नकल करने वाले को पकड़ने के लिए, उन्हें अविश्वसनीय रूप से सटीक होना होगा। उन्होंने एक चार-चरणीय "सुपर-स्कैन" डिजाइन किया जो अतीत की गलतियों को ठीक करता है:
- उत्तर से पहले देखें: पुराने डिटेक्टरों ने उत्तर पढ़ने के बाद मॉडल के दिमाग को देखा। यह एक छात्र के दिमाग की जांच करने जैसा है जिसने समाधान पहले ही लिख दिया है; बेशक, दिमाग अलग दिखेगा! नया नियम कहता है: उत्तर प्रकट होने से पहले दिमाग को देखें। यह सुनिश्चित करता है कि डिटेक्टर "परिचितता" देख रहा है, न कि केवल "क्षमता"।
- ऊंचाई नहीं, आकार मापें: पुराना तरीका एक एकल बिंदु पर डेटा कितना "सेपरेबल" (अलग करने योग्य) है, यह देखता था (जैसे एक जगह पर पहाड़ की ऊंचाई मापना)। नया तरीका मस्तिष्क के सभी स्तरों (layers) में पूरे पहाड़ के पूरे आकार को देखता है। यह पूछता है: "क्या सिग्नल मस्तिष्क के माध्यम से यात्रा करते समय एक विशिष्ट पैटर्न में ऊपर-नीचे होता है?"
- प्लेसबो बेसलाइन (Placebo Baseline): यह सबसे चतुर हिस्सा है। लेखक ने महसूस किया कि ईमानदार मॉडल्स का भी अपने आंतरिक संकेतों का एक "आकार" होता है जो सपाट नहीं होता है। यह एक दिल की धड़कन की तरह है; यह स्वाभाविक रूप से ऊपर-नीचे होता है। यदि आप इस प्राकृतिक धड़कन को ध्यान में नहीं रखते हैं, तो आप एक सामान्य पल्स को हार्ट अटैक समझ सकते हैं। इसलिए, उन्होंने उन प्रश्नों का उपयोग करके एक "प्लेसबो" परीक्षण बनाया है जिन्हें वे जानते हैं कि मॉडल ने नहीं देखा है। वे इन साफ प्रश्नों पर मॉडल की प्राकृतिक "धड़कन" को मापते हैं और परीक्षण से उसे घटा देते हैं। यह शोर को रद्द कर देता है।
- शफल टेस्ट (Shuffle Test): यह सुनिश्चित करने के लिए कि परिणाम इत्तेफाक नहीं है, वे लेबल को हजारों बार शफल (बदलना) करते हैं (कंप्यूटर को यह बताना कि यह एक नया प्रश्न है जबकि वास्तव में वह पुराना है, और इसके विपरीत)। यदि शफल करने के बाद भी डिटेक्टर को लगता है कि वह एक पैटर्न देख रहा है, तो यह एक गलत अलार्म है। यदि पैटर्न गायब हो जाता है, तो डिटेक्टर काम कर रहा है।
उन्होंने क्या पाया: धुआं केवल हवा थी
जब लेखक ने वास्तविक AI मॉडल्स पर इस नए, सुपर-सटीक स्कैन को चलाया, तो परिणाम आश्चर्यजनक और विनम्र करने वाले थे।
सबसे पहले, उन्होंने पुष्टि की कि पुराना "फ्लैट लाइन" धारणा गलत थी। वास्तविक मॉडल्स का एक "धड़कन" होता है—टेक्स्ट को प्रोसेस करते समय उनके आंतरिक संकेत ऊपर-नीचे होते हैं। वास्तव में, कुछ परीक्षणों में, यह प्राकृतिक उतार-चढ़ाव 29.1 सटीकता अंक जितना बड़ा था। यदि आपने इस प्राकृतिक उतार-चढ़ाव (प्लेसबो) को नहीं घटाया होता, तो आप सोच सकते थे कि मॉडल नकल कर रहा है जबकि वह केवल अपना सामान्य काम कर रहा था।
दूसरा, जब उन्होंने Pile (एक विशाल, सामान्य डेटासेट) पर प्रशिक्षित मॉडल्स पर इस सुधारा गया स्कैन लागू किया, तो परिणाम एक स्पष्ट नल (null) था। डिटेक्टर को याद किए गए आइटम्स का कोई सबूत नहीं मिला। यह अन्य वैज्ञानिकों की आशंकाओं से मेल खाता है: ये मॉडल्स डेटा को इतनी बार देखते हैं कि वे वास्तव में विशिष्ट वस्तुओं को इस तरह से "याद" नहीं करते जिससे एक रैखिक, आसानी से पता लगाने योग्य निशान छोड़े जा सकें। "परिचितता सिग्नल" या तो बहुत कमजोर है या बहुत बिखरा हुआ है जिसे एक साधारण लीनियर प्रोब द्वारा पकड़ा नहीं जा सकता।
हालाँकि, सबसे महत्वपूर्ण खोज वह है जो उन्होंने नहीं पाया। पिछले अध्ययनों में, शोधकर्ताओं ने समान प्रोब्स का उपयोग करके याद रखने के मजबूत साक्ष्य मिलने का दावा किया था। लेकिन जब लेखक ने उन अध्ययनों की जाँच की, तो उन्हें एहसास हुआ कि "साक्ष्य" वास्तव में प्रश्नों की शैली (जैसे कि उनके प्रकाशन की तारीख) के प्रति मॉडल की प्रतिक्रिया थी, न कि सामग्री के प्रति। नया प्रोटोकॉल उन शैली-आधारित ट्रिक्स को हटाने वाले फिल्टर के रूप में कार्य करता है। जब उन्होंने WikiMIA नामक प्रसिद्ध डेटासेट पर इस नए फिल्टर का उपयोग किया, तो डिटेक्टर ने कोई निर्णय देने से इनकार कर दिया। क्यों? क्योंकि "प्लेसबो" परीक्षण ने दिखाया कि एक अंधा क्लासिफायर (जो दिमाग के अंदर नहीं देखता) भी केवल टेक्स्ट स्टाइल को देखकर दो समूहों के बीच अंतर कर सकता था। पुराना तरीका स्टाइल से मूर्ख बन गया था; नया तरीका इस ट्रिक को पकड़ गया और कहा, "मैं यह नहीं बता सकता कि यह नकल है या केवल लिखने की एक अलग शैली।"
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि हालांकि मॉडल के दिमाग के अंदर देखना एक शानदार विचार है, लेकिन अब तक हम इसे जिस तरह से कर रहे थे वह त्रुटिपूर्ण था। "परिचितता सिग्नल" मौजूद हो सकता है, लेकिन यह हमारी सोच से कहीं अधिक कठिन है।
लेखक बहुत सावधानी से यह नहीं कहते कि "हमने साबित कर दिया कि मॉडल्स नकल नहीं करते।" इसके बजाय, वे कहते हैं, "हमारे नए, बेहतर टूल ने इन विशिष्ट परीक्षणों में कोई नकल नहीं पाई, और पुराने टूल्स शायद भ्रम (ghosts) देख रहे थे।" वे सुझाव देते हैं कि वास्तव में यह जानने के लिए कि क्या मॉडल नकल कर रहा है, हमें अधिक प्रयोग करने की आवश्यकता है जहाँ हम मॉडल को विशिष्ट चीजें याद करने के लिए मजबूर करें और देखें कि क्या हमारा नया टूल उन्हें पकड़ सकता है। तब तक, "परिचितता सिग्नल" एक रहस्य बना हुआ है, और बेंचमार्क्स पर दिखने वाले उच्च स्कोर अभी भी वास्तविक बुद्धिमत्ता और छिपी हुई याददाश्त का मिश्रण हो सकते हैं जिन्हें हमारे वर्तमान उपकरण पूरी तरह अलग नहीं कर सकते।
संक्षेप में, यह पेपर वैज्ञानिक विनम्रता का एक उत्कृष्ट उदाहरण है। इसने एक लोकप्रिय, रोमांचक विचार लिया, इसकी तर्क प्रक्रिया में खामियां ढूंढीं, एक बेहतर टूल बनाया, और फिर उस टूल का उपयोग यह दिखाने के लिए किया कि जो रोमांचक परिणाम हमने देखे थे वे शायद केवल भ्रम थे। यह हमें याद दिलाता है कि विज्ञान में, कभी-कभी सबसे महत्वपूर्ण खोज यह होती है कि जिस चीज़ को आपने देखा था, वह वास्तव में वहां थी ही नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।