Guarantees on Dynamical System Distinguishability for LLM Token Generation
यह शोध पत्र LLM टोकन जनरेशन को डायनामिकल सिस्टम के रूप में मॉडल करके उन्हें अलग करने के लिए एक सैद्धांतिक आधार प्रदान करता है, जो स्पेक्ट्रल डिस्टेंस के आधार पर अनुक्रम लंबाई (sequence length) के साथ वर्गीकरण सटीकता में घातीय सुधार को सिद्ध करता है और क्रॉस-एम्बेडिंग ट्रांसफर के लिए मौलिक सीमाओं और सामान्यीकरण सीमाओं को स्थापित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप दो अलग-अलग कहानीकारों के बीच अंतर करने की कोशिश कर रहे हैं। एक सच बोलता है, और दूसरा मनगढ़ंत बातें बनाता है (भ्रमित होता है)। यदि आप केवल उनके द्वारा उपयोग किए जाने वाले व्यक्तिगत शब्दों को देखते हैं, तो आप फंस सकते हैं। दोनों समान सामान्य शब्दों जैसे "the," "cat," या "sat" का समान आवृत्ति के साथ उपयोग कर सकते हैं। यह संगीत के नोट्स के औसत वॉल्यूम को सुनकर दो अलग-अलग गानों के बीच अंतर करने की कोशिश करने जैसा है; यदि वॉल्यूम समान है, तो गाने एक जैसे ही लगते हैं। यह कई वर्तमान तरीकों के साथ समस्या है जिनसे यह जांचा जाता है कि क्या कोई एआई झूठ बोल रहा है: वे हर शब्द को एक स्वतंत्र, यादृच्छिक घटना के रूप में मानते हैं, यह भूल जाते हैं कि शब्द एक विशिष्ट क्रम में आते हैं और एक-दूसरे में प्रवाहित होते हैं।
हालाँकि, यदि आप लय और धुनों को सुनते हैं—कि कैसे एक कहानी एक वाक्य से दूसरे वाक्य तक चलती है—तो आप एक पैटर्न सुन सकते हैं। विज्ञान की दुनिया में, इसे एक "डायनामिकल सिस्टम" (गतिशील प्रणाली) कहा जाता है। इसे एक पहाड़ी से लुढ़कती गेंद की तरह समझें। किसी भी क्षण में गेंद की स्थिति यादृच्छिक लग सकती है, लेकिन समय के साथ वह जिस पथ का अनुसरण करती है, वह भौतिकी के सख्त नियमों का पालन करता है। लार्ज लैंग्वेज मॉडल्स (LLMs) इन लुढ़कती गेंदों की तरह हैं; वे छिपे हुए नियमों का पालन करके टेक्स्ट तैयार करते हैं। टेनेसी विश्वविद्यालय के मोहम्मद अक्रौट और डैन विल्सन का एक हालिया शोध पत्र एक बड़ा सवाल पूछता है: क्या हम यह पता लगा सकते हैं कि एक एआई भ्रमित हो रहा है या नहीं, यह देखकर नहीं कि वह क्या शब्द कहता है, बल्कि यह देखकर कि उन शब्दों के विकसित होने की अदृश्य "नृत्य" (dance) कैसी है? वे एआई की आंतरिक विचार प्रक्रिया को एक 'ब्लैक-बॉक्स' मशीन के रूप में देखते हैं और यह समझने की कोशिश करते हैं कि क्या मशीन "सत्य मोड" पर चल रही है या "कल्पना मोड" पर, केवल उसके प्रक्षेपवक्र (trajectory) को देखकर।
यह शोध पत्र सिद्ध करता है कि केवल शब्दों को देखना (जिसे "मार्जिनल डिस्ट्रीब्यूशन" कहा जाता है) अक्सर एक बंद रास्ता है। लेखक दिखाते हैं कि दो पूरी तरह से अलग मशीनें—एक सच बोल रही है और दूसरी झूठ बोल रही है—ऐसे शब्द उत्पन्न कर सकती हैं जो सांख्यिकीय रूप से बिल्कुल समान दिखते हैं। यह दो अलग-अलग शेफों द्वारा एक ही कटोरे में बिल्कुल समान सामग्री का उपयोग करने जैसा है; यदि आप केवल सूप का स्वाद लेते हैं, तो आप नहीं बता सकते कि इसे किसने बनाया है। शोध पत्र तर्क देता है कि जो भी तरीका कहानी के प्रवाह को अनदेखा करता है, वह मौलिक रूप से सीमित है और एक ऐसी दीवार से टकरा जाएगा जहाँ वह यादृच्छिक अनुमान लगाने से बेहतर कुछ नहीं कर पाएगा।
लेकिन यहाँ रोमांचक हिस्सा है: जब आप गति को देखना शुरू करते हैं, तो कहानी बदल जाती है। लेखक प्रदर्शित करते हैं कि यदि आप देखते हैं कि शब्दों के एक अनुक्रम के ऊपर एआई की आंतरिक स्थिति कैसे विकसित होती है, तो अंतर बहुत बड़े हो जाते हैं। वे गणितीय रूप से सिद्ध करते हैं कि एआई को गलत वर्गीकृत करने की संभावना शब्दों के लंबे होने के साथ तेजी से (exponentially) घटती जाती है। यह एक सेकंड के लिए एक गाना सुनने जैसा है; आपको शैली का पता नहीं चलेगा। लेकिन तीस सेकंड तक सुनें, और उसकी लय इसे स्पष्ट कर देगी। शोध पत्र दिखाता है कि एक भ्रमित कहानी की "लय" एक तथ्यात्मक कहानी से मौलिक रूप से भिन्न होती है, और यह अंतर तब और मजबूत हो जाता है जब आप अधिक शब्दों का विश्लेषण करते हैं।
इसके अलावा, टीम एक पेचीदा वास्तविक दुनिया की समस्या का समाधान करती है: क्या होगा यदि आप अपने डिटेक्टर को एक प्रकार की एआई "भाषा" पर प्रशिक्षित करते हैं और फिर उसे एक अलग एआई पर उपयोग करने का प्रयास करते हैं? आमतौर पर, यह विफल हो जाता है क्योंकि आंतरिक कोड अलग होते हैं। हालाँकि, शोध पत्र पाता है कि यदि दो एआई सिस्टम एक समान अंतर्निहित ज्यामितीय संरचना साझा करते हैं (जैसे एक ही शहर के दो अलग-अलग मानचित्र), तो डिटेक्टर एक से दूसरे में स्थानांतरित (transfer) हो सकता है। वे दिखाते हैं कि इस स्थानांतरण की सफलता इस बात पर निर्भर करती है कि दो सिस्टम एक दूसरे में गणितीय रूप से कितनी अच्छी तरह "अनुवादित" किए जा सकते हैं। यदि अनुवाद स्पष्ट है, तो डिटेक्टर काम करता है; यदि अनुवाद अव्यवस्थित है, तो डिटेक्टर विफल हो जाता है।
संक्षेप में, यह शोध पत्र एक कठोर गणितीय गारंटी प्रदान करता है कि एआई के झूठ को पकड़ने के लिए, आपको केवल शब्दों को गिनना नहीं चाहिए; आपको उस नृत्य को देखना चाहिए। एआई के आउटपुट को शब्दों की एक स्थिर सूची के बजाय एक गतिशील प्रणाली के रूप में मॉडल करके, हम उच्च विश्वास के साथ सत्य और कल्पना के बीच अंतर कर सकते हैं, बशर्ते हम सिस्टम को अपनी वास्तविक लय दिखाने के लिए पर्याप्त समय दें। यह डेटा के स्थिर स्नैपशॉट्स से हटकर उन गतिशील पैटर्न की ओर ध्यान केंद्रित करता है जो एआई के सोचने के साथ उभरते हैं, जो इन जटिल मशीनों को समझने और सत्यापित करने का एक नया, अधिक शक्तिशाली तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।