Atomic Units of X: The Compression Layer of Intelligence
यह शोध पत्र "कंप्रेशन कैलकुलस" (संपीडन कलन) नामक एक सैद्धांतिक ढांचे का प्रस्ताव करता है, जो यह प्रतिपादित करता है कि जैविक, संज्ञानात्मक और कम्प्यूटेशनल प्रणालियों में स्केलेबल इंटेलिजेंस जटिल घटनाओं को संपीड़न की पुन: प्रयोज्य "परमाणु इकाइयों" में विघटित करने से उत्पन्न होती है, और यह तर्क देता है कि वर्तमान एआई मॉडल गतिशील फ्यूजन इंजन के रूप में कार्य करते हैं जिन्हें संरचनात्मक अमूर्तता के माध्यम से गुणात्मक दक्षता प्राप्त करने के लिए स्थिर, अवधारणा-स्तरीय परमाणु संरचनाओं की ओर बढ़ने से लाभ होगा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बुद्धिमत्ता को कच्चे डेटा के एक विशाल, अव्यवस्थित ढेर के रूप में नहीं, बल्कि एक कुशल निर्माता की कार्यशाला (वर्कशॉप) के रूप में कल्पना करें। लंबे समय से, हमने मशीनों को सब कुछ एक साथ खिलाकर स्मार्ट बनाने की कोशिश की है: हर एक ईंट, रेत का हर कण, और हर किताब का हर शब्द। लेकिन यह नया शोध पत्र सुझाव देता है कि यह एक महल बनाने के लिए रेत के व्यक्तिगत कणों को एक के ऊपर एक रखने के बजाय, पहले से बने, पुन: प्रयोज्य लेगो (Lego) ब्रिक्स का उपयोग करने जैसा है।
लेखक, जो SeKondBrain AI Labs की एक टीम है, प्रस्तावित करते हैं कि वास्तविक बुद्धिमत्ता—चाहे वह मनुष्यों में हो, प्रकृति में हो, या कंप्यूटर में—"परमाणु इकाइयों" (atomic units) को खोजने के माध्यम से काम करती है। इन्हें इन आदर्श, पुन: प्रयोज्य निर्माण ब्लॉकों के रूप में सोचें। जिस तरह एक संगीतकार हर एक उंगली की हरकत के बारे में नहीं सोचता बल्कि "कॉर्ड्स" और "रिफ्स" बजाता है, या एक डॉक्टर हर एक लक्षण को सूचीबद्ध नहीं करता बल्कि एक "नैदानिक पैटर्न" (diagnostic pattern) को पहचानता है, वैसे ही स्मार्ट सिस्टम जटिल जानकारी को इन छोटे, शक्तिशाली पैकेटों में संकुचित (compress) कर देते हैं।
"कंप्रेशन कैलकुलस" का जादू
यह पेपर "कंप्रेशन कैलकुलस" नामक एक उपकरण पेश करता है। कल्पना कीजिए कि आपके पास ऊन का एक विशाल, उलझा हुआ गोला है (वह कच्ची जानकारी है)। परमाणु इकाइयाँ सुव्यवस्थित लिपटे हुए स्पूल (spools) की तरह हैं। लेखक सुझाव देते हैं कि जब आप उलझे हुए ऊन से स्पूलों की ओर बढ़ते हैं, तो आप केवल थोड़ा सा स्थान ही नहीं बचाते; बल्कि आप बहुत अधिक स्थान बचाते हैं।
यहाँ वास्तव में दिलचस्प बात है: वे इसे "कंपाउंडिंग कैस्केड" (Compounding Cascade) कहते हैं। यह एक पहाड़ी से लुढ़कते हुए स्नोबॉल की तरह है, लेकिन बड़ा होने के बजाय, यह एक ही समय में छोटा और अधिक शक्तिशाली होता जाता है। यदि आप जानकारी की एक परत को 5 गुना संकुचित करते हैं, और फिर उस परिणाम को फिर से 5 गुना संकुचित करते हैं, तो आपने केवल 10 गुना जगह नहीं बचाई; आपने 25 गुना जगह बचाई है ()। यदि आप ऐसे सात परतों को एक के ऊपर एक रखते हैं, तो आपको 78,125 गुना () संपीड़न प्राप्त होता है। यह पेपर बताता है कि गणित या सॉफ्टवेयर जैसे परिपक्व सिस्टम इसी तरह काम करते हैं, जो विशाल जटिलता को सुंदर सरलता में बदल देते हैं।
यह पेपर किस बात को "ना" कहता है
यह जानना महत्वपूर्ण है कि यह पेपर किसके विरुद्ध है। यह तर्क देता है कि वर्तमान AI सिस्टम अक्सर गलत गियर में फंसे हुए हैं। वे या तो चीजों को बहुत करीब से देख रहे हैं (जैसे व्यक्तिगत शब्द या "टोकन") या बहुत व्यापक रूप से (जैसे पूरे दस्तावेज़)। लेखकों का कहना है कि पूरे दस्तावेज़ को एक एकल इकाई के रूप में मानना, पुस्तकालय को किताबों के बजाय पूरी इमारत उठाकर ले जाने की कोशिश करने जैसा है। इसके विपरीत, केवल एक शब्द को देखना एक कहानी को एक एकल अक्षर को घूरकर समझने जैसा है।
यह पेपर इस विचार को भी खारिज करता है कि AI मॉडल को बड़ा बनाना ही एकमात्र उत्तर है। उनका सुझाव है कि केवल अधिक डेटा और पैरामीटर जोड़ने से समस्या ठीक नहीं होती यदि सिस्टम के पास उस डेटा को व्यवस्थित करने के लिए सही "परमाणु इकाइयाँ" नहीं हैं। वे स्पष्ट रूप से कहते हैं कि केवल संपीड़न ही पर्याप्त नहीं है; संकुचित ब्लॉक अभी भी तर्क करने के लिए सार्थक और उपयोगी होने चाहिए।
"प्रूफ ऑफ कॉन्सेप्ट": एक परीक्षण ड्राइव
लेखकों ने केवल कल्पना नहीं की; उन्होंने यह देखने के लिए एक सिमुलेशन चलाया कि क्या यह काम करता है। उन्होंने 100 नकली सहायता संदेश बनाए (जैसे "मेरा लैपटॉप ऑर्डर अटक गया है" या "मैं अपना दस्तावेज़ प्रिंट नहीं कर पा रहा हूँ") और उन्हें इन परमाणु ब्लॉकों में बदलने की कोशिश की।
यहाँ उनके सिमुलेशन ने क्या दिखाया:
- आकार को कम करना: लंबे वाक्यों को संरचित परमाणु ब्लॉकों (जैसे "इरादा: डिलीवरी स्टेटस," "समस्या: ट्रैकिंग लंबित") में बदलकर, उन्होंने संदेश के आकार को 46.2% तक कम कर दिया। औसत संदेश 31.58 टोकन से घटकर 16.80 टोकन रह गया।
- अर्थ को बनाए रखना: सिकुड़ने के बाद भी, संदेशों का अर्थ 100% सटीक था। सिस्टम मूल अनुरोध को पूरी तरह से पुनर्गठित कर सकता था।
- चीजों को तेजी से खोजना: जब उन्होंने एक डेटाबेस में सही उत्तर खोजने की कोशिश की, तो "परमाणु" पद्धति ने 100% बार सही उत्तर खोजा, जबकि मानक पद्धति के लिए यह 82% था। इसने कंप्यूटर द्वारा पढ़े जाने वाले टेक्स्ट की मात्रा को भी 47.5% कम कर दिया।
हालाँकि, पेपर इस बात के प्रति ईमानदार है कि वह कहाँ लड़खड़ाया। जब उन्होंने यह देखने की कोशिश की कि क्या सिस्टम एक नई समस्या के लिए ब्लॉकों के सही संयोजन को स्वचालित रूप से चुन सकता है, तो उसे संघर्ष करना पड़ा। इसकी "पुन: उपयोग दर" (reuse rate) 100% थी (इसने केवल उन्हीं ब्लॉकों का उपयोग किया जिन्हें यह जानता था), लेकिन "सटीक मिलान दर" (exact match rate) 0.0% थी। इसका मतलब है कि सिस्टम के पास सही ईंटें थीं, लेकिन यह अभी भी नए काम के लिए सही ईंटों को चुनने में पूरी तरह सक्षम नहीं था। लेखक सुझाव देते हैं कि यह भविष्य के लिए एक बाधा है, न कि विचार की विफलता।
बड़ी तस्वीर: एक फ्यूजन इंजन के रूप में AI
तो, इसका भविष्य के लिए क्या अर्थ है? लेखक सुझाव देते हैं कि हमें AI को सब कुछ याद रखने वाले एक विशाल मस्तिष्क के रूप में सोचना बंद कर देना चाहिए। इसके बजाय, वे लार्ज लैंग्वेज मॉडल्स (LLMs) को "डायनामिक फ्यूजन इंजन" के रूप में देखते हैं।
एक शेफ की कल्पना करें। शेफ को सब्जियां उगाने या नमक निकालने की आवश्यकता नहीं है; उसे बस सामग्रियों को कैसे मिलाना है, यह जानने की आवश्यकता है। इस दृष्टिकोण में, AI शेफ है, और "परमाणु इकाइयाँ" पहले से कटी हुई, पूर्व-मापी गई सामग्रियां हैं। AI का काम ज्ञान का पुस्तकालय संग्रहीत करना नहीं है; इसका काम शेल्फ से सही "परमाणु" ब्लॉकों को उठाना और किसी समस्या को हल करने के लिए उन्हें आपस में जोड़ना है।
पेपर निष्कर्ष निकालता है कि यदि हम इन पूर्ण, पुन: प्रयोजable ब्लॉकों के पुस्तकालय बना सकते हैं, तो हमारे पास केवल स्मार्ट कंप्यूटर ही नहीं होंगे; हमारे पास ऐसे सिस्टम होंगे जो समझने में आसान, चलाने में तेज़ और नए ब्लॉकों को शेल्फ में जोड़कर नई चीजें सीखने में सक्षम होंगे। यह "बड़ा बेहतर है" से "स्मार्ट संगठन बेहतर है" की ओर एक बदलाव है।
लेखक स्पष्ट हैं कि यह एक ढांचा (framework) और एक अनुसंधान कार्यक्रम है, न कि कोई तैयार उत्पाद। वे सुझाव देते हैं कि अगला कदम इसे वास्तविक दुनिया में परीक्षण करना है ताकि यह देखा जा सके कि क्या ये "परमाणु इकाइयाँ" वास्तव में तब भी टिक पाती हैं जब काम का दबाव अधिक हो। लेकिन सिमुलेशन के परिणाम? वे संकेत देते हैं कि पूर्ण छोटी ईंटों के साथ आधार से बुद्धिमत्ता का निर्माण करने का विचार आगे बढ़ने का एक बहुत ही आशाजनक मार्ग है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।