Photons = Tokens: The Physics of AI and the Economics of Knowledge

यहाँ लिटोटिज़, पोलसन और सोकोलोव के शोध पत्र "फोटॉन्स = टोकन्स: एआई का भौतिकी और ज्ञान का अर्थशास्त्र" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र आर्टिफिशियल इंटेलिजेंस (AI) की क्षमताओं, जोखिमों और संसाधनों के आवंटन से संबंधित बहसों में मात्रात्मक आधार की कमी को संबोधित करता है। जबकि चर्चाएँ अक्सर अमूर्त क्षमताओं या अस्तित्वगत जोखिमों पर केंद्रित होती हैं, वे अक्सर गणना (computation) की भौतिक और ऊष्मप्रवैगिकी (thermodynamic) सीमाओं को अनदेखा कर देती हैं। लेखक तर्क देते हैं कि AI केवल एक सॉफ्टवेयर घटना नहीं है, बल्कि एक भौतिक प्रक्रिया है जो ऊष्मप्रवैगिकी, सूचना सिद्धांत और अर्थशास्त्र के नियमों द्वारा शासित होती है।

मुख्य समस्या दोहरी है:

1. संसाधन की कमी: जैसे-जैसे AI की मांग तेजी से बढ़ रही है, इसे कठिन भौतिक सीमाओं (ऊर्जा, तांबे जैसी सामग्री और ऊष्मप्रवैगिक दक्षता) का सामना करना पड़ रहा है।
2. एजेंसी और दिशा: भले ही कम्प्यूटेशनल क्षमता अनिश्चित काल तक विस्तारित हो जाए, यह इस समस्या का समाधान नहीं करता है कि कौन से प्रश्न पूछने योग्य हैं। शोध पत्र का तर्क है कि संरचनात्मक अनिश्चितता की स्थिति में, बाध्यकारी बाधा "कितने प्रश्न पूछे जा सकते हैं" से बदलकर "कौन से प्रश्न पूछे जाने चाहिए" पर आ जाती है।

2. कार्यप्रणाली (Methodology)

लेखक एक बहुविषयक ढांचे का उपयोग करते हैं जो निम्नलिखित को जोड़ता है:

• ऊष्मप्रवैगिकी और भौतिकी (Thermodynamics & Physics): सूचना प्रसंस्करण की भौतिक सीमाओं को स्थापित करने के लिए लैंडावर के सिद्धांत (बिट मिटाने की ऊर्जा लागत), शैनन की चैनल क्षमता (Shannon's Channel Capacity) और बेकेनस्टीन बाउंड (Bekenstein Bound) का उपयोग करना।
• सूचना सिद्धांत (Information Theory): प्रश्न के "मूल्य" को परिभाषित करने के लिए एंट्रॉपी, म्यूचुअल इंफॉर्मेशन और कॉक्स के जांच तर्क (Cox's logic of inquiry) के सिद्धांतों को लागू करना।
• अर्थशास्त्र (Economics): मूल्य वितरण और बाजार विफलताओं का विश्लेषण करने के लिए कोज के फर्म सिद्धांत (लेनदेन लागत), ड्यूरेबल गुड्स मोनोपॉली समस्या, एरो के सूचना विरोधाभास (Arrow's Information Paradox) और गुडहार्ट के नियम (Goodhart's Law) का उपयोग करना।
• अंकगणितीय लेखांकन (Arithmetic Accounting): नीतिगत बहसों को सरल अंकगणित (सभी इनपुट/आउटपुट को एक एकल इकाई में बदलना) के रूप में पुनर्गठित करने की डेविड मैके की पद्धति को अपनाना ताकि वैश्विक टोकन अर्थव्यवस्था के लिए एक "बैलेंस शीट" बनाई जा सके।

3. मुख्य योगदान (Key Contributions)

A. एक भौतिक मात्रा के रूप में टोकन (The Token as a Physical Quantity)

यह शोध पत्र टोकन (LLM इनपुट/आउटपुट की प्राथमिक इकाई) को एक अमूर्त भाषाई इकाई के रूप में नहीं, बल्कि एक मापने योग्य ऊष्मप्रवैगिक लागत वाली एक भौतिक वस्तु के रूप में पुनर्व्याख्या करता है।

• लैंडावर सीमा (Landauer Limit): एक बिट को मिटाने की सैद्धांतिक न्यूनतम ऊर्जा $k_B T \ln 2$ है। एक टोकन (लगभग 12 बिट) के लिए, सैद्धांतिक निचली सीमा $\approx 3.4 \times 10^{-20}$ जूल है।
• वर्तमान वास्तविकता: वर्तमान LLM इन्फरेंस लागत $\approx 1.8$ जूल प्रति टोकन है।
• अंतराल (The Gap): वर्तमान हार्डवेयर और ऊष्मप्रवैगिक सीमा के बीच लगभग $10^{19}$ का दक्षता अंतराल है। हालांकि दक्षता में सुधार हो रहा है (जेवन्स विरोधाभास बताता है कि प्रति टोकन लागत कम होने के बावजूद कुल ऊर्जा खपत बढ़ेगी), भौतिक निचली सीमा पूर्ण है।

B. टोकन बजट (आपूर्ति और मांग) (The Token Budget - Supply and Demand)

लेखक AI टोकन के लिए एक वैश्विक बैलेंस शीट का निर्माण करते हैं:

• मांग: मध्य-2024 तक वैश्विक स्तर पर $\approx 10^{12}$ टोकन/दिन, या प्रति व्यक्ति लगभग 125 टोकन/दिन का अनुमान है।
• आपूर्ति (अमेरिका पर ध्यान केंद्रित): 2028 तक अमेरिका के अनुमानित AI ऊर्जा आवंटन 326 TWh के आधार पर, क्षमता $\approx 6.5 \times 10^{17}$ टोकन/वर्ष का समर्थन कर सकती है।
• प्रति व्यक्ति क्षमता: यह लगभग 225,000 टोकन प्रति व्यक्ति प्रति दिन (लगभग 169,000 शब्द) की क्षमता में अनुवादित होता है, जो वर्तमान दक्षता स्तरों को मानते हुए, प्रत्येक मानव के लिए प्रतिदिन एक उपन्यास के बराबर पाठ का प्रतिनिधित्व करता है।
• भौतिक बाधाएं: शोध पत्र "साइमन वेजर" (Simon Wager) के पुनरावलोकन को रेखांकित करता है। जबकि जूलियन साइमन ने तर्क दिया था कि प्रतिस्थापन के कारण संसाधन कभी समाप्त नहीं होते, लेखक तर्क देते हैं कि AI निर्माण विशिष्ट भौतिक इनपुट (जैसे तांबा) में वास्तविक कमी पैदा करता है, क्योंकि डेटा केंद्रों को प्रत्येक 50,000 टन तांबे की आवश्यकता होती है।

C. वैल्यू स्टैक और आर्थिक एकाग्रता (The Value Stack and Economic Concentration)

कोज के सिद्धांत को लागू करते हुए, शोध पत्र AI मूल्य श्रृंखला का मानचित्रण करता है: फोटॉन $\to$ परमाणु $\to$ चिप $\to$ शक्ति $\to$ टोकन $\to$ प्रश्न $\to$ मूल्य।

• मूल्य प्रवास (Value Migration): आर्थिक मूल्य स्टैक के शीर्ष पर केंद्रित होता है जहाँ लेनदेन लागत सबसे अधिक होती है और गति सर्वोपरि होती है।
• ड्यूरेबल गुड्स मोनोपॉली (The Durable Goods Monopoly): चिप निर्माता (जैसे NVIDIA) एक कोजियन समस्या का सामना करते हैं जहाँ तीव्र नवाचार (नए GPU पीढ़ी) उनके अपने स्थापित आधार को ही खत्म कर देता है, जिससे समय के साथ मार्जिन कम हो जाता है।
• एक व्यक्ति की फर्म (The Firm of One): AI सूचना प्रसंस्करण की लेनदेन लागत को कम करता है, जिससे "इष्टतम फर्म" एक अकेले व्यक्ति तक सिमट सकती है, जबकि भौतिक परत (खनन, निर्माण) बड़ी, पूंजी-गहन फर्मों द्वारा नियंत्रित रहती है।

D. प्रश्न बजट (The Question Budget)

शोध पत्र सार्थक पूछताछ के लिए एक सीमित बजट का विवरण देता है।

• एंट्रॉपी में कमी: एक प्रश्न को शैनन एंट्रॉपी में कमी के रूप में परिभाषित किया गया है।
• बजट: 2028 के अमेरिकी ऊर्जा अनुमान और प्रति प्रश्न औसतन 100 टोकन का उपयोग करते हुए, वैश्विक "प्रश्न बजट" प्रति व्यक्ति 2,200 प्रश्न प्रति दिन अनुमानित है।
• बाधा: ईंधन (ऊर्जा) वह बाधा नहीं है जो प्रश्नों का उत्तर देने के लिए आवश्यक है, बल्कि उच्च-भार वाले (high-bearing) प्रश्न तैयार करने की मानवीय क्षमता है। शोध पत्र का तर्क है कि संरचनात्मक अनिश्चितता के तहत, दिशा देने की क्षमता ही दुर्लभ संसाधन है, न कि कंप्यूट।

E. संरचनात्मक सीमाएं: गुडहार्ट, हाइजेनबर्ग और एरो (Structural Limits: Goodhart, Heisenberg, and Arrow)

लेखक तीन अलग-अलग सिद्धांतों के बीच एक संरचनात्मक समानता की पहचान करते हैं:

1. गुडहार्ट का नियम (Goodhart's Law): जब कोई माप लक्ष्य बन जाता है, तो वह एक अच्छा माप नहीं रह जाता।
2. हाइजेनबर्ग अनिश्चितता सिद्धांत (Heisenberg Uncertainty Principle): किसी कण को मापने से उसकी अवस्था बाधित होती है।
3. एरो की असंभवता (Arrow's Impossibility): सूचना के मूल्य को अधिग्रहण से पहले नहीं जाना जा सकता।

• संश्लेषण: अपूर्ण प्रॉक्सी (बेंचमार्क) के विरुद्ध अनुकूलन अपरिहार्य विरूपण (distortion) पेश करता है। जैसे-जैसे अनुकूलन का दबाव बढ़ता है, "गेमिंग" (शोर/noise) आनुपातिक रूप से बढ़ता है, जबकि वास्तविक सुधार प्रॉक्सी की गुणवत्ता ($\rho^2$) द्वारा सीमित होता है। यह AI संरेखण (alignment) और दक्षता पर एक संरचनात्मक सीमा बनाता जिसे केवल पैमाने (scale) से हल नहीं किया जा सकता।

4. मुख्य परिणाम (Key Results)

• क्रम-परिमाण अनुमान (Order-of-Magnitude Estimates): 2028 का अनुमानित अमेरिकी AI ऊर्जा आवंटन 225,000 टोकन/व्यक्ति/दिन का समर्थन कर सकता है, जो मध्य-2024 के उपयोग से >3 क्रम की परिमाण वृद्धि है।
• दक्षता अंतराल: वर्तमान AI हार्डवेयर ऊष्मप्रवैगिक सीमा से $10^{19}$ गुना कम कुशल है।
• प्रश्न बजट: विशाल बुनियादी ढांचे के विकास के बावजूद, सार्थक प्रश्नों की संख्या सीमित है और यह केवल कंप्यूट पर नहीं, बल्कि मानवीय एजेंसी द्वारा बाधित है।
• मूल्य एकाग्रता: मूल्य भौतिक चिप्स से सॉफ्टवेयर स्टैक की ओर और अंततः "प्रश्न" परत की ओर बढ़ता है, जहाँ उच्च-मूल्य वाली पूछताछ तैयार करने की क्षमता प्राथमिक आर्थिक विभेदक बन जाती है।
• नियामक निहितार्थ: "प्रश्न बजट" एक सार्वजनिक वस्तु (public good) है जिसे बाजार वाणिज्यिक अनुप्रयोगों के पक्ष में बुनियादी विज्ञान और सार्वजनिक स्वास्थ्य की ओर कम आवंटित करेंगे। शोध पत्र एक हाइब्रिड नियामक दृष्टिकोण का सुझाव देता है: चिप्स के लिए उपयोगिता-शैली का विनियमन, टोकन के लिए बाजार विनियमन, और उच्च-सामाजिक-मूल्य वाले प्रश्नों के लिए सार्वजनिक आवंटन।

5. महत्व (Significance)

यह शोध पत्र कई कारणों से महत्वपूर्ण है:

• नीति को अनुशासित करना: यह AI चर्चा को गुणात्मक अटकलों से मात्रात्मक "अंकगणित" की ओर ले जाता है, जो ऊर्जा और सामग्री आवश्यकताओं पर ठोस सीमाएं प्रदान करता है।
• कमी को फिर से परिभाषित करना: यह इस धारणा को चुनौती देता है कि AI केवल एक सॉफ्टवेयर समस्या है, और इस बात पर जोर देता है कि टोकन अर्थव्यवस्था मौलिक रूप से एक भौतिक अर्थव्यवस्था है जो ऊष्मप्रवैगिकी और भौतिक आपूर्ति श्रृंखलाओं (तांबा, पानी, ऊर्जा) द्वारा बाधित है।
• एजेंसी की समस्या: यह ध्यान को "क्या AI सब कुछ उत्तर दे सकता है?" से हटाकर "हमें क्या प्रश्न पूछने चाहिए?" पर केंद्रित करता है। यह तर्क देता है कि कम्प्यूटेशनल प्रचुरता दिशा, निर्णय और संरचनात्मक अनिश्चितता की समस्या का समाधान नहीं करती है।
• नियामक ढांचा: यह "वैल्यू स्टैक" पर आधारित AI विनियमन के लिए एक नया ढांचा प्रदान करता है, यह तर्क देते हुए कि AI बुनियादी ढांचे के विभिन्न स्तरों को विभिन्न नियामक हस्तक्षेपों (जैसे चिप्स के लिए एंटीट्रस्ट, अनुसंधान प्रश्नों के लिए सार्वजनिक वित्तपोषण) की आवश्यकता होती है।
• अंतर्विषयी संश्लेषण: लैंडावर के सिद्धांत, कोज के प्रमेय और गुडहार्ट के नियम को जोड़कर, यह AI युग की आर्थिक और भौतिक सीमाओं को समझने के लिए एक एकीकृत सैद्धांतिक लेंस प्रदान करता है।

निष्कर्षतः, लेखक तर्क देते हैं कि जबकि "टोकन बजट" (कम्प्यूटेशनल क्षमता) तेजी से बढ़ रहा है, "प्रश्न बजट" (मानवीय बुद्धिमत्ता और दिशा) मुख्य बाधा बना हुआ है। AI का भविष्य केवल तेज़ चिप बनाने के बारे में नहीं है, बल्कि सही प्रश्नों को तैयार करने और उन्हें प्राथमिकता देने की सामूहिक क्षमता के बारे में है।