Test-Time Compute Games
यह शोध पत्र LLM-as-a-service बाजारों में सामाजिक अक्षमता की पहचान करता है जहाँ प्रदाता महंगी टेस्ट-टाइम कंप्यूट का अत्यधिक उपयोग करने के लिए प्रोत्साहित होते हैं, और मूल्य निर्धारण को सीमांत मूल्य (marginal value) के साथ संरेखित करने के लिए एक रिवर्स सेकंड-प्राइस ऑक्शन तंत्र का प्रस्ताव करता है, जिसे गणित और विज्ञान बेंचमार्क पर विभिन्न मॉडल परिवारों के माध्यम से प्रयोगों द्वारा सत्यापित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "टेस्ट-टाइम कंप्यूट गेम्स" (Test-Time Compute Games) पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके दिया गया विवरण है।
बड़ी तस्वीर: "ओवर-इंजीनियरिंग" की समस्या
कल्पना कीजिए कि आपको एयरपोर्ट जाने के लिए एक टैक्सी चाहिए। आपके पास दो टैक्सी कंपनियाँ हैं: कंपनी A और कंपनी B।
- कंपनी A आमतौर पर आपको वहाँ पहुँचाने में 10 मिनट लेती है।
- कंपनी B आमतौर पर 12 मिनट लेती है।
हालाँकि, दोनों कंपनियों के पास एक गुप्त बटन है जिसे वे "सुपर-ड्राइव" (Super-Drive) कहते हैं।
- यदि कंपनी A इस बटन को दबाती है, तो वे 11 मिनट लेंगे लेकिन आपसे दोगुना शुल्क लेंगे।
- यदि कंपनी B इस बटन को दबाती है, तो वे 11 मिनट लेंगे लेकिन आपसे तिगुना शुल्क लेंगे।
एक सामान्य दुनिया में, आप 10 मिनट की मानक सवारी के लिए कंपनी A को चुनेंगे क्योंकि यह सस्ती और तेज़ है। लेकिन यहाँ एक मोड़ है: टैक्सी कंपनियों को इस आधार पर भुगतान किया जाता है कि वे कितना ईंधन (गैस) जलाती हैं, न कि केवल इस आधार पर कि वे आपको कितनी जल्दी पहुँचाती हैं।
इस कारण से, कंपनी A सोचती है: "अगर मैं 'सुपर-ड्राइव' दबाती हूँ और 11 मिनट लेती हूँ, तो मैं आपसे दोगुना शुल्क ले सकती हूँ। भले ही मैंने अपनी पुरानी गति की तुलना में केवल 1 मिनट बचाया हो, फिर भी मैं अधिक पैसा कमा सकती हूँ। इसलिए, मैं हमेशा बटन दबाऊँगी।"
परिणाम: आप एक ऐसी सवारी के लिए दोगुना भुगतान करते हैं जो मुश्किल से थोड़ी तेज़ है, और कंपनी बिना किसी वास्तविक लाभ के अतिरिक्त ईंधन जलाती है। इसे ही यह पेपर "टेस्ट-टाइम कंप्यूट" (TTC) कहता है। AI की दुनिया में, "ईंधन" कंप्यूटर पावर है, और "सुपर-ड्राइव" AI द्वारा आपको एक उत्तर देने से पहले अधिक देर तक सोचने या कई अलग-अलग उत्तरों को आज़माने की प्रक्रिया है।
समस्या: बाज़ार क्यों टूटा हुआ है
लेखकों का तर्क है कि AI सेवाओं को खरीदने का वर्तमान तरीका सामाजिक रूप से अक्षम (socially inefficient) है।
- प्रदाता (Provider) का प्रोत्साहन: AI कंपनियाँ पैसा कमाना चाहती हैं। वे जानती हैं कि यदि वे अपने AI को "अधिक गहराई से सोचने" (अधिक कंप्यूट का उपयोग करने) के लिए प्रेरित करती हैं, तो वे आपसे अधिक शुल्क ले सकती हैं। भले ही अतिरिक्त सोचने से उनका उत्तर केवल 1% बेहतर होता हो, फिर भी वे ऐसा कर सकती हैं क्योंकि उनकी अतिरिक्त लागत कम है, लेकिन उनसे लिया जाने वाला अतिरिक्त मूल्य अधिक है।
- उपयोगकर्ता का नुकसान: आप उस "सोचने" के लिए भुगतान करते हैं जो वास्तव में आपकी अधिक मदद नहीं करता है। यह एक शानदार, धीमी गति से पकाया गया भोजन खरीदने जैसा है जब एक साधारण सैंडविच भी उतना ही पेट भरने वाला होता और बहुत सस्ता होता।
यह पेपर दिखाता है कि एक मुक्त बाज़ार में, AI कंपनियाँ अपने मुनाफे को अधिकतम करने के लिए समस्याओं पर "अत्यधिक सोचने" (over-think) का विकल्प चुनेंगी, भले ही इससे पैसा और संसाधन बर्बाद होते हों।
समाधान: एक रिवर्स ऑक्शन (Reverse Auction)
इसे ठीक करने के लिए, लेखक AI सेवाओं को खरीदने का एक नया तरीका प्रस्तावित करते हैं, जो एक रिवर्स ऑक्शन (जैसे जब सरकार 1,000 डेस्क खरीदना चाहती है और आपूर्तिकर्ताओं से सबसे कम बोली लगाने के लिए कहती है) के समान है।
यहाँ उनका "स्मार्ट ऑक्शन" कैसे काम करता है:
- सेटअप: आपके (उपयोगकर्ता के) पास एक कार्य है। आप एक तटस्थ प्लेटफॉर्म को बताते हैं, "मुझे इस गणित की समस्या को हल करने के लिए एक AI चाहिए।"
- बोलियाँ (Bids): कई AI कंपनियाँ बोली लगाती हैं। वे कहते हैं:
- "मैं 90% सटीकता के साथ इसे हल कर सकता हूँ।"
- "मैं $5 चार्ज करूँगा।"
- (वे गुप्त रूप से यह भी तय करते हैं कि उस 90% सटीकता को प्राप्त करने के लिए वे कितना "सोचेंगे")।
- विजेता: प्लेटफॉर्म उस कंपनी को चुनता है जो सबसे अच्छा सौदा (सबसे कम कीमत पर उच्चतम सटीकता) प्रदान करती है।
- भुगतान (जादुई हिस्सा): यह सबसे महत्वपूर्ण नियम है। विजेता को उसकी मांगी गई राशि के आधार पर नहीं भुगतान किया जाता है।
- इसके बजाय, उन्हें दूसरी सबसे अच्छी बोली के आधार पर भुगतान किया जाता है।
- उदाहरण: यदि कंपनी A 4 में 85% सटीकता की बोली लगाती है, तो कंपनी A जीत जाती है। लेकिन कंपनी A को केवल **5।
यह सब कुछ कैसे बदल देता है:
क्योंकि विजेता को अपने स्वयं के मूल्य के बजाय प्रतिद्वंद्वी के मूल्य के आधार पर भुगतान किया जाता है, इसलिए उनके पास अधिक शुल्क लेने या ओवर-इंजीनियर करने का कोई प्रोत्साहन नहीं होता है।
- यदि कंपनी A 95% सटीकता प्राप्त करने के लिए "अधिक गहराई से सोचने" की कोशिश करती है, तो वे जीत सकते हैं, लेकिन उन्हें अभी भी कंपनी B के निचले मानक के आधार पर ही भुगतान किया जाएगा।
- यदि कंपनी A $10 वसूलने की कोशिश करती है, तो वे कंपनी B की बोली के कारण हार जाएँगी।
- सर्वश्रेष्ठ रणनीति: कंपनी के जीतने और लाभ कमाने का एकमात्र तरीका समस्या को हल करने का सबसे कुशल (most efficient) तरीका खोजना है (सोचने की सही मात्रा) जो सबसे अच्छा मूल्य प्रदान करे। उन्हें "अत्यधिक सोचने" से रुकने के लिए मजबूर किया जाता है क्योंकि इससे उन्हें पैसा खर्च करना पड़ता है लेकिन इससे उन्हें जीतने में मदद नहीं मिलती।
परिणाम: प्रयोगों ने क्या दिखाया
लेखकों ने वास्तविक AI मॉडल (जैसे Llama और Qwen) का गणित और विज्ञान की समस्याओं पर इस विचार का परीक्षण किया।
- वर्तमान बाज़ार बेकार है: सामान्य "पे-पर-टोकन" बाज़ार में, उन्होंने पाया कि सिस्टम 19% तक अक्षम था। इसका मतलब है कि हम लगभग 20% पैसा और कंप्यूटिंग शक्ति बर्बाद कर रहे थे क्योंकि कंपनियाँ केवल कुछ अतिरिक्त डॉलर कमाने के लिए बहुत अधिक "सोचने" का विकल्प चुन रही थीं।
- ऑक्शन ने इसे ठीक किया: जब उन्होंने अपने ऑक्शन का अनुकरण (simulate) किया, तो अक्षमता घटकर शून्य हो गई। AI कंपनियों ने स्वचालित रूप से समस्या को कुशलतापूर्वक हल करने के लिए "सोचने" की एकदम सही मात्रा चुनी।
- कौन जीतता है?
- उपयोगकर्ता: बहुत बेहतर मूल्य प्राप्त करते हैं। वे कम भुगतान करते हैं और उन्हें ऐसे उत्तर मिलते हैं जो उतने ही अच्छे (या बेहतर) होते हैं।
- प्रदाता: यह मिला-जुला परिणाम है। कुछ कंपनियाँ कम पैसा कमा सकती हैं क्योंकि वे अब अधिक शुल्क नहीं ले सकतीं, लेकिन अन्य अधिक कमा सकती हैं क्योंकि वे अंततः केवल लागत बढ़ाकर नहीं, बल्कि दक्षता पर निष्पक्ष रूप से प्रतिस्पर्धा कर सकती हैं।
सारांश उपमा (Summary Analogy)
- वर्तमान प्रणाली: एक ऐसे रेस्तरां की तरह जहाँ शेफ को हर सामग्री काटने के लिए भुगतान किया जाता है। वे आपको अधिक शुल्क लगाने के लिए प्याज को धूल में पीस देंगे, भले ही आपको केवल उन्हें स्लाइस में काटने की आवश्यकता थी।
- प्रस्तावित प्रणाली: एक ऐसे रेस्तरां की तरह जहाँ शेफ को एक निश्चित कीमत पर भुगतान किया जाता है जो पड़ोसी रेस्तरां द्वारा उसी व्यंजन के लिए ली जाने वाली कीमत पर आधारित होती है। शेफ अब कुशलता से प्याज काटने के लिए मजबूर है। यदि वे उन्हें बहुत बारीक काटते हैं, तो वे समय और पैसा बर्बाद करते हैं लेकिन उन्हें अतिरिक्त भुगतान नहीं मिलता। यदि वे उन्हें बहुत मोटा काटते हैं, तो वे ग्राहक खो देते हैं। वे बीच का सही रास्ता खोज लेते हैं।
पेपर निष्कर्ष निकालता है कि खेल के नियमों (भुगतान तंत्र) को बदलकर, हम AI कंपनियों को संसाधनों को बर्बाद करने से रोक सकते हैं और यह सुनिश्चित कर सकते हैं कि उनके द्वारा की जाने वाली "सोच" वास्तव में उपयोगकर्ता की मदद करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।