ONTO: A Token-Efficient Columnar Notation for LLM Input Optimization
यह शोध पत्र ONTO को प्रस्तुत करता है, जो एक नवीन कॉलमर सीरियलाइजेशन फॉर्मेट है जो कार्य सटीकता से समझौता किए बिना, मानव पठनीयता और पदानुक्रमित संरचना को बनाए रखते हुए, दोहराव वाले फ़ील्ड नामों को समाप्त करके LLM इनपुट टोकन की खपत और इन्फरेंस लेटेंसी को महत्वपूर्ण रूप से कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन बहुत भूखे, रोबोट शेफ को 1,000 किराने के ऑर्डरों की एक विशाल सूची समझाने की कोशिश कर रहे हैं।
रोबोट (एक AI मॉडल) की एक सीमा है कि वह एक बार में कितना "पढ़" सकता है इससे पहले कि वह थक जाए या भ्रमित हो जाए। इस सीमा को टोकन बजट (token budget) कहा जाता है। हर शब्द, संख्या और विराम चिह्न को प्रोसेस करने के लिए रोबोट की कुछ "ऊर्जा" (टोकन) खर्च होती है।
समस्या: "ज़रूरत से ज़्यादा समझाने वाला" रोबोट
वर्तमान में, जब हम इन रोबोटों को डेटा भेजते हैं, तो हम JSON नामक एक फॉर्मेट का उपयोग करते हैं। JSON को एक बहुत ही विनम्र, लेकिन ज़रूरत से ज़्यादा बोलने वाले बटलर (नौकर) की तरह समझें, जो हर बार हर आइटम का पूरा नाम बताने पर ज़ोर देता है।
यदि आपके पास "Apples" के 1,000 ऑर्डर हैं, तो JSON बटलर कहता है:
"यहाँ एक ऑर्डर है: Apples। यहाँ एक और ऑर्डर है: Apples। यहाँ तीसरा ऑर्डर है: Apples..."
वह 1,000 बार "Apples" शब्द को दोहराता है, साथ ही उसके फैंसी ब्रैकेट {}, कोट्स " और कोलन : भी दोहराता है।
- परिणाम: रोबोट अपनी 80% ऊर्जा केवल लेबल ("Apples", "Price", "Quantity") और फैंसी विराम चिह्नों को पढ़ने में खर्च कर देता है, जिससे उसके पास संख्याओं और तर्क के बारे में सोचने के लिए बहुत कम ऊर्जा बचती है। यह वैसा ही है जैसे आप एक टैक्सी ड्राइवर को हर बार चढ़ने पर सिर्फ "टैक्सी" बोलने के लिए 1,000 बार चक्कर लगवाने के लिए पैसे दे रहे हों।
समाधान: Onto (एक "कुशल शेफ")
इस पेपर के लेखक, हर्षवर्धनन डीकेश्वर ने इस तरह की सूचियों को लिखने का एक नया तरीका बनाया जिसे Onto कहा जाता है।
Onto को एक स्मार्ट स्प्रेडशीट या एक ट्रेन शेड्यूल की तरह समझें। हर पंक्ति के लिए कॉलम हेडर को बार-बार लिखने के बजाय, आप हेडर को ऊपर एक बार लिखते हैं, और फिर उसके नीचे बस डेटा की सूची बना देते हैं।
यह कैसा दिखता है:
JSON के बजाय:
{ "item": "Apple", "price": 1.00 },
{ "item": "Apple", "price": 1.00 },
{ "item": "Apple", "price": 1.00 }
Onto ऐसे लिखता है:
item: Apple|Apple|Apple
price: 1.00|1.00|1.00
जादुई उपमा (Magic Analogy):
कल्पना कीजिए कि आप यात्रा के लिए एक सूटकेस पैक कर रहे हैं।
- JSON एक जैसी 1,000 टी-शर्ट पैक करने जैसा है, लेकिन प्रत्येक को एक अलग बॉक्स में लपेटना, बॉक्स पर "टी-शर्ट" लेबल लगाना, और फिर उन्हें एक बड़े बॉक्स में रखना जिस पर "कपड़े" लिखा हो।
- Onto उन 1,000 टी-शर्ट्स को एक के ऊपर एक करीने से तह करके रखने जैसा है, ढेर के ऊपर "टी-शर्ट्स" लिखना और फिर उसे सूटकेस में रख देना।
उन्होंने क्या पाया?
शोधकर्ताओं ने इस नए तरीके का पुराने तरीके (JSON) और कुछ अन्य फॉर्मेट के मुकाबले परीक्षण किया। यहाँ परिणाम दिए गए हैं, जिन्हें सरल भाषा में अनुवादित किया गया है:
- भारी बचत: Onto ने उस टेक्स्ट की मात्रा को लगभग आधा (46–51%) कम कर दिया जिसे रोबोट को पढ़ना था।
- उपमा: यदि रोबोट का दिमाग 100 पन्नों की किताब थी, तो JSON ने उसे 100 पन्ने पढ़ने पर मजबूर किया। Onto ने उसे वही जानकारी केवल 50 पन्नों में पढ़ने दी।
- तेज़ सोच: क्योंकि रोबोट को कम "शोर" (noise) पढ़ना पड़ा, इसलिए उसने सवालों के जवाब देना 5–10% तेज़ी से शुरू कर दिया।
- उपमा: यह एक ऐसे उपन्यास को पढ़ने के बीच के अंतर जैसा है जिसमें हर लाइन में फुटनोट्स हों, बनाम एक साफ-सुथरे उपन्यास को पढ़ने के बीच का अंतर। आप कहानी तक बहुत जल्दी पहुँच जाते हैं।
- उतना ही स्मार्ट: रोबोट भ्रमित नहीं हुआ। वह अभी भी पुराने, फूले-फूले फॉर्मेट की तरह ही विशिष्ट वस्तुओं को ढूंढ सकता था, चीज़ों को गिन सकता था और गणित कर सकता था।
- "इंडेंटेशन" (Indentation) की लागत: केवल तब जब डेटा बहुत जटिल होता है (जैसे बॉक्स के अंदर बॉक्स के अंदर बॉक्स), Ontो थोड़ा कम कुशल हो जाता है। उन मामलों में, यह "नेस्टिंग" दिखाने के लिए स्पेस का उपयोग करता है, जिससे थोड़ा अतिरिक्त टेक्स्ट जुड़ जाता है। लेकिन फिर भी, यह पुराने तरीके से बहुत बेहतर है।
आपको इसकी परवाह क्यों करनी चाहिए?
अभी, व्यवसाय के लिए AI का उपयोग करना (जैसे कारखाने से हजारों सेंसर रीडिंग का विश्लेषण करना या वेबसाइट के लॉग्स का विश्लेषण करना) महंगा होता जा रहा है क्योंकि आप उस सारी बर्बाद हुई "लेबल" टेक्स्ट के लिए भुगतान कर रहे हैं।
Onto एक ऐसा टूल है जो फालतू की चीज़ों को हटा देता है। यह AI को बताता है: "लेबल पढ़ने में अपनी दिमागी शक्ति बर्बाद न करें; मैंने आपको पहले ही बता दिया है कि लेबल क्या हैं। बस नंबरों को देखें और समस्या हल करें।"
मुख्य निष्कर्ष (The Bottom Line)
यह पेपर AI से बात करने के लिए एक नए "भाषा" को पेश करता है जो हल्की, तेज़ और सस्ती है, बिना AI को कम बुद्धिमान बनाए। यह "सब कुछ दोहराने" से "सब कुछ एक बार सूचीबद्ध करने" की ओर एक सरल बदलाव है, जो बड़ी मात्रा में डेटा पर AI का उपयोग करने की कोशिश करने वाले किसी भी व्यक्ति के लिए गेम-चेंजर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।