Speculative Actions: A Lossless Framework for Faster Agentic Systems
यह शोध पत्र "स्पेक्युलेटिव एक्शन्स" (Speculative Actions) का परिचय देता है, जो एक लॉसलेस फ्रेमवर्क है जो तेज़ मॉडलों का उपयोग करके संभावित भविष्य के कार्यों का पूर्वानुमान लगाकर और उन्हें समानांतर (parallelize) करके एजेंटिक सिस्टम्स को तेज़ बनाता है, जिससे विविध डोमेन में 20% तक लेटेंसी में कमी आती है और स्पेक्यूलेशन की चौड़ाई और दक्षता के बीच ट्रेडऑफ़ को अनुकूलित करने के लिए एक औपचारिक लागत-लेटेंसी विश्लेषण प्रदान करता है।