Pocket Foundation Models: Distilling TFMs into CPU-Ready Gradient-Boosted Trees
यह शोधपत्र लेबल लीकेज को रोकने के लिए स्ट्रैटिफाइड आउट-ऑफ-फोल्ड लेबलिंग का उपयोग करके, धीमे, GPU-निर्भर टैबुलर फाउंडेशन मॉडल्स को तेज़, CPU-नेटिव ग्रेडिएंट-बूस्टेड ट्रीज़ में डिस्टिल करने की एक विधि प्रस्तुत करता है, जो धोखाधड़ी का पता लगाने जैसे वास्तविक समय के अनुप्रयोगों के लिए ८६० गुना तक की गति वृद्धि के साथ शिक्षक (टीचर) मॉडल के करीब सटीकता प्राप्त करता है।