OneComp: One-Line Revolution for Generative AI Model Compression
OneComp एक ओपन-सोर्स फ्रेमवर्क है जो जनरेटिव एआई मॉडल्स के जटिल पोस्ट-ट्रेनिंग कंप्रेशन को एक पुनरुत्पादनीय (reproducible), हार्डवेयर-अवेयर पाइपलाइन में स्वचालित करता है, जो एल्गोरिद्मिक नवाचार और कुशल प्रोडक्शन डिप्लॉयमेंट के बीच के अंतर को पाटने के लिए प्रोग्रेसिव मिक्स्ड-प्रिसिजन क्वांटाइजेशन को सक्षम बनाता है।