🤖 machine learning

Contraction-Gauge Preconditioning for Quantized Matrix Multiplication

यह शोध पत्र कॉन्ट्रैक्शन-गेज प्रीकंडीशनिंग (contraction-gauge preconditioning) को प्रस्तुत करता है, जो कम-परिशुद्धता वाले मैट्रिक्स गुणन में उत्पाद त्रुटि को न्यूनतम करने के लिए क्वांटाइजेशन से पहले फैक्टर रिप्रेजेंटेशन और शेयरिंग पैटर्न को अनुकूलित करने की एक विधि है, जो एक सटीक स्टोकेस्टिक त्रुटि मॉडल द्वारा समर्थित है और विभिन्न परिशुद्धताओं एवं बेंचमार्क में महत्वपूर्ण त्रुटि न्यूनीकरण द्वारा प्रमाणित है।

मूल लेखक: Piyush Sao, Narasinga Miniskar, Pedro Valero-Lara, Keita Teranishi, Sudip Seal

प्रकाशित 2026-07-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Piyush Sao, Narasinga Miniskar, Pedro Valero-Lara, Keita Teranishi, Sudip Seal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, उत्तम केक बनाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल एक छोटा, भुरभुरा मापने वाला कप है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, "केक" संख्याओं का एक विशाल ग्रिड है जिसे मैट्रिक्स मल्टीप्लिकेशन (matrix multiplication) कहा जाता है, जहाँ दो विशाल ग्रिडों को आपस में मिलाकर एक नया परिणाम बनाया जाता है। आपका "मापने वाला कप" कंप्यूटर की मेमोरी है, जो अक्सर इन संख्याओं को छोटे, सरल बक्सों में फिट करने के लिए उन्हें राउंड ऑफ (round off) करने या कम करने के लिए मजबूर करती है (एक प्रक्रिया जिसे क्वांटाइजेशन (quantization) कहा जाता है)। यदि आप बहुत अधिक आक्रामक तरीके से राउंडिंग करते हैं, तो केक ढह जाता है; AI भ्रमित हो जाता है, गलतियाँ करता है, या पूरी तरह से काम करना बंद कर देता है।

लंबे समय तक, वैज्ञानिकों ने इसे ठीक करने के लिए केवल इस बात पर ध्यान दिया कि हम राउंडिंग को और अधिक सावधानी से कैसे करें, या संख्याओं को समूहों में कैसे रखें। लेकिन इसमें एक चालाकी भरी समस्या है: संख्याएँ सभी एक जैसी नहीं होतीं। कुछ बहुत बड़ी और शोर करने वाली (आउटलायर्स/outliers) होती हैं, जबकि अन्य बहुत छोटी और शांत होती हैं। यदि आप उन सभी के साथ एक जैसा व्यवहार करते हैं, तो शोर करने वाली संख्याएँ शांत संख्याओं को दबा देती हैं, या राउंडिंग की त्रुटियाँ इस तरह जमा हो जाती हैं कि अंतिम स्वाद बिगड़ जाता है। बड़ा सवाल यह था: हम इन संख्याओं को छोटे बक्सों में सिकोड़ने से पहले उन्हें कैसे व्यवस्थित करें, ताकि बाद में जब उन्हें आपस में मिलाया जाए, तो परिणाम अभी भी स्वादिष्ट रूप से सटीक रहे?

ओक रिज नेशनल लेबोरेटरी (Oak Ridge National Laboratory) की एक टीम द्वारा लिखा गया यह शोध पत्र उन सामग्रियों को पुनर्व्यवस्थित करने के लिए एक मास्टर शेफ की नई रेसिपी बुक की तरह है। उन्होंने एक सटीक गणितीय नियम खोजा—एक "प्रोडक्ट-एरर आइडेंटिटी" (product-error identity)—जो उन्हें ठीक-ठीक बताता है कि दो राउंड किए गए ग्रिडों को मिलाने पर कितनी त्रुटि होगी। इसे एक क्रिस्टल बॉल की तरह समझें जो भविष्यवाणी करती है कि सामग्री को काटने के तरीके के आधार पर केक कितना टूट सकता है।

इस क्रिस्टल बॉल का उपयोग करते हुए, उन्होंने "कॉन्ट्रैक्शन-गेज प्रीकंडीशनिंग" (Contraction-Gauge Preconditioning) नामक एक विधि विकसित की। कल्पना कीजिए कि आपके पास असमान आकार की ईंटों (पहले ग्रिड की संख्याएँ) का एक ढेर है और मोर्टार (गारे) की थैलियों (दूसरे ग्रिड की संख्याएँ) का एक ढेर है। यदि आप उन्हें वैसे ही रखकर दीवार बनाने की कोशिश करते हैं जैसे वे हैं, तो दीवार डगमगा जाएगी। शोधकर्ताओं ने संख्याओं को शुरू करने से पहले ईंटों और मोर्टार थैलियों को खींचने और सिकोड़ने का एक तरीका खोजा, ताकि वे पूरी तरह से फिट हो सकें, भले ही आपको बाद में थोड़ा खुरदरे मोर्टार का उपयोग करना पड़े। वे इस खींचने और सenकोड़ने की प्रक्रिया को "फोल्ड" (fold) कहते हैं।

यह शोध पत्र सिद्ध करता है कि इन संख्याओं को फोल्ड करने का परफेक्ट तरीका खोजना एक विशिष्ट प्रकार के गणितीय पहेली को हल करने जैसा है जिसे "जियोमेट्रिक प्रोग्राम" (geometric program) कहा जाता है। उन्होंने दिखाया कि आप इस पहेली को हल करके किसी विशिष्ट कार्य के लिए संख्याओं को पुनर्व्यवस्थित करने का सबसे अच्छा तरीका पा सकते हैं, बजाय इसके कि केवल अनुमान लगाया जाए। उन्होंने यह भी पता लगाया कि कभी-कभी, सर्वोत्तम परिणाम प्राप्त करने के लिए, आपको अपनी सामग्रियों की कुछ अतिरिक्त प्रतियाँ ( "अपोजिट फैक्टर" / opposite factor) बनाने की आवश्यकता हो सकती है ताकि दीवार के विभिन्न हिस्सों में अलग-अलग फोल्डिंग तकनीकों का उपयोग किया जा सके। उन्होंने इन अतिरिक्त प्रतियों को गिनने का एक तरीका बनाया ताकि इंजीनियरों को पता चल सके कि उन्हें कितनी अतिरिक्त मेमोरी की आवश्यकता होगी।

टीम ने अपने नए नुस्खे का परीक्षण दो तरीकों से किया। पहले, उन्होंने कंप्यूटर लैब में नकली, नियंत्रित परिदृश्य बनाए ताकि यह देखा जा सके कि उनके गणितीय अनुमान वास्तविकता से कितने मेल खाते हैं। उन्होंने पाया कि उनकी "क्रिस्टल बॉल" अविश्वसनीय रूप से सटीक थी, जो 90% से अधिक सहसंबंध (correlation) के साथ त्रुटियों की भविष्यवाणी करती थी। दूसरा, उन्होंने एक वास्तविक, प्रशिक्षित AI लिया जो हस्तलिखित अंकों (जैसे कि आप टैबलेट पर लिख सकते हैं) को पहचानता है, और उसके मस्तिष्क को कम मेमोरी का उपयोग करने के लिए सिकोड़ने की कोशिश की। जब उन्होंने अपने नए "जीपी फोल्ड" (GP fold) तरीके का उपयोग किया, तो पुराने, मानक राउंडिंग तरीकों की तुलना में AI ने काफी कम गलतियाँ कीं। विशेष रूप से, 8-बिट परिशुद्धता (precision) पर, त्रुटि में 18% की कमी आई, और 4-बिट परिशुद्धता (जो बहुत छोटी है) पर, त्रुटि में 20% से अधिक की कमी आई।

यह शोध पत्र कुछ सामान्य शॉर्टकट को भी खारिज करता है। उन्होंने दिखाया कि केवल संख्याओं को उनके आकार के अनुसार क्रमबद्ध करना (जैसे बड़ी से छोटी ईंटों को लाइन में लगाना) हमेशा सबसे अच्छी रणनीति नहीं होती है; कभी-कभी, आपको संख्याओं को सही ढंग से समूह बनाने के लिए उनके आकार (shape) को देखने की आवश्यकता होती है। उन्होंने यह भी पाया कि संख्याओं को घुमाना (rotate करना) मददगार हो सकता है, लेकिन यह हमेशा काम नहीं करता है यदि संख्याएँ पहले से ही सपाट और समान हैं। उनकी विधि एक स्मार्ट, अनुकूलन योग्य प्रणाली है जो आपकी समस्या की विशिष्ट सामग्रियों की जांच करती है और पुनर्व्यवस्था की सर्वोत्तम रणनीति चुनती है, चाहे वह एक साधारण खिंचाव हो, एक जटिल घुमाव हो, या दोनों का मिश्रण हो।

संक्षेप में, यह शोध पत्र केवल यह नहीं कहता कि "राउंडिंग कठिन है।" यह इंजीनियरों को एक सटीक, गणितीय रूप से सिद्ध टूलकिट देता है ताकि वे अपने डेटा को इस तरह से पुनर्व्यवस्थित कर सकें कि भले ही उन्हें लो-प्रिसिजन (low-precision), लो-मेमोरी उपकरणों का उपयोग करना पड़े, अंतिम परिणाम फिर भी तीक्ष्ण, सटीक और विश्वसनीय बना रहे। यह AI मॉडल को सिकोड़ने के अनुमान लगाने की अव्यवस्थित कला को मापने और अनुकूलित करने के सटीक विज्ञान में बदल देता है।

तकनीकी सारांश: क्वांटाइज्ड मैट्रिक्स मल्टीप्लिकेशन के लिए कॉन्ट्रैक्शन-गेज प्रीकंडीशनिंग

समस्या विवरण

यह शोध पत्र लो-प्रिसिजन मैट्रिक्स मल्टीप्लिकेशन ($C = AB $) की चुनौती को संबोधित करता है जहाँ दोनों कारक$ A \in \mathbb{R}^{m \times K} $और$ B \in \mathbb{R}^{K \times n}$ क्वांटाइज्ड हैं। इस क्षेत्र में एक प्राथमिक कठिनाई यह है कि क्वांटाइजेशन लॉस (quantization loss) समान रूप से प्रसारित नहीं होता है; एक विशिष्ट प्रविष्टि $A_{ik}$ में त्रुटि, $B$ की संगत पंक्ति ( $B_{k,:}$ ) की ऊर्जा के अनुपात में आउटपुट पंक्ति $C_{i,:}$ को प्रभावित करती है, और इसके विपरीत भी। मौजूदा विधियाँ, जैसे कि चैनल ग्रुपिंग या ऑर्थोगोनल ट्रांसफॉर्म, अक्सर एक एकीकृत, उत्पाद-स्तरीय उद्देश्य (product-level objective) की कमी रखती हैं जो असममित त्रुटि प्रसार (asymmetric error propagation) और ऑपरेंड्स की कई रूपांतरित प्रतियों के भंडारण/ट्रैफिक लागत को ध्यान में रखता है। लेखक रूपांतरित प्रतियों के भंडारण/ट्रैफिक लागत और त्रुटि न्यूनीकरण के बीच के ट्रेड-ऑफ को स्पष्ट रूप से प्रबंधित करते हुए, क्वांटाइजेशन से पहले कारकों के प्रतिनिधित्व को अनुकूलित करने के लिए एक "कॉन्ट्रैक्शन-गेज" (contraction-gauge) ढांचे को विकसित करने का लक्ष्य रखते हैं।

कार्यप्रणाली (Methodology)

1. सैद्धांतिक आधार: प्रोडक्ट-एरर आइडेंटिटी (Product-Error Identity)
लेखक ज्ञात वेरिएंस फील्ड्स के साथ परस्पर स्वतंत्र, शून्य-माध्य प्रविष्टिगत त्रुटियों (zero-mean entrywise errors) के तहत अपेक्षित वर्ग उत्पाद त्रुटि (expected squared product error) के लिए एक सटीक परिमित-आयामी पहचान (finite-dimensional identity) व्युत्पन्न करते हैं। क्वांटाइज्ड कारकों $\hat{A} = A + E_A$ और $\hat{B} = B + E_B$ के लिए, त्रुटि का अपेक्षित स्क्वेर्ड फ्रोबेनियस नॉर्म (expected squared Frobenius norm) है:
$\mathbb{E}\|\hat{A}\hat{B} - AB\|_F^2 = \sum_{i,k} v^A_{ik} \|B_{k,:}\|_2^2 + \sum_{k,j} v^B_{kj} \|A_{:,k}\|_2^2 + \sum_{k} \left(\sum_i v^A_{ik}\right)\left(\sum_j v^B_{kj}\right)$
यह पहचान नॉन-ओवरलोडिंग सबट्रैक्टिव डिथर (subtractive dither) और रेसिड्यू-डिपेंडेंट वेरिएंस के साथ इंडिपेंडेंट स्टोकेस्टिक राउंडिंग के लिए सटीक है। यह त्रुटियों को विपरीत कारक की ऊर्जा द्वारा वेट (weight) देकर एक प्राथमिक ऑब्जेक्टिव फंक्शन के रूप में कार्य करती है।

2. कॉन्ट्रैक्शन-गेज प्रीकंडीशनिंग (Contraction-Gauge Preconditioning)
यह विधि बीजगणितीय तुल्यता $AB = (AT)(T^{-1}B)$ का लाभ उठाती है, जहाँ $T \in GL(K)$ कोई इनवर्टिबल मैट्रिक्स है। लेखक क्वांटाइजेशन से पहले साझा कॉन्ट्रैक्शन डायमेंशन $K$ पर लागू किए जाने वाले $T$ के चयन को "कॉन्ट्रैक्शन गेज" के रूप में परिभाषित करते हैं।

गेज डोमेन (Gauge Domains): एक डोमेन एक निश्चित आउटपुट ब्लॉक (जैसे, एक रो ब्लॉक) है जिसे एक एकल गेज असाइन किया गया है।
रियूज डिस्क्रिप्टर ( $n_{opp}$ ): प्रीकंडीशनिंग की लागत को विपरीत कारक की आवश्यक विशिष्ट रूपांतरित, क्वांटाइज्ड प्रतियों की संख्या द्वारा मापा जाता है। यदि एक ही गेज सभी डोमेनों के लिए साझा किया जाता है, तो $n_{opp}=1$ होता है; यदि प्रति ब्लॉक अलग-अलग गेज का उपयोग किया जाता है, तो $n_{opp}$ बढ़ जाता है।

3. स्ट्रक्चरल फैमिलीज़ और ऑप्टिमाइजेशन रूल्स
लेखक विभिन्न गेज परिवारों के लिए विशिष्ट ऑप्टिमाइजेशन रणनीतियाँ प्रस्तावित करते हैं:

डायगोनल फोल्ड्स (स्केलिंग): एक साझा डोमेन के लिए, ऐसा अनुकूलतम डायगोनल स्केलिंग $D$ खोजने के लिए कि $(AD, D^{-1}B)$ त्रुटि को कम करे, एक जियोमेट्रिक प्रोग्राम (GP) के रूप में तैयार किया गया है। यह साझा फोल्ड्स के वैश्विक रूप से इष्टतम चयन की अनुमति देता है। एक लीनियर प्रोग्राम (LP) यह परीक्षण करने के लिए व्युत्पन्न किया गया है कि क्या 'आइडेंटिटी फोल्ड' पहले से ही अनुकूलतम है।
पार्टीशनिंग (Partitioning): सटीकता और कॉपी काउंट के बीच संतुलन बनाने के लिए, पेपर स्केलर-नॉर्म सॉर्टिंग (जो रैंडम टाइज़ के कारण प्रदर्शन में लीनियर फैक्टर खो सकता है) के विरुद्ध तर्क देता है और समान प्रोफाइल वाले रो (rows) को समूहबद्ध करने के लिए लॉग-मैग्निट्यूड कोऑर्डिनेट्स में क्लस्टरिंग का प्रस्ताव करता है।
रोटेशन (Rotations): ऑर्थोगोनल गेज के लिए, पेपर ब्लॉक-लोकल कोहेरेंस का उपयोग करके संभावित लाभ को सीमित करता है। यह दिखाता है कि रैंडम रोटेशन (जैसे, हैडामार्ड) एक लॉगरिदमिक फैक्टर के भीतर कोऑर्डिनेट मैक्सिमा को कम कर सकते हैं।
पार्शियल रोटेशन (हाउसहोल्डर): जब वेटेड ऊर्जा लो-रैंक होती है, तो लेखक एक वेटेड ग्राम मैट्रिक्स के टॉप आइजनस्पेस को फ्लैट टारगेट के साथ संरेखित करने के लिए कुछ हाउसहोल्डर रिफ्लेक्टर्स ( $t$ ) का उपयोग करने का प्रस्ताव करते हैं, जिसकी लागत $O(tK)$ है।
हायरार्की (Hierarchies): ब्लॉक-डायगोनल ऑर्थोगोनल गेज के लिए, एक स्लाइस-एनर्जी एंटी-कोरिलेशन क्राइटेरिया व्युत्पन्न किया गया है। यदि $A$ और $B$ के स्लाइस के माध्यम से ऊर्जा प्रोफाइल एंटी-कोरिलेटेड हैं, तो एक हायरार्कल रिफाइनमेंट त्रुटि को कम करता है; अन्यथा, एक फ्लैट रोटेशन पसंद किया जाता है। एक टेलिस्कोपिंग आइडेंटिटी बॉटम-अप डेप्थ चयन की अनुमति देती है।

4. क्वांटाइज़र डिज़ाइन (Quantizer Design)

बिट एलोकेशन (Bit Allocation): एक निश्चित बिट-विड्थ सम कंस्ट्रेंट ( $b_A + b_B = b_{sum}$ ) के तहत, अनुकूलतम विभाजन असममित है: $b_A - b_B = \frac{1}{2} \log_2(P_A/P_B)$ , जहाँ $P_A$ और $P_B$ प्रोडक्ट-वेटेड एरर कोएफिशिएंट्स हैं।
क्लिपिंग और डायग्नोस्टिक्स: पेपर डिटर्मिनिस्टिक राउंड-टू-नियरएस्ट (RTN) राउंडिंग में लैटिस अलाइनमेंट का पता लगाने के लिए एक ट्रंकेटेड कैरेक्टरिस्टिक-फंक्शन डायग्नोस्टिक ( $\Xi$ ) पेश करता है, जो नॉइज़ मॉडल की स्वतंत्रता धारणाओं का उल्लंघन कर सकता है।

मुख्य योगदान (Key Contributions)

सटीक एरर अकाउंटिंग: डिथर और स्टोकेस्टिक राउंडिंग के तहत क्वांटाइज्ड मैट्रिक्स मल्टीप्लिकेशन के लिए एक सटीक अपेक्षित वर्ग उत्पाद त्रुटि पहचान का व्युत्पन्न, जो अग्रणी त्रुटि टर्म्स को बायलीनियर क्रॉस-टर्म्स से स्पष्ट रूप से अलग करता है।
कॉन्ट्रैक्शन-गेज फ्रेमवर्क: प्रीकंडिशनिंग के लिए एक एकीकृत रूपरेखा जो रूपांतरित $T$ के चयन, उसके शेयरिंग पैटर्न (गेज डोमेन), और परिणामी प्रतिनिधित्व रियूज कॉस्ट ( $n_{opp}$ ) को जोड़ती है।
ग्लोबली ऑप्टिमल फोल्ड सिलेक्शन: यह प्रमाण कि बाउंडेड शेयर्ड-फोल्ड समस्या एक जियोमेट्रिक प्रोग्राम है, जिसे ग्लोबल ऑप्टिमलिटी तक हल किया जा सकता है, और आइडेंटिटी-फोल्ड ऑप्टिमलिटी के लिए एक सटीक LP टेस्ट का व्युत्पन्न।
डिसीजन स्टैटिस्टिक्स: सभी परिवारों के लिए सटीक ऑप्टिमा गणना किए बिना रूपांतर चयन के मार्गदर्शन के लिए कंप्यूट करने योग्य सांख्यिकी का विकास:
- स्केलिंग के लिए टेल इंडेक्स।
- पार्टीशनिंग के लिए प्रोफाइल स्प्रेड।
- रोटेशन के लिए ब्लॉक कोहेरेंस और वेटेड-ग्राम स्पेक्ट्रम।
- हायरार्की डेप्थ के लिए स्लाइस-एनर्जी कोवेरिएंस।
रियूज-अवेयर डिज़ाइन: गेज शेयरिंग पैटर्न के भंडारण और ट्रैफिक लागत को मापने के लिए एक मेट्रिक के रूप में $n_{opp}$ का परिचय, जो त्रुटि न्यूनीकरण और कार्यान्वयन लागत के बीच विश्लेषण को सक्षम बनाता है।

परिणाम (Results)

नियंत्रित सिंथेटिक प्रयोग:

स्केलिंग: पार्टिशनिंग के लिए लॉग-मैग्निट्यूड क्लस्टरिंग ने स्केलर-नॉर्म सॉर्टिंग (2.116x) की तुलना में लगभग अनुकूलतम स्प्रेड (1.015x प्रोफाइल-प्योर रेफरेंस) प्राप्त किया।
फोल्ड्स: डोमेन-शेयर्ड GP फोल्ड ने आइडेंटिटी फोल्ड की तुलना में मॉडल त्रुटि को ~161x कम किया और अलग-अलग अनुकूलित वन-साइडेड बाउंड्स की तुलना में 4.86x कम किया।
बिट एलोकेशन: असममित बिट स्प्लिट्स (जैसे, 8/8 के बजाय 9/7) ने सिमेट्रिक स्प्लिट्स की तुलना में 1.7x कम त्रुटि प्राप्त की, जो सैद्धांतिक भविष्यवाणियों से मेल खाती है।
रोटेशन: रैंडमाइज्ड हैडामार्ड रोटेशन ने इंजेक्टेड आउटलेर्स वाले हेवी-टेल्ड डेटा पर 60x तक त्रुटि न्यूनीकरण प्रदान किया, जबकि $t=3$ के साथ हाउसहोल्डर रिफ्लेक्टर्स ने फुल रोटेशन प्रदर्शन को मैच किया।
हायरार्की: एंटी-कोरिलेशन क्राइटेरिया ने सफलतापूर्वक उस क्रॉसओवर पॉइंट की भविष्यवाणी की जहाँ हायरार्कल रिफाइनमेंट, फ्लैट रोटेशन से बेहतर प्रदर्शन करता है।

ट्रेन्ड क्लासिफायर वैलिडेशन:
हस्तलिखित अंक छवियों पर एक थ्री-ब्लॉक इमेज क्लासिफायर (ViT-जैसा) का उपयोग करके:

कोरिलेशन: डिथर-मॉडल भविष्यवाणियों ने डिटर्मिनिस्टिक RTN त्रुटियों के साथ उच्च मीडियन स्पीयरमैन कोरिलेशन दिखाया (8 बिट्स पर 0.937, 4 बिट्स पर 0.918)।
परफॉरमेंस: आइडेंटिटी-फोल्ड के बजाय GP फोल्ड का उपयोग करने से होल्ड-आउट प्रोडक्ट एरर में 8 बिट्स पर 18.0% और 4 बिट्स पर 20.5% (जियोमेट्रिक मीन) की कमी आई।
तुलना: GP फोल्ड ने 12 में से 10 उत्पादों पर स्मूथक्वांट-शैली के ग्रिड सर्च (कैलिब्रेशन द्वारा चयनित) को मात दी और टेस्ट-सिलेक्टेड ओरकल की तुलना में कम एरर प्राप्त किया।
एंड-टू-एंड: GP फोल्ड के साथ सभी 12 उत्पादों को क्वांटाइज़ करने से आइडेंटिटी-फोल्ड मॉडल के सापेक्ष लॉगिट MSE में 8-बिट पर 15.4% और 4-बिट पर 26.4% की कमी आई।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि यह क्वांटाइज्ड मैट्रिक्स मल्टीप्लिकेशन के लिए एक कठोर, स्टोकेस्टिक आधार प्रदान करता है जो केवल ह्यूरिस्टिक स्केलिंग या एड-हॉक ग्रुपिंग से आगे जाता है। एक सटीक त्रुटि पहचान स्थापित करके और इसे "कॉन्ट्रैक्शन-गेज" फ्रेमवर्क से जोड़कर, लेखक निम्नलिखित प्रदान करते हैं:

सर्टिफाइड सिलेक्शन: जियोमेट्रिक प्रोग्रामिंग के माध्यम से बाउंडेड डायगोनल फैमिली के भीतर ग्लोबली ऑप्टिमल चयन।
एकीकृत उद्देश्य: विविध ट्रांसफॉर्म परिवारों (फोल्ड्स, रोटेशन, हायरार्की) और उनके शेयरिंग पैटर्न का मूल्यांकन करने के लिए एक सामान्य उद्देश्य (प्रोडक्ट-वेटेड एरर)।
व्यावहारिक ट्रेड-ऑफ: त्रुटि न्यूनीकरण और रूपांतरित प्रतियों के भंडारण के लिए आवश्यक लागत ( $n_{opp}$ ) के बीच स्पष्ट रूप से संतुलन बनाने का एक तंत्र, जो परिनियोजन (deployment) के लिए महत्वपूर्ण है।

लेखक इस बात पर जोर देते हैं कि हालांकि सटीक पहचान डिथर और स्टोकेस्टिक राउंडिंग के लिए मान्य हैं, फिर भी व्युत्पन्न सांख्यिकी और चयन नियम डिटर्मिनिस्टिक राउंड-टू-नियरएस्ट क्वांटाइजेशन में प्रभावी ढंग से स्थानांतरित होते हैं, जैसा कि प्रशिक्षित क्लासिफायर प्रयोगों द्वारा प्रमाणित किया गया है। यह कार्य पूर्ण $GL(K)$ ऑप्टिमाइजेशन समस्या को हल करने का दावा नहीं करता है, बल्कि प्रतिबंधित लेकिन व्यावहारिक परिवारों के भीतर उच्च-प्रदर्शन वाले उम्मीदवारों को चुनने के लिए एक संरचित, निष्पादन योग्य प्रक्रिया प्रदान करता है।