Is it out-of-the-box? A geometric approach to measuring creative thinking in semantic space

तकनीकी सारांश: क्या यह 'बॉक्स के बाहर' है? सिमेंटिक स्पेस में रचनात्मक सोच को मापने के लिए एक ज्यामितीय दृष्टिकोण

समस्या विवरण (Problem Statement)
रचनात्मक तर्क का वर्णन करने के लिए "बॉक्स के बाहर सोचना" (thinking outside the box) का रूपक सर्वव्यापी है, फिर भी "बॉक्स" स्वयं कम्प्यूटेशनल ढांचों में एक परिचालन परिभाषा (operational definition) की कमी रखता है। वैचारिक सीमाओं की एक मापने योग्य प्रस्तुति के बिना, यह चरित्रित करना कठिन है कि विशिष्ट विचार स्थापित डोमेन से किस प्रकार विचलित होते हैं। वैज्ञानिक पाठ में नवीनता मूल्यांकन के मौजूदा कम्प्यूटेशनल दृष्टिकोण मुख्य रूप से संभावabilistic मॉडलिंग (जैसे, लैंग्वेज मॉडल सरप्राइज़ल) या एम्बेडिंग-आधारित समानता पर निर्भर करते हैं। जबकि ये विधियाँ अप्रत्याशितता या सिमेंटिक दूरी को पकड़ सकती हैं, वे किसी दस्तावेज़ के वैचारिक स्थान के विस्तार या ऐतिहासिक वैचारिक सीमाओं से उसके विचलन की स्पष्ट, व्याख्या योग्य धारणा प्रदान नहीं करती हैं।

कार्यप्रणाली (Methodology)
लेखक एक कम्प्यूटेशनल ढांचे का प्रस्ताव करते हैं जो एक साझा लेटेंट सिमेंटिक स्पेस (latent semantic space) के भीतर एक ज्यामितीय क्षेत्र के रूप में "बॉक्स" को औपचारिक रूप देता है। कार्यप्रणाली निम्नलिखित चरणों के माध्यम से आगे बढ़ती है:

1. सिमेंटिक स्पेस निर्माण (Semantic Space Construction):

   • अध्ययन एक स्थिर, साझा समन्वय प्रणाली सुनिश्चित करने के लिए कॉन्टेक्स्टुअल ट्रांसफार्मर एम्बेडिंग्स के बजाय लेटेंट सिमेंटिक एनालिसिस (LSA) का उपयोग करता है। यह संदर्भ-निर्भर एम्बेडिंग्स द्वारा पेश की जाने वाली परिवर्तनशीलता से बचता है।
   • कॉर्पस से एक TF-IDF मैट्रिक्स बनाया जाता है, जिसके बाद एक लो-रैंक लेटेंट स्पेस उत्पन्न करने के लिए ट्रंकेटेड सिंगुलर वैल्यू डीकंपोजिशन (SVD) का उपयोग किया जाता है।
   • दस्तावेज़ों को इस निश्चित $k$-आयामी स्थान के भीतर बिंदुओं (टर्म एम्बेडिंग्स) के परिमित सेट के रूप में दर्शाया जाता है।

2. ज्यामितीय बॉक्स मॉडलिंग (Geometric Box Modeling):

   • दस्तावेज़ बॉक्स (Document Box): किसी दिए गए दस्तावेज़ $d$ के लिए, अद्वितीय टर्म एम्बेडिंग्स $E_d$ का सेट एक ज्यामितीय क्षेत्र को परिभाषित करता है। इस क्षेत्र के विस्तार को एक एक्सिस-अलाइन्ड बाउंडिंग बॉक्स (axis-aligned bounding box) द्वारा मात्रात्मक रूप दिया जाता है।
   • आयतन मापन (Volume Measurement): दस्तावेज़ के वैचारिक क्षेत्र का आकार लॉग-वॉल्यूम ($\log BLV_{doc}$) के रूप में मापा जाता है, जिसे एक्सिस-अलाइन्ड चौड़ाई ($\Delta_j$) के लॉगरिदम के योग और संख्यात्मक स्थिरता के लिए एक छोटे $\epsilon$ के रूप में परिभाषित किया गया है। यह मीट्रिक दस्तावेज़ के सिमेंटिक फैलाव को पकड़ता है और लंबाई के लिए सामान्यीकरण (normalization) नहीं करता है, क्योंकि यह नहीं माना जाता कि पाठ की लंबाई वैचारिक दायरे से स्वतंत्र है।

3. संदर्भ "बॉक्स" निर्माण (Reference "Box" Construction):

   • विचलन को मापने के लिए, विशिष्ट विषयों के लिए स्थापित सीमाओं का प्रतिनिधित्व करने वाला एक संदर्भ "बॉक्स" बनाया जाता है।
   • कॉर्पस को एक प्रशिक्षण सेट (2015-2017) और एक मूल्यांकन सेट (2018-2020) में विभाजित किया गया है।
   • प्रशिक्षण सेट पर लेटेंट डिरिचलेट एलोकेशन (LDA) को विषयों की पहचान करने के लिए प्रशिक्षित किया जाता है। प्रत्येक विषय के लिए, प्रासंगिकता स्कोर के आधार पर एक शब्दावली चुनी जाती है, और इन शब्दों के एम्बेडिंग्स का उपयोग करके एक विषय-स्तरीय बॉक्स बनाया जाता है।

4. मीट्रिक परिभाषा (Metric Definition):

   • मुख्य मीट्रिक विषय-सामान्यीकृत ज्यामितीय विचलन ($\Delta BLV$) है:
     $$\Delta BLV(d) = \log BLV_{doc}(d) - \log BLV_{topic}(DT(d))$$
   • यह मान अनुमान लगाता है कि एक दस्तावेज़ अपने प्रमुख विषय के ऐतिहासिक रूप से देखे गए वैचारिक सीमाओं से कितनी दूर तक विस्तृत होता है। धनात्मक मान ज्यामितीय विस्तार का संकेत देते हैं; ऋणात्मक मान सीमितता (confinement) का संकेत देते हैं।

5. सत्यापन (Validation):

   • प्रस्तावित ज्यामितीय विचलन की तुलना एक सरप्राइज़ल-आधारित नवीनता माप से की जाती है, जो उसी डोमेन डेटा पर फाइन-ट्यून किए गए GPT-2 लैंग्वेज मॉडल के नेगेटिव लॉग-लाइक्लीहुड (NLL) से प्राप्त होता है।
   • सहसंबंधों की गणना विभिन्न LDA विषयों ($K$) की संख्या और टोकन थ्रेशोल्ड ($N$) के across टोकन-लेवल लॉस के साथ की जाती है।

प्रमुख परिणाम (Key Results)

• सरप्राइज़ल के साथ सहसंबंध: अध्ययन दोनों इंजीनियरिंग (ENGI) और न्यूरोसाइंस (NEUR) डोमेन में ज्यामितीय विचलन ($\Delta BLV$) और सरप्राइज़ल-आधारित नवीनता माप (NLL) के बीच एक सुसंगत सकारात्मक संबंध पाता है।
• सांख्यिकीय महत्व: विभिन्न संख्या में टॉपिक बॉक्स ($K$) और टोकन थ्रेशोल्ड ($N$) केAcross देखे गए सभी व्यक्तिगत सहसंबंध सांख्यिकीय रूप से महत्वपूर्ण हैं ($p < 10^{-3}$)।
• विशिष्ट संकेत: सहसंबंधित होने के बावजूद, परिणाम बताते हैं कि ज्यामितीय विचलन और संभावabilistic सरप्राइज़ल संबंधित लेकिन अलग-अलग पहलुओं को पकड़ते हैं। ज्यामितीय दृष्टिकोण दस्तावेज़ के वैचारिक क्षेत्र के संरचनात्मक विस्तार को मापता है, जबकि सरप्राइज़ल सीखे गए टोकन वितरण से विचलन को मापता है।

महत्व और दावे (Significance and Claims)
यह शोध यह दावा नहीं करता है कि यह रचनात्मकता का एक निश्चित या पूर्ण माप प्रदान करता है। इसके बजाय, यह ढांचे को एक व्याख्या योग्य संरचनात्मक संकेत के रूप में वैचारिक विस्तार प्रदान करने वाले उपकरण के रूप में स्थापित करता है।

• व्याख्यात्मकता (Interpretability): "ब्लैक बॉक्स" संभावabilistic स्कोर के विपरीत, ज्यामितीय दृष्टिकोण पारदर्शी रूप से दिखाता है कि कैसे एक दस्तावेज़ का सिमेंटिक कंटेंट ऐतिहासिक मानदंडों की तुलना में लेटेंट स्पेस के एक व्यापक क्षेत्र को कवर करता है।
• शैक्षिक अनुप्रयोग (Educational Application): लेखक सुझाव देते हैं कि यह ढांचा विशेष रूप से इन्वेंटिव डिज़ाइन शिक्षा में उपयोगी है। यह छात्रों द्वारा परिचित समाधान पैटर्न (बॉक्स के भीतर सीमित होना) से व्यापक वैचारिक स्थानों (बॉक्स के बाहर विस्तार) की ओर जाने की पहचान करके समय के साथ खोजपूर्ण सोच के विकास को ट्रैक करने में सहायता कर सकता है।
• सीमाएं (Limitations): लेखक अपनी सीमाओं को स्पष्ट रूप से स्वीकार करते हैं, जिनमें प्रशिक्षण शब्दावली में मौजूद न होने वाले वास्तविक नए शब्दों का कम आकलन, एक्सिस-अलाइन्ड बॉक्स के माध्यम से सिमेंटिक ज्योमेट्री का सरलीकरण, और सार्थक विस्तार बनाम असंगत सिमेंटिक फैलाव के बीच अंतर करने में असमर्थता शामिल है।

संक्षेप में, यह कार्य एक साझा सिमेंटिक स्पेस में ज्यामितीय विस्तार के रूप में नवीनता को मॉडल करके कम्प्यूटेशनल क्रिएटिविटी को एक पूरक दृष्टिकोण प्रदान करता है, जो यह मापने के लिए एक सुलभ तरीका प्रदान करता है कि एक पाठ स्थापित वैचारिक सीमाओं से कितनी दूर जाता है।