💬 NLP

Semantic Gradients Interactions in SSD: A Case Study in Racial Identity and Hate Speech

यह शोध पत्र इंटरैक्शन SSD (Interaction SSD) का परिचय देता है, जो सुपरवाइज्ड सिमेंटिक डिफरेंशियल (Supervised Semantic Differential) का एक विस्तार है जो यह मॉडल और सांख्यिकीय रूप से परीक्षण करता है कि मॉडरेटर्स के बीच अर्थ संबंधी अर्थ कैसे भिन्न होते हैं, और यह दर्शाता है कि यह निर्ों dehumanizing hostility (अमानवीय शत्रुता) बनाम काउंटर-स्पीच (प्रति-भाषण) के संबंध में घृणास्पद भाषण के निर्णयों पर एनोटेटर की नस्लीय पहचान के प्रभाव को प्रकट करने में कैसे उपयोगी है।

मूल लेखक: Felix Ostrowicki, Hubert Plisiecki

प्रकाशित 2026-05-27

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Felix Ostrowicki, Hubert Plisiecki

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि लोग "घृणास्पद भाषण" (hate speech) को कैसे आंकते हैं। आपके पास ऑनलाइन टिप्पणियों का एक विशाल ढेर है, और आप जानना चाहते हैं: कौन से विशिष्ट शब्द या वाक्यांश किसी टिप्पणी को घृणापूर्ण महसूस कराते हैं?

आमतौर पर, शोधकर्ता सुपरवाइज्ड सिमेंटिक डिफरेंशियल (Supervised Semantic Differential - SSD) नामक विधि का उपयोग करते हैं। इसे एक विशाल, अदृश्य दिशा-सूचक यंत्र (कम्पास) की तरह समझें। यदि आप इस कम्पास को किसी टिप्पणी की ओर मोड़ते हैं, तो यह बताता है कि वह कितनी "घृणास्पद" है। कम्पास की सुई एक विशिष्ट दिशा में संकेत करती है: एक सिरा "शुद्ध घृणा" (गालियाँ, धमकियाँ, जानवरों के रूप में मानवीकरण) की ओर है और दूसरा सिरा "शुद्ध प्रेम" (संस्कृति का उत्सव मनाना, दयालु होना) की ओर है।

समस्या:
इस कम्पास का पुराना तरीका यह मानता था कि दुनिया को देखने का सबका नज़रिया एक जैसा है। इसने सभी 44,000+ टिप्पणियों के लिए एक ही एकल मानचित्र (map) बनाया, जो इस बात को नज़रअंदाज़ कर गया कि निर्णय लेने वाला व्यक्ति कौन है। लेकिन असल ज़िंदगी में, एक टिप्पणी एक श्वेत व्यक्ति के लिए बहुत अलग हो सकती है, जबकि एक अश्वेत व्यक्ति (person of color) के लिए वह कुछ और हो सकती है। पुराना कम्पास इन अंतरों को बस औसत (average) निकाल देता था, जिससे विभिन्न समूहों की अनूठी भावनाओं के बारीक विवरण धुंधले हो जाते थे।

समाधान: "इंटरैक्शन SSD" (Interaction SSD)
शोधकर्ताओं ने इस नए टूल का आविष्कार किया जिसे "इंटरैक्शन SSD" कहा जाता है।

इस नए टूल को पुराने कम्पास की तरह एक सपाट मानचित्र के बजाय एक 3D होलोग्राम की तरह समझें जो देखने वाले के आधार पर बदल सकता है। यह केवल एक रेखा नहीं खींचता; यह तीन चीजें खींचता है:

साझा मानचित्र (The Shared Map): वे सामान्य नियम जिन पर सभी सहमत हैं (जैसे, "किसी को 'कीड़ा/vermin' कहना बुरा है")।
अंतर का मानचित्र (The Difference Map): एक विशेष परत जो यह दिखाती है कि समूह कहाँ असहमति रखते हैं या चीज़ों को अलग तरह से देखते हैं।
व्यक्तिगत मानचित्र (The Personal Maps): प्रत्येक समूह के लिए विशिष्ट दृश्य (श्वेत एंनोटेटर बनाम अश्वेत/दलित/पिछड़े वर्ग के एंनोटेटर)।

केस स्टडी: घृणास्पद भाषण और नस्ल
शोधकर्ताओं ने इस नए टूल का परीक्षण नस्लीय टिप्पणियों के एक बड़े डेटासेट पर किया। उन्होंने पूछा: क्या निर्णय लेने वाले व्यक्ति की नस्ल इस बात को बदल देती है कि वे क्या घृणास्पद भाषण मानते हैं?

यहाँ उन्होंने इस नए टूल का उपयोग करके क्या पाया, सरल उपमाओं के माध्यम से:

बड़ी तस्वीर (साझा मानचित्र): दोनों समूह "बड़े खिलाड़ियों" (heavy hitters) पर सहमत थे। यदि किसी टिप्पणी में नस्लीय गालियों का प्रयोग किया गया था, हिंसा का आह्वान किया गया था, या लोगों की तुलना चूहों/कॉकरोच से की गई थी, तो सभी ने इसे अत्यधिक घृणास्पद माना। यह दोनों समूहों के लिए मुख्य "कम्पास दिशा" थी।
छोटे अंतर (अंतर का मानचित्र): यहीं पर यह नया टूल चमक उठा। जबकि बड़ी तस्वीर समान थी, "बारीक विवरण" अलग थे।
- श्वेत एंनोटेटर्स (White Annotators): वे उन चीजों के प्रति अधिक संवेदनशील थे जो मुखर और स्पष्ट थीं। यदि किसी टिप्पणी में प्रत्यक्ष हमले वाले शब्दों, बीमारी के बारे में चिकित्सा रूपक (जैसे "संक्रमण/contagion"), या स्पष्ट नस्लवाद के आरोपों का उपयोग किया गया था, तो श्वेत एंनोटेटर्स ने उन्हें दूसरे समूह की तुलना में अधिक घृणास्पद माना। वे एक स्मोक डिटेक्टर की तरह थे जो दृश्यमान धुएं के पहले संकेत पर ही बज उठता है।
- अश्वेत/दलित/पिछड़े वर्ग के एंनोटेटर्स (POC Annotators): वे संदर्भ और सूक्ष्मता (nuance) के प्रति अधिक संवेदनशील थे। उन्होंने उन टिप्पणियों को घृणा के पैमाने पर उच्च स्तर पर रखा जिनमें भावनात्मक नस्लीय टिप्पणी या एक विशिष्ट समुदाय के भीतर होने वाले संघर्ष (जैसे स्पेनिश-भाषा में लैटिनो लोगों के बीच बहस) शामिल थे। वे एक जासूस की तरह थे जो कमरे में उस सूक्ष्म तनाव को भी देख लेते हैं जिसे अन्य लोग शायद मिस कर दें।

निष्कर्ष (The Takeaway)
अध्ययन ने पाया कि हालांकि दोनों समूहों के पास घृणास्पद भाषण के रूप में क्या दिखता है, इसकी एक प्रमुख, साझा समझ (मुख्य ग्रेडिएंट) है, लेकिन उनके द्वारा कुछ प्रकार के शब्दों के प्रति प्रतिक्रिया करने का तरीका (इंटरैक्शन ग्रेडिएंट) में एक छोटा लेकिन विश्वसनीय अंतर है।

ऐसा नहीं है कि वे दो अलग-अलग भाषाएं बोल रहे हैं; वे एक ही भाषा बोल रहे हैं, लेकिन उनके पास कुछ प्रकार के शब्दों के लिए अलग "वॉल्यूम नॉब" (आवाज़ नियंत्रित करने वाला बटन) हैं। श्वेत एंनोटेटर्स ने स्पष्ट हमलों पर वॉल्यूम बढ़ा दिया, जबकि POC एंनोटेटर्स ने भावनात्मक और आंतरिक सामुदायिक संघर्षों पर वॉल्यूम बढ़ा दिया।

यह क्यों महत्वपूर्ण है (पेपर के अनुसार)
यह विधि शोधकर्ताओं को केवल यह कहने से रोकती है कि, "यह घृणास्पद भाषण है।" इसके बजाय, वे कह सकते हैं, "यह घृणास्पद भाषण है, और यहाँ बताया गया है कि पढ़ने वाले के आधार पर इसका अर्थ ठीक कैसे बदल जाता है।" यह एक धुंधली, औसत तस्वीर को एक स्पष्ट, बहु-स्तरीय तस्वीर में बदल देता है, जो हमें दिखाता है कि भले ही हम बड़ी चीजों पर सहमत हों, लेकिन हमारी पृष्ठभूमि यह तय करती है कि हम छोटे विवरणों को कैसे सुनते हैं।

नोट: पेपर स्पष्ट रूप से कहता है कि यह अनुसंधान और व्याख्या के लिए एक पद्धतिगत उपकरण (methodological tool) है, न कि व्यक्तियों की प्रोफाइलिंग करने या व्यवहार की भविष्यवाणी करने का तरीका।

तकनीकी सारांश: SSD में सिमेंटिक ग्रेडिएंट इंटरैक्शन (Semantic Gradients Interactions)

समस्या विवरण (Problem Statement)
सुपरवाइज्ड सिमेंटिक डिफरेंशियल (SSD) एक मिश्रित मात्रात्मक-व्याख्यात्मक (quantitative-interpretive) विधि है जो यह मॉडल करती है कि बाहरी परिणामों के साथ पाठ या अवधारणाओं का अर्थ कैसे बदलता है, जिसे एम्बेडिंग स्पेस में एक सिमेंटिक ग्रेडिएंट को ट्रेस करके समझा जाता है। हालाँकि, मानक SSD मॉडल पूरे नमूने के लिए एक एकल सिमेंटिक ग्रेडिएंट का अनुमान लगाता है। यह दृष्टिकोण एक सजातीय (homogeneous) अर्थ-परिणाम संबंध मानता है, जो उन महत्वपूर्ण मॉडरेशन प्रभावों (moderation effects) को छिपा सकता है जहाँ सिमेंटिक संकेत समूहों, पहचानों या स्थितियों के आधार पर परिणामों की अलग-अलग भविष्यवाणी करते हैं। सामाजिक विज्ञान और मनोविज्ञान में, एक ही भाषाई सामग्री विभिन्न न्यायाधीशों की पहचान के आधार पर अलग-अलग मूल्यात्मक निहितार्थ रख सकती है, फिर भी मानक SSD इन विषम संबंधों का औसत निकाल देता है, जिससे यह समझने में विफलता होती है कि सिमेंटिक संरचनाएं सैद्धांतिक रूप से सार्थक उप-समूहों (subgroups) के बीच कैसे भिन्न होती हैं।

कार्यप्रणाली: इंटरैक्शन SSD (Methodology: Interaction SSD)
यह शोध पत्र इंटरैक्शन SSD प्रस्तुत करता है, जो मानक मॉडल का एक विस्तार है जिसे यह अनुमान लगाने के लिए डिज़ाइन किया गया है कि एक मॉडरेटर (जैसे, समूह सदस्यता, लक्षण, या प्रयोगात्मक स्थितियाँ) के फलन (function) के रूप में सिमेंटिक ग्रेडिएंट कैसे बदलते हैं।

एम्बेडिंग और आयामी कमी (Embedding and Dimensionality Reduction):
- दस्तावेजों को एक निश्चित एम्बेडिंग मॉडल (जैसे, GloVe) का उपयोग करके डेंस वेक्टर्स में मैप किया जाता है, जिसमें SIF-वेटेड एवरेजिंग और एनिसोट्रॉपी (anisotropy) को कम करने के लिए शीर्ष प्रधान घटक (principal component) को हटाया जाता है।
- आयामीता को कम करने के लिए प्रिंसिपल कंपोनेंट एनालिसिस (PCA) लागू किया जाता है। रिटेन किए गए घटकों ( $K$ ) की संख्या एक "PCA स्वीप" के माध्यम से चुनी जाती है, जो रिटेन की गई वेरिएंस, स्थानीय सिमेंटिक पड़ोस की सुसंगतता (coherence), और निकटवर्ती आयामीताओं में स्थिरता को अनुकूलित करती है।
रिग्रेशन मॉडल (Regression Model):
यह विधि मॉडरेटर के मुख्य प्रभाव और एक सिमेंटिक इंटरैक्शन ब्लॉक के साथ मानक SSD रिग्रेशन को विस्तारित करती है। मान लीजिए कि $y_i$ मानकीकृत परिणाम है, $\tilde{x}_i$ $K$ -आयामी PCA-रिड्यूस्ड डॉक्यूमेंट वेक्टर है, और $m_i$ मानकीकृत मॉडरेटर है। मॉडल को इस प्रकार निर्दिष्ट किया गया है:
$y_i = \alpha + \beta^\top \tilde{x}_i + \gamma m_i + \delta^\top (\tilde{x}_i m_i) + \epsilon_i$
- $\beta$ : परिणाम के साथ आधारभूत सिमेंटिक जुड़ाव (मुख्य सिमेंटिक ग्रेडिएंट) को कैप्चर करता है।
- $\gamma$ : मॉडरेटर के गैर-सिमेंटिक मुख्य प्रभाव को कैप्चर करता है।
- $\delta$ : यह परीक्षण करता है कि क्या मॉडरेटर के फलन के रूप में सिमेंटिक जुड़ाव स्वयं बदल जाता है (इंटरैक्शन ग्रेडिएंट)।
सांख्यिकीय परीक्षण और व्याख्या (Statistical Testing and Interpretation):
- महत्त्व (Significance): सिमेंटिक ब्लॉक ( $\beta$ ) और इंटरैक्शन ब्लॉक ( $\delta$ ) का उनके संबंधित $K$ गुणांकों पर वाल्ड $F$ टेस्ट (Wald $F$ tests) के माध्यम से मूल्यांकन किया जाता है। मॉडरेटर मुख्य प्रभाव ( $\gamma$ ) का मूल्यांकन एक एकल गुणांक के रूप में किया जाता है।
- बैक-प्रोजेक्शन (Back-Projection): गुणांक वेक्टर्स को PCA स्पेस से मूल एम्बेडिंग स्पेस में बैक-प्रोजेक्ट किया जाता है ताकि व्याख्या योग्य ग्रेडिएंट प्राप्त किए जा सकें:
  - मुख्य ग्रेडिएंट (Main Gradient): $\hat{g}_{main} = P\beta$
  - इंटरैक्शन ग्रेडिएंट (Interaction Gradient): $\hat{g}_{int} = P\delta$
  - कंडीशनल ग्रेडिएंट्स (Conditional Gradients): $\hat{g}(m^*) = \hat{g}_{main} + m^*\hat{g}_{int}$
- गुणात्मक विश्लेषण (Qualitative Analysis): मानक SSD के समान, इन ग्रेडिएंट्स के धनात्मक और ऋणात्मक ध्रुवों (poles) की व्याख्या निकटतम पड़ोसियों (nearest neighbors) को पुनः प्राप्त करके, उन्हें क्लस्टर करके और प्रतिनिधि टेक्स्ट स्निपेट्स निकालकर की जाती है।

केस स्टडी और परिणाम (Case Study and Results)
इस विधि को UC बर्कले मेज़रिंग हेट स्पीच कॉर्पस ( $n=44,813$ ) पर लागू किया गया था, विशेष रूप से अश्वेत लोगों (POC) को लक्षित करने वाली टिप्पणियों का विश्लेषण करने के लिए। मॉडरेटर एन्नोटेटर की नस्लीय पहचान (बाइनरी: श्वेत बनाम POC) थी।

सांख्यिकीय निष्कर्ष (Statistical Findings):
- मॉडल ने हेट-स्पीच स्कोर में पर्याप्त वेरिएंस की व्याख्या की ( $R^2_{adj} = .662$ )।
- सिमेंटिक ब्लॉक अत्यधिक महत्वपूर्ण था, जो एक साझा सिमेंटिक संरचना की पुष्टि करता है।
- एन्नोटेटर रेस मुख्य प्रभाव महत्वपूर्ण था ( $\hat{\gamma} = .028$ ), जिसमें श्वेत एन्नोटेटर्स औसतन थोड़ा अधिक हेट-स्पीच स्कोर देते थे।
- महत्वपूर्ण रूप से, इंटरैक्शन ब्लॉक महत्वपूर्ण था ( $F(62, 44687) = 13.76, p < 10^{-16}$ ), जो यह दर्शाता है कि हेट-स्पीच निर्णयों के लिए भविष्यवाणी करने वाला सिमेंटिक अक्ष एन्नोटेटर की नस्ल के अनुसार बदल जाता है। इंटरैक्शन के लिए पार्शियल $R^2$ .019 था, जो एक सांख्यिकीय रूप से मजबूत लेकिन छोटा प्रभाव आकार (effect size) दर्शाता है।
सिमेंटिक व्याख्या (Semantic Interpretation):
- मुख्य ग्रेडिएंट ( $\hat{g}_{main}$ ): इसने एक साझा संरचना को प्रकट किया जो स्पष्ट रूप से शत्रुतापूर्ण विमर्श (अपमानजनक शब्दों पर आधारित तिरस्कार, उन्मूलनवादी वर्गीकरण, कीट रूपक) और समुदाय-पुष्टि करने वाले काउंटर-स्पीच (डायस्पोरिक नागरिक विमर्श, नस्ल के साथ चिंतनशील जुड़ाव, POC उपलब्धि का उत्सव) के बीच अंतर करता है।
- इंटरैक्शन ग्रेडिएंट ( $\hat{g}_{int}$ ): इसने पहचाना कि दोनों समूह साझा संरचना से कहाँ अलग होते हैं।
  - धनात्मक ध्रुव (श्वेत संवेदनशीलता): स्पष्ट, सतह-चिह्नित शत्रुता के इर्द-गिर्द संगठित, जिसमें हमलावर शब्दावली, बायोमेडिकल/संक्रमण संबंधी फ्रेमिंग और मेटा-डिस्क्रिप्टिव नस्ल संबंधी शब्द शामिल हैं।
  - ऋणात्मक ध्रुव (POC संवेदनशीलता): संदर्भ-निर्भर सामग्री के इर्द-गिर्द संगठित, जिसमें भावनात्मक नस्लीय टिप्पणी और स्पेनिश-भाषा के इंट्रा-कम्युनिटी संघर्ष शामिल हैं।
- कंडीशनल ग्रेडिएंट्स (Conditional Gradients): इन्होंने दिखाया कि जबकि दोनों समूहों के उच्च-स्कोर वाले ध्रुव (शत्रुता) साझा थे, नकारात्मक ध्रुवों (काउंटर-स्पीच) का स्थानीय संगठन भिन्न था, जहाँ POC एन्नोटेटर्स एक अधिक संरचनात्मक रूप से विस्तृत काउंटर-स्पीच स्कीमा प्रदर्शित करते हैं।
मजबूती (Robustness): कॉमन क्रॉल 840B GloVe मॉडल का उपयोग करके एक पुन: विश्लेषण ने मॉडरेशन के सांख्यिकीय निष्कर्ष को दोहराया ( $p < 10^{-16}$ ), जिसमें समान पार्शियल $R^2$ (.017) मिला, हालांकि इंटरैक्शन ग्रेडिएंट के विशिष्ट सिमेंटिक पड़ोस एम्बेडिंग ज्यामिति के आधार पर भिन्न थे।

प्रमुख योगदान और महत्व (Key Contributions and Significance)
इस शोध पत्र का प्राथमिक योगदान पद्धतिगत है: यह SSD को एक एकल व्याख्या योग्य सिमेंटिक ग्रेडिएंट का अनुमान लगाने से बढ़ाकर सिमेंटिक मॉडरेशन प्रभावों को मॉडल करने तक विस्तारित करता है।

परीक्षण क्षमता और व्याख्यात्मकता (Testability and Interpretability): इंटरैक्शन SSD, मॉडरेटेड अर्थ-परिणाम संबंधों को सांख्यिकीय रूप से परीक्षण योग्य (इंटरेक्शन ब्लॉक्स पर वाल्ड टेस्ट के माध्यम से) और सिमेंटिक रूप से व्याख्या योग्य (बैक-प्रोजेक्टेड ग्रेडिएंट्स और निकटतम-पड़ोसी विश्लेषण के माध्यम से) बनाता है।
पूर्वाग्रह की सूक्ष्म समझ (Nuanced Understanding of Bias): केस स्टडी से पता चलता है कि जबकि हेट स्पीच निर्णयों के लिए एक प्रभावी साझा सिमेंटिक संरचना मौजूद है, समूह-लिंक्ड अंतर विश्वसनीय द्वितीय-क्रम विचलन (second-order deviations) के रूप में उभरते हैं। यह शोधकर्ताओं को केवल यह पूछने से आगे बढ़ने की अनुमति देता है कि क्या समूह भिन्न हैं, बल्कि यह समझने में मदद करता है कि निर्णयों की भविष्यवाणी करने वाले सिमेंटिक संकेत कैसे भिन्न होते हैं।
अन्वेषणात्मक उपयोगिता (Exploratory Utility): लेखक इस विधि को सिद्धांत-निर्माण और परिकल्पना जनरेशन के उपकरण के रूप में देखते हैं। वे नोट करते हैं कि क्योंकि इंटरैक्शन ग्रेडिएंट को कंडीशनल संबंधों के अंतर से अनुमानित किया जाता है, इसलिए इसके स्थानीय निकटतम-पड़ोसी संरचना का स्वरूप मुख्य ग्रेडिएंट की तुलना में कम स्थिर है। इसलिए, इसका सर्वोत्तम उपयोग यह पहचानने के लिए किया जाना चाहिए कि मॉडरेटेड सिमेंटिक जुड़ाव कहाँ हो सकते हैं, न कि एक निश्चित वर्गीकरण प्रणाली के रूप में।

सीमाएँ (Limitations)
लेखक स्पष्ट रूप से निम्नलिखित बाधाओं का उल्लेख करते हैं:

विश्लेषण एनोटेशन रिकॉर्ड को स्वतंत्र अवलोकन मानता है, जो एन्नोटेटर्स और कमेंट्स के क्रॉस-रैंडम इफेक्ट्स को अनदेखा करता है।
बाइनरी श्वेत/POC मॉडरेटर सामाजिक स्थिति का एक मोटा प्रॉक्सी है और यह समूह के भीतर की विषमता को कैप्चर नहीं करता है।
परिणाम विशिष्ट डेटासेट (अंग्रेजी, अमेरिका-आधारित, MTurk एन्नोटेटर्स) के लिए विशिष्ट हैं और अन्य भाषाओं या आबादी के लिए सामान्यीकृत नहीं हो सकते हैं।
इंटरैक्शन ग्रेडिएंट की सिमेंटिक व्याख्या एम्बेडिंग मॉडल के चयन पर निर्भर है, जिसका अर्थ है कि ग्रेडिएंट पड़ोस को एक विशिष्ट मॉडल की ज्यामिति के अन्वेषणात्मक मानचित्र के रूप में देखा जाना चाहिए, न कि स्थिर अनुभवजन्य तथ्यों के रूप में।

इसी तरह के और पेपर