LaMSUM: Amplifying Voices Against Harassment through LLM Guided Extractive Summarization of User Incident Reports
यह शोध पत्र LaMSUM प्रस्तुत करता है, जो एक नवीन बहु-स्तरीय ढांचा है जो बड़े पैमाने पर कोड-मिश्रित यौन उत्पीड़न की घटना रिपोर्टों के निष्कर्षण सारांश (extractive summaries) उत्पन्न करने के लिए लार्ज लैंग्वेज मॉडल्स और वोटिंग तंत्र का लाभ उठाता है, जिससे संदर्भ विंडो (context window) की सीमाओं को दूर किया जा सके और नीति विकास में हितधारकों की सहायता के लिए मौजूदा अत्याधुनिक विधियों से बेहतर प्रदर्शन किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक हलचल भरे शहर के मेयर हैं। हर दिन, हजारों नागरिक अपने मोहल्लों में क्या हो रहा है, इसका वर्णन करते हुए आपको पत्र भेजते हैं। कुछ पत्र गड्ढों के बारे में होते हैं, कुछ शोर मचाने वाले पड़ोसियों के बारे में, और दुख की बात यह है कि कई पत्र डरावकी और खतरनाक उत्पीड़न (harassment) की घटनाओं के बारे में होते हैं।
आप मदद करना चाहते हैं, लेकिन आप दिन में 5,000 पत्र नहीं पढ़ सकते। आपको केवल शहर की समस्याओं का एक सटीक चित्रण देने वाले सबसे महत्वपूर्ण 50 पत्रों को पढ़ने के तरीके की आवश्यकता है, ताकि आप कुछ भी महत्वपूर्ण मिस न करें।
यह ठीक वही समस्या है जिसे LaMSUM पेपर हल करता है, लेकिन ऑनलाइन प्लेटफॉर्म्स के लिए जहाँ लोग यौन उत्पीड़न (sexual harassment) की रिपोर्ट करते हैं।
यहाँ इस कहानी का विवरण दिया गया है कि कैसे उन्होंने एक समाधान बनाया, जिसे सरल भाषा में समझाया गया है:
1. समस्या: "बहुत अधिक शोर" की दुविधा (The "Too Much Noise" Dilemma)
नागरिक रिपोर्टिंग प्लेटफॉर्म एक विशाल, ओवरफ्लो होने वाले मेलबॉक्स की तरह होते हैं।
- वॉल्यूम (मात्रा): पत्रों की संख्या इतनी अधिक है कि उन्हें एक-एक करके पढ़ना असंभव है।
- भाषा: लोग "कोड-मिक्स" भाषाओं में लिखते हैं (जैसे भारत में हिंग्लिश, जिसमें हिंदी और अंग्रेजी का मिश्रण होता है), जिसे पुराने कंप्यूटर प्रोग्राम समझने में कठिनाई होती है।
- AI का जाल: हमारे पास सुपर-स्मार्ट AI (लार्ज लैंग्वेज मॉडल्स या LLMs) हैं जो तेजी से पढ़ सकते हैं। लेकिन यहाँ एक पेंच है:
- वे लिखने के बजाय चुनने की कोशिश करते हैं: यदि आप एक स्मार्ट AI से इन पत्रों को "सारांशित" (summarize) करने के लिए कहते हैं, तो वह आमतौर पर उन्हें अपने शब्दों में फिर से लिखने की कोशिश करता है (जैसे एक समाचार एंकर किसी कहानी का सारांश देता है)। लेकिन उत्पीड़न की रिपोर्ट के लिए, फिर से लिखना खतरनाक है। आपको सच्चाई और भावनाओं को बनाए रखने के लिए पीड़ित के सटीक शब्दों की आवश्यकता है। आपको सबसे अच्छे मूल पत्रों को चुनने की आवश्यकता है, न कि उन्हें फिर से लिखने की।
- उनकी याददाश्त छोटी होती है: ये AI एक बार में एक निश्चित मात्रा में ही टेक्स्ट पढ़ सकते हैं। यदि आप उन्हें एक साल के रिपोर्ट का पूरा ढेर खिला देते हैं, तो उनका "दिमाग" भर जाता है, और वे चीजें बनाने लगते हैं या निर्देशों को अनदेखा करने लगते हैं।
2. समाधान: LaMSUM (एक "स्मार्ट कमेटी")
लेखकों ने LaMSUM नामक एक सिस्टम बनाया है। इसे एक एकल पाठक के रूप में नहीं, बल्कि एक स्मार्ट कमेटी के रूप में सोचें जो सबसे अच्छे पत्रों को चुनने के लिए एक चतुर वोटिंग सिस्टम का उपयोग करती है।
यह कैसे काम करता है, चरण-दर-चरण यहाँ दिया गया है:
चरण A: "शफल" (पक्षपात को तोड़ना)
कल्पित कीजिए कि आपके पास 100 पत्रों का एक ढेर है। यदि आप एक इंसान (या AI) को सबसे अच्छे पत्र चुनने के लिए कहते हैं, तो वे अनजाने में उन पत्रों को चुन सकते हैं जो सबसे ऊपर हैं क्योंकि उन्होंने उन्हें पहले देखा था। इसे पोजीशनल बायस (positional bias) कहा जाता है।
इसे ठीक करने के लिए, LaMSUM एक ताश बांटने वाले (card dealer) की तरह काम करता है। यह पत्रों के ढेर को लेता है, उन्हें शफल (मिलाता) करता है, और AI को सबसे अच्छे चुनने के लिए कहता है। फिर, यह उन्हें दोबारा (एक अलग क्रम में) शफल करता है और फिर से चुनने के लिए कहता है। यह ऐसा 3 बार करता है।
- उपमा (Analogy): यह तीन अलग-अलग जजों से एक प्लेलिस्ट से सबसे अच्छे गाने चुनने के लिए कहने जैसा है, लेकिन हर बार, गाने एक अलग क्रम में बजाए जाते हैं ताकि जज केवल पहले सुने गए तीन गानों को ही न चुन लें।
चरण B: "मल्टी-लेवल" फनल (बाल्टी ब्रिगेड)
चूंकि AI एक साथ 5,000 पत्र नहीं पढ़ सकता, इसलिए LaMSUM एक फनल अप्रोच का उपयोग करता है।
- स्तर 1: यह 5,000 पत्रों को छोटे समूहों (chunks) में विभाजित करता है। यह AI से प्रत्येक छोटे समूह में से सबसे अच्छे 50 चुनने के लिए कहता है।
- स्तर 2: यह उन सभी समूहों से "बेस्ट 50" को लेता है और उन्हें नए, थोड़े बड़े समूहों में डाल देता है। यह फिर से सबसे अच्छे पत्रों को चुनने के लिए AI से कहता है।
- अंतिम स्तर: यह तब तक प्रक्रिया जारी रखता है जब तक कि यह पूरे संग्रह का प्रतिनिधित्व करने वाले अंतिम 50 पत्रों तक नहीं पहुँच जाता।
चरण C: "वोटिंग इलेक्शन" (विजेताओं का चयन)
यह जादुई हिस्सा है। शफल करने और संकुचित करने के बाद, AI ने अलग-अलग राउंड में अलग-अलग पत्र चुने हैं। हम कैसे तय करें कि कौन से पत्र टिके रहेंगे?
LaMSUM पत्रों के साथ वैसा ही व्यवहार करता है जैसे चुनाव में उम्मीदवार होते हैं और AI के चुनाव वोट होते हैं।
- वे एक विशेष वोटिंग पद्धति का उपयोग करते हैं जिसे प्रपोर्शनल अप्रूवल वोटिंग (Proportional Approval Voting) कहा जाता है।
- उपमा: कल्पना कीजिए कि एक स्कूल चुनाव है। यदि एक उम्मीदवार (जैसे "पीछा करने" वाला पत्र) 3 में से 3 शफल में वोट प्राप्त करता है, तो वह जीत जाता है। लेकिन यदि कोई दूसरा उम्मीदवार (जैसे "घरेलू हिंसा" वाला पत्र) केवल 1 शफल में वोट प्राप्त करता है लेकिन वह बहुत विशिष्ट/अद्वितीय है, तो सिस्टम यह सुनिश्चित करता है कि उसे भी मौका मिले ताकि अंतिम सूची केवल एक जैसी कहानियों का समूह न बन जाए। यह लोकप्रियता और विविधता के बीच संतुलन बनाता है।
3. यह एक बड़ी बात क्यों है?
- यह सच्चाई को बनाए रखता है: अन्य AI के विपरीत जो कहानियों को फिर से लिखते हैं, LaMSUM पीड़ितों के मूल शब्दों को चुनता है। कानूनी और भावनात्मक सटीकता के लिए यह अत्यंत महत्वपूर्ण है।
- यह "बिग डेटा" को संभालता है: यह भारी मात्रा में टेक्स्ट को प्रोसेस कर सकता है जो सामान्य रूप से कंप्यूटर को क्रैश कर सकता है।
- यह मिश्रित भाषाओं के साथ काम करता है: यह पिछले टूल्स की तुलना में मिश्रित भाषाओं (जैसे हिंग्लिश) को बेहतर ढंग से संभालता है।
- यह प्रतियोगिता को पछाड़ता है: उनके परीक्षणों में, LaMSUM ने सही कहानियों को चुनने में मौजूदा सर्वश्रेष्ठ AI मॉडल से बेहतर प्रदर्शन किया।
निष्कर्ष
LaMSUM एक शहर की सुरक्षा के लिए एक अति-कुशल, निष्पक्ष संपादक की तरह है। यह हजारों अराजक, डरावकी और अस्त-व्यस्त रिपोर्टों को लेता है, निष्पक्षता के लिए उन्हें शफल करता है, और एक स्मार्ट वोटिंग सिस्टम का उपयोग करके अधिकारियों को सबसे महत्वपूर्ण घटनाओं की एक संक्षिप्त, शक्तिशाली सूची सौंपता है।
यह अधिकारियों को बड़े परिदृश्य को जल्दी देखने में मदद करता है, ताकि वे कागजी कार्रवाई के समुद्र में खोए बिना, समुदायों को सुरक्षित रखने के लिए बेहतर नीतियां बना सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।