AutoJourn: Multi-Perspective Summarisation, Bias Detection and Bias Neutralisation for LLM-Generated News in Automated Journalism
ऑटोजर्न (AutoJourn) एक प्रदर्शन प्रणाली है जो प्रॉम्प्ट इंजीनियरिंग, रिट्रीवल ऑग्मेंटेशन और बायस विश्लेषण की एक एकीकृत पाइपलाइन के माध्यम से सोशल मीडिया से विविध दृष्टिकोण निकालने, संतुलित बहु-परिप्रेक्ष्य समाचार सारांश उत्पन्न करने और स्वचालित पत्रकारिता में पूर्वाग्रह का पता लगाने या उसे निष्प्रभावी करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, शोर-शराबे वाले डिजिटल शहर के चौक में कदम रख रहे हैं जहाँ हर कोई एक साथ अपनी राय चिल्ला रहा है। यह इंटरनेट है, विशेष रूप से सोशल मीडिया, जहाँ समाचार केवल घटित नहीं होते; वे हजारों खंडित बातचीत से उभरते हैं। इस शहर के चौक में, एक नए प्रकार का "लेखक" (scribe) आया है: लार्ज लैंग्वेज मॉडल (LLM)। इन AI लेखकों को अविश्वसनीय रूप से तेज़, धाराप्रवाह लेखकों के रूप में सोचें जो एक सेकंड में पूरे शहर के चौक को पढ़ सकते हैं और एक समाचार कहानी लिख सकते हैं। लेकिन यहाँ एक पेंच है: यदि आप एक अकेले AI से एक अराजक बहस का सारांश निकालने के लिए कहते हैं, तो यह अक्सर अनजाने में एक पक्ष चुन लेता है, मतभेदों को मिटा देता है, या अनजाने में उस डेटा में छिपे सूक्ष्म पूर्वाग्रहों को दोहरा देता है जिस पर इसे प्रशिक्षित किया गया था। यह एक अकेले अनुवादक से दो ऐसे लोगों के बीच की बहस का सारांश लिखने के लिए कहने जैसा है जो अलग-अलग भाषाएं बोलते हैं और जिनके मूल्य बहुत भिन्न हैं; परिणाम एक "तटस्थ" कहानी हो सकती है जो वास्तव में बहस के मूल बिंदु को ही समझने में विफल रहती है। यही वह समस्या है जिसे यह शोध पत्र संबोधित करता है: हम AI को न केवल समाचार कैसे लिखवाएं, बल्कि ऐसा समाचार कैसे लिखवाएं जो वास्तविक लोगों के अव्यवस्थित, संघर्षपूर्ण और विविध दृष्टिकोणों को ईमानदारी से पकड़ सके, और साथ ही अपने स्वयं के पूर्वाग्रहों को पहचान सके और उन्हें ठीक कर सके?
यहाँ AutoJourn आता है, जो शोधकर्ताओं द्वारा बनाया गया एक चतुर नया उपकरण है जिसे AI के लिए एक "पूर्वाग्रह-जागरूक समाचार संपादक" (bias-aware news editor) के रूप में डिज़ाइन किया गया है। AI को यह अनुमान लगाने देने के बजाय कि समाचार क्या है, AutoJourn उस डिजिटल शहर के चौक के लिए एक अत्यंत व्यवस्थित मॉडरेटर की तरह कार्य करता है। सबसे पहले, यह सोशल मीडिया की अराजक चर्चाओं को सुनता है और चिल्लाती हुई आवाजों को अलग-अलग समूहों में वर्गीकृत करता है: "सहमत" होने वाला समूह और "असहमति" वाला समूह। यह उन्हें केवल आपस में मिला नहीं देता; यह सुनिश्चित करता है कि प्रत्येक पक्ष का अनूठा स्वरूप बना रहे। फिर, यह तीन अलग-अलग सारांश लिखता है: समर्थकों के लिए एक, आलोचकों के लिए एक, और एक विशेष "विलय" (merged) संस्करण जो बहस के तनाव को खोए बिना दोनों पक्षों को निष्पक्ष रूप से संतुलित करने का प्रयास करता है।
एक बार जब इसके पास ये संतुलित सारांश आ जाते हैं, तो AutoJourn इनका उपयोग एक पूर्ण समाचार लेख लिखने के लिए करता है। लेकिन यह यहीं नहीं रुकता। इस उपकरण में एक अंतर्निहित "झूठ पकड़ने वाला यंत्र" (lie detector) और "पूर्वाग्रह स्कैनर" (bias scanner) है। यह लेख को वाक्य-दर-वाक्य पढ़ता है, किसी भी छिपे हुए पूर्वाग्रह की तलाश करता है—जैसे राजनीतिक झुकाव या अनुचित रूढ़ियाँ। यदि इसे कोई पक्षपाती वाक्य मिलता है, तो यह केवल उसे चिह्नित नहीं करता; बल्कि यह एक पुनर्गठित (rewrite) संस्करण, एक "तटस्थ" संस्करण पेश करता है जो तथ्यों को बनाए रखता है लेकिन भावनात्मक या अनुचित रंग को हटा देता है। शोधकर्ताओं ने इस प्रणाली का परीक्षण किया और पाया कि यह सफलतापूर्वक विविध दृष्टिकोणों को निकाल लेता है और ऐसे सारांश बनाता है जो पठनीय और संतुलित हैं। जब उन्होंने पक्षपाती वाक्यों को ठीक करने का प्रयास किया, तो उनके "BART + LLM" संयोजन (दो अलग-अलग AI मॉडलों का मिश्रण) ने कहानी के अर्थ को बरकरार रखते हुए पूर्वाग्रह को लगभग 91.5% तक कम कर दिया। उन्होंने यह भी दिखाया कि यह उपकरण ऐसा समाचार उत्पन्न कर सकता है जो अधिक ईमानदार महसूस होता है और एक एकल, सपाट विवरणात्मक कहानी जैसा नहीं लगता।
यह शोध पत्र पूर्ण वस्तुनिष्ठता की असंभव समस्या को हल करने का दावा नहीं करता है, न ही यह कहता है कि यह उपकरण कल मानव पत्रकारों को बदलने के लिए तैयार है। इसके बजाय, यह एक कामकाजी प्रदर्शन—एक प्रोटोटाइप—प्रस्तुत करता है जो यह सिद्ध करता है कि यह संभव है कि एक ऐसी प्रणाली बनाई जाए जो यह ट्रैक कर सके कि कैसे विचार एक अव्यवस्थित सोशल मीडिया थ्रेड से एक पॉलिश किए गए समाचार तक पहुँचते हैं, और फिर उस समाचार की निष्पक्षता की जाँच करती है। यह AI समाचार उत्पादन को अधिक पारदर्शी बनाने की दिशा में एक कदम है, जो हमें स्पष्ट रूप से दिखाता है कि पूर्वाग्रह कहाँ छिपा है और हमें इसे ठीक करने के उपकरण देता है, जबकि अंतिम कहानी में डिजिटल शहर की विविध आवाजों को जीवित रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।