Context-Aware LLM Evaluators for Content Moderation Judgments in a Low-Resource Setting

इंटरनेट के हलचल भरे डिजिटल चौराहों में, जहाँ हर दिन लाखों टिप्पणियाँ पोस्ट की जाती हैं, पैमाने (स्केल) का एक शांत संकट उभर आया है। मानव मॉडरेटर, जो प्रशिक्षित पेशेवर थे जिन्होंने कभी हर पोस्ट को पढ़ने और यह तय करने के लिए कि क्या रहे और क्या जाए, अब अत्यधिक काम के बोझ तले दबे हुए हैं। सामग्री की विशाल मात्रा ने इसे लोगों के लिए बनाए रखना असंभव बना दिया है, फिर भी हानिकारक या विषय से हटकर पोस्ट क्या है, इसके नियम अक्सर सूक्ष्म होते हैं, जो काफी हद रूप से विशिष्ट बातचीत और समुदाय के मानदंडों पर निर्भर करते हैं। इसे हल करने के लिए, शोधकर्ताओं ने लार्ज लैंग्वेज मॉडल्स (LLMs) की ओर रुख किया है, जो एक प्रकार का कृत्रिम बुद्धिमत्ता (AI) है जो मानव जैसा टेक्स्ट समझने और उत्पन्न करने में सक्षम है। इन मॉडल्स से तेजी से जज के रूप में कार्य करने के लिए कहा जा रहा है, जो पोस्ट को लेबल देते हैं और वे निर्णय लेते हैं जो कभी केवल मनुष्यों के अधिकार क्षेत्र में थे। हालाँकि, एक महत्वपूर्ण प्रश्न बना हुआ है: क्या एक मशीन वास्तव में एक गरमागरम ऑनलाइन बहस की बारीकियों को समझ सकती है, या निष्पक्ष निर्णय लेने के लिए उसे पूरी तस्वीर देखने की आवश्यकता है?

इस प्रश्न ने ऑस्ट्रियाई विश्वविद्यालयों की एक शोध टीम को यह जांचने के लिए प्रेरित किया कि जब इन कृत्रिम जजों को अलग-अलग मात्रा में जानकारी दी जाती है, तो वे कितनी अच्छी तरह प्रदर्शन करते हैं। उन्होंने एक विशिष्ट, चुनौतीपूर्ण वातावरण पर ध्यान केंद्रित किया: एक जर्मन-भाषा के समाचार पत्र के कमेंट सेक्शन। इस सेटिंग में, यह तय करने के लिए कि कोई टिप्पणी विषय से हटकर है, भेदभावपूर्ण है, या केवल एक व्यक्तिगत कहानी है, केवल स्क्रीन पर लिखे शब्दों को पढ़ने से अधिक की आवश्यकता होती है; इसके लिए उस लेख के संदर्भ और उस बातचीत के इतिहास को समझने की आवश्यकता होती है जिसका वह उत्तर है। शोधकर्ता यह जानना चाहते थे कि क्या कृत्रिम बुद्धिमत्ता को अधिक संदर्भ देना—जैसे कि पूरा समाचार लेख या जवाबों की पूरी श्रृंखला—उसे मानव विशेषज्ञों के निर्णयों की नकल करने में मदद करेगा। उन्होंने एक अलग दृष्टिकोण का भी परीक्षण किया: मॉडल को अधिक टेक्स्ट खिलाने के बजाय, क्या वे उसे उदाहरण दिखा सकते हैं कि मनुष्यों ने अतीत में समान टिप्पणियों का निर्णय कैसे लिया था?

उत्तर खोजने के लिए, टीम ने ऑस्ट्रियाई समाचार पत्र 'डेर स्टैंडर्ड' (Der Standard) के दस लाख से अधिक पोस्टों के एक विशाल संग्रह का उपयोग किया, जिसमें लगभग 12,000 टिप्पणियों का एक छोटा, सावधानीपूर्वक एनोटेटेड सेट शामिल था जिसे पेशेवर मानव मॉडरेटर्स द्वारा ग्रेड किया गया था। उन्होंने अलग-अलग आकार के तीन अलग-अलग कृत्रिम बुद्धिमत्ता मॉडल्स का परीक्षण किया, जो एक छोटे, तेज़ मॉडल से लेकर एक बहुत बड़े, अधिक जटिल मॉडल तक विस्तृत थे। प्रत्येक मॉडल के लिए, उन्होंने प्रयोगों की एक श्रृंखला चलाई जहाँ उन्होंने प्रॉम्प्ट में दी गई जानकारी को बदला। कुछ मामलों में, मॉडल ने केवल संबंधित एकल टिप्पणी देखी। अन्य मामलों में, उसने टिप्पणी के साथ लेख की हेडलाइन, पूरा लेख, या पिछली प्रतिक्रियाओं की पूरी थ्रेड देखी। उन्होंने एक विधि का भी परीक्षण किया जहाँ मॉडल को दिखाया गया कि कैसे मनुष्यों ने पहले समान टिप्पणियों को कैसे परखा था, जिसमें से एक को ऑनलाइन रखा गया था और एक को हटा दिया गया था।

परिणामों ने इस बात का सूक्ष्म चित्र प्रस्तुत किया कि ये डिजिटल जज कैसे सोचते हैं। शोधकर्ताओं ने पाया कि संदर्भ मदद तो करता है, लेकिन उस तरह से नहीं जैसा कि कोई अपेक्षा कर सकता है। केवल सिस्टम में अधिक टेक्स्ट डाल देने से बेहतर परिणाम सुनिश्चित नहीं होते हैं। वास्तव में, कुछ प्रकार के निर्णयों के लिए, जैसे कि भेदभावपूर्ण भाषा या अनुचित अपमान को पकड़ने के लिए, मूल समाचार लेख का पूरा टेक्स्ट जोड़ने से मॉडल भ्रमित हो गया और इसके प्रदर्शन में गिरावट आई। मॉडल ने बातचीत के इतिहास—जवाबों और चर्चा के प्रवाह—को देखने पर बेहतर प्रदर्शन किया, क्योंकि असली अर्थ अक्सर वहीं निहित होता है। हालाँकि, अन्य श्रेणियों के लिए, जैसे कि यह तय करना कि टिप्पणी विषय से हटकर है या नहीं, मूल लेख देखना आवश्यक था। हर स्थिति के लिए काम करने वाला कोई एक "सर्वश्रेष्ठ" जानकारी का स्तर नहीं था; सही मात्रा में संदर्भ पूरी तरह से इस पर निर्भर था कि मॉडल से क्या निर्णय लेने के लिए कहा जा रहा है।

शायद सबसे आश्चर्यजनक खोज यह थी कि मॉडल को पिछले मानवीय निर्णयों को दिखाना उतना ही प्रभावी था जितना कि उसे पूरा लेख और बातचीत का इतिहास दिखाना, लेकिन एक बड़े लाभ के साथ: यह बहुत छोटा और तेज़ था। जब शोधकर्ताओं ने मॉडल को दो छोटे उदाहरण दिए कि कैसे मनुष्यों ने अतीत में समान टिप्पणियों का निर्णय लिया था, तो मॉडल ने लगभग उतना ही प्रदर्शन किया जितना कि उसे पूरा समाचार लेख और पूरी बातचीत की थ्रेड दी गई थी। यह रिट्रीवल (प्राप्ति) विधि अधिक विश्वसनीय भी थी; इसने सभी श्रेणियों में मॉडल के प्रदर्शन में सुधार किया, जबकि अधिक टेक्स्ट जोड़ने से कभी-कभी प्रदर्शन बिगड़ जाता था। यह पता चला कि यह देखना कि एक इंसान ने अतीत में एक समान समस्या को कैसे हल किया था, एक शक्तिशाली शॉर्टकट था जिसने मॉडल को पृष्ठों के बैकग्राउंड टेक्स्ट को पढ़े बिना समुदाय के मानकों को सीखने की अनुमति दी।

कृत्रिम बुद्धिमत्ता मॉडल का आकार सबसे महत्वपूर्ण कारक साबित हुआ। 31 बिलियन पैरामीटर्स वाले सबसे बड़े मॉडल ने ही लगातार मानव विशेषज्ञों के निर्णय थ्रेशोल्ड (सीमा) से मेल खाने में सफलता पाई, जिससे संतुलित निर्णय लिए जा सके जो न तो बहुत सख्त थे और न ही बहुत उदार। छोटे मॉडल्स काफी संघर्ष करते हैं। केवल 1 बिलियन पैरामीटर्स वाला सबसे छोटा मॉडल अक्सर अधिक संदर्भ या उदाहरण मिलने पर भी सुधार करने में विफल रहा, और कभी-कभी उनके साथ प्रदर्शन और खराब हो गया। मध्यम आकार के मॉडल को लगभग हर टिप्पणी को समस्याग्रस्त के रूप में चिह्नित करने के लिए बनाया जा सकता था, जो लगभग सब कुछ पकड़ लेता था लेकिन कई गलत अलार्म भी देता था। यह सुझाव देता है कि हालांकि छोटे मॉडल्स स्पष्ट मुद्दों को पकड़ने के लिए पहले फिल्टर के रूप रूप में उपयोगी हो सकते हैं, वे अभी तक अकेले मानव निर्णय की जगह लेने के लिए तैयार नहीं हैं। केवल बड़े मॉडल्स ने ही समुदाय के मानदंडों की सूक्ष्म सीमाओं को समझने की आवश्यक क्षमता प्रदर्शित की।

पिछले कंप्यूटर सिस्टमों की तुलना में, जिन्हें विशेष रूप से इस डेटा पर प्रशिक्षित किया गया था, नए दृष्टिकोण ने सुरक्षा के सबसे महत्वपूर्ण क्षेत्रों में एक विशिष्ट शक्ति दिखाई। कृत्रistic निर्णायक उन दुर्लभ, हानिकारक पोस्टों की पहचान करने में काफी बेहतर थे जिनके कारण सामग्री को हटाना पड़ता है, जैसे कि भेदभावपूर्ण या विषय से हटकर सामग्री, जो पुराने सिस्टमों से बेहतर प्रदर्शन करते थे जिन्हें हजारों उदाहरणों पर प्रशिक्षित किया गया था। हालाँकि, पुराने प्रशिक्षित सिस्टम रचनात्मक सामग्री, जैसे कि व्यक्तिगत कहानियों या तर्कपूर्ण बिंदुओं को पहचानने में अभी भी बेहतर थे। यह अंतर एक प्रमुख वास्तविकता को उजागर करता है: नया दृष्टिकोण वहां सबसे अच्छा काम करता है जहां मानवीय प्रशिक्षण डेटा दुर्लभ और महंगा होता है। दुर्लभ, कठिन मामलों के लिए, जो किसी समुदाय की सुरक्षा को परिभाषित करते हैं, स्मार्ट उदाहरणों द्वारा निर्देशित कृत्रिम निर्णायक, सीमित डेटा पर प्रशिक्षित सिस्टम की तुलना में बेहतर काम कर सकता है। लेकिन सामान्य, सकारात्मक बातचीत के लिए, पुराने तरीके अभी भी बढ़त बनाए हुए हैं।

अंततः, अध्ययन यह सुझाव देता है कि कंटेंट मॉडरेशन का भविष्य एक एकल, पूर्ण मशीन के साथ मनुष्यों को बदलने के बारे में नहीं है, बल्कि सही काम के लिए सही उपकरण खोजने के बारे में है। शोध इंगित करता है कि समाचार कक्षों और ऑनलाइन समुदायों के लिए, सबसे अच्छी रणनीति उपलब्ध सबसे बड़े मॉडल्स का उपयोग करना और एक ऐसी विधि पर भरोसा करना है जो उन्हें दिखाती है कि मनुष्यों ने समान स्थितियों में कैसे निर्णय लिया था, न कि उन्हें अंतहीन टेक्स्ट से अभिभूत करना। यह दृष्टिकोण उन भाषाओं और समुदायों में भी स्केलेबल और विश्वसनीय मॉडरेशन का मार्ग प्रशस्त करता है जहाँ लेबल किए गए उदाहरणों का कोई विशाल डेटाबेस मौजूद नहीं है। यह एक ऐसा रास्ता प्रदान करता है जहाँ तकनीक मानव बातचीत की सूक्ष्म, संदर्भ-निर्भर प्रकृति का सम्मान करते हुए इंटरनेट की मात्रा को संभाल सकती है, बशर्ते सही मॉडल चुना जाए और सही जानकारी दी जाए।