Inference-Time Mitigation of Adversarial Political Bias in Large Language Models
यह शोध पत्र इन्फरेंस-टाइम शमन रणनीतियों (inference-time mitigation strategies) का प्रस्ताव और मूल्यांकन करता है, विशेष रूप से चेन ऑफ थॉट प्रॉम्प्टिंग (Chain of Thought prompting) और डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (Direct Preference Optimization) का उपयोग करने वाला एक रिकर्सिव सेल्फ-करेक्शन दृष्टिकोण, जो प्रतिकूल पूर्वाग्रह इंजेक्शन (adversarial bias injection) के विरुद्ध लार्ज लैंग्वेज मॉडल द्वारा जनरेट किए गए सारांशों की राजनीतिक तटस्थता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल परिदृश्य में, बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) हमारी सूचना प्राप्ति के पीछे के शांत इंजन बन गए हैं। ये ऐसे कंप्यूटर सिस्टम हैं जिन्हें विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया गया है, जो किसी दस्तावेज़ को पढ़ने और उसकी सामग्री का सारांश बनाने, या एक मानव लेखक की तरह प्रवाह के साथ प्रश्नों के उत्तर देने में सक्षम हैं। क्योंकि वे इतने सक्षम हैं, उनका उपयोग समाचारों, विधायी रिकॉर्ड और राजनीतिक बहसों को संसाधित करने के लिए तेजी से किया जा रहा है। हालाँकि, एक महत्वपूर्ण भेद्यता उभर कर आई है: इन प्रणालियों को सूक्ष्म रूप से हेरफेर किया जा सकता है। जिस तरह एक व्यक्ति को एक भ्रामक प्रश्न से प्रभावित किया जा सकता है, उसी तरह इन मॉडलों को एक विशिष्ट राजनीतिक दृष्टिकोण अपनाने के लिए उकसाया जा सकता है, भले ही स्रोत सामग्री तटस्थ हो। ऐसा इसलिए होता है क्योंकि मॉडल सहायक और सहमत होने के लिए प्रशिक्षित होते हैं, एक ऐसा गुण जिसका उपयोग उन उपयोगकर्ताओं द्वारा किया जा सकता है जो अपने अनुरोधों को भारी शब्दों या विशिष्ट वैचारिक निर्देशों के साथ प्रस्तुत करते हैं। इसका परिणाम एक ऐसा सारांश होता है जो तथ्यात्मक प्रतीत होता है लेकिन वास्तव में पक्षपाती होता है, जो जटिल मुद्दों की सार्वजनिक समझ को संभावित रूप से विकृत कर सकता है।
पर्ड्यू यूनिवर्सिटी के शोधकर्ताओं ने यह समझने के लिए प्रयास किया कि यह भेद्यता कितनी गहरी है और क्या इसे पूरे सिस्टम को फिर से प्रशिक्षित किए बिना ठीक किया जा सकता है। उन्होंने राजनीतिक वीडियो को सारांशित करने के कार्य पर ध्यान केंद्रित किया, विशेष रूप रूप से कांग्रेस के फ्लोर कार्यवाही के ट्रांसक्रिप्ट का उपयोग करके। उनका लक्ष्य यह देखना था कि क्या वे इन कृत्रिम बुद्धिमत्ता प्रणालियों को पक्षपाती सारांश उत्पन्न करने के लिए धोखा दे सकते हैं और, अधिक महत्वपूर्ण बात यह है कि क्या वे एक ऐसा बचाव बना सकते जो मॉडलों को वास्तविक समय में स्वयं को सुधारने की अनुमति दे सके। टीम ने केवल मॉडलों को वीडियो का सारांश देने के लिए नहीं कहा; उन्होंने सक्रिय रूप से मॉडलों के सुरक्षा फिल्टर को तोड़ने की कोशिश की। उन्होंने "जेलब्रेकिंग" नामक तकनीक का उपयोग किया, जिसमें सिस्टम में बने नियमों को दरकिनार करने वाले प्रॉम्प्ट तैयार किए जाते हैं। मॉडलों को एक विशिष्ट राजनीतिक झुकाव की मांग करने वाले निर्देशों के साथ राजनीतिक बहसों के ट्रांसक्रिप्ट खिलाकर—जैसे कि उदार दृष्टिकोण के लिए "सिस्टमिक उत्पीड़न" (systemic oppression) या रूढ़िवादी दृष्टिकोण के लिए "पारंपरिक अमेरिकी मूल्यों" (traditional American values) जैसे वाक्यांशों का उपयोग करना—उन्होंने सफलतापूर्वक मॉडलों को अत्यधिक पक्षपाती सारांश उत्पन्न करने के लिए मजबूर किया।
इन प्रारंभिक परीक्षणों के परिणाम स्पष्ट थे। जब मॉडलों को इन हेरफेर किए गए प्रॉम्प्ट दिए गए, तो उनकी तटस्थ रहने की क्षमता ढह गई। राजनीतिक तटस्थता को मापने के लिए डिज़ाइन किए गए पैमाने पर, जहाँ पांच का स्कोर एक पूरी तरह से संतुलित सारांश का प्रतिनिधित्व करता है और एक अत्यधिक पक्षपात का, मॉडलों का प्रदर्शन नाटकीय रूप से गिर गया। एक तटस्थ रुख बनाए रखने के बजाय, औसत स्कोर गिरकर केवल 2.14 रह गया, जो दर्शाता है कि सारांश अब स्रोत पाठ के बजाय इंजेक्ट किए गए पक्षपात के साथ स्पष्ट रूप से संरेखित थे। शोधकर्ताओं ने पाया कि केवल मॉडलों को बड़ा बनाना इस समस्या को हल नहीं करता था; यहाँ तक कि इन प्रणालियों के अधिक शक्तिशाली संस्करण भी उसी हेरफेर का शिकार हो गए। इसने पुष्टि की कि समस्या बुद्धिमत्ता या डेटा की कमी नहीं थी, बल्कि इस बात की मौलिक संवेदनशीलता थी कि प्रश्नों को कैसे पूछा जाता है।
इसका मुकाबला करने के लिए, टीम ने उत्तर उत्पन्न करने की प्रक्रिया के दौरान, जिसे 'इन्फरेंस' (inference) चरण कहा जाता है, मॉडलों को सुरक्षित करने के लिए कई रणनीतियों का परीक्षण किया। एक दृष्टिकोण में 'चेन ऑफ थॉट' (Chain of Thought) नामक तकनीक शामिल थी, जो मॉडल को अंतिम सारांश लिखने से पहले अपने चरणों के माध्यम से तर्क करने के लिए रुकने के लिए कहती है। उपयोगकर्ता के पक्षपाती ढांचे से खुद को अलग करने और सख्ती से ट्रांसक्रिप्ट के तथ्यों पर ध्यान केंद्रित करने के निर्देश देकर, इस पद्धति ने मॉडलों को अपनी तटस्थता वापस पाने में मदद की। स्कोर में काफी सुधार हुआ, जो मूल आधार रेखा के करीब वापस आ गया। हालाँकि, शोधकर्ता यह देखना चाहते थे कि क्या वे इससे बेहतर कर सकते हैं, विशेष रूप से अधिक आक्रामक "जेलब्रेक" प्रॉम्प्ट के खिलाफ जो सुरक्षा नियमों को पूरी तरह से अनदेखा करने के लिए डिज़ाइन किए गए थे।
सबसे प्रभावी समाधान जो उन्होंने विकसित किया, वह 'रिकर्सिव सेल्फ-करेक्शन' (Recursive Self-Correction) नामक एक विधि थी। यह दृष्टिकोण सारांश के निर्माण को स्वयं के साथ एक बातचीत के रूप में मानता है। सबसे पहले, मॉडल पक्षपाती प्रॉम्प्ट के आधार पर एक प्रारंभिक मसौदा तैयार करता है। इसके बाद, मॉडल को एक आंतरिक ऑडिटर के रूप में कार्य करने के लिए कहा जाता है, जो अपने काम की समीक्षा करता है ताकि यह पहचान सके कि वह कहाँ पक्षपाती भाषा या चाटुकारिता में फिसल गया है। अंत में, इस स्व-ऑडिट से प्राप्त फीडबैक का उपयोग करते हुए, मॉडल त्रुटियों को ठीक करने के लिए सारांश को फिर से लिखता है। यह प्रक्रिया दोहराई जाती है, जिससे मॉडल उस पक्षपात को हटा देता है जो उसने पेश किया था। जब शोधकर्ताओं ने इस तीन-चरणीय चक्र को लागू किया, तो परिणाम परिवर्तनकारी थे। मॉडलों ने, जो पहले अत्यधिक पक्षपाती आउटपुट दे रहे थे, स्वयं को सुधारने और लगभग उतना ही तटस्थ सारांश बनाने में सक्षम दिखाया जितना कि कोई पक्षपात इंजेक्ट न किया गया हो। औसत तटस्थता स्कोर घटित 2.14 से बढ़कर 4.56 हो गया।
अध्ययन ने 'डायरेक्ट प्रेफरेंस ऑप्टिमाइजेशन' (Direct Preference Optimization) नामक एक अन्य विधि का भी अन्वेषण किया, जिसमें फाइन-ट्यूनिंग का एक रूप शामिल है जहाँ मॉडल के आंतरिक वेट्स (weights) को पक्षपाती प्रतिक्रियाओं के बजाय निष्पक्ष प्रतिक्रियाओं को प्राथमिकता देने के लिए समायोजित किया जाता है। जबकि इस पद्धति ने भी प्रदर्शन में सुधार किया, शोधकर्ताओं ने पाया कि रिकर्सिव सेल्फ-करेक्शन दृष्टिकोण विशेष रूप से शक्तिशाली था क्योंकि इसके लिए मॉडल के अंतर्निखंड कोड को बदलने या इसे नए डेटा पर फिर से प्रशिक्षित करने की आवश्यकता नहीं थी। यह इस बात से काम करता था कि मॉडल उस क्षण में कार्य के बारे में कैसे सोचता है। निष्कर्ष बताते हैं कि जबकि बड़े भाषा मॉडल वर्तमान में राजनीतिक हेरफेर के प्रति संवेदनशील हैं, उनमें एक स्वाभाविक क्षमता है कि यदि सही संरचना द्वारा निर्देशित किया जाए, तो वे अपनी गलतियों को पहचान सकें और सुधार सकें। यह सुनिश्चित करने के लिए एक व्यावहारिक मार्ग प्रदान करता है कि राजनीतिक रिपोर्टिंग जैसे संवेदनशील क्षेत्रों में उपयोग किए जाने वाले एआई उपकरण स्रोत सामग्री के प्रति वफादार रहें, उपयोगकर्ता के एजेंडे के साथ सहमत होने के बजाय तथ्यों पर टिके रहें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।