Detecting undisclosed LLM-generated content in parliamentary texts
यह शोध पत्र संसदीय ग्रंथों में अप्रकट एलएलएम-जनित (LLM-generated) सामग्री का पता लगाने के लिए प्रशिक्षित एक व्याख्यात्मक क्लासिफायर प्रस्तुत करता है, जो 2022 से यूनाइटेड किंगडम और स्वीडन में इसके उपयोग में निरंतर वृद्धि को प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक हलचल भरी लाइब्रेरी की कल्पना करें जहाँ यूके (UK) और स्वीडन के राजनेता भाषण, प्रस्ताव और आधिकारिक बयान लिखते हैं। वर्षों तक, ये दस्तावेज़ पूरी तरह से मानवीय हाथों (या कम से कम, कीबोर्ड पर टाइप करते मानवीय दिमागों) द्वारा लिखे गए थे। लेकिन हाल ही में, लाइब्रेरी में एक नया, अदृश्य भूत मंडराने लगा है: लार्ज लैंग्वेज मॉडल (LLM), वही प्रकार का AI जो ChatGPT जैसे चैटबॉट्स को शक्ति देता है।
यह शोध पत्र एक टीम के जासूसों की तरह है जिन्होंने यह पता लगाने के लिए एक विशेष "झूठ पकड़ने वाली मशीन" बनाई है कि क्या राजनेता बिना किसी को बताए चुपके से इस AI भूत को अपने भाषण लिखने दे रहे हैं।
यहाँ उनके जांच की कहानी है, जिसे सरल रूप में समझाया गया है:
1. रहस्य: शांत भूत
कई नौकरियों में, जैसे पत्रकारिता या स्कूल के निबंधों में, यदि आप AI का उपयोग करते हैं, तो आपको हाथ उठाकर कहना चाहिए, "मैंने मदद के लिए एक रोबोट का उपयोग किया है।" लेकिन संसद की दुनिया में, नियम धुंधले हैं। ऐसे कोई सख्त कानून नहीं हैं जो राजनेताओं को यह कहने के लिए मजबूर करते हों, "हे, मैंने इस ड्राफ्ट के लिए एक AI से पूछा था।"
शोधकर्ताओं को डर था कि यदि राजनेता अपने भाषण लिखने के लिए AI का उपयोग कर रहे हैं लेकिन इसे स्वीकार नहीं कर रहे हैं, तो यह जनता के भरोसे को नुकसान पहुँचा सकता है। यह वैसा ही है जैसे कोई शेफ आपको भोजन परोसे लेकिन आपको यह न बताए कि वह खाना एक रोबोट ने बनाया है, और उस रोबोट ने गलती से मिठाई में नमक डाल दिया हो।
2. जासूस का उपकरण: "ग्लास बॉक्स" (Glass Box)
भूत को पकड़ने के लिए, शोधकर्ताओं ने एक काली, रहस्यमय मशीन का उपयोग नहीं किया जो ऐसे उत्तर देती है जिन्हें आप समझ नहीं सकते (एक "ब्लैक बॉक्स")। इसके बजाय, उन्होंने एक "ग्लास बॉक्स" क्लासिफायर बनाया।
इसे एक आवर्धक लेंस (magnifying glass) की तरह समझें जो केवल "दोषी" या "निर्दोष" नहीं कहता, बल्कि यह भी दिखाता है कि किन शब्दों और वाक्य संरचनाओं ने इसे संदिग्ध बनाया।
- इन्होंने इसे कैसे प्रशिक्षित किया: उन्होंने 2022 से पहले के पुराने भाषण लिए (जब AI लोकप्रिय नहीं था) और वे जानते थे कि वे 100% मानव निर्मित हैं। फिर, उन्होंने उन्हीं भाषणों को एक AI को दिया, और AI को उन्हें फिर से लिखने के लिए कहा। अब उनके पास एक "मानव" ढेर और एक "AI" ढेर था।
- प्रशिक्षण: उन्होंने अपने "ग्लास बॉक्स" को मानव ढेर और AI ढेर के बीच के सूक्ष्म अंतरों को पहचानने के लिए प्रशिक्षित किया। उन्होंने पाया कि AI थोड़े अलग पैटर्न में लिखता है—जैसे "United Kingdom" के बजाय "UK" का उपयोग करना, या उसके वाक्यों की एक बहुत ही विशिष्ट लय होती है।
3. जांच: हालिया फाइलों की जाँच
एक बार जब जासूस उपकरण तैयार हो गया, तो उन्होंने इसे 2021 से 2026 के नए भाषणों पर आज़माया। उन्होंने इन भाषणों को दो तरीकों से देखा:
- पूरा भाषण: क्या पूरा दस्तावेज़ AI की गंध दे रहा था?
- अनुच्छेद (Paragraphs): क्या भाषण के केवल एक अनुच्छेद में AI की गंध थी? (हो सकता है कि राजनेता ने प्रस्तावना लिखी हो, लेकिन मध्य भाग लिखने के लिए AI का उपयोग किया हो)।
4. निष्कर्ष: भूत हर जगह है (और बढ़ रहा है)
परिणाम स्पष्ट और स्थिर थे:
- रुझान: यूके और स्वीडन दोनों में, इन ग्रंथों में AI का उपयोग 2022 के बाद से लगातार बढ़ता जा रहा है।
- आंकड़े: 2026 तक, डिटेक्टर ने पाया कि लगभग 2% यूके के भाषण और 6.5% स्वीडिश भाषण संभवतः पूरी तरह से AI द्वारा लिखे गए थे।
- "छिपे हुए" हिस्से: जब उन्होंने व्यक्तिगत अनुच्छेदों को देखा, तो संख्याएँ और भी अधिक थीं। यूके में, 15% से अधिक हालिया प्रस्तावों में कम से कम एक अनुच्छेद ऐसा था जो AI द्वारा लिखा गया लग रहा था। स्वीडन में, यह 9% से अधिक था।
- चुप्पी: सबसे चौंकाने वाला हिस्सा? इनमें से किसी भी टेक्स्ट ने AI के उपयोग को स्वीकार नहीं किया। एक भी ऐसा नहीं था जिसने कहा, "हमने यहाँ एक चैटबॉट का उपयोग किया था।"
5. यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
शोध पत्र का तर्क है कि ईमानदारी की यह कमी एक समस्या है।
- विश्वास: यदि मतदाताओं को पता चलता है कि उनके राजनेता बिना बताए अपने शब्द लिखने के लिए AI का उपयोग कर रहे हैं, तो यह एक विश्वासघात जैसा महसूस हो सकता है।
- गलतियाँ: AI कभी-कभी चीजें बना सकता है (hallucinate) या पक्षपाती हो सकता है। यदि कोई राजनेता सावधानीपूर्वक जाँच किए बिना AI का उपयोग करता है, तो वे अनजाने में गलत जानकारी या आपत्तिजनक विचार फैला सकते हैं।
- "कॉग्निटिव ट्रोजन हॉर्स" (Cognitive Trojan Horse): शोध पत्र उल्लेख करता है कि AI पर निर्भर रहने से राजनेता स्वयं आलोचनात्मक रूप से सोचना बंद कर सकते हैं, जिससे वे यह महसूस किए बिना कि वे ऐसा कर रहे हैं, सोचने का भारी काम AI को सौंप देते हैं।
6. निष्कर्ष
शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि AI का उपयोग करना अनिवार्य रूप से "बुरा" नहीं है, इसे छिपाना बुरा है। उन्होंने पाया कि राजनेता अपने आधिकारिक टेक्स्ट लिखने के लिए तेजी से AI का उपयोग कर रहे हैं, लेकिन वे उन (अक्सर अस्पष्ट) दिशानिर्देशों का पालन नहीं कर रहे हैं जो पारदर्शिता बरतने का सुझाव देते हैं।
उनका सुझाव है कि संसद को अस्पष्ट होना बंद करना चाहिए और स्पष्ट, सख्त नियम बनाने चाहिए: "यदि आप AI का उपयोग करते हैं, तो आपको बताना होगा।" जब तक ऐसा नहीं होता, लाइब्रेरी में मौजूद "भूत" अंधेरे में भाषण लिखता रहेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।