Auditing LLM-mediated interpretation through source-to-claim documentation
यह शोध पत्र गुणात्मक अनुसंधान में जनरेटिव एआई (generative AI) के ऑडिटिंग के लिए "सोर्स-टू-क्लेम डॉक्यूमेंटेशन" (स्रोत-से-दावे तक दस्तावेजीकरण) को एक ढांचे के रूप में प्रस्तुत करता है, जो स्रोत साक्ष्य को मॉडल इंटरैक्शन और विश्लेषणात्मक दावों से स्पष्ट रूप से जोड़कर पुनरविश्लेषण और मानवीय निर्णय के लिए आवश्यक साक्ष्य पथ को संरक्षित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानविकी और सामाजिक विज्ञानों में, शोधकर्ता लंबे समय से एक सरल लेकिन शक्तिशाली विचार पर भरोसा करते आए हैं: यदि आप समझना चाहते हैं कि किसी निष्कर्ष तक कैसे पहुँचा गया, तो आपको मूल साक्ष्य से अंतिम दावे तक के मार्ग को ट्रैक करने में सक्षम होना चाहिए। इस पथ को अक्सर "ऑडिट ट्रेल" (audit trail) कहा जाता है। यह लिए गए निर्णयों, बनाई गई टिप्पणियों और अपनाए गए चरणों का एक रिकॉर्ड है, जो यह सुनिश्चित करता है कि कोई अन्य विद्वान उन्हीं सामग्रियों को देखकर देख सके कि व्याख्या का निर्माण कैसे किया गया। दशकों से, यह प्रक्रिया मानव-से-मानव रही है, जहाँ एक शोधकर्ता एक पाठ को पढ़ता है, एक अंश को हाइलाइट करता है, और एक विश्लेषण लिखता है। लेकिन एक नया उपकरण कमरे में प्रवेश कर चुका है: जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI)। ये प्रणालियाँ एक पाठ को पढ़ सकती हैं और तुरंत एक सारांश या व्याख्या लिखने के लिए एक प्रवाहपूर्ण पैराग्राफ तैयार कर सकती हैं। समस्या यह है कि इस गति के साथ एक छिपा हुआ मूल्य आता है। AI एक चिकना, पॉलिश किया हुआ वाक्य बनाता है जो उस मशीन के भीतर हुए रूपांतरण के जटिल कार्य को छिपा देता है। एक पाठक अंतिम दावा तो देखता है, लेकिन वह यह नहीं देख पाता कि मशीन ने मूल शब्दों को उस विशिष्ट निष्कर्ष में कैसे बदला। इससे भी बुरा यह है कि क्योंकि ये AI प्रणालियाँ कंपनियों के स्वामित्व वाले सर्वरों पर होस्ट की जाती हैं, शोधकर्ता बाद में उसी गणना को फिर से "रन" नहीं कर सकते। सॉफ़्टवेयर बदल सकता है, या एक ही प्रश्न का अगली बार थोड़ा अलग उत्तर मिल सकता है। यह ऑडिट ट्रेल में एक अंतराल पैदा करता है, जिससे साक्ष्य और दावे के बीच का संबंध नाजुक और सत्यापित करने में कठिन हो जाता है।
इसे हल करने के लिए, मिनेसोटा विश्वविद्यालय और जॉर्जिया इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं की एक टीम ने "सोर्स-टू-क्लेम डॉक्यूमेंटेशन" (source-to-claim documentation) नामक काम करने का एक नया तरीका प्रस्तावित किया। केवल यह कहने के बजाय कि, "हमने एक AI का उपयोग किया," वे एक पूर्ण, जुड़े हुए रिकॉर्ड की श्रृंखला रखने का सुझाव देते हैं जो ठीक से दिखाता है कि साक्ष्य का एक टुकड़ा एक विश्लेषणात्मक दावे में कैसे बदला। यह ढांचा न केवल उपयोग किए गए उपकरणों को सूचीबद्ध करता है; यह प्रत्येक उत्पन्न पाठ के विशिष्ट सफर को सुरक्षित रखता है। शोधकर्ताओं ने इस विचार का परीक्षण एक नियंत्रित प्रयोग में किया जहाँ उन्होंने बारह सरल वाक्यों को स्रोत सामग्री के रूप में बनाया। उन्होंने एक AI मॉडल के दो अलग-अलग संस्करणों से इन वाक्यों को फिर से लिखने और उनके बारे में संक्षिप्त व्याख्यात्मक नोट्स लिखने के लिए कहा। लक्ष्य यह देखना नहीं था कि कौन सा AI अधिक स्मार्ट है, बल्कि यह देखना था कि क्या उनकी नई दस्तावेज़ीकरण पद्धति उन त्रुटियों को पकड़ सकती है जो अन्यथा अनसुनी रह जातीं। उन्होंने पाया कि AI ने सूक्ष्म लेकिन महत्वपूर्ण बदलाव किए जो सतह पर हानिरहित दिखते थे। उदाहरण के लिए, जब स्रोत वाक्य में कहा गया था कि एक महिला ने अपनी नोट्स एक मित्र को "उधार" (lent) दिए, तो AI ने इसे बार-बार बदलकर "दे दिए" (gave) कर दिया। वास्तविक दुनिया में, "उधार देने" का अर्थ है कि वस्तु वापस की जाएगी, जबकि "देने" का अर्थ स्थायी स्वामित्व का संकेत देता है। AI ने हर बार यह बदलाव किया, जिससे समान, प्रवाहपूर्ण वाक्य बने जो सुनने में सही लगे लेकिन वास्तव में मूल साक्ष्य के अर्थ को बदल चुके थे।
नयी पद्धति की शक्ति तब स्पष्ट हुई जब शोधकर्ताओं ने अंतिम पाठ से गहराई से देखा। उन्होंने एक चरण पेश किया जहाँ उन्होंने AI से पुनर्गठित पाठ के साथ-साथ वाक्य के अर्थ का एक संरचित मानचित्र (structured map) बनाने के लिए कहा। यह मानचित्र एक ब्लूप्रिंट की तरह कार्य करता था, जो शब्दों के बीच के संबंधों को दर्शाता था। जब शोधकर्ताओं ने ब्लूप्रिंट की मूल वाक्य से तुलना की, तो त्रुटि स्पष्ट रूप से सामने आ गई: मानचित्र अभी भी क्रिया को "उधार देना" (lending) के रूप में दिखा रहा था, भले ही अंतिम पैराग्राफ में "देना" (giving) लिखा था। इसने खुलासा किया कि AI ने एक सुसंगत गलती की थी जिसे प्रवाहपूर्ण गद्य ने सफलतापूर्वक छिपा दिया था। शोधकर्ताओं ने यह भी पाया कि जब AI व्याख्यात्मक नोट्स लिखता था, तो वह कभी-कभी मूल पाठ में मौजूद विचारों को भी जोड़ देता था, जैसे कि किसी व्यक्ति की प्रेरणा का अनुमान लगाना, भले ही उसे सीधे स्रोत का उद्धरण देने के लिए कहा गया था। मूल वाक्य, AI के कच्चे आउटपुट, संरचित मानचित्र और मानव समीक्षा को एक ही संग्रह में एक साथ रखकर, शोधकर्ता देख सकते थे कि अर्थ कहाँ बदला। उन्होंने पाया कि केवल यह जाँच लेना कि क्या दो AI रन एक ही उत्तर देते हैं, पर्याप्त नहीं था, क्योंकि AI खुद से सहमत हो सकता था जबकि दोनों ही गलत हो सकते थे।
अध्ययन में आठ मानव पाठकों को शामिल किया गया जिन्होंने AI के काम की समीक्षा की। इन पाठकों ने पुष्टि की कि हालांकि AI के पुनर्गठित वाक्य अक्सर मूल के बहुत समान दिखते थे, लेकिन वे अक्सर ऐसे तरीकों से अर्थ बदल देते थे जो महत्वपूर्ण थे। ऋण (loan) से संबंधित एक विशिष्ट मामले में, पाठकों ने पहचाना कि "उधार" (lend) से "देना" (give) में परिवर्तन आधे से अधिक मूल्यांकनों में एक महत्वपूर्ण विरूपण था। शोधकर्ताओं ने यह भी परीक्षण किया कि क्या उनकी पद्धति AI सिस्टम में होने वाले परिवर्तनों को संभाल सकती है। उन्होंने महीनों के अंतराल पर दो अलग-अलग AI मॉडल के साथ प्रयोग चलाया। भले ही मॉडल अलग थे, दस्तावेज़ीकरण पद्धति ने उन्हें दावे के इतिहास को ट्रैक करने और यह देखने की अनुमति दी कि साक्ष्य में प्रत्येक मामले में कैसे परिवर्तन हुआ। मुख्य निष्कर्ष यह था कि ढांचे ने सफलतापूर्वक "एविडेंशियल पाथ" (evidential path) को संरक्षित किया। इसने एक बाद के शोधकर्ता को अंतिम दावे को देखने, कच्चे AI आउटपुट तक वापस जाने और फिर संरचित मानचित्र की जाँच करने की अनुमति दी कि क्या अर्थ सुरक्षित था। इस प्रक्रिया के लिए शोधकर्ता को AI पर भरोसा करने या अंतिम पाठ को पूर्ण मानने की आवश्यकता नहीं थी; इसके लिए केवल उनके पास उस पाठ के निर्माण का पूरा रिकॉर्ड होना आवश्यक था।
यह दृष्टिकोण उन शोधकर्ताओं के लिए एक व्यावहारिक मार्ग प्रदान करता है जो अपने काम को सत्यापित करने की क्षमता खोए बिना AI का उपयोग करना चाहते हैं। शोधकर्ताओं का सुझाव है कि दस्तावेज़ीकरण की मात्रा दावे के महत्व के अनुरूप होनी चाहिए। एक निजी नोट या कक्षा के अभ्यास के लिए, स्रोत और प्रॉम्प्ट का एक सरल रिकॉर्ड पर्याप्त हो सकता है। लेकिन एक प्रकाशित लेख या डेटासेट के लिए जिसे दूसरों के उपयोग के लिए बनाया गया है, साक्ष्य की पूरी श्रृंखला—जिसमें कच्चा आउटपुट, संरचित जाँच और मानव समीक्षा शामिल है—को सहेजा जाना चाहिए। इसका मतलब यह नहीं है कि प्रत्येक वाक्य के लिए पूर्ण ऑडिट की आवश्यकता है, लेकिन इसका मतलब यह है कि जब कोई दावा AI की व्याख्या पर निर्भर करता है, तो मूल शब्दों से उस दावे तक का मार्ग दृश्यमान रहना चाहिए। अध्ययन ने दिखाया कि बिना इस दृश्यता के, प्रवाहपूर्ण गद्य आसानी से त्रुटियों को छिपा सकता है, और AI रन के बीच बार-बार की सहमति एक झूठी सुरक्षा की भावना दे सकती है। स्रोत, मशीन और मानव समीक्षक के बीच के लिंक को बरकरार रखकर, शोधकर्ता यह सुनिश्चित कर सकते हैं कि उनके निष्कर्ष एक ऐसे आधार पर बने हैं जिसका निरीक्षण, प्रश्न और जिसे कोई भी अनुसरण करने वाला समझ सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।