It Matters How You Say It: Exploring Rhetorical Patterns for AI-Assisted Information Evaluation

तकनीकी सारांश: यह मायने रखता है कि आप इसे कैसे कहते हैं: AI-सहायता प्राप्त सूचना मूल्यांकन के लिए अलंकारिक प्रतिमानों (Rhetorical Patterns) का अन्वेषण

समस्या विवरण
भ्रामक सूचनाओं के प्रसार के लिए सामान्य उपयोगकर्ताओं द्वारा वास्तविक समय में सूचना मूल्यांकन की सुदृढ़ आवश्यकता है। जबकि बड़े भाषा मॉडल (LLMs) दावों के सत्यापन में सहायता के लिए तेजी से उपयोग किए जा रहे हैं, वर्तमान AI सलाहकार प्रणालियाँ मुख्य रूप से "निर्देशात्मक अलंकार" (directive rhetoric) पर निर्भर करती हैं, जो आत्मविश्वासपूर्ण निर्णय प्रस्तुत करती हैं जिन्हें उपयोगकर्ता निष्क्रिय रूप से स्वीकार कर लेते हैं। यह दृष्टिकोण तब विफल हो जाता है जब 'ग्राउंड ट्रुथ' (वास्तविक सत्य) के लिए मॉडल के प्रशिक्षण डेटा से बाहर के सूक्ष्म और अद्यतित तकनीकी विश्लेषण की आवश्यकता होती है, जिससे आत्मविश्वासपूर्ण लेकिन आंशिक रूप से गलत या भ्रामक पुष्टिकरण प्राप्त होते हैं। पूर्व शोध ने इस बात पर ध्यान केंद्रित किया है कि AI सिस्टम क्या संचारित करते हैं (जैसे, स्पष्टीकरण के प्रकार, चेतावनी लेबल), लेकिन इस बात की उपेक्षा की है कि वे कैसे संचार करते हैं। विशेष रूप से, वे अलंकारिक प्रतिमान जो AI प्रतिक्रियाओं को संरचित करते हैं और उनकी उपयोगकर्ता के चिंतन, अनिश्चितता या स्वतंत्र तर्क को प्रेरित करने की क्षमता अभी भी अपर्याख्यायित है।

कार्यप्रणाली
लेखकों ने तथ्य सत्यापन प्रदर्शन पर आठ विशिष्ट अलंकारिक प्रतिमानों के प्रभावों की जांच करने के लिए $n=98$ प्रतिभागियों के साथ एक 'विथ-इन-सब्जेक्ट' (within-subject) उपयोगकर्ता अध्ययन आयोजित किया।

• कार्य: प्रतिभागियों ने एक घंटे में 40 दावों की सत्यता का मूल्यांकन किया। प्रत्येक दावे के लिए, उन्होंने एक प्रारंभिक रेटिंग और आत्मविश्वास स्तर प्रदान किया, और फिर अंतिम मूल्यांकन जमा करने से पहले आठ अलंकारिक प्रतिमानों में से किसी एक से सलाह लेने का विकल्प चुना।
• प्रतिमान (Patterns): अध्ययन ने भाषाई और मनोवैज्ञानिक सिद्धांतों से लिए गए सात अलंकारिक प्रतिमानों को एक "ओरेकल" (Oracle) आधार रेखा (सीधा, आत्मविश्वासपूर्ण स्वर्ण-मानक साक्ष्य वितरण) के विरुद्ध संचालित किया:
  1. ओरेकल (Oracle): महत्वपूर्ण जानकारी का सीधा, आत्मविश्वासपूर्ण वितरण।
  2. स्कैफोल्ड एक्सप्लेनेशन (Scaffold Explanation): साक्ष्य को निष्कर्ष से जोड़ने वाला चरण-दर-चरण तार्किक अनुमान।
  3. सुकराती प्रश्न (Socratic Questioning): छूटे हुए साक्ष्यों या धारणाओं के बारे में जांच करने वाले प्रश्न।
  4. वैकल्पिक फ्रेमिंग (Alternative Framing): प्रशंसनीय लेकिन गौण संदर्भ के माध्यम से ध्यान मोड़ना (रेड हेरिंग)।
  5. व्याख्यात्मक विकल्प (Interpretive Alternative): प्रतिस्पर्धी निष्कर्षों की पेशकश करके धारणाओं को चुनौती देना।
  6. सूचना विरूपण (Information Distortion): तर्क अंतराल को उजागर करने के लिए प्रमुख जानकारी को छोड़ देना।
  7. अविश्वास को प्रेरित करना (Triggering Distrust): आलोचनात्मक जांच को प्रेरित करने के लिए जानबूझकर विसंगतियां पेश करना।
  8. जानबूझकर गुमराह करना (Intentional Misleading): प्रशंसनीय लेकिन गलत फ्रेमिंग के साथ उपयोगकर्ताओं को भ्रमित करना।
• विश्लेषण: डेटा का विश्लेषण 'जनरलाइज्ड एस्टिमेटिंग इक्वेशन्स' (GEE) का उपयोग करके किया गया ताकि भीतर-विषय सहसंबंधों (within-subject correlations) को नियंत्रित किया जा सके।

प्रमुख योगदान

1. अलंकारिक वर्गीकरण (Rhetorical Taxonomy): यह शोध तथ्य-सत्यापन संदर्भ के लिए विशेष रूप से तैयार किए गए, भाषाई और मनोवैज्ञानिक सिद्धांत पर आधारित, आठ अलंकारिक प्रतिमानों को परिभाषित और संचालित करता है।
2. अनुभवजन्य साक्ष्य (Empirical Evidence): यह विशिष्ट अलंकारिक शैलियों को उपयोगकर्ता की सटीकता, आत्मविश्वास अंशांकन (confidence calibration) और चिंतन की गहराई से जोड़ने वाले प्रारंभिक अनुभवजन्य साक्ष्य प्रदान करता है।
3. सटीकता-वरीयता विचलन (Accuracy-Preference Divergence): अध्ययन एक व्यवस्थित विचलन की पहचान करता है जो उपयोगकर्ता के प्रदर्शन और उपयोगकर्ता की संतुष्टि के बीच है, जो इस धारणा को चुनौती देता है कि उपयोगकर्ता की प्राथमिकता प्रणाली की प्रभावशीलता का एक विश्वसनीय संकेतक है।
4. डिजाइन निहितार्थ: लेखक संवादात्मक AI के लिए डिजाइन निहितार्थ निकालते हैं, और तर्क देते हैं कि उच्च-जोखिम वाले सूचना वातावरण में 'वन-साइज़-फिट्स-ऑल' निर्देशात्मक दृष्टिकोण के बजाय अनुकूलन योग्य अलंकारिक डिजाइन की आवश्यकता है।

परिणाम

• सटीकता: इस परिकल्पना के विपरीत कि प्रतिकूल प्रतिमान कम प्रदर्शन करेंगे, स्कैफोल्ड एक्सप्लेनेशन और ओरेकल आधार रेखा ने उच्चतम सटीकता लाभ दिए। आश्चर्यजनक रूप से, प्रतिकूल स्थितियों (जानबूझकर गुमराह करना, अविश्वास को प्रेरित करना, सूचना विरूपण) ने भी सटीकता में मामूली सुधार किया, जो बताता है कि अविश्वसनीय सलाह का पता लगाना "प्रेरित सूक्ष्म जांच" (motivated scrutiny) को सक्रिय कर सकता है जो स्वयं दावे तक विस्तृत होती है। सुकराती प्रश्न और व्याख्यात्मक विकल्प ने सटीकता में कोई महत्वपूर्ण सुधार नहीं किया।
• चिंतन और समय: स्कैफोल्ड एक्सप्लेनेशन विशिष्ट रूप से गहरे चिंतन को प्रोत्साहित करने से जुड़ा था। जबकि सुकराती प्रश्न और व्याख्यात्मक विकल्प ने कार्य पर लगने वाले समय (संज्ञानात्मक प्रयास का एक प्रॉक्सी) को बढ़ाया, इस अतिरिक्त समय का निर्णय की गुणवत्ता में अनुरूप सटीकता लाभ में अनुवाद नहीं हुआ, जो समय बिताने और निर्णय की गुणवत्ता के बीच अलगाव को दर्शाता है।
• उपयोगकर्ता वरीयता: प्रतिभागियों ने वैकल्पिक फ्रेमिंग को सबसे अधिक पसंद किया, इसके संक्षिप्त होने और उपयोग में आसानी का हवाला दिया। इसके विपरीत, व्याख्यात्मक विकल्प और जानबूझकर गुमराह करना को कथित समय लागत और भ्रम के कारण सबसे कम पसंद किया गया। उल्लेखनीय रूप से, ओरेकल (उच्चतम सटीकता) को वरीयताओं में केवल मध्य में रखा गया था, और सबसे पसंदीदा प्रतिमान (वैकल्पिक फ्रेमिंग) ने कोई महत्वपूर्ण सटीकता लाभ नहीं दिखाया।
• आत्मविश्वास: सभी प्रतिमानों के बाद सलाह प्राप्त करने के बाद आत्मविश्वास बढ़ गया, चाहे सटीकता में सुधार हुआ हो या नहीं, जो बिना निर्णय सुधार के आत्मविश्वास मुद्रास्फीति (confidence inflation) के जोखिम को उजागर करता है।

महत्व और दावे
यह शोध तर्क देता है कि AI संचार की अलंकारिक शैली सूचनात्मक सामग्री जितनी ही महत्वपूर्ण है। निष्कर्ष प्रचलित डिजाइन धारणा को चुनौती देते हैं कि सीधे, आत्मविश्वासपूर्ण उत्तर सार्वभौमिक रूप से इष्टतम होते हैं। इसके बजाय, लेखक सुझाव देते हैं कि "जानबूझकर उत्पन्न घर्षण" (deliberate friction) (जैसे, स्कैफोल्डिंग या प्रतिकूल संकेतों के माध्यम से) तथ्य सत्यापन में आलोचनात्मक सोच को प्रेरित करने और सटीकता में सुधार करने के लिए एक उत्पादक संसाधन हो सकता है।

हालाँकि, लेखक अपने दावों के संबंध में एक मध्यम स्वर बनाए रखते हैं:

• वे प्रतिमानों के प्रति मैन्युअल रूप से निर्मित दावों की कम संख्या के कारण इस अध्ययन को एक "अन्वेषणात्मक डिजाइन प्रोब" (exploratory design probe) के रूप में वर्णित करते हैं।
• वे स्वीकार करते हैं कि प्रतिकूल स्थितियों में देखे गए सटीकता लाभ प्रतिक्रिया पूर्वाग्रह (गलत दावों के प्रति संदेह) द्वारा संचालित हो सकते हैं, न कि स्वयं अलंकारिक तंत्र द्वारा, क्योंकि कोई मैनिपुलेशन चेक नहीं किया गया था।
• वे उत्पादन प्रणालियों में (हेरफेर और विश्वास के नैतिक मुद्दों का हवाला देते हुए) उपयोगकर्ता की स्पष्ट सहमति के बिना प्रतिकूल प्रतिमानों को तैनात करने के विरुद्ध चेतावनी देते हैं।
• शोध निष्कर्ष निकालता है कि कोई भी एकल अलंकारिक शैली सार्वभौमिक रूप से इष्टतम नहीं है; बल्कि, प्रणालियों को उपयोगकर्ता व्यवहार और कार्य संदर्भ के आधार पर अपनी शैली को गतिशील रूप से अनुकूलित करने की आवश्यकता हो सकती है, जिससे उपयोगकर्ता संतुष्टि (सुगमता) और प्रणाली प्रभावशीलता (सटीकता/चिंतन) के बीच संतुलन बनाया जा सके।