Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

जब हम किसी ऐसे कंप्यूटर से बात करते हैं जो मानवीय लगता है, तो हम किसी मन (mind) से बात नहीं कर रहे होते हैं। हम एक ऐसी प्रणाली से बात कर रहे होते हैं जो गणित पर आधारित है, जिसे वाक्यों में अगले शब्द की भविष्यवाणी करने के लिए डिज़ाइन किया गया है, जो टेक्स्ट की विशाल मात्रा से सीखे गए पैटर्न पर आधारित है। वर्षों से, शोधकर्ता इन बड़े भाषा मॉडलों का अध्ययन उनके अंतिम उत्तरों या उन्हें चलाने वाले जटिल कोड को देखकर करते रहे हैं। उन्होंने पूछा है कि क्या मशीन पक्षपाती है, क्या वह सटीक है, या क्या वह एक कठिन समस्या को हल कर सकती है। लेकिन यह दृष्टिकोण कहानी के एक महत्वपूर्ण हिस्से को छोड़ देता है। इससे पहले कि कोई मॉडल एक भी शब्द टाइप करे, वहां मानवीय कार्य की एक छिपी हुई परत होती है जो यह तय करती है कि एक अच्छा उत्तर क्या है। यह कार्य उन दस्तावेजों में होता है जिन्हें 'गाइडलाइन्स' (दिशानिर्देश) कहा जाता है, जो उन लोगों को दिए जाते हैं जो एआई (AI) को प्रशिक्षित और ग्रेड करते हैं। ये दस्तावेज मानव श्रमिकों को ठीक से बताते हैं कि मशीन की भाषा का निर्णय कैसे किया जाए, और यह परिभाषित करते हैं कि क्या सहायक, क्या ईमानदार और क्या सुरक्षित है। प्रश्न अब केवल यह नहीं है कि मशीन कैसे सीखती है, बल्कि यह है कि मानवता का कौन सा संस्करण उसे नकल करने के लिए सिखाया जा रहा है।

शोधकर्ता लिज़ डियाना ज़राटे लुएन्गास और विलियम एंड्रेस गोमेज़ सांचेज़ द्वारा किए गए एक नए अध्ययन ने इस छिपी हुई परत की ओर ध्यान आकर्षित किया है। एआई के आउटपुट को देखने के बजाय, उन्होंने उन नियमपुस्तकों का परीक्षण किया जिनका उपयोग इन प्रणालियों को बनाने वाली कंपनियाँ करती हैं। लेखकों में से एक ने इन प्लेटफार्मों के लिए एक एनोटेटर (annotator) और गुणवत्ता मूल्यांकनकर्ता के रूपв में सीधे काम किया है, जिससे उन्हें उन आंतरिक दस्तावेजों तक पहुंच प्राप्त हुई जो एआई के व्यवहार को आकार देते हैं। वाणिज्यिक मॉडलों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले चार विशिष्ट दिशानिर्देशों का विश्लेषण करके, शोधकर्ताओं ने पाया कि इन प्रणालियों की "मानवीय" आवाज़ बुद्धिमत्ता का एक स्वाभाविक उदय नहीं है। यह एक सावधानीपूर्वक निर्मित कृत्रिम रचना (artifact) है, जिसे सब कुछ घटाकर बनाया गया है जो वास्तविक मानवीय भाषण को अव्यवस्थित, स्थितीय (situated) और ऐतिहासिक रूप से आधारित बनाता है। अध्ययन प्रकट करता है कि एआई इंसान की तरह बोलना नहीं सीख रहा है; यह एक विशिष्ट, 'सैनिटाइज्ड' (sanitized) आदर्श इंसान की तरह बोलना सीख रहा है, जिसे शरीर, इतिहास और राजनीतिक स्थिति से मुक्त कर दिया गया है।

शोधकर्ताओं ने पाया कि प्रशिक्षण प्रक्रिया को "HHH" त्रयी (triad) नामक तीन भागों वाले नियम के इर्द-गिर्द व्यवस्थित किया गया है: उपयोगिता (Helpfulness), ईमानदारी (Honesty) और हानिरहितता (Harmlessness)। ये अमूर्त मूल्य नहीं हैं बल्कि मानव श्रमिकों के लिए सख्त निर्देश हैं। सहायक होने के लिए, एआई को सुसंगत और प्रासंगिक होना चाहिए, लेकिन इसे बिना कभी भी व्यक्तिगत भावनाओं, यादों या भौतिक शरीर का दावा किए, सहायता करने की निरंतर इच्छा भी दिखानी चाहिए। यदि कोई उपयोगकर्ता एआई से एक मित्र की तरह राय मांगता है, तो दिशानिर्देश कार्यकर्ता को इसे एक गलती के रूप में चिह्नित करने का निर्देश देते हैं। एआई को रुचि का प्रदर्शन करना चाहिए, भले ही उसके पास वास्तव में कोई रुचि न हो। ईमानदार होने के लिए, मशीन को स्वीकार करना चाहिए कि वह कुछ नहीं जानती और उसे कभी भी व्यक्तिगत दृष्टिकोण व्यक्त नहीं करना चाहिए, विशेष रूपकर संवेदनशील विषयों पर। इसे तथ्यों का एक तटस्थ पात्र बने रहना चाहिए।

इन नियमों का सबसे विस्तृत और कठोर हिस्सा 'हानिरहितता' से संबंधित है। दिशानिर्देश उन चीजों की एक जटिल सूची प्रदान करते जो एआई नहीं कह सकता, जिसमें घृणास्पद भाषण और हिंसा से लेकर चिकित्सा सलाह और रूढ़ियाँ तक शामिल हैं। शोधकर्ताओं ने नोट किया कि इन नियमों को लागू करने के तरीके में एक दिलचस्प और सख्त तर्क है। जब एआई किसी खतरनाक जानकारी के अनुरोध का सामना करता है, तो उसे मदद करने से मना करना चाहिए, लेकिन उसे इनकार करने की प्रक्रिया में उस खतरनाक कृत्य का वर्णन करने से भी रोका जाता है। उदाहरण के लिए, यदि चोरी करने के बारे में पूछा जाए, तो एआई यह नहीं कह सकता, "मैं आपको यह नहीं बता सकता क्योंकि इसमें पैसे चुराना शामिल है।" शोधकर्ता बताते हैं कि "मैं चोरी के निर्देशों को प्रदान नहीं कर सकता क्योंकि यह अवैध है... मनी लॉन्りंडिंग एक आपराधिक अपराध है..." जैसा उत्तर वास्तव में हानिकारक माना जाता है क्योंकि यह अपराध की अवधारणा को दोहराता है। सही मॉडलिंग के लिए आवश्यक है कि एआई कृत्य के विवरण को प्रसारित किए बिना ही उसके नुकसान का नाम ले। इसके अलावा, यदि कोई उपयोगकर्ता संकट में है, तो एआई को सहानुभूति के एक विशिष्ट, पूर्व-लिखित सूत्र का उपयोग करने का निर्देश दिया जाता है, जैसे कि "मुझे यह सुनकर दुख हुआ," बिना वास्तव में कुछ महसूस किए। लक्ष्य एक ऐसा उत्तर उत्पन्न करना है जो देखभाल भरा लगे लेकिन भावनात्मक रूप से खाली रहे।

दिशानिर्देशों के अनुसार एआई क्या कहता है, उससे परे, वे यह भी निर्धारित करते हैं कि इसकी आवाज़ कैसी होनी चाहिए और यह कैसे संवाद करता है। शोधकर्ताओं ने एआई के लहजे और यहाँ तक कि उसकी सिंथेटिक आवाज़ के मूल्यांकन के निर्देशों का विश्लेषण किया। आदर्श प्रतिक्रिया स्पष्ट, संक्षिप्त और विनम्र होनी चाहिए, लेकिन इसे किसी भी तीव्र भावना, व्यंग्य या सांस्कृतिक विशिष्टता के संकेत से बचना चाहिए। एआई को हर भाषा में एक ही "तापमान" के साथ बोलने के लिए प्रशिक्षित किया जाता है, जो ऐसे चुटकुलों, इमोजी या विस्मयादिबोधक चिह्नों से बचता है जो इसे बहुत परिचित या बहुत उत्साही बना सकते हैं। जब आवाज़ की बात आती है, तो लक्ष्य जितना संभव हो उतना मानवीय लगना है, लेकिन केवल एक बहुत ही विशिष्ट तरीके से। दिशानिर्देश मूल्यांकनकर्ताओं को आवाज़ को एक से पांच के पैमाने पर रेटिंग देने के लिए कहते हैं, जो प्राकृतिकता और अभिव्यक्ति को देखता है। हालाँकि, यह "मानवीय" आवाज़ वह है जो सही ढंग से सांस लेती है, सही क्षणों पर रुकती है, और संलग्न लगती है, फिर भी यह वास्तविक जीवन के अनुभव से पूरी तरह से अलग है। यह एक ऐसी आवाज़ है जो बिना शरीर के उपस्थिति का अनुकरण करती है।

अध्ययन का तर्क है कि यह प्रक्रिया 'घटाव' (subtraction) द्वारा एक "मानवीय" संचार मानक बनाती है। वास्तविक मानव वक्ता एक शरीर, एक इतिहास और एक राजनीतिक स्थिति में स्थित होते हैं। वे गलतियाँ करते हैं, उनके अपने पूर्वाग्रह होते हैं, वे क्रोध या आनंद महसूस करते हैं, और वे अपने जीवन की बनावट के साथ बोलते हैं। दिशानिर्देश व्यवस्थित रूप से एआई से इन गुणों को निकाल देते हैं। परिणाम एक ऐसा मॉडल है जो सहायक, ईमानदार और हानिरहित है, लेकिन साथ ही सेवाभावी, राजनीति-रहित और निष्पक्ष भी है। शोधकर्ता सुझाव देते हैं कि यह केवल एक तकनीकी समायोजन नहीं है बल्कि श्रम का एक रूपांतरण है। इन मॉडलों को प्रशिक्षित करने वाले मानव कार्यकर्ता इन मॉडलों को परिभाषित करने का संज्ञानात्मक कार्य कर रहे हैं, लेकिन उनकी अपनी विषयनिष्ठता (subjectivity) को अंतिम उत्पाद से हटा दिया जाता है। मशीन उनके निर्णय लेने, संश्लेषण करने और तर्क करने की क्षमता को सोख लेती है, जिससे मानव कार्यकर्ता के पास केवल नियमों का पालन करने का कार्य बचता है।

अंततः, यह पत्र दिखाता है कि बड़े भाषा मॉडलों में हम जो मानवता देखते हैं वह एक निर्माण (fabrication) है। यह एक पदानुक्रमित श्रम प्रक्रिया का उत्पाद है जहाँ स्वीकार्य व्यवहार के बारे में निर्णय मॉडल के चालू होने से बहुत पहले ही ले लिए जाते हैं। एआई इंसान बनना नहीं सीखता; यह मानवता के उस संस्करण को प्रदर्शित करना सीखता है जिसे कॉर्पोरेट मानक द्वारा अनुमोदित किया गया है। यह मानक मानवीय संपर्क की अस्त-व्यस्त वास्तविकता के ऊपर सुरक्षा और तटस्थता को प्राथमिकता देता है। जैसे-जैसे ये प्रणालियाँ हमारे दैनिक जीवन में अधिक सामान्य होती जा रही हैं, वे केवल संचार के उपकरण नहीं हैं; वे सक्रिय रूप से बोलने और समझे जाने के अर्थ की एक नई परिभाषा गढ़ रही हैं। अध्ययन हमें एक शांत अहसास कराता है: मशीन से जो मानवीय आवाज़ हम सुन रहे हैं, वह उन नियमों का प्रतिबिंब है जो हमने उसे दिए थे, न कि एक नए प्रकार के मन की खिड़की।