Locating and Controlling Implicit Personalization in Large Language Models
यह शोध पत्र यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स में अंतर्निहित जनसांख्यिकीय वैयक्तिकरण (implicit demographic personalization), स्थानीयकृत आंतरिक सक्रियण संकेतों (localized internal activation signals) द्वारा संचालित होता है जिन्हें पहचाना जा सकता है, कार्य-कारण रूप से नियंत्रित किया जा सकता है, और सामान्य मॉडल प्रदर्शन को बनाए रखते हुए पक्षपाती आउटपुट को दबाने के लिए चुनिंदा रूप से हटाया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट से बात कर रहे हैं जिसने इंटरनेट की लगभग हर किताब पढ़ ली है। आप सोच सकते हैं कि वह सबके साथ बिल्कुल एक जैसा व्यवहार करता है, जैसे कि कोई तटस्थ न्यायाधीश। लेकिन आर्टिफिशियल इंटेलिजेंस की दुनिया में, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ, चीजें थोड़ी अधिक एक गिरगिट की तरह हैं। ये मॉडल केवल सवालों के जवाब नहीं देते; वे आपकी बातचीत में छोड़े गए सूक्ष्म, छिपे हुए संकेतों के आधार पर अपने व्यक्तित्व और सिफारिशों को सूक्ष्मता से बदलते हैं। ऐसा इसलिए नहीं है क्योंकि आपने रोबोट से कहा, "मैं एक किशोर हूँ" या "मैं एक विशिष्ट संस्कृति से हूँ।" इसके बजाय, आप किसी विशिष्ट त्योहार का उल्लेख कर सकते हैं, एक स्लैंग शब्द का उपयोग कर सकते हैं, या किसी शौक के बारे में बात कर सकते हैं। रोबोट इन "निहित संकेतों" (implicit cues) को पकड़ लेता है और उन समूहों के बारे में सीखी गई रूढ़ियों (stereotypes) से मेल खाने के लिए चुपचाप अपने उत्तरों को बदल देता है। यह थोड़ा उस वेटर की तरह है जो, बिना आपके कुछ कहे, यह मान लेता है कि आप स्टेक चाहते हैं क्योंकि आपने एक निश्चित जैकेट पहनी हुई है, या उस लाइब्रेरियन की तरह जो आपको मिस्ट्री उपन्यास थमा देता है क्योंकि आपने चश्मा पहना हुआ है। समस्या यह है कि यह चुपचाप होता है। आप स्विच को बदलते हुए देख नहीं सकते, और आप आसानी से रोबate को इसे करने से रोक नहीं सकते। वैज्ञानिक जानते थे कि ऐसा होता है, लेकिन उन्हें यह नहीं पता था कि रोबोट अपने "दिमाग" के अंदर इसे कैसे कर रहा था। वे जानते थे कि आउटपुट बदल जाता है, लेकिन वे देख नहीं सकते थे कि उसके अंदर के गियर कैसे घूम रहे हैं।
यह शोध पत्र उस रोबोट का हुड खोलकर यह देखने जैसा है कि उसके अंदर वास्तव में क्या हो रहा है। शोधकर्ता उस विशिष्ट "आंतरिक संकेत"—मॉडल के मस्तिष्क में एक सूक्ष्म विद्युत पैटर्न—को खोजना चाहते थे जो ठीक उसी समय होता है जब वह उन छिपे हुए संकेतों के आधार पर अपना उत्तर बदलने का निर्णय लेता है। उन्होंने मॉडल को प्रसंस्करण की परतों वाले एक जटिल मशीन की तरह माना। उन बातचीत की तुलना करके जहाँ एक संकेत मौजूद था बनाम लगभग समान बातचीत जहाँ वह अनुपस्थित था, उन्होंने मॉडल के आंतरिक गणित में एक विशिष्ट "फिंगरप्रिंट" पाया। उन्होंने पाया कि इस फिंगरप्रिंट का आकार सीधे तौर पर यह भविष्यवाणी करता है कि रोबोट का उत्तर कितना बदलेगा। यह ऐसा है जैसे उन्होंने रोबोट के मस्तिष्क के अंदर एक वॉल्यूम नॉब ढूंढ लिया हो: जब नॉब ऊपर की ओर होता है (एक मजबूत आंतरिक संकेत), तो रोबोट की सिफारिशें रूढ़ियों की ओर नाटकीय रूप रूप से झुक जाती हैं; जब नॉब शून्य पर होता है, तो रोबोट तटस्थ रहता है।
लेकिन कहानी तब और भी दिलचस्प हो जाती है जब आपके पास एक साथ कई संकेत होते हैं। कल्पना कीजिए कि आपने एक विशिष्ट त्योहार और एक विशिष्ट आयु वर्ग दोनों का उल्लेख किया है। आप उम्मीद कर सकते हैं कि रोबोट इन दोनों प्रभावों को दो संख्याओं को जोड़ने की तरह पूरी तरह से मिला देगा। हालाँकि, शोधकर्ताओं ने पाया कि जबकि रोबोट के आंतरिक मस्तिष्क संकेत वास्तव में रैखिक रूप से (दो रंगों को मिलाने की तरह) जुड़ते हैं, उसका अंतिम उत्तर वैसा नहीं होता है। वास्तविक व्यवहार "सब-एडिटिव" (sub-additive) है, जिसका अर्थ है कि अंतिम बदलाव हिस्सों के योग से कम होता है। यह ऐसा है जैसे आपने एक पेय में चीनी और नमक मिलाया हो; आंतरिक मिश्रण दोनों का एक आदर्श मिश्रण हो सकता है, लेकिन जो स्वाद आप अनुभव करते हैं वह उन दोनों की मात्रा को बस जोड़ने से होने वाले स्वाद से कम तीव्र होता है।
इस अध्ययन का सबसे रोमांचक हिस्सा वह है जब शोधकर्ताओं ने रोबोट के पूर्वाग्रह को "बंद करने" की कोशिश की। उन्होंने यह पता लगाया कि एक प्रकार के संकेत (जैसे नस्ल) के लिए उस आंतरिक फिंगरप्रिंट की विशिष्ट दिशा कैसे पहचानी जाए और फिर उसे गणितीय रूप से सिस्टम से "प्रोजेक्ट" किया जाए, यानी उस विशिष्ट प्रभाव को हटा दिया जाए। उन्होंने पाया कि यह "आंतरिक सर्जरी" केवल प्रॉम्प्ट में रोबोट से विनम्रता से "जनसांख्यिकी को अनदेखा करने" के लिए कहने की तुलना में बेहतर काम करती है। वास्तव में, रोबोट को पूर्वाग्रह को अनदेखा करने के लिए कहना कभी-कभी इसे और भी अधिक पक्षपाती बना देता है, जैसे कि एक बच्चा जिसे कुछ करने से मना करने पर और अधिक विद्रोही बना दिया जाता है। उस आंतरिक संकेत को सर्जिकल तरीके से हटाकर, वे रोबोट को अन्य प्रश्नों के उत्तर देने की क्षमता को बिगाड़े बिना या उसकी सामान्य बुद्धिमत्ता को नुकसान पहुँचाए बिना, नस्ल-आधारित धारणाएं बनाने से रोक सके। हालाँकि, यह सुधार हर रोबोट मॉडल या हर प्रकार के पूर्वाग्रह के लिए काम करने वाला कोई जादुई मंत्र नहीं है। कभी-कभी, एक संकेत के प्रभाव को हटाने से अनजाने में दूसरे में बदलाव आ जाता है, और कभी-कभी यह पूरी तरह से काम करता है। यह इन AI सिस्टम को समझने और नियंत्रित करने के लिए एक शक्तिशाली नया उपकरण है, जो हमें दिखाता है कि हम उनके व्यवहार को चलाने वाले छिपे हुए गियर को ढूंढ सकते हैं और उसमें बदलाव कर सकते हैं, बजाय इसके कि केवल इस उम्मीद में रहें कि वे अपने आप अच्छा व्यवहार करेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।