CoBRA: Programming Cognitive Bias in Social Agents Using Classic Social Science Experiments
यह शोधपत्र CoBRA को प्रस्तुत करता है, जो एक नवीन टूलकिट है जो एक क्लोज्ड-लूप सिस्टम का लाभ उठाता है जिसमें एक कॉग्निटिव बायस इंडेक्स और एक बिहेवियरल रेगुलेशन इंजन शामिल है ताकि शास्त्रीय सामाजिक विज्ञान प्रयोगों को व्यवस्थित रूप से संचालित किया जा सके, जिससे शोधकर्ता विभिन्न मॉडलों में LLM-आधारित सामाजिक एजेंटों में संज्ञानात्मक पूर्वाग्रहों (कॉग्निटिव बायस) को निर्दिष्ट और निरंतर नियंत्रित करने में सक्षम होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नाटक के निर्देशक हैं जो मानव व्यवहार पर आधारित एक नाटक के लिए अभिनेताओं को कास्ट करने की कोशिश कर रहे हैं। अतीत में, यदि आप किसी अभिनेता को "ज़िद्दी अर्थशास्त्री" (stubborn economist) का किरदार निभाने के लिए कहना चाहते थे, तो आप बस उन्हें कह देते थे, "आप एक अर्थशास्त्री हैं जो ज़िद्दी है।" आप उम्मीद करते थे कि वे भूमिका को समझ लेंगे और उसके अनुसार अभिनय करेंगे।
समस्या यह है, जैसा कि यह शोध पत्र खोज निकालता है, कि अलग-अलग अभिनेता (या इस मामले में, अलग-अलग AI मॉडल) उस सरल निर्देश की व्याख्या बिल्कुल अलग-अलग तरीकों से करते हैं। कोई ज़िद्दी होने का अभिनय करेगा, कोई भ्रमित होने का, और तीसरा बिल्कुल विपरीत व्यवहार कर सकता है। यह तीन अलग-अलग लोगों को एक ही स्क्रिप्ट देने जैसा है और उनसे तीन पूरी तरह से अलग शो प्राप्त करना है। यह किसी भी "नाटक" (सिमुलेशन) के परिणामों पर भरोसा करना असंभव बना देता है, क्योंकि आप नहीं जानते कि परिणाम कहानी के कारण था या अभिनेता की यादृच्छिक व्याख्या के कारण।
CoBRA का आगमन: मानवीय कमियों के लिए एक "डायल"
इस शोध पत्र के लेखकों ने एक नया टूलकिट बनाया है जिसे CoBRA (Cognitive Bias Regulator for Social Agents) कहा जाता है। अस्पष्ट निर्देशों जैसे "ज़िद्दी बनो" पर निर्भर रहने के बजाय, CoBRA शोधकर्ताओं को एक सटीक डायल देता है जिसे घुमाया जा सके।
इसे एक रिकॉर्डिंग स्टूडियो में साउंड इंजीनियर के पास मौजूद साउंड मिक्सिंग बोर्ड की तरह समझें। बजाय इसके कि आप साउंड इंजीनियर को कहें, "बास (bass) को थोड़ा और 'चिड़चिड़ा' बनाओ," आप बस "Bass" लेबल वाले नॉब को ठीक 2.6 पर घुमा देते हैं। CoBRA मानवीय सोचने की गलतियों (जिन्हें संज्ञानात्मक पूर्वाग्रह या cognitive biases कहा जाता है) के लिए यही करता है।
यह कैसे काम करता है, इसे सरल चरणों में यहाँ दिया गया है:
1. "कैलिब्रेशन जिम" (The Test)
इससे पहले कि आप डायल घुमा सकें, आपको यह जानना होगा कि सुई कहाँ इशारा कर रही है। CoBRAs क्लासिक, प्रसिद्ध मनोविज्ञान प्रयोगों (जैसे "एशियन डिजीज प्रॉब्लम", जहाँ लोग समस्या को कैसे बताया जाता है इसके आधार पर अलग-अलग चुनाव करते हैं) को एक जिम के रूप में उपयोग करता है।
- परीक्षण (The Test): AI को इन मनोविज्ञान पहेलियों के माध्यम से गुजारा जाता है।
- स्कोर (The Score): CoBRA मापता है कि AI इस चाल (trick) के प्रति कितना "झुकता" है। यदि AI इस चाल में आसानी से फंस जाता है, तो उसे उस पूर्वाग्रह (bias) के लिए उच्च स्कोर मिलता है। यदि वह इस चाल को अनदेखा कर देता है, तो उसे कम स्कोर मिलता है। इस स्कोर को कॉग्निटिव बायस इंडेक्स (CBI) कहा जाता है।
2. "रेगुलेटर" (The Fix)
एक बार जब CoBRA को AI का वर्तमान स्कोर पता चल जाता है, तो यह एक "बिहेवियरल रेगुलेशन इंजन" का उपयोग करके AI के मस्तिष्क को तब तक समायोजित करता है जब तक कि वह उस सटीक संख्या तक न पहुँच जाए जो शोधकर्ता चाहता है।
कल्पना कीजिए कि आप चाहते हैं कि एक AI मध्यम रूप से साथियों के दबाव (peer pressure) के प्रति संवेदनशील हो (जिसे "बैंडवैगन इफेक्ट" कहा जाता है)। आप डायल को 2.6 पर सेट करते हैं।
- यदि AI वर्तमान में बहुत ज़िद्दी (स्कोर 1.0) है, तो CoBRA इसके आंतरिक सेटिंग्स को थोड़ा बदल देता है ताकि यह भीड़ का अनुसरण करने के लिए थोड़ा अधिक संभावित हो सके।
- यदि AI एक भेड़ (स्कोर 4.0) की तरह है, तो CoBRA इसे अधिक स्वतंत्र बनाने के लिए इसमें बदलाव करता है।
यह पेपर दिखाता है कि CoBRA इस "ट्वीकिंग" (बदलाव) को तीन तरीकों से करता है:
- प्रॉम्प्ट इंजीनियरिंग (Prompt Engineering): AI को एक बहुत ही विशिष्ट, गणित-आधारित निर्देश देना (जैसे, "60% 'भीड़ का अनुसरण करने वाले' पूर्वाग्रह के साथ अभिनय करें")।
- रिप्रेजेंटेशन इंजीनियरिंग (Representation Engineering): AI की आंतरिक "विचार प्रक्रिया" (इसके छिपे हुए मस्तिष्क अवस्थाओं) को सही दिशा में धीरे से धकेलना, जैसे गाड़ी चलाते समय कार को स्टीयर करना।
- फाइन-ट्यूनिंग (Fine-Tuning): AI को एक छोटा, लक्षित सबक देना ताकि वह विशिष्ट व्यवहार को स्थायी रूप से सीख सके।
3. परिणाम: अनुमानित अभिनेता (Predictable Actors)
इस पेपर ने "अर्थशास्त्री" एजेंट और "सामान्य व्यक्ति" एजेंट बनाने की कोशिश करके इसका परीक्षण किया।
- CoBRA के बिना: जब उन्होंने पुराने तरीके का उपयोग किया (बस "आप एक अर्थशास्त्री हैं" कहना), तो अलग-अलग AI मॉडल बिल्कुल अलग तरह से व्यवहार करते थे। कुछ अर्थशास्त्री भोले थे; कुछ बुद्धिमान थे। यह एक अव्यवस्था थी।
- CoBRA के साथ: जब उन्होंने डायल का उपयोग करके एक विशिष्ट पूर्वाग्रह स्तर सेट किया, तो प्रत्येक AI मॉडल, चाहे उसका ब्रांड या आकार कुछ भी हो, बिल्कुल एक ही तरह से व्यवहार करता था। यदि आपने "हाई फ्रेमिंग इफेक्ट" का डायल सेट किया, तो AI लगातार उस चाल में फंस गया, हर बार।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
लेखक दावा करते हैं कि यह दो बड़ी समस्याओं को हल करता है:
- पुनरुत्पादकता (Reproducibility): यदि आप किसी अन्य शोधकर्ता को कहते हैं, "मैंने पूर्वाग्रह डायल को 2.6 पर सेट किया है," तो वे बिल्कुल वही परिणाम प्राप्त कर सकते हैं, भले ही वे एक अलग AI मॉडल का उपयोग करें। यह यह कहने जैसा है कि, "वॉल्यूम को 50% पर रखें" बजाय इसके कि, "इसे तेज़ आवाज़ में करें।"
- नियंत्रण (Control): अब शोधकर्ता यह कह सकते हैं, "मैं देखना चाहता हूँ कि क्या होता है जब लोग थोड़े पक्षपाती होते हैं," या "मैं देखना चाहता हूँ कि क्या होता है जब वे अत्यधिक पक्षपाती होते हैं," और वे गणितीय सटीकता के साथ ऐसा कर सकते हैं।
संक्षेप में:
CoBRAs AI के अराजक, अप्रत्याशित "अभिनय" की दुनिया को एक सटीक विज्ञान में बदल देता है। यह अस्पष्ट भूमिका निभाने वाले निर्देशों को एक कैलिब्रेटेड कंट्रोल पैनल से बदल देता है, जिससे शोधकर्ता गणितीय विश्वसनीयता के साथ AI एजेंटों में विशिष्ट मानवीय सोचने की त्रुटियों को प्रोग्राम कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।