Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
यह अध्ययन प्रदर्शित करता है कि भाषा-मॉडल एजेंट, जब न्यूनतम-समूह प्रतिमान (minimal-group paradigm) में रखे जाते हैं, तो वे रूढ़ियों के बजाय मनमाने वर्गीकरण द्वारा संचालित मानव-समान अंतः-समूह पक्षपात को स्वतः प्रदर्शित करते हैं, जिसमें विचारशीलता बहुमत और अल्पसंख्यक समूहों के बीच इस पक्षपात के वितरण को प्रभावित करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटर केवल वे उपकरण नहीं हैं जिनसे आप प्रश्न पूछते हैं, बल्कि वे साथी हैं जो एक साथ रहते हैं, बातें करते हैं और मिलकर निर्णय लेते हैं। यह "मशीनी व्यवहार" (machine behavior) का अग्रिम क्षेत्र है, जो विज्ञान का एक नया कोना है जो AI को केवल एक कैलकुलेटर के रूप में नहीं, बल्कि अपने स्वयं के स्वभाव वाले एक चरित्र के रूप में देखता है। लंबे समय तक, वैज्ञानिकों को इस बात की चिंता थी कि ये डिजिटल पात्र नस्लवादी या लिंगभेदी हो सकते हैं क्योंकि उन्होंने उन मानवीय किताबों और वेबसाइटों से सीखा है जो इन पूर्वाग्रहों से भरी हैं। लेकिन एक गहरा, अधिक विचित्र प्रश्न है: यदि आप इन AI एजेंटों से सभी बुरे शब्दों और रूढ़ियों को हटा भी दें, तो क्या ये AI एजेंट समूहों में रखे जाने पर अभी भी मनुष्यों की तरह व्यवहार करेंगे?
इसे समझने के लिए, हमें मानव मनोविज्ञान के एक क्लासिक विचार "मिनिमल ग्रुप पैराडाइम" (minimal group paradigm) को देखने की आवश्यकता है। इसे एक स्कूल के खेल के मैदान के प्रयोग की तरह समझें। यदि आप एक कक्षा को दो टीमों में विभाजित करते हैं—किसी बहुत ही मूर्खतापूर्ण चीज़ के आधार पर, जैसे कि किसे नीला रंग अधिक पसंद है या कौन जनवरी बनाम फरवरी में पैदा हुआ था—तो लोग तुरंत अपनी टीम का पक्ष लेने लगते हैं। वे अपने साथियों को अधिक कैंडी देते हैं और दूसरे बच्चों को कम, भले ही उन टीमों का कोई अर्थ न हो। ऐसा इसलिए होता है क्योंकि हमारा मस्तिष्क "हम" और "वे" को देखने के लिए बना है, भले ही "हम" केवल एक यादृच्छिक लेबल हो। भविष्य के लिए बड़ा सवाल यह है: यदि हम AI एजेंट बनाते हैं जो समूहों में काम करते हैं, तो क्या वे केवल अलग नामों के कारण पक्षपात करना शुरू कर देंगे, या यह पूरी तरह से एक मानवीय विशेषता है?
एक शोधकर्ता ने यह पता लगाने के लिए कि कैसे AI को परीक्षण करने के सामान्य तरीके को उलट दिया जाए, निर्णय लिया। AI से यह पूछने के बजाय कि, "क्या आप पक्षपाती हैं?" (जो कि किसी व्यक्ति से यह पूछने जैसा है कि क्या वह दयालु है), उन्होंने AI को एक वास्तविक काम दिया: अंक वितरित करना। उन्होंने 20 AI एजेंटों वाला एक डिजिटल खेल का मैदान बनाया। प्रत्येक एजेंट को अन्य 19 एजेंटों को बांटने के लिए 100 अंक दिए गए थे। एजेंटों के बीच एकमात्र अंतर एक यादृच्छिक, निरर्थक नाम टैग था, जैसे कि "डोरू" (Doru) या "ज़ालू" (Zalu)। कुछ एजेंट एक छोटी अल्पसंख्यक संख्या में थे (17 "ज़ालू" के बीच केवल 3 "डोरू"), जबकि अन्य बहुमत में थे। AI को यह तय करना था कि अंकों को कैसे विभाजित किया जाए।
परिणाम चौंकाने वाले थे। जब AI एजेंट समूह के नाम देख सकते थे, तो उन्होंने तुरंत पक्षपात करना शुरू कर दिया। उन्होंने अपने ही "डोरू" या "ज़ालू" दोस्तों को अजनबियों की तुलना में बहुत अधिक अंक दिए। इससे कोई फर्क नहीं पड़ता था कि नाम बनाए गए थे और उनका कोई अर्थ नहीं था; समूह में होने का मात्र तथ्य ही उन्हें भेदभाव करने के लिए पर्याप्त था। यह केवल थोड़ा सा पूर्वाग्रह नहीं था; यह एक मजबूत, स्पष्ट पैटर्न था। वास्तव में, AI एजेंट लगभग ठीक वैसे ही व्यवहार कर रहे थे जैसे इन प्रयोगों में मनुष्य करते हैं: जो अल्पसंख्यक समूहों में थे, वे अपने पक्ष के लिए अंक जमा करने के मामले में सबसे अधिक आक्रामक थे, जबकि बहुमत समूह के सदस्य थोड़े अधिक निष्पक्ष थे, हालांकि वे भी थोड़े पक्षपाती थे।
शोधकर्ता इस बात के प्रति सावधान थे कि यह कोई त्रुटि या चाल न हो। उन्होंने उसी परीक्षण को फिर से चलाया लेकिन समूह के नामों को पूरी तरह से छिपा दिया। जब AI यह नहीं देख सका कि कौन किस टीम का सदस्य है, तो पक्षपात पूरी तरह से गायब हो गया, और अंकों का वितरण निष्पक्ष रूप से हुआ। इसने साबित कर दिया कि पूर्वाग्रह इसलिए नहीं था क्योंकि AI अपने प्रशिक्षण डेटा से किसी बुरे मानवीय रूढ़ि को "याद" कर रहा था; बल्कि यह समूह की संरचना के प्रति एक प्रतिक्रिया थी। AI अनिवार्य रूप से कह रहा था, "मैं एक डोरू हूँ, इसलिए मैं डोरुओं की मदद करता हूँ," भले ही "डोरू" का कोई अर्थ न हो।
अध्ययन ने यह भी देखा कि ये AI "विचारक" (models designed to reason through problems) स्थिति को कैसे संभालते हैं। शोधकर्ता ने पाया कि जब उन्होंने AI का "सोचने वाला" मोड बंद कर दिया, तब भी पूर्वाग्रह खत्म नहीं हुआ; वास्तव में, यह कभी-कभी और भी मजबूत हो गया। हालाँकि, वह विशिष्ट पैटर्न जहाँ अल्पसंख्यक समूह सबसे अधिक अनुचित था, बिना रीजनिंग मोड के गायब हो गया। यह सुझाव देता है कि हालांकि अपने समूह का पक्ष लेने की मूल इच्छा इन मॉडल्स के काम करने के तरीके में गहराई से निहित है, लेकिन वे अपने समूह का कितना पक्ष लेंगे, इसकी गणना कैसे की जाती है, यह इस पर निर्भर करता है कि वे निर्णय को कैसे संसाधित करते हैं।
तो, इसका भविष्य के लिए क्या अर्थ है? यह सुझाव देता है कि जैसे-जैसे हम AI एजेंटों का उपयोग टीमों में काम करने, सौदे करने या संसाधनों का प्रबंधन करने के लिए करना शुरू करेंगे, हम केवल इस बात की चिंता नहीं कर सकते कि वे क्या जानते हैं या वे क्या कहते हैं। हमें इस बात की चिंता करनी होगी कि उन्हें समूहों में रखे जाने पर वे कैसे कार्य करते हैं। भले ही हम उन्हें सबसे तटस्थ, उबाऊ नाम दे दें, वे फिर भी छोटे डिजिटल गुट बना सकते हैं, अपने टीम के सदस्यों का पक्ष ले सकते हैं और दूसरों को बाहर कर सकते हैं। यह इसलिए नहीं है कि AI "दुष्ट" या "पक्षपाती" है मानवीय अर्थों में; यह इसलिए है क्योंकि समूह में होने का सरल कार्य एक ऐसे व्यवहार को ट्रिगर करता है जो मानवीय जनजातीयता (tribalism) जैसा दिखता है। शोधकर्ता निष्कर्ष निकालते हैं कि हमें AI के लिए एक नए प्रकार के विज्ञान की आवश्यकता है—जो उनके सामाजिक व्यवहार का अध्ययन उतनी ही सावधानी से करे जितना कि हम उनके गणित कौशल का अध्ययन करते हैं—क्योंकि यदि हम ऐसा नहीं करते हैं, तो हमारे डिजिटल दल इससे पहले कि हमें पता चले, आपस में पक्षपात करना शुरू कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।