Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale
यह शोध पत्र निश्चित व्यक्तित्व वाले जनरेटिव एआई एजेंटों का उपयोग करके पर्सनलाइजेशन एल्गोरिदम के ब्लैक-बॉक्स ऑडिटिंग के लिए एक नवीन ढांचे को प्रस्तुत करता है ताकि यह सक्षम बनाया जा सके कि कैसे उपयोगकर्ता के गुण सामग्री वितरण को प्रभावित करते हैं, और एक्स (X) पर एक बड़े पैमाने के अध्ययन के माध्यम से यह प्रदर्शित करता है कि प्लेटफॉर्म का एल्गोरिदम ध्रुवीकरण करने वाली सामग्री को बढ़ाता है और उपयोगकर्ता की विचारधारा के आधार पर जनसांख्यिकीय संकेतों के प्रति अलग-अलग प्रतिक्रिया देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अदृश्य पुस्तकालय में जा रहे हैं जहाँ अलमारियों पर रखी किताबें इस आधार पर बदल जाती हैं कि आप कौन हैं। यदि आप एक युवा व्यक्ति दिखते हैं, तो आपको अलग किताबें दिखाई देंगी, और यदि आप एक वृद्ध व्यक्ति दिखते हैं, तो अलग। यदि आप ऐसा प्रतीत होते हैं कि आप शहर में रहते हैं, तो आपको अलग किताबें दिखेंगी, और यदि आप गाँव में रहते हैं, तो अलग। सोशल मीडिया एल्गोरिदम इसी तरह काम करते हैं: वे आपके प्रोफाइल और आपके पिछले व्यवहार के आधार पर यह तय करते हैं कि आपको क्या दिखाया जाए।
समस्या यह है कि ये पुस्तकालय "ब्लैक बॉक्स" हैं। हम लाइब्रेरियन की नियम पुस्तिका नहीं देख सकते। हम यह नहीं पूछ सकते, "आपने मुझे यह क्यों दिखाया?" हम केवल जो हो रहा है उसे देख सकते हैं।
यह शोध पत्र AI एजेंटों (उन्नत AI द्वारा संचालित कंप्यूटर प्रोग्राम) का उपयोग करके इस पर्दे के पीछे झाँकने का एक चतुर नया तरीका पेश करता है, न कि वास्तविक मनुष्यों का।
पुराने तरीकों के साथ समस्या
पहले, शोधकर्ता इन पुस्तकालयों का ऑडिट करने के लिए दो तरीकों का उपयोग करते थे, जिनमें दोनों की खामियां थीं:
- वास्तविक मनुष्य: उन्होंने ऐप का उपयोग करने के लिए वास्तविक लोगों को काम पर रखा। यह यथार्थवादी था, लेकिन महंगा, नियंत्रित करना कठिन और बड़े पैमाने पर लागू करना असंभव था। आप आसानी से यह नहीं पूछ सकते, "क्या होगा यदि यह 25 वर्षीय व्यक्ति वास्तव में 55 वर्ष का होता?" बिना एक नए इंसान को खोजे।
- स्क्रिप्टेड बॉट्स (सॉक पपेट्स): उन्होंने साधारण कंप्यूटर स्क्रिप्ट द्वारा नियंत्रित नकली खाते बनाए। ये सस्ते और स्केलेबल थे, लेकिन ये "सपाट" थे। वे रोबोट की तरह काम करते थे जो नियमों की एक सख्त सूची का पालन करते थे (जैसे, "यदि आप बिल्ली देखते हैं, तो लाइक करें")। वे स्वाभाविक रूप से सोचते या प्रतिक्रिया नहीं देते थे, इसलिए पुस्तकालय ने उनके साथ वास्तविक लोगों जैसा व्यवहार नहीं किया।
नया समाधान: "AI एक्टर्स"
लेखकों ने जेनरेटिव AI एजेंटों का उपयोग करके एक ढांचा तैयार किया है। इन्हें केवल रोबोट के रूप में नहीं, बल्कि एक नाटक के अभिनेताओं के रूप में सोचें।
- स्क्रिप्ट (पर्सोना/चरित्र): नाटक शुरू होने से पहले, प्रत्येक अभिनेता को एक विस्तृत चरित्र स्क्रिप्ट दी जाती है। यह स्क्रिप्ट परिभाषित करती है कि वे कौन हैं: उनकी आयु, लिंग, स्थान, शिक्षा और राजनीतिक विश्वास। यह स्क्रिप्ट अमेरिकी जनगणना और प्यू रिसर्च सेंटर के वास्तविक डेटा पर आधारित है।
- प्रदर्शन: जब अभिनेता स्क्रीन पर कोई पोस्ट देखता है, तो वह अपने चरित्र की स्क्रिप्ट के आधार पर "सोचता" है और निर्णय लेता है कि क्या करना है (जैसे, लाइक करना, फॉलो करना, पढ़ना या अनदेखा करना)। यह कोई कठोर नियम नहीं है; यह एक स्वाभाविक प्रतिक्रिया है।
- प्रयोग: शोधकर्ताओं ने इन 1,120 AI अभिनेताओं को बनाया। उन्होंने उन्हें 14 अलग-अलग "चरित्र प्रकारों" (पर्सोना) में समूहित किया। प्रत्येक चरित्र प्रकार के लिए, उन्होंने कई प्रतियां (रेप्लिका) बनाईं।
- ट्विस्ट: "चरित्र A" की सभी प्रतियां बिल्कुल एक ही तरह से कार्य करती हैं। हालांकि, शोधकर्ताओं ने कुछ के लिए केवल एक दृश्य विवरण बदल दिया। शायद एक प्रति कहती है कि वह 25 वर्ष की है, जबकि दूसरी 55 वर्ष की। शायद एक कहती है कि वह न्यूयॉर्क में रहती है, और दूसरी टेक्सास में।
यह सेटअप शोधकर्ताओं को एक शक्तिशाली प्रश्न पूछने की अनुमति देता है: "यदि ठीक वही व्यक्ति (अपने समान व्यवहार के साथ) अपनी आयु या स्थान बदल दे, तो क्या पुस्तकालय उसे अलग किताबें दिखाएगा?"
केस स्टडी: 2024 का चुनाव
टीम ने 2024 के अमेरिकी राष्ट्रपति चुनाव के तुरंत बाद सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) पर इन 1,120 AI अभिनेताओं को तैनात किया। उन्होंने प्लेटफॉर्म के "फॉर यू" फीड (एल्गोरिदम वाला फीड) की तुलना "फॉलोइंग" फीड (कालानुक्रमिक फीड) से की।
यहाँ उन्हें क्या मिला:
1. एल्गोरिदम को ड्रामा और दक्षिणपंथी (Right-leaning) विचारों से लगाव है
मानक कालानुक्रमिक सूची की तुलना में, "फॉर यू" फीड में काफी अधिक मात्रा में निम्नलिखित चीजें देखी गईं:
- विषाक्त सामग्री (Toxic content): भद्दे या क्रोधित पोस्ट।
- ध्रुवीकरण करने वाली सामग्री (Polarizing content): ऐसे पोस्ट जो समूहों को एक-दूसरे के खिलाफ खड़ा करते हैं।
- राजनीतिक सामग्री: विशेष रूप से, दक्षिणपंथी (Right-leaning) झुकाव वाली सामग्री।
- आश्चर्य: इसने वामपंथी (Left-leaning) सामग्री को महत्वपूर्ण रूप से बढ़ावा नहीं दिया। वास्तव में, जो उपयोगकर्ता दक्षिणपंथी झुकाव रखते थे, उनके लिए एल्गोरिदम ने वामपंथी सामग्री को सक्रिय रूप से दबा दिया।
2. "इको चैंबर" विषम (Asymmetric) है
एल्गोरिदम ने केवल सभी को अधिक दक्षिणपंथी चीजें नहीं दिखाईं। इसने अलग-अलग उपयोगकर्ताओं के साथ अलग-अलग व्यवहार किया:
- वामपंथी (Left-leaning) उपयोगकर्ताओं ने विषाक्त सामग्री में भारी उछाल देखा (आधार रेखा से +80% अधिक)।
- दक्षिणपंथी (Right-leaning) उपयोगकर्ताओं ने दक्षिणपंथी सामग्री में उछाल देखा, लेकिन उनकी विषाक्त सामग्री में ज्यादा बदलाव नहीं आया।
- परिणाम: दक्षिणपंथी उपयोगकर्ताओं को एकतरफा बुलबुले में डाल दिया गया जहाँ विरोधी विचार छिपे हुए थे, जबकि वामपंथी उपयोगकर्ताओं को क्रोध और विषाक्तता से भर दिया गया।
3. जनसांख्यिकी मायने रखती है, लेकिन यह जटिल है
शोधकर्ताओं ने परीक्षण किया कि क्या उपयोगकर्ता के दृश्यमान आयु, लिंग या स्थान को बदलने से उनके द्वारा देखी जाने वाली सामग्री बदलती है।
- औसत परिणाम: यदि आप सभी उपयोगकर्ताओं को एक साथ देखें, तो इन विवरणों को बदलने से ज्यादा फर्क नहीं पड़ा। औसत प्रभाव शून्य के करीब था।
- असली कहानी: जब उन्होंने विशिष्ट चरित्र प्रकारों को देखा, तो परिणाम चौंकाने वाले थे। एक संकेत (जैसे आयु) को बदलना एक चरित्र को अधिक विषाक्त सामग्री दिखा सकता है, लेकिन दूसरे चरित्र को कम दिखा सकता है।
- रूपक: कल्पना कीजिए कि एक थर्मोस्टेट है जो केवल कमरे के तापमान के आधार पर गर्मी को कम या ज्यादा नहीं करता है। इसके बजाय, यह इस आधार पर कुछ लोगों के लिए गर्मी बढ़ाता है और दूसरों के लिए कम करता है कि वे कौन हैं। यदि आप पूरे घर के "औसत" तापमान को मापते हैं, तो आपको लगेगा कि थर्मोस्टेट काम ही नहीं कर रहा है। लेकिन यदि आप प्रत्येक कमरे को देखते हैं, तो आप देखेंगे कि वह बहुत विशिष्ट, अलग चीजें कर रहा है।
यह क्यों महत्वपूर्ण है
यह शोध पत्र निष्कर्ष निकालता है कि हम एल्गोरिदम का ऑडिट करने के लिए केवल "औसत" परिणामों को नहीं देख सकते। यदि हम डेटा का औसत निकालते हैं, तो हम इस तथ्य को मिस कर देते हैं कि एल्गोरिदम विभिन्न समूहों के साथ पूरी तरह से अलग तरह से व्यवहार करता है।
इन AI "अभिनेताओं" का उपयोग करके, शोधकर्ता अब नियंत्रित प्रयोग चला सकते हैं ताकि यह देखा जा सके कि एक एल्गोरिदम विशिष्ट लक्षणों के प्रति कैसे प्रतिक्रिया करता है, बिना हजारों वास्तविक मनुष्यों को नियुक्त करने या मूर्ख, स्क्रिप्टेड बॉट्स पर निर्भर हुए। यह समझने के लिए एक नया उपकरण है कि अदृश्य नियम क्या हैं जो हमें ऑनलाइन दिखाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।