Auditing Algorithmic Collusion from Strategy Graphs

कल्पना कीजिए कि आप शतरंज का एक उच्च-दांव वाला खेल देख रहे हैं, लेकिन खिलाड़ी इंसान नहीं हैं; वे सीखने के लिए ट्रायल और एरर (प्रयास और त्रुटि) का उपयोग करने वाले सुपर-फास्ट कंप्यूटर प्रोग्राम हैं। यह एल्गोरिद्मिक प्राइसिंग (algorithmic pricing) की दुनिया है, जहाँ कंपनियाँ आर्टिफिशियल इंटेलिजेंस को यह तय करने देती हैं कि गैस से लेकर अपार्टमेंट के किराए तक हर चीज़ के लिए कितना शुल्क लिया जाए। कभी-कभी, ये प्रोग्राम अनजाने में एक गुप्त 'सीक्रेट हैंडशेक' सीख लेते हैं: वे समझ जाते हैं कि यदि वे सभी कीमतें ऊँची रखते हैं, तो बिना एक-दूसरे से बात किए भी सभी अधिक पैसा कमा सकते हैं। इसे एल्गोरिद्मिक कॉल्यूजन (algorithmic collusion) कहा जाता है। यह नियामकों (regulators) के लिए एक दुःस्वप्न है क्योंकि इसे पकड़ना कठिन है। आमतौर पर, यह साबित करने के लिए कि दो लोग प्रतिस्पर्धा-विरोधी व्यवहार में शामिल हैं, आपको उन्हें कोने में फुसफुसाते हुए देखना या कोई लिखित नोट ढूँढना पड़ता है। लेकिन कंप्यूटरों के साथ, कोई फुसफुसाहट नहीं होती, और "नोट्स" लाखों लाइनों के कोड में दबे होते हैं जिन्हें कंपनियाँ अपने टॉप-सीक्रेट नुस्खों की तरह मानती हैं।

तो, आप एक धोखेबाज को कैसे पकड़ सकते हैं यदि आप उनकी डायरी नहीं पढ़ सकते या उनके फोन कॉल्स नहीं सुन सकते? आपको उनके निर्णयों के मानचित्र (map) को देखना होगा। एक प्राइसिंग एल्गोरिदम को एक मस्तिष्क के रूप में नहीं, बल्कि एक भूलभुलैया (maze) के रूप में देखें। हर बार जब कंप्यूटर एक विशिष्ट स्थिति देखता है (जैसे "कल की कीमतें ऊँची थीं"), तो उसके पास आगे क्या करना है, इसके लिए एक नियम होता है। यदि आप हर स्थिति से अगली चुनी गई स्थिति तक एक रेखा खींचते हैं, तो आपको रास्तों का एक विशाल, उलझा हुआ जाल मिलता है। एक निष्पक्ष, प्रतिस्पर्धी खेल में, यह जाल आमतौर पर सबसे कम कीमतों की ओर एक अस्त-व्यस्त, सीधा मार्ग होता है। लेकिन यदि कंप्यूटर मिलीभगत (collusion) कर रहे हैं, तो जाल अलग दिखता है। इसमें विशिष्ट "चोक पॉइंट्स" (choke points) और लंबे, घुमावदार लूप होते हैं जो उन लोगों को दंडित करने के लिए डिज़ाइन किए गए होते हैं जो नियमों को तोड़ने की कोशिश करते हैं। यह शोध पत्र पूछता है: क्या हम बिना यह जाने कि कीमतें, लाभ या स्वयं कोड क्या है, केवल इस भूलभुलैया के आकार को देखकर एक गुप्त साजिश को पहचान सकते हैं?

इस शोध पत्र के लेखक, निकोलस एशेंबौम और जानुज़ एम. मेलाहन कहते हैं कि हाँ। वे इन एल्गोरिदम के ऑडिट करने का एक नया तरीका प्रस्तावित करते हैं जिसके लिए अंदर झाँकने की आवश्यकता नहीं है। उनके गुप्त कोड या प्रशिक्षण डेटा को माँगने के बजाय, वे सुझाव देते हैं कि नियामक बस एल्गोरिदम से पूछें: "यदि आप इस विशिष्ट स्थिति में होते, तो आप क्या करते?" हर संभव परिदृश्य के लिए ऐसा पूछकर, वे "स्ट्रेटेजी ग्राफ" (strategy graph)—यानी भूलभुलैया के मानचित्र—का निर्माण कर सकते हैं।

शोधकर्ताओं ने पाया कि मिलीभगत करने वाले एल्गोरिदम इस मानचित्र पर एक बहुत ही विशिष्ट छाप छोड़ते हैं। उन्होंने पाया कि जब एल्गोरिदम कीमतें ऊँची रखने के लिए मिलकर काम करते हैं, तो उनके निर्णय-जाल (decision-maze) में मजबूत बॉटलनैक्स (bottlenecks) विकसित हो जाते हैं। कल्पना कीजिए कि एक शहर है जहाँ, कहीं से भी घर पहुँचने के लिए, आपको एक एकल, संकीकर पुल से गुजरना ही होगा। यदि आप शॉर्टकट लेने की कोशिश करते हैं, तो आप उस पुल को पार करने से पहले एक ट्रैफिक जाम (दंड चरण) में फंस जाते हैं। एक प्रतिस्पर्धी बाजार में, कई पुल और शॉर्टकट होते हैं; आप कहीं से भी जल्दी घर पहुँच सकते हैं। लेकिन एक मिलीभगत वाले बाजार में, मानचित्र इस तरह से व्यवस्थित होता है कि लगभग सभी रास्ते उच्च-मूल्य क्षेत्र में लौटने से पहले एक विशिष्ट "दंड अवस्था" (punishment state) के माध्यम से गुजरते हैं।

इसे सिद्ध करने के लिए, टीम ने हजारों सिमुलेशन चलाए। उन्होंने एक सरल दुनिया बनाई जहाँ दो कंप्यूटर प्रोग्राम कीमतें निर्धारित करना सीखते हैं। उन्होंने दो अलग-अलग लर्निंग विधियों का परीक्षण किया: एक जहाँ प्रोग्राम एक साथ सीखते हैं (प्रसिद्ध "कैलवानो" विधि की तरह) और दूसरा जहाँ वे अलग-अलग सीखते हैं (Decentralized Q-learning)। उन्होंने एक और परिदृश्य का भी परीक्षण किया जहाँ उन्होंने अलग-अलग प्रशिक्षित दो प्रोग्रामों को एक-दूसरे के खिलाफ खेलने के लिए मजबूर किया, जिससे उनकी मिलीभगत टूट गई।

परिणाम चौंकाने वाले थे। शोधकर्ताओं ने भूलभुलैया के तीन मुख्य गुणों को मापा:

1. मैक्सिमम बिटवीननेस (Maximum Betweenness): यह मापता है कि कितने पथ एक एकल "चोक पॉइंट" से गुजरते हैं। सिमुलेशन में, एल्गोरिदम जितने अधिक मिलीभगत कर रहे थे, उतना ही अधिक ट्रैफ़िक एक एकल दंड अवस्था के माध्यम से जबरन निकाला गया। सहसंबंध (correlation) मजबूत था, जिसका स्कोर मुख्य परीक्षणों में 0.67 था।
2. अट्रैक्टर इन-डिग्री (Attractor In-degree): यह गिनता है कि कितने पथ सीधे "खुशहाल स्थान" (उच्च-मूल्य लूप) में ले जाते हैं। एक मिलीभगत वाले भूलभुलैया में, बहुत कम पथ सीधे वहाँ जाते हैं; अधिकांश को दंड के माध्यम से लंबा रास्ता तय करना पड़ता है। इस मीट्रिक ने -0.67 का मजबूत नकारात्मक सहसंबंध दिखाया (अर्थात जैसे-जैसे मिलीभगत बढ़ी, सीधे पथ कम होते गए)।
3. औसत पथ लंबाई (Average Path Length): यह मापता है कि गलती करने के बाद उच्च-मूल्य लूप में वापस आने में कितने कदम लगते हैं। मिलीभगत वाले भूलभलैया में लंबे पथ थे (सैद्धांतिक मॉडलों में औसतन 1.96 कदम), क्योंकि एल्गोरिदम माफ करने से पहले एक "दंड चरण" लागू करते हैं।

लेखक सावधानीपूर्वक यह नोट करते हैं कि यह कोई जादुई समाधान नहीं है जो तुरंत अपराध सिद्ध कर दे। उन्होंने पाया कि ये "ग्राफ मेट्रिक्स" तब सबसे अच्छा काम करते हैं जब एल्गोरिदम दंड के बाद सहयोग करने के लिए वापस लौटने के लिए सीख जाते हैं, न कि केवल हमेशा के लिए हार मान लेने (एक "ग्रिम ट्रिगर" रणनीति) के लिए। वे यह भी स्वीकार करते हैं कि वास्तविक दुनिया में, एल्गोरिदम अधिक जटिल हो सकते हैं, जो रैंडम चॉइस या निरंतर अपडेट का उपयोग करते हैं, जिससे मानचित्र धुंधला हो सकता है। हालाँकि, उनके सिमुलेशन बताते हैं कि निर्णय लेने की प्रक्रिया का आकार एक मजबूत संकेत है।

इस दृष्टिकोण की सुंदरता यह है कि इसमें बहुत कम जानकारी की आवश्यकता होती है। नियामकों को कंपनी के गुप्त कोड, उनके बिक्री डेटा या उनके लाभ मार्जिन को देखने की आवश्यकता नहीं है। उन्हें बस "फ्रोजन पॉलिसी" (frozen policy)—उन नियमों का सेट जिसका एल्गोरिदम वर्तमान में पालन करता है—को क्वेरी करने और भूलभुलैया की रेखाओं को ट्रेस करने की आवश्यकता है। यदि मानचित्र में एक एकल, संकीर्ण पुल दिखता है जिसे उच्च कीमतों में वापस जाने के लिए सभी को पार करना ही होगा, तो यह एक बड़ा रेड फ्लैग है कि एल्गोरिदम मिलीभगत कर रहे हो सकते हैं। यह एक महल में गुप्त सुरंग खोजने जैसा है; आपको यह जानने की ज़रूरत नहीं है कि इसे किसने बनाया या क्यों, लेकिन सुरंग का अस्तित्व बताता है कि कुछ संदिग्ध हो रहा है।

संक्षेप में, शोध पत्र सुझाव देता है कि भले ही हम हमेशा इन एल्गोरिदम के मन को नहीं पढ़ सकते, लेकिन हम उनके मानचित्रों को पढ़ सकते हैं। और यदि मानचित्र एक ऐसी भूलभुलैया जैसा दिखता है जो आपको उच्च-मूल्य क्लब में वापस जाने देने से पहले दंड के लूप में फंसाने के लिए डिज़ाइन की गई है, तो यह नियामकों के लिए करीब से देखने का समय है।