Living with Algorithms: Human-AI Assemblages and Ethical Governance in West African Pastoral Conflict

मुख्य चित्र: जब कंप्यूटर गाँव चलाने की कोशिश करते हैं

कल्पना कीजिए कि पड़ोसियों का एक समूह है जो सदियों से एक साथ रह रहा है। उनके पास पानी साझा करने, चराई की जमीन और विवादों को सुलझाने के लिए नियमों का एक जटिल, अलिखित सेट है। यह फुसफुसाहटों, हाथ मिलाने और यह जानने पर आधारित एक प्रणाली है कि किसे किसका एहसान चुकाना है। यह अव्यवस्थित, लचीली और गहराई से मानवीय है।

अब, कल्पना कीजिए कि तकनीकी विशेषज्ञों की एक टीम आती है और कहती है, "हमारे पास एक सुपर-स्मार्ट कंप्यूटर प्रोग्राम है जो आपके सभी समस्याओं को आपके पुराने तरीकों की तुलना में अधिक तेज़ी से और अधिक निष्पक्षता से हल कर सकता है।" वे कैमरे, बायोमेट्रिक आईडी स्कैनर और एक AI स्थापित करते हैं जो भविष्यवाणी करता है कि झगड़े कहाँ होंगे।

यह शोध पत्र पूछता है: क्या यह कंप्यूटर वास्तव में चीजों को बेहतर बनाता है, या यह उस नाजुक सामाजिक ताने-बाने को तोड़ देता है जो शांति बनाए रखता है?

शोधकर्ताओं ने इस सटीक स्थिति का अध्ययन दो स्थानों पर किया: नाइजीरिया के प्लेटो स्टेट (Plateau State) और नाइजर के टिलाबेरी क्षेत्र (Tillabéri Region) में। ये वे क्षेत्र हैं जहाँ किसान और चरवाहे अक्सर भूमि और संसाधनों को लेकर आपस में टकराते हैं।

मुख्य खोज: "वैधता का अंतर" (The Legitimacy Gap)

अध्ययन में एक अजीब विरोधाभास पाया गया। कंप्यूटर वास्तव में अपने तकनीकी काम में अच्छे थे। वे पुराने मानवीय प्रणालियों की तुलना में अलर्ट भेजने में तेज़ और पैटर्न पहचानने में बेहतर थे।

लेकिन, वहां रहने वाले लोगों को उन पर भरोसा नहीं था।

इसे एक ऐसे GPS की तरह समझें जो आपको सबसे तेज़ रास्ता तो बताता है लेकिन आपको अपने पड़ोसी के लिविंग रूम के बीच से ले जाता है। GPS तकनीकी रूप से "सही" है (यह सबसे तेज़ रास्ता है), लेकिन आप इसका उपयोग नहीं करेंगे क्योंकि यह सामाजिक मानदंडों का उल्लंघन करता है और आपके पड़ोसियों को नाराज करता है।

शोध पत्र इसे "वैधता का अंतर" (Legitimacy Gap) कहता है। सिस्टम कुशल (तेज़) था, लेकिन इसमें वैधता (समुदाय द्वारा इसे उचित या सही माना जाना) की कमी थी। जब लोग सिस्टम पर भरोसा नहीं करते, तो वे सहयोग करना बंद कर देते हैं, और अंततः सिस्टम काम करना बंद कर देता है।

तीन तरीके जिनसे सिस्टम विफल हुआ

शोधकर्ताओं ने पाया कि "स्मार्ट" सिस्टम के वास्तविक जीवन के साथ टकराने के तीन विशिष्ट तरीके थे:

1. "कठोर आईडी कार्ड" की समस्या

• तकनीक: सिस्टम लोगों की पहचान करने के लिए बायोमेट्रिक आईडी कार्ड का उपयोग करता है। यदि आप एक चरवाहे थे, तो कार्ड पर लिखा था "चरवाहा"। यदि आप एक किसान थे, तो वह कहता था "किसान"।
• वास्तविकता: इन समुदायों में, पहचान परिवर्तनशील होती है। एक व्यक्ति शुष्क मौसम में मवेशी चरा सकता है और गीले मौसम में फसल उगा सकता है। वह आंशिक रूप से फुलानी और आंशिक रूप से बेरोम हो सकता है।
• उपमा: कल्पना कीजिए कि एक लाइब्रेरी है जो आपको किताबें तभी उधार लेने देती है जब आपकी आईडी पर "फिक्शन रीडर" लिखा हो। यदि आप एक कुकबुक उधार लेना चाहते हैं, तो कंप्यूटर कहता है, "नहीं, आपकी आईडी पर फिक्शन लिखा है।" यह इस बात को नहीं समझता कि आप कई रुचियों वाला एक पूर्ण व्यक्ति हैं।
• परिणाम: कंप्यूटर ने लोगों को गलत लेबल किया, जिससे इस बारे में गलत निर्णय हुए कि किसे मदद मिलनी चाहिए और किसे नहीं।

2. "सिस्टम को चकमा देने" की समस्या

• तकनीक: AI झुंड के आकार और उनकी आवाजाही जैसे डेटा के आधार पर संघर्ष की भविष्यवाणी करता है।
• वास्तविकता: लोगों को एहसास हुआ कि कंप्यूटर देख रहा है। इसलिए, उन्होंने इसे धोखा देना शुरू कर दिया।
• उपमा: यह एक ऐसे छात्र की तरह है जिसे पता है कि शिक्षक ग्रेडिंग कर्व (grading on a curve) के आधार पर अंक दे रहा है। पढ़ाई करने के बजाय, छात्र यह पता लगा लेता है कि शिक्षक को कौन से प्रश्न पसंद हैं और केवल उन्हीं का अध्ययन करता है।
• परिणाम: चरवाहों ने रात में अपने GPS कॉलर छिपाना या अपने पास कितने गाय हैं, इस बारे में झूठ बोलना शुरू कर दिया। इस "गेमिंग" ने कंप्यूटर के डेटा को अव्यवस्थित और समय के साथ कम सटीक बना दिया। सिस्टम इसलिए कम बुद्धिमान हो गया क्योंकि लोग इसे मात देने की कोशिश कर रहे थे।

3. "शांत विद्रोह" की समस्या

• तकनीक: AI आपातकालीन सहायता देने के लिए एक "जोखिम स्कोर" (रंग-कोडित मानचित्र) का उपयोग करता है। यदि बारिश देर से हुई, तो कंप्यूटर कहता, "रोपण करना बहुत जोखिम भरा है; आपके लिए कोई सहायता नहीं है।"
• वास्तविकता: किसानों को पता था कि कंप्यूटर गलत है क्योंकि वे उपग्रह (satellite) की तुलना में स्थानीय मौसम को बेहतर जानते थे। कंप्यूटर से बहस करने के बजाय, उन्होंने बस इसे अनदेखा कर दिया।
• उपमा: कल्पना कीजिए कि एक सख्त माता-पिता कहते हैं, "यदि बारिश हो रही है, तो आप बाहर नहीं जा सकते।" बच्चे जानते हैं कि यह केवल हल्की फुहार है, इसलिए वे बाहर चले जाते हैं और ऐसा दिखावा करते हैं जैसे उन्होंने सुना ही नहीं।
• परिणाम: कंप्यूटर को लगा कि सब कुछ ठीक है (क्योंकि किसी ने रोपण की रिपोर्ट नहीं दी), लेकिन वास्तव में किसान कड़ी मेहनत कर रहे थे। कंप्यूटर सच्चाई के प्रति अंधा हो गया क्योंकि लोगों ने इसके कठोर नियमों के साथ खेलना मना कर दिया।

समाधान: "मानव-AI हाइब्रिड ट्रिब्यूनल"

शोध पत्र का तर्क है कि हम केवल कोड को ठीक नहीं कर सकते। हमें यह बदलना होगा कि कंप्यूटर और इंसान एक साथ कैसे काम करते हैं। वे एक नई प्रणाली का प्रस्ताव देते हैं जिसे "Human-AI Assemblage" कहा जाता है।

इसे एक रोबोट जज के रूप में नहीं, बल्कि एक को-पायलट सिस्टम के रूप में सोचें।

उन्होंने तीन-चरणीय सुधार का परीक्षण किया:

1. सहभागी थ्रेसहोल्ड (नियम मिलकर तय करना):
   तकनीकी कंपनी यह तय करने के बजाय कि "खतरा क्षेत्र" क्या है, उन्होंने किसानों, चरवाहों और स्थानीय नेताओं के साथ एक कार्यशाला आयोजित की। उन्होंने कंप्यूटर की संवेदनशीलता को मिलकर समायोजित किया।

• परिणाम: उन्होंने गलत सूचनाओं (false alarms) को 50% तक कम कर दिया क्योंकि स्थानीय लोग जानते थे कि कंप्यूटर बहुत अधिक डरा हुआ (paranoid) हो रहा है।

2. सार्वजनिक पूर्वाग्रह ऑडिट (स्कोरकार्ड की जाँच):
   हर कुछ महीनों में, उन्होंने सार्वजनिक रूप से जांच की कि क्या कंप्यूटर विभिन्न समूहों के साथ निष्पक्ष व्यवहार कर रहा है। यदि कंप्यूटर चरवाहों को किसानों की तुलना में 18% अधिक बार सहायता देने से मना करता था, तो उन्होंने इसे तुरंत चिह्नित किया।

• परिणाम: इसने सिस्टम को बहुत अधिक नुकसान पहुँचाने से पहले अपनी गलतियों को सुधारने के लिए मजबूर किया।

3. हाइब्रिड ट्रिब्यूनल (मानवीय ओवरराइड):
   उन्होंने एक स्थानीय अदालत बनाई जिसमें निर्वाचित किसान, चरवाहे और एक तकनीकी विशेषज्ञ शामिल थे। यदि कंप्यूटर कहता "सहायता नहीं", तो यह समूह कह सकता था, "रुको, हम जानते हैं कि यह परिवार वास्तव में मुसीबत में है। कंप्यूटर के निर्णय को बदलें (Override)।"

• परिणाम: लोगों ने फिर से सिस्टम पर भरोसा करना शुरू कर दिया क्योंकि उन्हें पता था कि एक इंसान कंप्यूटर की गलती को ठीक कर सकता है। सहयोग 58% से बढ़कर 79% हो गया।

"फॉर्मलाइजेशन फ्रंटियर" (औपचारिकीकरण की सीमा)

यह शोध पत्र एक दिलचस्प अवधारणा पेश करता है जिसे "Formalization Frontier" कहा जाता है।

कल्पना कीजिए कि आप एक बेहतरीन स्टू (stew) बनाने की रेसिपी लिखने की कोशिश कर रहे हैं।

• 0% से 55%: आप सामग्री और पकाने का समय लिखते हैं। यह बहुत मदद करता है।
• 55%: आप एक दीवार से टकरा जाते हैं। यदि आप हर छोटी चीज़ को लिखने की कोशिश करते हैं (जैसे शेफ का सटीक मूड, रसोई में नमी, या नमक का विशिष्ट ब्रांड), तो रेसिपी बेकार हो जाती है। यह बहुत कठोर हो जाती है।

शोधकर्ताओं ने पाया कि एक बार जब आप स्थानीय जीवन के 55% से अधिक हिस्से को कठिन डेटा में बदलने की कोशिश करते हैं, तो सिस्टम अपना विश्वास खोने लगता है। आप मानवीय लचीलेपन को पूरी तरह से कोड नहीं कर सकते।

निचोड़

शोध पत्र निष्कर्ष निकालता है कि आप विश्वास के बिना एक सफल AI सिस्टम नहीं बना सकते।

• पुराना तरीका: एक तेज़, स्मार्ट कंप्यूटर बनाएं और उम्मीद करें कि लोग इसका उपयोग करेंगे।
• नया तरीका: एक ऐसा सिस्टम बनाएं जहाँ कंप्यूटर एक उपकरण हो, लेकिन इंसान बॉस हों। कंप्यूटर डेटा प्रदान करता है, लेकिन इंसान निर्णय, निष्पक्षता और संदर्भ प्रदान करते हैं।

अध्ययन साबित करता है कि सिस्टम की सफलता का 63% "नैतिक वैधता" (Ethical Legitimacy) पर निर्भर करती है (लोगों का उस पर भरोसा करना), न कि केवल इस पर कि कंप्यूटर कितनी तेज़ी से गणना करता है। यदि आप मानवीय तत्व को अनदेखा करते हैं, तो कंप्यूटर को अंततः मनुष्यों द्वारा अनदेखा कर दिया जाएगा।