Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

यहाँ "फ्रेंकेंस्टीन इन द पाइपलाइन" (Frankenstein in the Pipeline) नामक शोध पत्र की व्याख्या दी गई है, जिसमें इसके जटिल तर्कों को समझाने के लिए सरल भाषा और रचनात्मक उपमाओं का उपयोग किया गया है।

मुख्य विचार: यह कोई बग नहीं है, यह रेसिपी है

अधिकांश लोग सोचते हैं कि फेशियल रिकग्निशन (चेहरा पहचानने वाली तकनीक) इसलिए खतरनाक है क्योंकि यह गलतियाँ करती है (जैसे किसी अश्वेत व्यक्ति को किसी और के रूप में पहचान लेना)। लेखिका, नीना दा होरा का तर्क है कि समस्या बहुत अधिक गहरी है। उनका कहना है कि यह तकनीक तब भी खतरनाक है जब यह पूरी तरह से सही काम करती है।

मूल तर्क यह है कि फेशियल रिकग्निशन केवल आपके चेहरे को "पढ़ता" नहीं है; यह आपको विखंडित (dismantle) कर देता है। यह एक जीवित, सांस लेते हुए इंसान को लेता है, उसे टुकड़ों में काटता है, उन टुकड़ों को वापस एक गणितीय कोड में सिल देता है, और फिर उस कोड को ही "असली" आप मान लेता है। शोध पत्र इसे कंप्यूटेशनल एपिस्टेमिसाइड (Computational Epistemicide) कहता है—एक कठिन शब्द जिसका अर्थ है कि सिस्टम आपकी वास्तविक पहचान को नष्ट कर देता है ताकि उसकी जगह एक सरल, नियंत्रित संस्करण स्थापित किया जा सके।

फ्रेंकेंस्टीन की उपमा: एक विधि, न कि एक रूपक

आमतौर पर, लोग मैरी शेली के फ्रेंकेंस्टीन का उपयोग एक चेतावनी के रूप में करते हैं: "यदि हम भगवान बनने की कोशिश करेंगे, तो चीजें गलत हो सकती हैं।"

यह शोध पत्र फ्रेंकेंस्टीन का उपयोग अलग तरह से करता है। यह कहता है कि राक्षस कोई दुर्घटना नहीं है; राक्षस वह इच्छित परिणाम है जो इस पद्धति (method) से निकलता है।

• निर्माता: कंप्यूटर सिस्टम और वे संस्थाएं जिन्होंने इसे बनाया है।
• विखंडन (The Disassembly): सिस्टम आपके चेहरे को अलग कर देता है (आपका बैकग्राउंड, आपका मूड, आपका इतिहास हटा देता है)।
• सिलाई (The Stitching): यह उन हिस्सों को वापस एक निश्चित, कठोर आकार में सिल देता है (एक वेक्टर)।
• राक्षस: परिणामी गणितीय कोड।

त्रासदी यह नहीं है कि राक्षस भाग निकला; त्रासदी यह है कि निर्माण की विधि उस व्यक्ति की देखभाल नहीं कर सकती जिसे उसने बनाया है। यदि कोड कुछ और कहता है, तो सिस्टम के पास वास्तविक व्यक्ति की बात सुनने का कोई तरीका नहीं है।

पाइपलाइन कैसे काम करती है: "फेस जूस" फैक्ट्री

कल्पना कीजिए कि एक ऐसी फैक्ट्री है जो ताजे, जटिल फल को एक एकल, मानकीकृत "फ्रूट जूस" के पैकेट में बदल देती है।

1. कच्चा फल (असली आप): आप एक जटिल व्यक्ति हैं। आपका एक चेहरा है, लेकिन आपका एक शरीर भी है, आप भीड़ में खड़े हैं, आप मुस्कुरा रहे हैं या उदास हैं, रोशनी बदल रही है, और आपका एक इतिहास है। आप एक जीवित, संबंधपरक सतह हैं।
2. काटना और छीलना (डिटेक्शन और लैंडमार्किंग): मशीन आपके चेहरे को पकड़ती है और उसे फोटो से काट कर अलग कर देती है। वह आपके शरीर, आपके कपड़ों और आपके आसपास के लोगों को अनदेखा कर देती है। वह आपके चेहरे पर पाँच विशिष्ट बिंदुओं (जैसे आपकी आँखों के कोने) को ढूंढती है और उन बिंदुओं को ही सबसे महत्वपूर्ण मान लेती है।
3. साँचे में दबाना (एलाइनमेंट): मशीन आपके चेहरे को एक आदर्श, सीधे सामने की मुद्रा में मजबूर करती है। यदि आप ऊपर, नीचे या बगल में देख रहे हैं, तो मशीन आपके चेहरे को डिजिटल रूप से विकृत कर देती है ताकि वह सीधा दिखे। यह आपके अद्वितीय कोणों को मिटा देती है।
4. पैकेट में मिलाना (एम्बेडिंग): यह सबसे महत्वपूर्ण चरण है। मशीन आपके अब-परफेक्ट, सीधे चेहरे को 512 नंबरों की एक सूची (एक वेक्टर) में संकुचित कर देती है। वह 99.9% जानकारी को फेंक देती है। आपकी त्वचा की बनावट, आपके सूक्ष्म भाव और आपकी आत्मा गायब हो जाती है। अब केवल एक "पैकेट" बचता है जिसे अन्य पैकेटों के साथ तुलना करने के लिए डिज़ाइन किया गया है।
5. टेस्टिंग (तुलना): सिस्टम आपके "पैकेट" की तुलना अन्य पैकेटों के डेटाबेस से करता है। वह पूछता है: "क्या ये दो पैकेट काफी करीब हैं?" यदि नंबर समान हैं, तो वह कहता है: "हाँ, यह आप हैं।"

हिंसा: इस प्रक्रिया में, "पैकेट" (नंबर) आपका अधिकृत संस्करण बन जाता है। यदि पैकेट कहता है कि आप अपराधी हैं, लेकिन असली आप कहते हैं, "मैं निर्दोष हूँ," तो सिस्टम को इसकी परवाह नहीं होती। सिस्टम केवल पैकेट को सुनता है।

"काफी करीब" का जाल (The "Close Enough" Trap)

शोध पत्र का तर्क है कि सिस्टम "काफी करीब" के नियम पर काम करता है।

एक क्लब के बाउंसर की कल्पना करें। उसके पास "अच्छे" चेहरों की एक सूची है। यदि आपका चेहरा सूची वाले चेहरे से काफी हद तक मिलता है, तो वह आपको अंदर आने देता है। यदि वह "बुरे" चेहरे से काफी हद तक मिलता है, तो वह आपको बाहर निकाल देता है।

• समस्या यह है कि "काफी हद तक" एक अनुमान है।
• सिस्टम तय करता है कि "काफी करीब" का क्या अर्थ है।
• यदि आप एक अश्वेत व्यक्ति हैं, और सिस्टम मुख्य रूप से श्वेत चेहरों पर बनाया गया था, तो आपका चेहरा या तो "अच्छे" वाले सूची के "काफी करीब" कभी नहीं होगा, या गलती से "बुरे" वाले सूची के "काफी करीब" हो जाएगा।

लेकिन भले ही बाउंसर सटीक हो, सिस्टम फिर भी हिंसक है क्योंकि इसने यह तय कर दिया कि आपका केवल "पैकेट" वाला संस्करण ही मायने रखता है। इसने तय कर दिया कि आपका वास्तविक, जीवित चेहरा अप्रासंगिक है।

इसे "ठीक करना" काम क्यों नहीं करेगा

कई लोग "नैतिक एआई" (Ethical AI) समाधान सुझाते हैं: "चलो बस अधिक विविध फोटो लेते हैं ताकि सिस्टम बेहतर सीख सके," या "चलो त्रुटि दर को कम करते हैं।"

लेखक कहते हैं कि यह फ्रेंकेंस्टीन के राक्षस को बेहतर कपड़े देकर ठीक करने की कोशिश करने जैसा है।

• समस्या: समस्या कपड़ों (डेटा) की नहीं है; समस्या सर्जरी (विधि) की है।
• वास्तविकता: जब तक सिस्टम के लिए यह आवश्यक है कि आपको काटकर, चपटा करके और नंबरों में बदलकर पहचाना जाए, तब तक यह हमेशा हिंसक होगा। आप एक ऐसा "निष्पक्ष" सिस्टम नहीं रख सकते जिसके लिए पहले आपको विखंडित करना अनिवार्य हो।

समाधान: इनकार और उन्मूलन (Refusal and Abolition)

शोध पत्र निष्कर्ष निकालता है कि हमें फेशियल रिकग्निशन को "बेहतर" बनाने की कोशिश नहीं करनी चाहिए। हमें इसका उपयोग करने से इनकार करना चाहिए।

• इनकार (Refusal): इसका अर्थ है यह कहना, "मैं आपको मुझे एक नंबर में बदलने नहीं दूँगा।" यह रहस्यमय (opaque) रहने के अधिकार की मांग है—कि मशीन द्वारा पूरी तरह से पढ़ा न जा सके।
• उन्मूलन (Abolition): इसका अर्थ है पूरे सिस्टम को खत्म कर देना। यह देखने के बजाय कि आप कौन हैं, कंप्यूटर का उपयोग करने के बजाय, हमें मानवीय संबंधों, सामुदायिक विश्वास या अन्य तरीकों का उपयोग करना चाहिए जिनमें अस्तित्व सिद्ध करने के लिए आपकी पहचान को नष्ट करने की आवश्यकता न हो।

सारांश

शोध पत्र का तर्क है कि फेशियल रिकग्निशन एक आधुनिक दौर का फ्रेंकेंस्टीन प्रयोग है। यह एक इंसान को लेता है, उसे डेटा में काटता है, और फिर उसे एक गणितीय कोड के रूप में वापस सिल देता है। फिर यह उस कोड को उस व्यक्ति के बारे में "सत्य" मानता है। यह प्रक्रिया व्यक्ति की स्वयं को परिभाषित करने की क्षमता को नष्ट कर देती है। इस हिंसा को रोकने का एकमात्र तरीका मशीन को स्मार्ट बनाना नहीं, बल्कि यह रुकना है कि हम यह परिभाषित करने के लिए मशीन का उपयोग करें कि हम कौन हैं।