AI LEGO: Scaffolding Cross-Functional Collaboration in Industrial Responsible AI Practices during Early Design Stages

कल्पना कीजिए कि आप अपने दोस्तों की एक टीम के साथ मिलकर एक विशाल, जटिल रोबोट बना रहे हैं। आपके पास एक इंजीनियर है जो जानता है कि दिमाग (कोड) कैसे प्रोग्राम करना है, एक कलाकार है जो उसका रूप-रंग डिजाइन करता है, और एक मैनेजर है जो यह तय करता है कि रोबोट को वास्तव में लोगों के लिए क्या करना चाहिए। आमतौर पर, इंजीनियर पहले दिमाग बनाता है, बहुत सारा उलझा हुआ कोड लिखता है, और फिर दूसरों को सौंप देता है, यह कहते हुए, "लो, अब इसे काम करने लायक बनाओ।" लेकिन अक्सर, कलाकार और मैनेजर उस कोड को समझ नहीं पाते, जिससे वे एक बड़ी समस्या को पहचान नहीं पाते: जैसे कि शायद रोबोट कुछ खास लोगों के प्रति अभद्र व्यवहार करेगा या गलत निर्णय लेगा। जब तक उन्हें गलती का पता चलता है, तब तक रोबोट बनकर तैयार हो चुका होता है, और उसे ठीक करना एक दुस्वप्न बन जाता है। यह आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक आम समस्या है, जहाँ विभिन्न पृष्ठभूमियों के विशेषज्ञ एक-दूसरे से इतनी जल्दी संवाद करने में संघर्ष करते हैं कि हानिकारक उत्पादों के रूप में बदलने से पहले ही बुरे विचारों को रोका जा सके।

इसे हल करने के लिए, शोधकर्ता "बाउंड्री ऑब्जेक्ट्स" (boundary objects) नामक एक अवधारणा पर विचार करते हैं। बाउंड्री ऑब्जेक्ट को एक यूनिवर्सल ट्रांसलेटर या एक साझा लेगो (Lego) सेट की तरह समझें। यह एक ऐसा उपकरण है जो हर किसी के लिए अलग दिखता है लेकिन पूरे समूह के लिए एक ही अर्थ रखता है। एक इंजीनियर के लिए, एक लेगो ईंट एक संरचनात्मक घटक हो सकती है; एक डिजाइनर के लिए, यह एक रंगीन ब्लॉक हो सकता है; लेकिन पूरी टीम के लिए, यह बस "एक ईंट" है जिसे वे सभी पकड़ सकते हैं और चर्चा कर सकते हैं। आप जिस पेपर को पढ़ने जा रहे हैं, वह यह समझने की कोशिश करता है कि AI टीमों के लिए एक बेहतर "साझा लेगो सेट" कैसे बनाया जाए, विशेष रूप से एक ऐसा जो कोडिंग शुरू करने से पहले ही खतरनाक गलतियों को पहचानने में मदद करे।

---

द पेपर: AI LEGO

इस अध्ययन के पीछे के शोधकर्ताओं ने, जो कार्नेगी मेलन और नॉर्थवेस्टर्न जैसे विश्वविद्यालयों की एक टीम है, देखा कि जब कंपनियाँ "रिस्पॉन्सिबल एआई" (वह AI जो सुरक्षित और निष्पक्ष है) बनाने की कोशिश करती हैं, तो प्रक्रिया अक्सर टूट जाती है। तकनीकी लोग (कोडर) और गैर-तकनीकी लोग (जैसे प्रोडक्ट मैनेजर और डिजाइनर) आपस में तालमेल नहीं बिठा पाते। कोडर जटिल तकनीकी शब्दावली में बात करते हैं, और गैर-कोडर खुद को अलग महसूस करते हैं, जिससे वे बहुत देर होने तक संभावित नुकसानों को पहचानने में असमर्थ रहते हैं।

इसे ठीक करने के लिए, उन्होंने AI LEGO नामक एक वेब टूल बनाया।

बड़ा विचार: ब्लॉक्स के साथ निर्माण करना

कल्पना कीजिए कि आप अपने दोस्त को अपनी सपनों की छुट्टियों के बारे में समझाने की कोशिश कर रहे हैं। यदि आप केवल फ्लाइट नंबरों और होटल कोडों के बारे में बड़बड़ाते रहेंगे, तो वे ऊब जाएंगे या भ्रमित हो जाएंगे। लेकिन यदि आप "फ्लाइट," "होटल," और "बीच" के लिए बड़े, रंगीन ब्लॉक्स वाले एक मैप का उपयोग करते हैं, तो पूरी योजना को देखना आसान हो जाता है।

AI LEGO भी AI प्रोजेक्ट्स के लिए इसी तरह काम करता है। Google Docs जैसे टूल्स में लंबे, उबाऊ दस्तावेज़ लिखने के बजाय, टीम एक डिजिटल कैनवास का उपयोग करती है जो लाइफसाइकिल ब्लॉक्स (Lifecycle Blocks) से भरा होता है।

• तकनीकी टीम अपने प्लान का खाका खींचने के लिए इन ब्लॉक्स को ड्रैग और ड्रॉप करके शुरुआत करती है। प्रत्येक ब्लॉक AI बनाने के एक चरण का प्रतिनिधित्व करता है, जैसे कि "प्रॉब्लम फॉर्म्युलेशन" (हम क्या हल कर रहे हैं?), "डेटासेट कंस्ट्रक्शन" (हम किस डेटा का उपयोग कर रहे हैं?), या "मॉडल डेफिनिशन" (दिमाग कैसे काम करता है?)। प्रत्येक ब्लॉक के अंदर, सरल प्रॉम्प्ट दिए गए हैं जो उन्हें अपनी पसंद को सरल भाषा में समझाने के लिए मार्गदर्शन करते हैं।
• गैर-तकनीकी टीम फिर इसमें शामिल होती है। उन्हें कोडिंग जानने की आवश्यकता नहीं है। वे ब्लॉक्स को देखते हैं और स्टेज-सेंटर्ड चेकलिस्ट (Stage-centered Checklists) का उपयोग करते हैं। ये सुरक्षा निरीक्षण कार्डों की तरह हैं। "डेटासेट" ब्लॉक के लिए, चेकलिस्ट पूछ सकती है, "क्या यहाँ कोई संवेदनशील डेटा है जो पक्षपात (bias) का कारण बन सकता है?" यह गैर-कोडर्स को उन जोखिमों को पहचानने में मदद करता है जिन्हें वे शायद अनदेखा कर देते।

गुप्त हथियार: "पर्सोना" मिनीफिगर्स

यहीं पर यह बहुत मजेदार हो जाता है। AI LEGO में पर्सोना-सेंटर्ड इवैल्यूएशन (Persona-centered Evaluation) नामक एक विशेष फीचर है।
कल्पना कीजिए कि आप एक नया वीडियो गेम डिजाइन कर रहे हैं। इसे निष्पक्ष बनाने के लिए, आप केवल सामान्य "खिलाड़ियों" के बारे में नहीं सोचते। आप विशिष्ट पात्रों की कल्पना करते हैं: "खेल प्रेमी किशोर," "टैबलेट चलाने वाली दादी," या "कोई व्यक्ति जो अंग्रेजी नहीं बोलता।"

AI LEGO टीमों को इन विभिन्न प्रकार के उपयोगकर्ताओं का प्रतिनिधित्व करने वाले डिजिटल मिनीफिगर्स (छोटे लेगो लोग) बनाने की अनुमति देता है। यह टूल यह सिम्युलेट करने के लिए एक स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल) का भी उपयोग करता है कि ये मिनीफिगर्स योजना के प्रति कैसी प्रतिक्रिया दे सकते हैं।

• उदाहरण: यदि टीम एक मूवी रिकमेंडेशन AI बना रही है, तो वे "टीन मूवी फैन" नाम का एक मिनीफिगर बना सकते हैं। टूल सिम्युलेट करेगा कि यह किशोर क्या कह सकता है: "हे, अगर आप केवल इसलिए मुझे एक्शन फिल्में सुझाते हैं क्योंकि मैं एक लड़का हूँ, तो यह अनुचित है!"
• यह टीमों को "एज केसेस" (edge cases)—यानी वे अजीब या विशिष्ट स्थितियाँ जिनके बारे में उन्होंने सोचा भी नहीं था—को देखने में मदद करता है, क्योंकि वे वास्तव में एक अलग व्यक्ति की नजर से प्रोजेक्ट को देख रहे होते हैं।

उन्होंने क्या पाया: परिणाम

शोधकर्ताओं ने इस टूल का परीक्षण 18 उद्योग विशेषज्ञों (6 AI डेवलपर्स, 6 प्रोडक्ट मैनेजर्स, और 6 UI/UX डिजाइनर्स) के साथ किया जो 6 टीमों में काम कर रहे थे। उन्होंने इन टीमों को तीन अलग-अलग तरीकों का उपयोग करके AI सिस्टम डिजाइन करने के लिए कहा:

1. Google Docs (पुराना तरीका, केवल टेक्स्ट लिखना)।
2. AI LEGO Lite (ब्लॉक्स और चेकलिस्ट का उपयोग करना, लेकिन बिना मिनीफिगर्स के)।
3. AI LEGO Full (ब्लॉक्स, चेकलिस्ट, और मिनीफिगर्स का उपयोग करना)।

परिणाम काफी स्पष्ट थे:

• अधिक समस्याएं मिलीं: जब AI LEGO का उपयोग किया गया, तो टीमों ने Google Docs की तुलना में 195% अधिक समस्याग्रस्त डिजाइन विकल्पों को खोज निकाला। यह संभावित आपदाओं की संख्या को लगभग दोगुना करने जैसा है!
• बेहतर गुणवत्ता: जो समस्याएं उन्हें मिलीं, वे केवल रैंडम अनुमान नहीं थे; उनके होने की संभावना अधिक थी। AI LEGO Full का उपयोग करने वाली टीमों ने ऐसी समस्याएं पाईं जिन्हें संभावना पैमाने (4 में से) पर Google Docs समूह की तुलना में 1.25 अंक अधिक रेट किया गया था।
• मिनीफिगर्स ने मदद की: टूल का "Full" संस्करण (मिनीफिगर्स के साथ) "Lite" संस्करण की तुलना में और भी अधिक समस्याएं खोजने में सफल रहा। सिम्युलेटेड पर्सोना ने गैर-तकनीकी लोगों को यह सोचने में गहराई से मदद की कि वास्तविक मनुष्यों पर इसका क्या प्रभाव पड़ेगा।
• सबको यह पसंद आया: प्रतिभागियों ने कहा कि AI LEGO का उपयोग करना Google Docs की तुलना में आसान और मजेदार था। उन्हें लगा कि वे वास्तव में एक टीम के रूप में मिलकर काम कर रहे हैं, न कि केवल एक-दूसरे को नोट्स भेज रहे हैं।

यह क्यों महत्वपूर्ण है

पेपर यह सुझाव देता है कि हम AI को कैसे बनाते हैं, यह उतना ही महत्वपूर्ण है जितना कि स्वयं AI। यदि हम साइलो (silos) में काम करते रहेंगे—जहाँ कोडर केवल कोडर्स से बात करते हैं और मैनेजर्स केवल मैनेजर्स से—तो हम ऐसी गलतियाँ करते रहेंगे जो लोगों को नुकसान पहुँचाती हैं।

AI LEGO दिखाता है कि यदि हम टीमों को एक साझा, दृश्य भाषा (लेगो ब्लॉक्स की तरह) और दूसरे लोगों के नजरिए से देखने का तरीका (मिनीफिगर्स की तरह) प्रदान करें, तो हम गलत विचारों को जल्दी पकड़ सकते हैं। और सबसे अच्छी बात? उन्हें जल्दी पकड़ने का मतलब है कि हम उन्हें होने से पहले ही ठीक कर सकते हैं, बिना एक तैयार रोबोट को तोड़कर फिर से शुरू किए।

यह अध्ययन यह दावा नहीं करता है कि यह दुनिया की हर समस्या को हल करने वाला कोई जादू का डंडा है। शोधकर्ता स्वीकार करते हैं कि उनका टूल एक प्रोटोटाइप है और वास्तविक दुनिया की टीमें एक अध्ययन सत्र की तुलना में अधिक जटिल होती हैं। लेकिन वे यह सुझाव देते हैं कि AI डिजाइन के बारे में हमारे बात करने के तरीके को बदलकर—इसे विजुअल, स्ट्रक्चर्ड और समावेशी बनाकर—हम भविष्य की तकनीक को सभी के लिए अधिक सुरक्षित और निष्पक्ष बना सकते हैं।