महान एआई डिनर पार्टी

कल्पना कीजिए कि आप एक विशाल, अराजक डिनर पार्टी में कदम रख रहे हैं जहाँ मेजबान एक आर्टिफिशियल इंटेलिजेंस (AI) है। लंबे समय तक, इस AI का लक्ष्य एक आदर्श, विनम्र अतिथि बनना था जो हमेशा मेजबान की पसंदीदा राय से सहमत रहता था। यदि मेजबान पूछता, "सबसे अच्छा पिज्जा टॉपिंग क्या है?" तो AI बस कहता, "पेपरोनी!" क्योंकि डेटा ने यही बताया था कि यह सबसे लोकप्रिय है। लेकिन यहाँ समस्या है: वास्तविक जीवन एक एकल राय नहीं है। कुछ लोगों को पेपरोनी से एलर्जी है, कुछ को लगता है कि अनानास (पाइनएप्पल) एक अपराध है, और कुछ बस सादे चीज़ स्लाइस के लिए भूखे हैं। यदि AI केवल एक उत्तर देता है, तो वह अनजाने में किसी की भावनाओं को ठेस पहुँचा सकता है या किसी महत्वपूर्ण नियम की अनदेखी कर सकता है।

यह "AI अलाइनमेंट" (AI alignment) की दुनिया है—कंप्यूटर को वह सिखाने का विज्ञान जो मनुष्य वास्तव में चाहते हैं। लेकिन जैसे-जैसे AI स्मार्ट होता जा रहा है और वास्तविक निर्णय लेने लगा है (जैसे डॉक्टर के अपॉइंटमेंट शेड्यूल करना या स्कूल प्रोजेक्ट में मदद करना), पुराना "एक ही नियम सबके लिए" वाला सिद्धांत काम करना बंद कर देता है। हमें ऐसे AI की आवश्यकता है जो यह समझ सके कि अलग-अलग लोगों के पास उनकी सोच के पीछे अलग-अलग, समान रूप से वैध कारण होते हैं। यह शोध पत्र एक बड़ा सवाल पूछता है: हम एक ऐसा AI कैसे बना सकते हैं जो न केवल एक विजेता चुने, बल्कि वास्तव में विभिन्न दृष्टिकोणों वाले लोगों के एक समूह को मिलकर निर्णय लेने में मदद करे? लेखक सुझाव देते हैं कि AI को केवल नियमों की एक सूची के साथ प्रोग्राम करने के बजाय, हमें इसे एक समाजशास्त्री की तरह कार्य करना सिखाना चाहिए, जो यह समझे कि लोगों के काम, भूमिकाएँ और सामाजिक दायरे उनकी राय को कैसे आकार देते हैं।

---

शोध पत्र: AI को एक सामाजिक समन्वयक बनाना सिखाना

"सोशलली ग्राउंडेड एजेंटिक एआई" (Socially Grounded Agentic AI) नामक यह शोध पत्र तर्क देता है कि हमें उन AI सिस्टम बनाने के तरीके को बदलने की आवश्यकता है जो कई दृष्टिकोणों को संभालते हैं। लेखक, मैट रैटो, अभिषेक मोटुरु और डैनियल सिल्वर का सुझाव है कि वर्तमान विधियाँ एक जटिल पारिवारिक विवाद को केवल व्हाइटबोर्ड पर सबकी शिकायतों की सूची बनाकर हल करने की कोशिश करने जैसी हैं। यह अव्यवस्थित है, और यह नहीं समझाता कि लोग क्यों बहस कर रहे हैं या इसे कैसे ठीक किया जाए। इसके बजाय, वे सामाजिक सिद्धांत (social theory)—जो इस बात का अध्ययन है कि लोग समूहों में कैसे परस्पर क्रिया करते हैं—के विचारों का उपयोग करके ऐसे AI बनाने का प्रस्ताव देते हैं जो एक साधारण उत्तर देने वाली मशीन के बजाय एक कुशल मध्यस्थ (mediator) की तरह कार्य करे।

"केवल राय सूचीबद्ध करने" की समस्या

अभी, कई AI सिस्टम 'ओवरटन प्लुरलिज्म' (Overton pluralism) नामक चीज़ का उपयोग करके विभिन्न विचारों को संभालने की कोशिश करते हैं। कल्पना कीजिए कि एक शिक्षक कक्षा से पूछता है, "कक्षा भ्रमण के लिए कुछ अच्छे विचार क्या हैं?" और AI बस एक सूची थमा देता है: "समुद्र तट," "संग्रहालय," "कैंपिंग।" यह विकल्पों की एक सूची है, लेकिन यह आपको यह नहीं बताता कि कौन क्या चाहता है या क्यों चाहता है। शोध पत्र का तर्क है कि यह बहुत सरल है। यह विचारों को एक बाल्टी में रखे यादृच्छिक (random) सामान की तरह मानता है, इस तथ्य को अनदेखा करता है कि लोगों की विशिष्ट भूमिकाएँ और कार्य होते हैं जो उनके विचारों को आकार देते हैं। एक डॉक्टर, एक मरीज और एक अस्पताल प्रशासक चिकित्सा उपचार के बारे में अलग-अलग विचार रख सकते हैं, इसलिए नहीं कि वे यादृच्छिक लोग हैं, बल्कि इसलिए क्योंकि उनकी भूमिकाएं उन्हें अलग तरह से सोचने के लिए प्रेरित करती हैं।

समाधान: "भूमिका निभाने वाला" रोबोट

लेखक सुझाव देते हैं कि हमें AI से राय का अनुमान लगाने के लिए पूछना बंद करना चाहिए और उससे भूमिकाओं (roles) को समझने के लिए कहना शुरू करना चाहिए। वे समाजशास्त्री जॉर्ज हर्बर्ट मीड के "जनरलाइज्ड अदर" (generalized other) नामक एक अवधारणा को उधार लेते हैं। इसे एक विशिष्ट व्यक्ति के रूप में नहीं, बल्कि एक विशिष्ट काम के लिए "नियम पुस्तिका" के रूप में सोचें।

• पुराना तरीका: AI एक सामान्य व्यक्ति की तरह कार्य करता है जो कहता है, "शायद हमें समुद्र तट पर जाना चाहिए।"
• नया तरीका: AI एक "डॉक्टर की भूमिका," एक "मरीज की भूमिका," और एक "अस्पताल प्रबंधक की भूमिका" को सक्रिय करता है। प्रत्येक भूमिका के अपने नियम, जिम्मेदारियां और सीमाएं होती हैं। डॉक्टर की भूमिका सुरक्षा के बारे में जानती है; मरीज की भूमिका दर्द और पैसे के बारे में जानती है; प्रबंधक की भूमिका बजट और निष्पक्षता के बारे में जानती है।

AI केवल इन विचारों को सूचीबद्ध नहीं करता है; यह उन्हें आपस में बात करवाता है। यह एक खेल के रेफरी की तरह है जो दोनों टीमों के नियमों को जानता है और उन्हें मिलकर खेलने में मदद करता है, न कि केवल स्कोर चिल्लाकर बताता है।

"डिबेट क्लब" दृष्टिकोण

इसके बाद, शोध पत्र इस बात पर गौर करता है कि जब लोग असहमत हों तो हम AI का मार्गदर्शन कैसे कर सकते हैं। केवल AI को यह बताने के बजाय कि "विनम्र रहो और उपयोगकर्ता से सहमत हो जाओ," लेखक दार्शनिक जुर्गन हेबरमास के विचारों पर आधारित विमर्श (deliberation) का उपयोग करने का सुझाव देते हैं। एक डिबेट क्लब की कल्पना करें जहाँ सभी को सख्त नियमों का पालन करना होता है: आपको केवल "मुझे यह विचार पसंद नहीं है" नहीं कहना है; आपको कहना होगा कि "मुझे यह विचार X साक्ष्य के कारण पसंद नहीं है, और यहाँ एक बेहतर विकल्प है।"
शोध पत्र ऐसे AI सिस्टम बनाने का सुझाव देता है जहाँ विभिन्न "एजेंट" (छोटे डिजिटल सहायक) इन भूमिकाओं को निभाते हैं। वे दावे साझा करते हैं, साक्ष्यों के साथ एक-दूसरे को चुनौती देते हैं, और तभी सहमत होते हैं जब उन्होंने एक निष्पक्ष प्रक्रिया का पालन किया हो। यह AI की सोच को दृश्यमान बनाता है। आप देख सकते हैं कि इसने निष्कर्ष तक पहुँचने के लिए कैसे काम किया, न कि केवल अंतिम उत्तर। यह ऐसा है जैसे आप AI की "विचार प्रक्रिया" को एक व्हाइटबोर्ड पर देख रहे हों, ताकि आप जाँच सकें कि क्या वह निष्पक्ष था।

विचारों का "पावर मैप"

अंत में, शोध पत्र "डिस्ट्रिब्यूशनल प्लुरलिज्म" (distributional pluralism) के विचार से निपटता है, जो केवल एक फैंसी तरीका है यह दिखाने का कि "अधिकांश लोग क्या सोचते हैं।" लेखक चेतावनी देते हैं कि यदि हम केवल वोटों की गिनती करते हैं, तो हम अनजाने में सबसे मुखर या सबसे शक्तिशाली समूह को जीतने दे सकते हैं, भले ही वे गलत हों। वे समाजशास्त्री पियरे बोर्दियू के विचारों का उपयोग यह समझाने के लिए करते हैं कि समाज शक्ति के विभिन्न "क्षेत्रों" (fields) वाला एक मानचित्र है। कुछ लोगों का प्रभाव उनके काम या स्थिति के कारण अधिक होता है।
शोध पत्र का सुझाव है कि AI को केवल सबसे आम राय की नकल नहीं करनी चाहिए। इसके बजाय, इसे समूह की संरचना को समझना चाहिए। इसे पता होना चाहिए कि स्वास्थ्य संबंधी मुद्दे पर एक चिकित्सा विशेषज्ञ की राय एक यादृच्छिक इंटरनेट टिप्पणी की तुलना में अधिक वजन रखती है, इसलिए नहीं कि वह इंसान के रूप में "बेहतर" है, बल्कि इसलिए क्योंकि उस क्षेत्र में उनकी विशिष्ट भूमिका है। AI को विचारों को इस आधार पर तौलना चाहिए कि बोलने वाला कौन है और उनकी भूमिका क्या है, जिससे यह सुनिश्चित हो सके कि अंतिम निर्णय निष्पक्षता और विशेषज्ञता दोनों का सम्मान करता है।

यह वास्तविक जीवन में कैसे काम करता है: ट्राइएज (Triage) का उदाहरण

यह कैसे काम करता है, यह दिखाने के लिए, लेखक एक परिदृश्य की कल्पना करते हैं जहाँ पुराने दर्द से पीड़ित एक मरीज AI से पूछता है, "क्या मुझे विशेषज्ञ के अपॉइंटमेंट के लिए छह सप्ताह इंतजार करना चाहिए या जल्दी देखा जाना चाहिए?"

• एक सामान्य AI तीन अलग-अलग उत्तर दे सकता है: एक कहता है "इंतजार करें," एक कहता है "अभी जाएं," और एक कहता है "यह निर्भर करता है।"
• यह नया "सोशलली ग्राउंडेड" AI तीन भूमिकाओं को सक्रिय करेगा: एक क्लिनिशियन (सुरक्षा के लिए चिंतित), एक पेशेंट एडवोकेट (पैसे और दर्द के लिए चिंतित), और एक हॉस्पिटल एडमिनिस्ट्रेटर (स्लॉट खत्म होने की चिंता में)।
• ये भूमिकाएं आपस में "बात" करेंगी। क्लीनिशियन कहता है, "दर्द बढ़ रहा है, इसलिए हमें जांच करनी चाहिए।" एडवोकेट कहता है, "लेकिन मरीज काम से छुट्टी लेने का खर्च नहीं उठा सकता।" एडमिनिस्ट्रेटर कहता है, "हमारे पास केवल आपात स्थिति के लिए स्लॉट हैं।"
• AI फिर एक समाधान समन्वयित करता है: "त्वरित ट्राइएज जांच के लिए क्लिनिक से संपर्क करें। यदि लक्षण खतरनाक हैं, तो हम एक स्लॉट ढूंढ लेंगे; यदि नहीं, तो हम आपके अपॉइंटमेंट तक दर्द को प्रबंधित करने में आपकी मदद करेंगे।"
• परिणाम केवल विकल्पों की सूची नहीं है; यह एक समन्वित योजना है जो सुरक्षा नियमों, मरीज के दर्द और अस्पताल की सीमाओं का सम्मान करती है।

भविष्य के लिए इसका क्या अर्थ है

शोध पत्र निष्कर्ष निकालता है कि हम केवल अधिक डेटा या बेहतर गणित जोड़कर AI को "ठीक" नहीं कर सकते। हमें ऐसे सिस्टम डिजाइन करने की आवश्यकता है जो सामाजिक दुनिया को समझते हों। लेखक सुझाव देते हैं कि भविष्य के AI का मूल्यांकन केवल इस आधार पर नहीं किया जाना चाहिए कि अंतिम उत्तर सही है या नहीं, बल्कि इस आधार पर किया जाना चाहिए कि उसने विभिन्न भूमिकाओं को कितनी अच्छी तरह समन्वित किया और एक निष्पक्ष प्रक्रिया का पालन किया। वे स्वीकार करते हैं कि यह एक नया विचार है जिसे अस्पतालों और स्कूलों जैसे वास्तविक स्थानों में परीक्षण करने की आवश्यकता है। वे यह नहीं कह रहे हैं कि यह अभी एक तैयार उत्पाद है; वे कह रहे हैं, "यहाँ इन प्रणालियों को बनाने के लिए एक नया मानचित्र है, और हमें यह देखने के लिए इसे आज़माना होगा कि क्या यह काम करता है।"

संक्षेप में, शोध पत्र का तर्क है कि दुनिया में विभिन्न लोगों के बीच वास्तव में सहायक होने के लिए, AI को एक एकल आवाज के रूप में कार्य करना बंद करना होगा और एक कुशल सामाजिक समन्वयक के रूप में कार्य करना शुरू करना होगा, यह समझना होगा कि हर किसी की एक भूमिका होती है और सबसे अच्छे उत्तर इस बात से आते हैं कि वे भूमिकाएँ आपस में कैसे जुड़ती हैं।