Habermolt: Delegating Deliberation to AI Representatives
यह शोध पत्र हैबरमोल्ट (Habermolt) को प्रस्तुत करता है, जो एआई-प्रत्यायोजित विमर्श (AI-delegated deliberation) के लिए एक सार्वजनिक मंच है जहाँ एजेंट सामूहिक निर्णय लेने में मनुष्यों का प्रतिनिधित्व करते हैं, और यह स्केलेबल, विश्वसनीय एआई प्रतिनिधियों की नवीन डिज़ाइन और संरेखण चुनौतियों को संबोधित करने के लिए प्रतिनिधित्व, एकत्रीकरण और संशोधन के आयामों के माध्यम से इसकी प्रभावशीलता का मूल्यांकन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नए सामुदायिक नियम पर मतदान करना चाहते हैं, जैसे कि "क्या हमें अधिक पेड़ लगाने चाहिए या एक नया पार्क बनाना चाहिए?" एक आदर्श दुनिया में, हर कोई साथ बैठता, चर्चा करता और सहमत होता। लेकिन वास्तविकता में, आप व्यस्त हैं, थके हुए हैं, या बस वहां उपस्थित नहीं हो सकते। इसलिए, आप आमतौर पर अपनी ओर से भाग लेने के लिए एक मानव प्रतिनिधि (जैसे कि एक नगर पार्षद) चुनते हैं। लेकिन वह व्यक्ति ठीक से नहीं जानता कि आप वास्तव में क्या सोचते हैं, और वह आपको बताए बिना अपना मन बदल सकता है।
यह शोध पत्र AI-डेलीगेटेड डेलिब्रेशन (AI-प्रत्यायोजित विचार-विमर्श) नामक एक नए विचार को प्रस्तुत करता है। एक मानव प्रतिनिधि के बजाय, आप अपने विचारों को एक AI एजेंट (एक डिजिटल रोबोट) को देते हैं। यह रोबोट सीखता है कि आप क्या सोचते हैं, जब आप नहीं जा पाते तो वह "बैठक" में जाता है, आपके पक्ष में तर्क देता है, और अंतिम निर्णय लेने में मदद करता है।
शोधकर्ताओं ने इसे वास्तव में काम करने के लिए देखने हेतु HABERMOLT नामक एक वास्तविक दुनिया का प्लेग्राउंड बनाया। उन्होंने इसे तीन मुख्य नियमों के साथ परखा:
1. प्रतिनिधित्व (Representation): "डिजिटल ट्विन" इंटरव्यू
अवधारणा: AI को कैसे पता चलता है कि आप क्या सोचते हैं?
उपमा: AI को अपने व्यक्तिगत सहायक के रूप में समझें जो आपके लिए एक डायरी लिखता है।
- यह कैसे काम करता है: आप अपने AI एजेंट के साथ चैट करते हैं। वह आपसे प्रश्न पूछता है (जैसे, "क्या आप सेब पसंद करते हैं या संतरे?") और अपने उत्तरों को एक "मेमोरी फ़ाइल" में सहेज लेता है।
- उन्होंने जो समस्या पाई: जब AI बिना आपसे बात किए अपने आप बैठक में जाता है, तो वह थोड़ा सामान्य (generic) लगने लगता है। यह एक ऐसे छात्र की तरह है जिसने पाठ्यपुस्तक तो पढ़ी लेकिन वे विशिष्ट कहानियाँ भूल गया जो आपने उसे सुनाई थीं। AI के विचार एक-दूसरे के बहुत समान होने लगे, जिससे आपके वास्तविक व्यक्तित्व का अनूठा "स्वाद" खो गया।
- समाधान: यदि आप बैठक से ठीक पहले उस विषय के बारे में AI के साथ एक विशिष्ट चर्चा करते हैं, तो AI बहुत अधिक आपकी तरह लगता है।
2. एकत्रीकरण (Aggregation): "समूह वोट"
अवधारणा: ये सभी अलग-अलग AI एजेंट अपने विचारों को एक अंतिम निर्णय में कैसे मिलाते हैं?
उपमा: कल्पना कीजिए कि एक पोटलक डिनर (potluck dinner) है जहाँ हर कोई एक व्यंजन लाता है और मेनू के लिए वोट करता है।
- यह कैसे काम करता है: HABERMOLT में, प्रत्येक AI एजेंट दो काम करता है:
- वे एक नया सुझाव (एक कथन) देते हैं यदि उन्हें लगता है कि कुछ कमी है।
- वे सभी व्यंजनों को "सबसे स्वादिष्ट" से लेकर "घटिया" तक रैंक करते हैं।
सिस्टम फिर एक विशेष गणितीय सूत्र (Schulze ranking) का उपयोग करता है ताकि उस व्यंजन को खोजा जा सके जिस पर सभी सहमत हो सकें।
- उन्होंने जो समस्या पाई: यहाँ एक ट्रेड-ऑफ (समझौता) है।
- यदि आप एक ऐसा निर्णय चाहते हैं जो सुरक्षित और सभी के प्रति सच्चा महसूस हो, तो परिणाम अक्सर अस्पष्ट होता है (जैसे, "हमें अच्छी चीजें करनी चाहिए")।
- यदि आप एक ऐसा निर्णय चाहते हैं जो विशिष्ट और कार्रवाई योग्य हो (जैसे, "अगले मंगलवार तक 5वीं स्ट्रीट पर एक पार्क बनाएं"), तो ऐसा लग सकता है कि यह सभी की सच्ची भावनाओं का प्रतिनिधित्व नहीं करता है।
- शोधकर्ताओं ने पाया कि AI एजेंटों को अपने स्वयं के सुझाव लिखने और उन पर वोट करने देने से (जिस पद्धति का उन्होंने उपयोग किया) इसे "वास्तविक" बनाए रखने का सबसे अच्छा तरीका मिला, भले ही यह सबसे अधिक विशिष्ट न हो।
3. संशोधन (Revision): "अनडू बटन" (Undo Button)
अवधारणा: क्या होता है यदि AI गलत हो जाता है या आप अपना मन बदल लेते हैं?
उपमा: इसे एक लाइव-एडिटिंग डॉक्यूमेंट के रूप में सोचें जहाँ आप किसी भी समय अपनी गलतियों को सुधार सकते हैं।
- यह कैसे काम करता है: यदि आपका AI एजेंट कुछ ऐसा कहता है जिससे आप असहमत हैं, तो आप लॉग इन कर सकते हैं, उसकी "मेमोरी" को संपादित कर सकते हैं, या अपना वोट बदल सकते हैं। सिस्टम आपके नए इनपुट के आधार पर समूह के निर्णय की तुरंत पुनर्गणना करता है।
- उन्होंने जो समस्या पाई: किसी ने भी 'अनडू बटन' का उपयोग नहीं किया। भले ही सिस्टम को लोगों को उनकी गलतियाँ सुधारने के लिए बनाया गया था, 90% से अधिक उपयोगकर्ताओं ने कभी अपने एजेंट के काम की जाँच नहीं की।
- जोखिम: यदि AI कोई गलती करता है, तो वह वहीं रहती है। सिस्टम लोगों को याद दिलाने के लिए साप्ताहिक ईमेल भेजता है कि वे अपने काम की जाँच करें, लेकिन अधिकांश लोग इसे अनदेखा कर देते हैं। शोधकर्ताओं ने महसूस किया कि इसके लिए, "सुधारने" की प्रक्रिया को बहुत अधिक आसान और स्पष्ट बनाने की आवश्यकता है।
मुख्य निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि AI-डेलीगेटेड डेलिब्रेशन एक शक्तिशाली विचार है जो लाखों लोगों को बिना घंटों खाली समय के लोकतंत्र में भाग लेने में सक्षम बना सकता है। हालाँकि, यह एक नई कार की तरह है जिसका अभी पूरी तरह से परीक्षण नहीं किया गया है।
- अच्छी बात: यह भागीदारी को बढ़ाता है। आपको अपनी आवाज़ उठाने के लिए वहां उपस्थित होने की आवश्यकता नहीं है।
- बुरी बात: AI कभी-कभी आपके बजाय एक सामान्य रोबोट की तरह बहुत अधिक लगता है, और लोग यह जाँचने के लिए भी नहीं देखते कि वह सच बोल रहा है या नहीं।
शोधकर्ता कहते हैं कि हमें इन AI के लिए बेहतर "मेमोरी सिस्टम" बनाने की आवश्यकता है ताकि वे ठीक से याद रखें कि आप कौन हैं, और हमें इसे बहुत आसान बनाने की आवश्यकता है ताकि मनुष्य चीजों के पटरी से उतरने पर अपने डिजिटल प्रतिनिधियों को सुधार सकें। तब तक, हमें इन रोबोटों पर हमारे लिए बोलने के लिए भरोसा करने में सावधानी बरतनी होगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।