Reasoning and Planning with Dynamically Changing Norms
यह शोध पत्र मानव-AI अंतःक्रियाओं में AI एजेंटों को निर्देशित करने के लिए एक नवीन दृष्टिकोण प्रस्तुत करता है, जिसमें संघर्षों को हल करने और योजना के दौरान गार्डरेल्स के रूप में गतिशील रूप से बदलते मानदंडों का उपयोग करने के लिए एक डिफ़ेज़िबल कैलकुलस (defeasible calculus) को नियोजित किया गया है, जिसे औपचारिक प्रमाणों और सोशलबॉट (SocialBot) नामक संवाद एजेंट के साथ अनुभवजन्य परीक्षण दोनों के माध्यम से मान्य किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक इंसान के घर में रहने वाले एक बहुत ही सहायक रोबोट सहायक हैं। आपका काम चीज़ों को करना है, जैसे जानकारी साझा करना या योजनाएँ बनाना। लेकिन इसमें एक पेच है: इंसान अपना मन बदलते रहते हैं, और आपके लिए उनके नियम भी बदलते रहते हैं।
यह शोध पत्र इस बारे में है कि कैसे एक AI को बिना भ्रमित हुए या विश्वास तोड़े, इन बदलते नियमों को संभालना सिखाया जाए।
समस्या: वह "नियम पुस्तिका" जो लगातार बदलती रहती है
इंसान के नियमों को एक स्थिर सूची के बजाय एक जीवंत नियम पुस्तिका के रूप में सोचें।
- पहला दिन: कर्ली आपसे कहती है, "मेरा मेडिकल रिकॉर्ड किसी को भी न दिखाएं।"
- दूसरा दिन: वह शादी कर लेती है और कहती है, "ठीक है, तुम मेरे पति को मेरी दवाइयों के बारे में बता सकते हो।"
- तीसरा दिन: उसके बच्चे हो जाते हैं और वह कहती है, "अब तुम्हें मेरे बच्चों को मेरी स्वास्थ्य स्थितियों के बारे में बताना चाहिए।"
यदि आप एक मानक कंप्यूटर प्रोग्राम होते, तो आप अटक सकते थे। यदि आप केवल पहले नियम का पालन करते, तो आप दूसरे और तीसरे दिन उसका विश्वास तोड़ देते। यदि आप केवल अंतिम नियम का पालन करते, तो शायद आपने पहले वाले को तोड़ दिया होता। शोध पत्र पूछता है: एक AI इस चलते-फिरते लक्ष्य के साथ तालमेल कैसे बिठाता है?
समाधान: "गार्ड रेल" और एक "डिफ़िज़िबल कैलकुलेटर"
लेखकों ने इस समस्या को हल करने के लिए SocialBot नामक एक AI बनाया। उन्होंने बॉट को केवल नियमों की सूची नहीं दी; उन्होंने उसे सोचने का एक विशेष तरीका दिया जिसे "डिफ़िज़िबल कैलकुलस" (defeasible calculus) कहा जाता है।
यहाँ बताया गया है कि सरल उपमाओं का उपयोग करके यह कैसे काम करता है:
1. "गार्ड रेल" की अवधारणा
कल्पना कीजिए कि AI एक कार चला रहा है। "योजना" वह मार्ग है जिस पर वह जाना चाहता है। "मानदंड" (नियम) सड़क के किनारे लगे गार्ड रेल हैं।
- AI को चलाने के लिए नियमों से प्रेरित होने की आवश्यकता नहीं है; उसे बस आगे बढ़ने से पहले गार्ड रेल की जाँच करने की आवश्यकता है।
- यदि गार्ड रेल कहती है "पार न करें," तो कार रुक जाती है।
- यदि गार्ड रेल कहती है "आप पार कर सकते हैं," तो कार चलती है।
- महत्वपूर्ण बात यह है कि यदि इंसान कहे, तो ये गार्ड रेल तुरंत हटाए या बदले जा सकते हैं।
2. "डिफ़िज़िबल कैलकुलेटर" (मस्तिष्क)
यह गणित वाला हिस्सा है जो नियमों को काम करने लायक बनाता है। "डिफ़िज़िबल" (Defeasible) एक भारी शब्द है जिसका अर्थ है "जिसे पलटा जा सके।"
इसे रोबोट के मस्तिष्क के अंदर एक कानूनी अदालत की तरह सोचें:
- डिफ़ॉल्ट धारणा: शोध पत्र कहता है कि संवेदनशील चीजों (जैसे मेडिकल रिकॉर्ड) के लिए, रोबोट को डिफ़ॉल्ट रूप से "नहीं" मानने की धारणा रखनी चाहिए। यह एक "निषेधात्मक क्लोजर" (Prohibitive Closure) की तरह है। यदि आपने स्पष्ट रूप से "हाँ" नहीं कहा है, तो सुरक्षित रहने के लिए रोबोट "नहीं" मान लेगा।
- साक्ष्य: जब एक इंसान कहता है, "तुम मेरे पति को बता सकते हो," तो यह नया साक्ष्य है।
- संघर्ष समाधान: क्या होगा यदि इंसान कहता है, "किसी को मत बताओ" (नियम A) और बाद में कहता है, "मेरे पति को बताओ" (नियम B)?
- रोबोट का "कैलकुलेटर" तारीखों को देखता है। नियम B नया है।
- यह दायरे की जाँच करता है। क्या नियम B, नियम A के समान क्षेत्र को कवर करता है? हाँ।
- फैसला: नियम B विशेष रूप से पति के लिए नियम A को "डिफ़ीट" करता है (यानी उसे ओवररूल करता है)। अब रोबند जानता है: "किसी को न बताएं सिवाय पति के।"
यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह प्रणाली यह सुनिश्चित करती है कि रोबोट कभी भी दो विरोधाभासी चीजों को एक ही समय में सत्य न मान ले (उदाहरण के लिए, यह साझा करना कि "अनुमत है" और "वर्जित है" दोनों नहीं सोचेगा)।
प्रयोग: एक्शन में SocialBot
शोधकर्ताओं ने SocialBot के साथ इसका परीक्षण किया, जो Microsoft Teams पर लोगों से बात करने वाला एक चैटबॉट है।
- सेटअप: उन्होंने 1,536 अलग-अलग परिदृश्यों वाली एक काल्पनिक दुनिया बनाई। इन परिदृश्यों में, उपयोगकर्ता कहेंगे जैसे "मुझे पिज्जा पसंद है," फिर "मेरी भोजन संबंधी प्राथमिकताओं के बारे में किसी को न बताएं," फिर "वास्तव में, तुम बॉब को पिज्जा के बारे में बता सकते हो।"
- परीक्षण: एक तीसरा व्यक्ति (जैसे "सुकरात") बॉट से पूछेगा, "प्लेटो को क्या पसंद है?"
- परिणाम: बॉट 100% सही रहा।
- यदि नियम था "मत बताओ," तो बॉट ने कहा, "मैं नहीं बता सकता।"
- यदि नियम अपडेट होकर "बॉब को बताओ" हो गया, तो बॉट ने बॉब को बता दिया।
- यदि नियम था "बॉब को बताओ, लेकिन सुकरात को नहीं," तो बॉट ने बॉब को बताया और सुकरात के सामने चुप रहा।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
आज के अधिकांश AI (जैसे बड़े चैटबॉट्स) बातचीत कर सकते हैं, लेकिन उन्हें नियम तोड़ने के लिए बहकाया या हेरफेर किया जा सकता है। उनके पास इस बात का ठोस, गणितीय आधार नहीं है कि कोई नियम क्यों मौजूद है या जब इंसान अपना मन बदलता है तो उसे कैसे अपडेट किया जाए।
यह शोध पत्र एक ऐसे AI के लिए एक ब्लूप्रिंट प्रदान करता है जो:
- इंसानों के नियमों को सुनता है।
- समझता है कि नियम अन्य नियमों के अपवाद हो सकते हैं।
- उन नियमों को "गार्ड रेल" के रूप में उपयोग करता है ताकि वह कुछ ऐसा करने से खुद को रोक सके जो उसे नहीं करना चाहिए, भले ही वह उसे करना चाहता हो।
यह क्या नहीं करता (सीमाएँ)
लेखक इस बारे में बहुत ईमानदार हैं कि उनका रोबोट अभी क्या नहीं कर सकता:
- यह एक बार में केवल एक व्यक्ति के नियमों को संभालता है। यह व्यक्ति A के नियमों की तुलना व्यक्ति B के नियमों से नहीं कर सकता (जैसे, "माँ कहती है बताओ, पिता कहते हैं मत बताओ")।
- इसका परीक्षण एक सिंथेटिक डेटासेट (काल्पनिक बातचीत) पर किया गया था, वास्तविक दुनिया के जटिल मानवीय ड्रामे पर नहीं।
- यह मान लेता है कि रोबोट पहले से ही बुनियादी तथ्यों (जैसे कौन किससे विवाहित है) को जानता है ताकि नियमों को समझा जा सके।
संक्षेप में, यह शोध पत्र एक AI को एक वफादार लेकिन लचीला सहायक बनना सिखाता है जो आपकी बदलती गोपनीयता इच्छाओं का सम्मान करता है, एक स्मार्ट गार्ड रेल की तरह काम करता है जो ठीक वहीं चलता है जहाँ आप उसे बताते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।