Generating Place-Based Compromises Between Two Points of View
यह शोध पत्र साझा स्थानों पर विरोधी दृष्टिकोणों के बीच सहानुभूतिपूर्ण रूप से तटस्थ समझौतों को उत्पन्न करने के लिए एक विधि प्रस्तुत करता है, जो मानक तर्क प्रक्रिया से बेहतर प्रदर्शन करने के लिए बाहरी सहानुभूतिपूर्ण समानता का पुनरावृत्ति फीडबैक के रूप में उपयोग करता है, और तत्पश्चात मानव प्राथमिकता संरेखण के माध्यम से कुशल छोटे मॉडलों को प्रशिक्षित करने के लिए प्राप्त डेटासेट का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि दो पड़ोसी अपने साझा आँगन के उपयोग को लेकर बहस कर रहे हैं। एक व्यक्ति पढ़ने के लिए एक शांत बगीचा चाहता है; दूसरा व्यक्ति अपने बच्चों के लिए एक शोर-शराबे वाला खेल का मैदान चाहता है। एक "समझौता" (compromise) केवल बीच का रास्ता निकालना नहीं है (जैसे एक शांत खेल का मैदान?); बल्कि एक ऐसा समाधान खोजना है जहाँ दोनों पड़ोसी खुद को सुना हुआ महसूस करें और उन्हें लगे कि उन्हें कुछ अच्छा मिला है, न कि केवल कुछ खोया है।
यह शोध पत्र इस बात की पड़ताल करता है कि क्या आर्टिफिशियल इंटेलिजेंस (AI) इन "win-win" (जीत-जीत) समाधानों को खोजने के लिए एक कुशल मध्यस्थ के रूप में कार्य कर सकता है, विशेष रूप से पार्कों या सड़कों जैसे सार्वजनिक स्थानों के बारे में होने वाले विवादों के लिए।
यहाँ उनके शोध की कहानी है, जिसे सरल चरणों में विभाजित किया गया है:
1. समस्या: AI स्मार्ट है, लेकिन "स्ट्रीट-स्मार्ट" नहीं है
शोधकर्ताओं ने पाया कि जबकि AI (विशेष रूप से लार्ज लैंग्वेज मॉडल्स) गणित और निबंध लिखने में जीनियस है, लेकिन यह अक्सर सामाजिक बुद्धिमत्ता (social intelligence) में संघर्ष करता है। यह एक ऐसे प्रतिभाशाली प्रोफेसर की तरह है जिसने कभी पारिवारिक रात्रिभोज के लिए बातचीत (negotiate) नहीं की है। जब विवाद को सुलझाने के लिए कहा जाता है, तो AI अक्सर एक पक्ष चुन लेता है, एक व्यक्ति की भावनाओं को अनदेखा कर देता है, या एक सामान्य उत्तर दे देता है जो किसी को भी संतुष्ट नहीं करता।
2. प्रयोग: AI को दोनों पक्षों को "महसूस" करना सिखाना
टीम चाहती थी कि AI सहानुभूतिपूर्ण रूप से तटस्थ (empathically neutral) समझौते तैयार करना सीखे। इसका मतलब है कि AI को न तो उस व्यक्ति का पक्ष लेना चाहिए जो सुरक्षित महसूस करता है, और न ही उस व्यक्ति का जो असुरक्षित महसूस करता है, और न ही उस व्यक्ति का जो स्वागत योग्य महसूस करता है, और न ही उस व्यक्ति का जो बहिष्कृत महसूस करता है।
उन्होंने AI को यह करने के लिए चार अलग-अलग तरीकों से "प्रॉम्प्ट" (पूछने) का परीक्षण किया:
- "बस कर दो" वाला दृष्टिकोण (The "Just Do It" Approach): केवल AI से समझौता करने के लिए कहना। (परिणाम: AI आमतौर पर एक पक्ष को अनदेखा कर देता था)।
- "कदम-दर-कदम सोचें" वाला दृष्टिकोण (The "Think Step-by-Step" Approach): AI से पहले दोनों पक्षों के सुझावों को सूचीबद्ध करने और समानताएं खोजने के लिए कहना। (परिणाम: बेहतर था, लेकिन फिर भी थोड़ा एकतरफा था)।
- "स्व-जांच" वाला दृष्टिकोण (The "Self-Check" Approach): AI को अपने काम को ग्रेड देने के लिए कहना। (परिणाम: AI को लगा कि उसने अच्छा काम किया, लेकिन इंसान इससे सहमत नहीं थे)।
- "मिरर एंड फीडबैक" वाला दृष्टिकोण (The "Mirror & Feedback" Approach - विजेता): यही असली सफलता का मंत्र था।
- AI ने एक समझौता तैयार किया।
- एक विशेष "एम्पैथी मीटर" (एक अलग AI टूल) ने यह मापा कि समझौता कितना ऐसा महसूस हुआ जैसे वह व्यक्ति A को समझ रहा है, और कितना ऐसा महसूस हुआ जैसे वह व्यक्ति B को समझ रहा है।
- यदि मीटर ने दिखाया कि AI एक तरफ बहुत अधिक झुक रहा है, तो उसे वापस ड्राइंग बोर्ड पर भेज दिया गया और एक नोट दिया गया: "आपने व्यक्ति A को बहुत अधिक समझा; व्यक्ति B को अधिक समझने की कोशिश करें।"
- AI ने तब तक दोबारा प्रयास किया जब तक कि "एम्पैथी स्कोर" पूरी तरह से संतुलित नहीं हो गए।
उपमा (Analogy): कल्पना कीजिए कि एक शेफ एक ऐसा व्यंजन बनाने की कोशिश कर रहा है जिसका स्वाद तीखा पसंद करने वाले व्यक्ति और तीखा नापसंद करने वाले व्यक्ति, दोनों के लिए समान रूप से अच्छा हो।
- "सेल्फ-चेक" शेफ भोजन चखता है और कहता है, "यह एकदम सही है!" (लेकिन वह पक्षपाती है)।
- "मिरर एंड फीडबैक" शेफ व्यंजन को दो चखने वालों के पास भेजता है। एक कहता है, "बहुत तीखा है!" और दूसरा कहता है, "बहुत फीका है!" शेफ रेसिपी को एडजस्ट करता है, उसे वापस भेजता है, और तब तक दोहराता है जब तक कि दोनों चखने वाले यह न कह दें, "यह बिल्कुल सही है।"
3. मानव परीक्षण: क्या यह वास्तव में काम करता है?
यह साबित करने के लिए कि यह काम करता है, उन्होंने 50 वास्तविक लोगों को पड़ोसी की भूमिका निभाने के लिए काम पर रखा। उन्होंने उन्हें विवाद दिखाए और AI द्वारा सुझाए गए समझौते दिखाए।
- परिणाम: लोग भारी संख्या में "मिरर एंड फीडबैक" पद्धति द्वारा उत्पन्न समझौतों को पसंद करते थे। उन्हें लगा कि ये समाधान अन्य तरीकों द्वारा उत्पन्न समाधानों की तुलना में अधिक निष्पक्ष और स्वीकार्य थे।
4. बड़ी छलांग: छोटे AI मॉडल्स को सिखाना
"मिरर एंड फीडबैक" विधि बहुत अच्छा काम करती है, लेकिन यह धीमी और महंगी है क्योंकि इसमें हर बार ग्रेडिंग करने के लिए एक बहुत बड़े, शक्तिशाली AI (जैसे Claude 3 Opus) की आवश्यकता होती है। शोधकर्ता यह जानना चाहते थे: क्या हम एक छोटे, सस्ते, ओपन-सोर्स AI को बिना हर बार बड़े AI की मदद के, अपने आप यह करने के लिए सिखा सकते हैं?
उन्होंने अलाइनमेंट (Alignment) नामक तकनीक का उपयोग किया।
- उपमा: एक छात्र को टेक्स्टबुक दिखाने और यह कहने के बजाय कि "इसे याद करो", उन्होंने छात्र को एक "अच्छा उत्तर" और एक "बुरा उत्तर" दिखाया और पूछा, "कौन सा बेहतर है?"
- छोटे AI को एक अच्छे, संतुलित समझौते और एक बुरे, असंतुलित समझौते के बीच अंतर करने के लिए प्रशिक्षित करके, छोटे AI ने सीखा कि एक निष्पक्ष समझौते का "एहसास" कैसा होता है।
- परिणाम: छोटे AI (जैसे Llama या Mistral) ने उच्च गुणवत्ता वाले, तटस्थ समझौते उत्पन्न करना सीख लिया जो महंगे, बड़े AI के लगभग बराबर थे, लेकिन बिना हर बार बैकग्राउंड में महंगे "एम्पैथी मीटर" को चलाए।
निष्कर्ष का सारांश
- तटस्थ होने के लिए AI को मदद की जरूरत है: AI से केवल समझौता करने के लिए कहना पर्याप्त नहीं है; इसे यह जांचने के लिए एक प्रणाली की आवश्यकता है कि क्या वह दोनों पक्षों के प्रति निष्पक्ष है।
- फीडबैक लूप काम करते हैं: एक बाहरी टूल का उपयोग करके "एम्पैथी बैलेंस" को मापना और उस फीडबैक को AI को वापस देना, केवल अधिक गहराई से सोचने के लिए कहने की तुलना में बहुत बेहतर परिणाम देता है।
- छोटे मॉडल सीख सकते हैं: एक बार जब एक छोटे AI को इन "अच्छे बनाम बुरे" उदाहरणों पर प्रशिक्षित किया जाता है, तो वह अपने आप निष्पक्ष समझौते उत्पन्न कर सकता है, जिससे यह तकनीक तेज़ और अधिक सुलभ हो जाती है।
यह शोध पत्र क्या दावा नहीं करता है:
- यह दावा नहीं करता कि इस AI को वास्तविक अदालतों या थेरेपी सत्रों में मानव मध्यस्थों की जगह लेनी चाहिए।
- यह दावा नहीं करता कि यह सभी प्रकार के विवादों (जैसे राजनीतिक या नैतिक बहस) के लिए काम करता है; यह अध्ययन विशेष रूप से स्थानों (सार्वजनिक स्थानों में सुरक्षा और स्वागत योग्य होने) के बारे में होने वाले मतभेदों तक सीमित था।
- यह दावा नहीं करता कि AI "चेतन" है या वास्तव में सहानुभूति महसूस करता है; यह केवल गणितीय रूप से सहानुभूति के संतुलन का अनुकरण करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।