Consensus vs. Dissent: Dynamic LLM Modeling of Subjective Preferences in Group Recommenders
यह शोध पत्र प्रदर्शित करता है कि फाइन-ट्यून्ड लार्ज लैंग्वेज मॉडल्स (LLMs) समूह प्राथमिकता वितरणों के प्रति मानवीय संवेदनशीलता की प्रभावी ढंग से नकल कर सकते हैं ताकि गतिशील रूप से इष्टतम एकत्रीकरण रणनीतियों का चयन किया जा सके, जिससे समूह अनुशंसा प्रणालियों (group recommender systems) में संतुष्टि, निष्पक्षता और आम सहमति को अधिकतम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप और आपके चार दोस्त रात के खाने के लिए जगह तय करने की कोशिश कर रहे हैं। आप सभी की पसंद अलग-अलग है: एक व्यक्ति को तीखा खाना पसंद है, दूसरा इसे बिल्कुल नापसंद करता है, और तीसरे को बस सबसे सस्ता विकल्प चाहिए। कंप्यूटर विज्ञान की दुनिया में, इसे ग्रुप रिकमेंडर सिस्टम (GRS) कहा जाता है। लंबे समय से, कंप्यूटरों ने इसे कठोर गणितीय सूत्रों का उपयोग करके हल करने की कोशिश की है। कुछ सूत्र कहते हैं, "आइए सभी के वोटों का औसत निकाल लें।" अन्य कहते हैं, "आइए उस जगह को चुनें जो कम से कम दुखी व्यक्ति को खुश करती है।" ये सूत्र एक रोबोट शेफ की तरह हैं जो रेसिपी का पूरी तरह से पालन तो करता है लेकिन उसे यह पता नहीं होता कि मेज पर बैठे विशिष्ट समूह के लिए भोजन वास्तव में स्वादिष्ट है या नहीं।
समस्या यह है कि ये रोबट समूह के 'मूड' को "महसूस" नहीं कर सकते। वे यह नहीं बता सकते कि एक समूह काफी हद तक सहमति (consensus) में है या दो लड़ते हुए गुटों (coalition) में विभाजित है। इसे ठीक करने के लिए, शोधकर्ताओं—सेड्रिक वाटरशूट, नवा टिन्टेरेव और फ्रांसेस्को बारीले—ने कंप्यूटर को एक मानव न्यायाधीश की तरह कार्य करना सिखाने का निर्णय लिया।
रोबोट जज को मिला ब्रेन अपग्रेड
टीम ने एक "शिक्षक" रोबोट से शुरुआत की, जो एक विशाल AI है जिसे DeepSeek-V3.1 कहा जाता है, जो इतना स्मार्ट है कि विविध तर्क उत्पन्न कर सकता है। उन्होंने इस शिक्षक को पिछले अध्ययन से प्राप्त डेटा का एक बड़ा ढेर दिया, जहाँ 1,152 वास्तविक मनुष्यों ने समूह की सिफारिशों को उनकी निष्पक्षता, संतुष्टि और सहमति के आधार पर रेट किया था।
केवल स्कोर को याद करने के बजाय, शोधकर्ताओं ने शिक्षक से यह समझाने के लिए कहा कि उसने वे स्कोर क्यों दिए। यह एक शिक्षक से यह पूछने जैसा था कि किसी छात्र को 'A' ग्रेड क्यों मिला, बजाय इसके कि केवल कागज पर 'A' लिख दिया जाए। उन्होंने शिक्षक का उपयोग मौजूदा मानव स्कोर के आधार पर 5,318 सिंथेटिक रीजनिंग (कृत्रिम तर्क) के उदाहरण उत्पन्न करने के लिए किया। इससे एक विशेष प्रशिक्षण सेट बनाया गया जहाँ AI ने केवल मतों को ही नहीं, बल्कि मानव विचारों के पीछे के तर्क को भी सीखना शुरू किया।
फिर, उन्होंने दो छोटे, ओपन-सोर्स रोबोट्स (Llama-3.1 और OLMo-3) को इन निबंधों का उपयोग करके प्रशिक्षित किया। इन नए रोबोटों को Judgmental Llama और Judgmental Olmo नाम दिया गया, जिन्होंने मानव भावनाओं की नकल करना सीखा। इस प्रशिक्षण से पहले, ये रोबोट बहुत खराब जज थे; वे बहुत संकीमित, उबाऊ उत्तर देते थे जो वास्तविक मानव विचारों से मेल नहीं खाते थे। प्रशिक्षण के बाद, वे यह अनुमान लगाने में बहुत बेहतर हो गए कि एक समूह कैसा महसूस करेगा, और वे मानव विचारों के फैलाव से लगभग पूरी तरह मेल खाते थे।
बड़ा टेस्ट: क्या रोबोट सबसे अच्छी रणनीति चुन सकता है?
शोधकर्ताओं ने एक ऐसा सिस्टम बनाया जहाँ, प्रत्येक दोस्तों के समूह के लिए, कंप्यूटर केवल एक रेसिपी नहीं चुनता था। इसके बजाय, इसने छह अलग-अलग गणितीय सूत्रों (जैसे "औसत", "न्यूनतम कष्ट", और "बहुमत वोट") को चलाकर छह अलग-अलग डिनर सुझाव उत्पन्न किए।
फिर, Judgmental Olmo रोबट (जो सबसे अच्छा छात्र साबित हुआ) हस्तक्षेप करता है। वह सभी छह सुझावों को देखता है और खुद से पूछता है: "यदि मैं इस विशिष्ट समूह में एक मानव होता, तो मुझे कौन सा सुझाव सबसे निष्पक्ष और संतोषजनक लगता?" वह मानव जैसी भावनाओं के आधार पर विजेता चुनता है।
यह देखने के लिए कि क्या यह वास्तव में काम करता है, टीम ने 284 मानव प्रतिभागियों के साथ एक वास्तविक प्रयोग किया। उन्होंने इन लोगों को समूह परिदृश्य दिखाए (जैसे पांच दोस्तों का एक समूह जिनकी पसंद अलग-अलग है) और उनसे सिफारिशों को रेट करने के लिए कहा।
परिणाम: रोबोट जज जीतता है (कभी-कभी)
परिणाम रोमांचक लेकिन विशिष्ट थे। वह सिस्टम जिसने Judgmental Olmo का उपयोग करके गतिशील रूप से सबसे अच्छी रणनीति चुनी, उसने कथित निष्पक्षता (perceived fairness) और समूह सहमति (group consensus) के लिए उच्चतम स्कोर प्राप्त किया। इसने संतुष्टि (satisfaction) के लिए भी दूसरा उच्चतम स्कोर प्राप्त किया, जो एक विशिष्ट गणितीय सूत्र "फेयरनेस" (FAI) से ठीक पीछे था।
हालाँकि, पेपर स्पष्ट रूप से यह बताता है कि रोबोट कोई जादुई छड़ी नहीं है जो हर बार एक ही तरह से काम करती है। रोबोट की सफलता काफी हद तक समूह के प्रकार पर निर्भर थी।
- उन समूहों के लिए जो समान थे (uniform): रोबोट को पता था कि ऐसी रणनीतियाँ चुननी हैं जो सभी को खुश करें।
- विभाजित (coalitional) या अल्पसंख्यक वाले समूहों के लिए: रोबोट ने महसूस किया कि सामान्य "औसत" गणितीय सूत्र अक्सर विफल हो जाते हैं। उसने गियर बदला और अलग रणनीतियाँ चुनीं जो संघर्ष को बेहतर ढंग से संभालती थीं।
डेटा ने समूह के प्रकार और उपयोग की गई रणनीति के बीच एक सांख्यिकीय रूप से महत्वपूर्ण संबंध (statistically significant interaction) दिखाया। दूसरे शब्दों में, रोबोट की अनुकूलन करने की क्षमता ही उसे पुराने, स्थिर तरीकों से बेहतर बनाती थी। उदाहरण के लिए, "कोएलिशनल" समूहों (जहाँ दो उप-समूह असहमत हैं) में, रोबोट का चुनाव "मेजोरिटी वोट" या "अप्रूवल वोटिंग" रणनीतियों की तुलना में काफी अधिक निष्पक्ष माना गया।
रोबोट अभी क्या नहीं कर सकता (अभी तक)
पेपर सावधानी से उन बातों को रेखांकित करता है जो यह सिस्टम अभी नहीं है।
- यह हर समस्या के लिए एक बड़ी सफलता नहीं है: शोधकर्ता स्पष्ट रूप से कहते हैं कि उनका सिस्टम वर्तमान में विशिष्ट परिदृश्यों (जैसे रेस्तरां चुनना) तक सीमित है और पिछले अध्ययनों के डेटा पर निर्भर है। वे यह दावा नहीं करते कि यह अभी दुनिया की किसी भी समूह सिफारिश समस्या के लिए काम करता है।
- यह तत्काल नहीं है: क्योंकि रोबोट को सुनिश्चित करने के लिए कई "विचार प्रयोग" (प्रत्येक सिफारिश के लिए पाँच मूल्यांकन उत्पन्न करना) चलाने होते हैं, इसलिए इसमें समय लगता है। एक रियल-टाइम ऐप में, इसका मतलब मिनटों का विलंब हो सकता है, जो भूखे दोस्तों के समूह के लिए बहुत धीमा है।
- यह पूर्ण नहीं है: मूल रोबोट (प्रशिक्षण से पहले) पक्षपाती और संकीर्ण थे। प्रशिक्षण ने मदद की, लेकिन शोधकर्ता स्वीकार करते हैं कि प्रशिक्षण डेटा उत्पन्न करने के लिए एक "शिक्षक" मॉडल पर निर्भर रहना एक निर्भरता पैदा कर सकता है। वे सुझाव देते हैं कि भविष्य के कार्य में वास्तविक मानव तर्क पर प्रशिक्षण की आवश्यकता है, न कि केवल AI-सिम्युलेटेड तर्क पर।
निचोड़
यह पेपर सुझाव देता है कि हम बेहतर ग्रुप रिकमेंडर सिस्टम बना सकते हैं यदि हम AI को केवल नंबरों की गणना करने के बजाय मानव भावनाओं की बारीकियों (nuance) को समझने के लिए प्रशिक्षित करें। एक प्रशिक्षित AI जज को यह चुनने देकर कि विशिष्ट समूह के लिए सबसे अच्छा गणितीय सूत्र कौन सा है, हमें ऐसे सुझाव मिलते हैं जो अधिक निष्पक्ष और सहमतिपूर्ण महसूस होते हैं।
लेकिन, लेखक हमें अभी बहुत उत्साहित होने के लिए चेतावनी देते हैं। यह सिस्टम अभी एक सिमुलेशन और एक प्रोटोटाइप है। इसे (छोटे, "नन्हे" रोबोटों का उपयोग करके) तेज़ होने की आवश्यकता है और हमें इसे और अधिक प्रकार के समूहों पर परीक्षण करने की आवश्यकता है, इससे पहले कि हम इस पर भरोसा कर सकें कि यह हमारे बिना हमारा डिनर चुन ले। फिलहाल, यह एक बहुत ही आशाजनक कदम है—ऐसे कंप्यूटरों की ओर जो समझते हैं कि कभी-कभी, सबसे अच्छा गणितीय उत्तर वह नहीं होता जो सबसे अधिक लोगों को खुश करता है, बल्कि वह होता है जो सही लोगों को खुश करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।