Harnessing the Wisdom of LLM Crowds through Complementarity-Driven Iterative Collaboration
यह शोध पत्र WILC को प्रस्तुत करता है, जो एक नवीन ढांचा है जो कई बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) को गतिशील रूप से समन्वित करने के लिए अनुक्रमिक पूरकता (सीक्वेंशियल कॉम्प्लीमेंटैरिटी) और एक दोहरे-द्वार चयन तंत्र (डुअल-गेट सिलेक्शन मैकेनिज्म) का लाभ उठाता है, जिससे स्थिर एन्सेम्बल विधियों की सीमाओं को पार करते हुए काफी कम लागत पर GPT-5.2 के तुलनीय प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली सुलझाने की कोशिश कर रहे हैं, जैसे कि एक जटिल लेगो (Lego) किला बनाना या किसी गुप्त कोड को तोड़ना। आपके पास मदद करने के लिए अलग-अलग तरह के दोस्तों का एक पूरा डिब्बा है। कुछ निर्देश मानने में माहिर हैं लेकिन गणित में कमजोर हैं। अन्य गणित के जीनियस हैं लेकिन वे एक रेसिपी तक नहीं बना सकते। यदि आप केवल एक ही दोस्त को यह पूरा काम करने के लिए कहते हैं, तो वे बीच में ही फंस सकते हैं। लेकिन क्या होगा अगर आप काम को आगे बढ़ा सकें? आप निर्देश मानने वाले से शुरुआत करने के लिए कह सकते हैं, फिर आधा बना हुआ किला संरचनात्मक त्रुटि (structural error) को ठीक करने के लिए गणित के उस्ताद को सौंप सकते हैं, और फिर इसे शानदार विवरण जोड़ने के लिए एक रचनात्मक मित्र को दे सकते हैं। अलग-अलग शक्तियों को मिलाने का यह विचार, जिससे अकेले किसी भी व्यक्ति की तुलना में बेहतर परिणाम प्राप्त किया जा सके, "भीड़ की बुद्धिमत्ता" (wisdom of crowds) कहलाता है। लंबे समय तक वैज्ञानिकों ने सोचा कि यह केवल लोगों के समूहों के साथ काम करता है। लेकिन अब, हमारे पास आर्टिफिशियल इंटेलिजेंस (AI) मॉडल हैं जो बात कर सकते हैं, लिख सकते हैं और कोड कर सकते हैं। बड़ा सवाल यह है: क्या हम विभिन्न AI मॉडलों के एक समूह के साथ एक टीम के दोस्तों की तरह व्यवहार कर सकते हैं, और समस्या को तब तक आगे बढ़ाते रह सकते हैं जब तक कि वह पूरी तरह से हल न हो जाए, बजाय इसके कि केवल एक ही AI से सब कुछ करने के लिए कहें?
यह शोध पत्र AI मॉडलों की एक टीम को व्यवस्थित करने का एक नया तरीका पेश करता है, जिसे WILC (Wisdom Integration of LLM Crowds) कहा जाता है। एक ही AI को पूरा काम करने के लिए चुनने या तीन अलग-अलग AI को उत्तर लिखने और फिर सबसे अच्छे उत्तर पर वोट करने के बजाय, WILC समस्या समाधान को एक रिले रेस (relay race) की तरह मानता है। कल्पना कीजिए कि एक बैटन (baton) को ट्रैक पर आगे बढ़ाया जा रहा है। पहला धावक (AI मॉडल) दौड़ शुरू करता है लेकिन शायद किसी विशिष्ट बाधा से टकराकर लड़खड़ा जाता है। WILC उसे केवल गिरने नहीं देता; यह ठीक से पहचान लेता है कि वह कहाँ लड़खड़ाया, बैटन को दूसरे धावक को सौंप देता है जो उस विशिष्ट बाधा को पार करने में विशेषज्ञ है, और दौड़ जारी रखता है। सिस्टम लगातार जाँच करता है: "क्या नए धावक ने वास्तव में समस्या को ठीक किया, या उसने इसे और बिगाड़ दिया?" यदि उन्होंने इसे ठीक किया, तो दौड़ जारी रहती है। यदि नहीं, तो सिस्टम रुक जाता है और अब तक मिला सबसे अच्छा उत्तर सुरक्षित रखता है।
शोधकर्ताओं ने इस विचार का परीक्षण ओपन-सोर्स AI मॉडलों (कुछ लगभग 14 बिलियन "मस्तिष्क कोशिकाओं" वाले और अन्य 30 बिलियन वाले) के समूहों के साथ चार अलग-अलग प्रकार के कठिन कार्यों पर किया: कंप्यूटर कोड लिखना, गणित की समस्याओं को हल करना, सामान्य ज्ञान के प्रश्नों के उत्तर देना और डेटा चार्ट बनाना। उन्होंने पाया कि WILC एक एकल AI, यहाँ तक कि एक बहुत ही स्मार्ट AI, या पुराने तरीकों (जो केवल उत्तरों को मिलाते थे) की तुलना में इन समस्याओं को हल करने में बहुत बेहतर था। वास्तव में, उनके मध्यम आकार के AI मॉडलों की टीम ने सबसे उन्नत, महंगे AI मॉडलों के लगभग बराबर प्रदर्शन किया, लेकिन इसकी लागत लगभग 7 गुना कम थी।
यह शोध पत्र सुझाव देता है कि असली सफलता का मंत्र केवल कई मॉडल होना नहीं है, बल्कि यह जानना है कि कब उन्हें बदलना है। सिस्टम ने विशिष्ट "बाधाओं" (bottlenecks) को पहचानना सीख लिया—जैसे कि कोड में सिंटैक्स त्रुटि या गणितीय प्रमाण में तर्क की कमी—और फिर उस सटीक त्रुटि को ठीक करने के लिए सबसे उपयुक्त मॉडल को चुना। यह केवल समग्र रूप से "सबसे स्मार्ट" मॉडल चुनने से अलग है। अध्ययन से पता चलता है कि काम को इस स्मार्ट, चरण-दर-चरण तरीके से आगे बढ़ाकर, मॉडलों का समूह उन समस्याओं को हल कर सकता था जिन्हें कोई भी अकेला सदस्य अकेले नहीं संभाल सकता था। हालाँकि, लेखकों ने उल्लेख किया है कि यह तब सबसे अच्छा काम करता है जब मॉडलों की ताकत अलग-अलग हो; यदि सभी मॉडल बिल्कुल एक जैसे होते, तो यह रिले रणनीति अधिक मदद नहीं करती। परिणाम बताते हैं कि उन व्यवसायों या शोधकर्ताओं के लिए जो सबसे महंगे मॉडलों पर एक संपत्ति खर्च किए बिना AI का उपयोग करना चाहते हैं, छोटे, विभिन्न मॉडलों की एक टीम को रिले के रूप में मिलकर काम करने के लिए व्यवस्थित करना एक शक्तिशाली और लागत प्रभावी रणनीति है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।