Cocktail-Talker: Multi-Speaker Dialog Modeling in Noisy Social Environments with Turn Action GRPO
यह शोध पत्र 'कॉक्टेल-टॉकर' (Cocktail-Talker) प्रस्तुत करता है, जो एक स्पीच एलएलएम (speech LLM) फ्रेमवर्क है जिसे सुपरवाइज्ड फाइनट्यूनिंग और रीइन्फोर्समेंट लर्निंग के माध्यम से प्रशिक्षित किया गया है ताकि सहायकों को शोर-शराबे वाले, बहु-वक्ता सामाजिक परिवेश में यह चुनिंदा रूप से निर्णय लेने में सक्षम बनाया जा सके कि उन्हें बोलना है या मौन रहना है, जिसे 'कॉक्टेल-डायलॉगजेन' (Cocktail-DialogGen) नामक एक सिंथेटिक डेटा पाइपलाइन द्वारा समर्थित किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक चहल-पहल भरी पार्टी में हैं। संगीत गूँज रहा है, लोग हंस रहे हैं, और एक साथ तीन अलग-अलग बातचीत चल रही है। इस अराजक मिश्रण में, आपका मस्तिष्क कुछ जादुई करता है: यह तुरंत तय कर लेता है कि कौन आपसे बात कर रहा है, कौन अपने दोस्त से बात कर रहा है, और क्या केवल बैकग्राउंड शोर है। आप किसी सवाल का जवाब दे सकते हैं, किसी की कहानी में सिर हिलाकर सहमति जता सकते हैं, या दूर बज रहे गाने को अनसुना कर सकते हैं। दुनिया को फिल्टर करने और यह चुनने की यह क्षमता कि कब बोलना है, इंसानों के लिए स्वाभाविक है, लेकिन कंप्यूटरों के लिए यह एक दुःस्वप्न है।
आज के अधिकांश कंप्यूटर वॉयस असिस्टेंट उन शर्मीले मेहमानों की तरह हैं जो केवल तभी बोलते हैं जब कोई शांत कमरे में उनका नाम फुसफुसाता है। उन्हें आमने-सामने की बातचीत के लिए डिज़ाइन किया गया है जहाँ उपयोगकर्ता बोलता है और रोबोट जवाब देता है। लेकिन वास्तविक जीवन कोई शांत कमरा नहीं है; यह एक शोर-शराबे वाली कॉकटेल पार्टी है। यदि कोई कंप्यूटर भीड़भाड़ वाली जगह पर बात करने की कोशिश करता है, तो वह अक्सर भ्रमित हो जाता है, उन लोगों पर चिल्लाने लगता है जो उससे बात नहीं कर रहे हैं, या चुप रहता है जब उसे बोलना चाहिए था। वैज्ञानिक लंबे समय से जानते हैं कि मशीनों को इस "कॉकटेल पार्टी समस्या" (cocktail party problem) को संभालने के लिए सिखाना—कि कौन बोल रहा है, कौन सुन रहा है, और इसके बारे में क्या करना है—AI को वास्तव में मानवीय महसूस कराने की दिशा में सबसे बड़ी बाधाओं में से एक है।
यहाँ Cocktail-Talker आता है, जो कोलंबिया यूनिवर्सिटी के शोधकर्ताओं और उनके सहयोगियों द्वारा एक नया प्रोजेक्ट है, जो एक AI असिस्टेंट को इस सामाजिक अराजकता में नेविगेट करना सिखाने की कोशिश करता है। केवल कमांड का इंतजार करने के बजाय, यह AI एक समझदार पार्टी गेस्ट की तरह कार्य करना सीखता है। यह "एक्शन टोकन" (action tokens) के एक विशेष सेट का उपयोग करता है—इन्हें गुप्त हाथों के संकेतों की तरह समझें—यह तय करने के लिए कि उसका अगला कदम क्या होगा: <|respond|> (बोलें), <|listen|> (शांत रहें लेकिन ध्यान दें), या <|ignore|> (पूरी तरह से अनसुना कर दें)।
AI को ये कौशल सिखाने के लिए, शोधकर्ता केवल वास्तविक पार्टियों को रिकॉर्ड नहीं कर सके, क्योंकि एक अव्यवस्थित रिकॉर्डिंग में यह जानना कठिन है कि वास्तव में कौन किससे बात कर रहा है। इसलिए, उन्होंने Cocktail-DialogGen नामक एक डिजिटल प्लेग्राउंड बनाया। यह एक सिमुलेशन पाइपलाइन है जो हजारों नकली बातचीत बनाने के लिए अन्य AI मॉडल का उपयोग करती है, जैसे कि एक सबवे स्टेशन, एक लिविंग रूम, या एक पार्क। उन्होंने इन नकली बातचीत को विशिष्ट नियमों के साथ प्रोग्राम किया: कभी कोई पात्र AI से सवाल पूछता है, कभी वे एक-दूसरे से बात करते हैं, और कभी बैकग्राउंड में केवल तेज़ संगीत होता है। उन्होंने इसमें अलग-अलग स्तर का शोर भी जोड़ा, एकदम स्पष्ट से लेकर बहुत तेज़ शोर तक, ताकि यह सुनिश्चित हो सके कि AI सबसे खराब स्थितियों को संभालने के लिए सीख जाए।
AI, जिसे Qwen2.5-Omni नामक एक शक्तिशाली स्पीच मॉडल पर बनाया गया है, उसे दो मुख्य तरीकों से प्रशिक्षित किया गया था। पहले, इसने बुनियादी बातें सीखने के लिए इन सिम्युलेटेड बातचीत का अध्ययन किया (Supervised Finetuning)। फिर, इसने GRPO (Group Relative Policy Optimization) नामक एक 'ट्रायल एंड एरर' (गलती और सुधार) के खेल में भाग लिया। इस खेल में, AI को एक परिदृश्य दिया जाता था और उसे कई संभावित प्रतिक्रियाएं उत्पन्न करने के लिए कहा जाता था। इसे सही क्रिया चुनने (जैसे बैकग्राउंड म्यूजिक को अनदेखा करना) के लिए पुरस्कृत किया जाता था और गलत क्रियाओं (जैसे उस व्यक्ति पर चिल्लाना जो उससे बात नहीं कर रहा था) के लिए दंडित किया जाता था।
परिणाम प्रभावशाली थे। अपने सिमुलेशन में, प्रशिक्षित AI यह समझने में बहुत बेहतर हो गया कि कब बोलना है और कब चुप रहना है। जहाँ पुराने मॉडल अक्सर यह अंतर करने में विफल रहते थे कि कोई सवाल उनके लिए है या दो अन्य लोगों के बीच की बातचीत है, वहीं Cocktail-Talker ने अंतर पहचानना सीख लिया। इसने सफलतापूर्वक पहचाना कि कब जवाब देना है, कब सुनना है, और कब अनदेखा करना है, यहाँ तक कि चार लोगों के एक साथ बोलने वाले शोर भरे वातावरण में भी। पेपर सुझाव देता है कि यह दृष्टिकोण AI को अच्छी तरह से सामान्य (generalize) करने में मदद करता है, जिसका अर्थ है कि इसने उन वातावरणों में भी लगभग उतना ही अच्छा प्रदर्शन किया जिनमें इसका अभ्यास किया गया था (जैसे कि फेरी या चिड़ियाघर में)।
हालाँकि, शोधकर्ता सावधानी से यह नोट करते हैं कि यह एक कदम आगे की ओर है, अंतिम मंजिल नहीं। वर्तमान में यह सिस्टम वास्तविक समय की स्ट्रीमिंग बातचीत के बजाय ऑडियो के पूर्व-रिकॉर्डेड टुकड़ों के साथ काम करता है, और यह दृश्य संकेतों (जैसे कि कौन किसकी ओर देख रहा है) का उपयोग किए बिना केवल ध्वनि पर निर्भर करता है। लेकिन AI को शोर भरी दुनिया में सही सामाजिक विकल्प बनाना सिखाकर, Cocktail-Talker एक महत्वपूर्ण छलांग लगाता है ताकि ऐसे असिस्टेंट बनाए जा सकें जो अंततः हमारे साथ वास्तविक, अस्त-व्यस्त और अद्भुत शोर के बीच शामिल हो सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।