FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients
यह शोध पत्र फ्लोबॉट (FlowBot) को प्रस्तुत करता है, जो एक डेटा-संचालित ढांचा है जो प्रक्रिया को मॉड्यूलर टेक्स्टुअल ग्रेडिएंट्स के माध्यम से हल किए जाने वाले बाइलेवल ऑप्टिमाइज़ेशन समस्या के रूप में स्वरूपित करके एलएलएम (LLM) वर्कफ़्लो को स्वचालित रूप से प्रेरित और अनुकूलित करता है, जिससे मानव-निर्मित बेसलाइन के प्रतिस्पर्धी प्रदर्शन को प्राप्त किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रोबोटों की एक टीम को एक बहुत ही कठिन पहेली हल करने के लिए सिखाने की कोशिश कर रहे हैं। अतीत में, मनुष्यों को हर एक रोबोट के लिए मैन्युअल रूप से एक सख्त निर्देश पुस्तिका लिखनी पड़ती थी, जिसमें यह तय करना होता था कि उन्हें किस क्रम में काम करना चाहिए और वे एक-दूसरे से कहने के लिए सटीक शब्दों का उपयोग कैसे करेंगे। यह धीमा, महंगा और स्केल करने में कठिन है।
यह पेपर FLOWBOT पेश करता है, जो एक नई विधि है जो रोबोटों को बिना किसी मानव द्वारा पहले से मैनुअल लिखे, खुद को व्यवस्थित करने और एक-दूसरे से बात करने का तरीका सिखाती है।
यह कैसे काम करता है, इसे एक सरल उपमा (analogy) का उपयोग करके यहाँ समझाया गया है:
दो-स्तरीय कोचिंग प्रणाली (The Two-Level Coaching System)
FLOWBOT को एक कोचिंग प्रणाली के रूप में सोचें जिसमें दो स्तर हैं: एक मुख्य कोच (Head Coach) और एक पोजीशन कोच (Position Coach)।
1. मुख्य कोच (बाहरी लूप - The Outer Loop): "गेम प्लान को ठीक करना"
मुख्य कोच बड़े चित्र (big picture) को देखता है। वह इस बात की चिंता नहीं करता कि एक खिलाड़ी क्या शब्द बोल रहा है; वह खेल की संरचना (structure) की चिंता करता है।
- समस्या: शायद टीम एक गणित की समस्या को हल करने के लिए पहले एक चित्र बनाने की कोशिश कर रही है, जो कि गलत क्रम है। या शायद वे एक पूरा चरण भूल रहे हैं, जैसे कि "स्कोर चेक करना।"
- समाधान: मुख्य कोच देखता है कि टीम कहाँ विफल हुई और कहता है, "ठीक है, हमें चित्र बनाने की कोशिश करने से पहले स्कोर चेक करने के लिए एक चरण जोड़ने की आवश्यकता है," या "चित्र बनाने वाले चरण को पूरी तरह से हटा दें।"
- पेपर में: यह Outer Loop है। यह "वर्कफ़्लो स्केच" (workflow sketch) को अनुकूलित (optimize) करता है। यह तय करता है कि कितने चरण होंगे, वे किस क्रम में होंगे, और टूल्स (जैसे सर्च इंजन) को जोड़ना या हटाना है या नहीं।
2. पोजीशन कोच (आंतरिक लूप - The Inner Loop): "प्लेबुक को परिष्कृत करना"
एक बार जब मुख्य कोच गेम प्लान सेट कर देता है, तो पोजीशन कोच व्यक्तिगत खिलाड़ियों (विशिष्ट LLM कॉल्स) के साथ मिलकर उनके विशिष्ट निर्देशों को बेहतर बनाने का काम करता है।
- समस्या: खिलाड़ी को पता है कि क्या करना है (जैसे, "तथ्यों की खोज करें"), लेकिन वह इसे खराब तरीके से कर रहा है। शायद वह भ्रमित हो रहा है (hallucinating/मनगढ़ंत बातें बना रहा है) या कोई महत्वपूर्ण विवरण छोड़ रहा है।
- समाधान: केवल "बेहतर करो" कहने के बजाय, पोजीशन कोच एक विशेष तकनीक का उपयोग करता है जिसे टेक्स्टुअल ग्रेडिएंट्स (Textual Gradients) कहा जाता है।
- कल्पना करें कि अंतिम उत्तर गलत है। पोजीशन कोच एक AI जज से पूछता है: "यह क्यों हुआ?"
- जज एक टेक्स्ट कमेंट देता है: "आपने गलती की क्योंकि आपने अपने स्रोत की जांच नहीं की।"
- यह कमेंट पिछले खिलाड़ी को पीछे की ओर (backwards) भेजा जाता है, जो कहता है, "ओह, मुझे यह सुनिश्चित करने की आवश्यकता है कि मेरा स्रोत अगले व्यक्ति के लिए स्पष्ट हो।"
- यह प्रक्रिया पूरे पहले खिलाड़ी तक चलती रहती है।
- पेपर में: यह Inner Loop है। यह "टेक्स्टुअल बैकप्रोपैगेशन" (Textual Backpropagation) का उपयोग करता है। जिस तरह एक न्यूरल नेटवर्क गणित का उपयोग करके नंबरों को समायोजित करने के लिए करता है, FLOWBOT प्रत्येक चरण के टेक्स्ट प्रॉम्प्ट्स को समायोजित करने के लिए प्राकृतिक भाषा फीडबैक का उपयोग करता है।
"टेक्स्टुअल ग्रेडिएंट" का जादू
पारंपरिक कंप्यूटर विज्ञान में, यदि कोई गणना गलत है, तो कंप्यूटर यह पता लगाने के लिए गणित का उपयोग करता है कि नंबरों को ठीक करने के लिए उन्हें कितना टवीक (tweak) करने की आवश्यकता है। इसे "बैकप्रोपैगेशन" कहा जाता है।
LLMs (लार्ज लैंग्वेज मॉडल्स) गणित को उस तरह से नहीं समझते हैं; वे भाषा को समझते हैं। इसलिए, FLOWBOT ने टेक्स्टुअल ग्रेडिएंट्स का आविष्कार किया।
- एक नंबर जैसे
+0.5के बजाय, सिस्टम को एक वाक्य मिलता है जैसे: "आपका उत्तर गलत था क्योंकि आपने X माना, लेकिन साक्ष्य Y दिखाते हैं। कृपया अगली बार अपने स्रोतों की जांच करें।" - सिस्टम इस वाक्य को रोबोटों की श्रृंखला के माध्यम से पीछे की ओर भेजता है। प्रत्येक रोबोट फीडबैक पढ़ता है, समझता है कि उनके बाद के चरणों में क्या गलत हुआ, और अपनी भविष्य की गलतियों को रोकने के लिए अपने स्वयं के निर्देशों को फिर से लिखता है।
उन्हें क्या पता चला?
शोधकर्ताओं ने जटिल ट्रिविया प्रश्नों के उत्तर देने, कोड लिखने और सख्त निर्देशों का पालन करने जैसे कई कार्यों पर FLOWBOT का परीक्षण किया।
- यह शून्य से शुरू होता है: अन्य तरीकों के विपरीत जिन्हें एक अच्छा शुरुआती प्लान देने के लिए मानव की आवश्यकता होती है, FLOWBOT एक खाली स्लेट से शुरू हो सकता है और अपने आप सबसे अच्छा वर्कफ़्लो खोज सकता है।
- यह प्रतिस्पर्धा को मात देता है: इसने उन प्रणालियों के बराबर (या उससे बेहतर) प्रदर्शन किया जहाँ मनुष्यों ने एक आदर्श वर्कफ़्लो बनाने में बहुत समय बिताया था।
- यह पैसा बचाता है: क्योंकि यह बहुत कुशलता से सीखता है, इसलिए अन्य स्वचालित तरीकों की तुलना में सही समाधान खोजने के लिए इसे कम "API कॉल्स" (जिसकी लागत आती है) की आवश्यकता होती है।
निचोड़ (The Bottom Line)
FLOWBOT एक स्व-सुधारने वाली असेंबली लाइन की तरह है। यह न केवल मशीनों के निर्देशों को बदलता है, बल्कि मशीनों को खुद भी पुनर्व्यवस्थित करता है। प्राकृतिक भाषा फीडबैक का उपयोग करके त्रुटियों को "बैकप्रोपैगेट" करके, यह जटिल समस्याओं को हल करने के लिए AI मॉडल्स की एक टीम को व्यवस्थित करने का सबसे अच्छा तरीका स्वचालित रूप से खोज लेता है, जिससे हर वर्कफ़्लो के लिए आर्किटेक्ट बनने की आवश्यकता समाप्त हो जाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।