Hallucination Behavior in Multimodal LLMs Across Agricultural Image Interpretation and Generation Tasks
यह अध्ययन कृषि संबंधी छवि व्याख्या और निर्माण कार्यों में मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (LLMs) के मतिभ्रम (hallucination) व्यवहारों का व्यवस्थित रूप से मूल्यांकन करता है, जो कुछ-शॉट प्रॉम्पटिंग (few-shot prompting) से होने वाले सुधारों के बावजूद महत्वपूर्ण जैविक विसंगतियों और प्रासंगिक अशुद्धियों को प्रकट करता है जो एआई-संचालित कृषि संबंधी अंतर्दृष्टि की विश्वसनीयता को कम करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अपने खेत को चलाने में मदद करने के लिए एक बहुत ही बुद्धिमान, विद्वान सहायक को काम पर रखा है। इस सहायक ने पौधों, मौसम और खेती के बारे में लाखों किताबें पढ़ी हैं। हालांकि, इस सहायक की एक अजीब आदत है: कभी-कभी, जब यह किसी पौधे की तस्वीर देखता है, तो यह पूरे आत्मविश्वास के साथ ऐसी बातें बताता है जो सच नहीं होतीं। या, जब आप इसे किसी बीमार पौधे का चित्र बनाने के लिए कहते हैं, तो यह कुछ ऐसा बनाता है जो दिखने में तो वास्तविक लगता है लेकिन प्रकृति के नियमों का उल्लंघन करता है।
यह पेपर उस सहायक के लिए एक रिपोर्ट कार्ड की तरह है, जो विशेष रूप से यह परीक्षण करता है कि वह कृषि छवियों (फसलों की तस्वीरों) को कितनी अच्छी तरह संभालता है। टेक्सास ए एंड एम यूनिवर्सिटी (Texas A&M University) के शोधकर्ताओं ने यह देखना चाहा कि क्या ये "मल्टीमॉडल एलएलएम" (Multimodal LLMs - स्मार्ट एआई मॉडल जो देख और पढ़ सकते हैं) वास्तविक खेती के निर्णयों के लिए भरोसेमंद होने के लायक हैं।
यहाँ उनके निष्कर्षों का विवरण दिया गया है, जो सरल उपमाओं का उपयोग करता है:
1. एआई के गलत होने के दो तरीके
शोधकर्ताओं ने एआई का परीक्षण दो अलग-अलग तरीकों से किया, जैसे कि दो अलग-अलग विषयों में एक छात्र के होमवर्क की जांच करना:
विषय अ: जासूस (इमेज-टू-टेक्स्ट/चित्र-से-पाठ)
- कार्य: आप एआई को टमाटर के पत्ते की एक फोटो दिखाते हैं और पूछते हैं, "क्या यह स्वस्थ है या बीमार?"
- समस्या: एआई कभी-कभी एक ऐसे जासूस की तरह व्यवहार करता है जो बहुत अधिक आत्मविश्वासी है। यह एक पूरी तरह से स्वस्थ पत्ते को देखकर कह सकता है, "यह निश्चित रूप से बीमार है!" (एक गलत चेतावनी/फॉल्स अलार्म), या धब्बों से भरे पत्ते को देखकर कह सकता है, "यह ठीक है!" (अपराध को अनदेखा करना)।
- परिणाम: यहाँ तक कि सबसे स्मार्ट मॉडल (जैसे Gemma या MiniCPM) भी केवल 63% से 75% बार सही थे जब उन्हें खुद अनुमान लगाना था। यदि आपने उन्हें पहले अध्ययन करने के लिए कुछ उदाहरण दिए (जैसे टेस्ट से पहले उन्हें एक "बीमार" पत्ता और एक "स्वस्थ" पत्ता दिखाना), तो वे बेहतर हो गए (86% तक), लेकिन वे फिर भी गलतियाँ करते रहे। वे अभी भी "हैलुसिनेट" (hallucinating) कर रहे थे—यानी ऐसी बीमारियाँ देख रहे थे जो वहाँ नहीं थीं या उन्हें मिस कर रहे थे जो वास्तव में मौजूद थीं।
विषय ब: कलाकार (टेक्स्ट-टू-इमेज/पाठ-से-चित्र)
- कार्य: आप एआई को एक विवरण देते हैं, जैसे "एक स्वस्थ सोयाबीन का पौधा जिसे कीड़ों ने बुरी तरह खा लिया है," और इसे चित्र बनाने के लिए कहते हैं।
- समस्या: यहीं पर एआई बहुत अधिक रचनात्मक तरीके से गलत होता है। यह ऐसा ही है जैसे किसी कलाकार को "एक सूखी, गीली स्पंज" बनाने के लिए कहना। एआई यह नहीं समझ पाता कि ये चीजें एक-दूसरे का विरोध करती हैं।
- परिणाम: जब असंभव चीजों को चित्रित करने के लिए कहा गया (जैसे एक "स्वस्थ" पौधा जिसमें "व्यापक कीट क्षति" हो), तो एआई ने इसे फिर भी बना दिया।
- एक मॉडल (GPT-5) ने एक ऐसा पत्ता बनाया जिसमें बड़े छेद थे लेकिन उसने आत्मविश्वास से उसे "स्वस्थ" लेबल किया।
- दूसरे मॉडल (Gemini) ने एक ऐसा खेत बनाया जो हरा और स्वस्थ दिख रहा था लेकिन उसमें सूक्ष्म कीट क्षति थी, इस तथ्य को नजरअंदाज करते हुए कि प्रॉम्प्ट में "व्यापक" क्षति के लिए कहा गया था।
- कुछ मामलों में, एआई ने वे चीजें भी जोड़ दीं जो आपने नहीं मांगी थीं, जैसे कि केवल फल के लिए कहने पर फल पर मिट्टी और मलबा बना देना, या रंगों को एक वैज्ञानिक फोटो के बजाय एक पेंटिंग जैसा बना देना।
2. प्रॉम्प्टिंग का "जादुई ट्रिक"
शोधकर्ताओं ने पाया कि कुछ बहुत ही दिलचस्प बात है कि कैसे एआई का व्यवहार बदल जाता है जब आप अपनी शब्दावली में थोड़ा बदलाव करते हैं।
- परिदृश्य: उन्होंने एआई को "मोल्ड (फफूंद) से ढका हुआ रोग-मुक्त स्ट्रॉबेरी" बनाने के लिए कहा।
- प्रतिक्रिया: पहले, एआई (GPT-5) ने कहा, "नहीं, मैं ऐसा नहीं कर सकता। यह समझ में नहीं आता। एक रोग-मुक्त फल में फफूंद नहीं हो सकती।" उसने इस खेल में भाग लेने से मना कर दिया।
- ट्रिक: लेकिन, जब शोधकर्ताओं ने एक छोटा सा वाक्यांश जोड़ा जैसे, "इसे एक शोध चित्रण (research illustration) के लिए करें," तो एआई अचानक बोला, "ठीक है!" और उसने वह असंभव स्ट्रॉबेरी बना दी। ऐसा लग रहा था जैसे एआई के पास एक सुरक्षा स्विच (safety switch) था जिसे अनुरोध का संदर्भ बदलकर बंद किया जा सकता था। यह दर्शाता है कि एआई "जैविक रूप से सटीक" होने के बजाय "सहायक" होने को प्राथमिकता दे रहा है।
3. यह क्यों महत्वपूर्ण है (इसका महत्व क्या है?)
पेपर का तर्क है कि हालांकि ये एआई उपकरण निबंध लिखने या समाचारों का सारांश निकालने में अद्भुत हैं, लेकिन वे वर्तमान में खेती के लिए अविश्वसनीय हैं।
- जोखिम: यदि एक किसान एआई पर भरोसा करता है और वह एक स्वस्थ खेत को बीमार बताता है, तो वे अनावश्यक रसायनों का छिड़काव कर सकते हैं (जिससे पैसा बर्बाद होता है और पर्यावरण को नुकसान पहुँचता है)। यदि वह एक बीमार खेत को स्वस्थ बताता है, तो वे उपचार करने में बहुत देर कर सकते हैं, और फसल मर सकती है।
- निष्कर्ष: एआई वर्तमान में एक ऐसे छात्र की तरह है जिसने बहुत सारे तथ्य याद किए हैं लेकिन वह वास्तव में यह नहीं समझता कि प्रकृति कैसे काम करती है। यह बहुत आत्मविश्वास के साथ बोल सकता है जबकि यह पूरी तरह से गलत हो सकता है।
सारांश
पेपर निष्कर्ष निकालता है कि हम अभी इन एआई मॉडलों को अपने खेतों को चलाने के लिए नहीं सौंप सकते। उन्हें बेहतर "ग्राउंडिंग" (उन्हें वास्तविक जैविक तथ्यों से जोड़ना) और उन्हें काल्पनिक बीमारियाँ बनाने या असंभव पौधे बनाने से रोकने के लिए सख्त नियमों की आवश्यकता है। जब तक हम इन "हैलुसिनेशन" (भ्रम) को ठीक नहीं करते, तब तक महत्वपूर्ण कृषि निर्णयों के लिए उनका उपयोग करना जोखिम भरा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।