What Do Claim Verification Datasets Actually Test? A Reasoning Trace Analysis
यह शोध पत्र 24,000 दावा-सत्यापन उदाहरणों में तर्क संबंधी निशानों (reasoning traces) का विश्लेषण करता है ताकि यह प्रकट किया जा सके कि वर्तमान बेंचमार्क जटिल संश्लेषण या संख्यात्मक तर्क के बजाय मुख्य रूप से शाब्दिक मिलान और साक्ष्य निष्कर्षण का परीक्षण करते हैं, जिससे त्रुटि प्रोफाइल डोमेन के अनुसार काफी भिन्न हो जाते हैं और अधिक चुनौतीपूर्ण मूल्यांकन सूचियों की आवश्यकता का सुझाव मिलता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप रहस्यों को सुलझाने के लिए एक जासूस को काम पर रख रहे हैं। आपके पास 24,000 मामलों (दावों) की एक सूची है और सबूतों (दस्तावेजों) का एक ढेर है। आप यह जानना चाहते हैं: क्या जासूस वास्तव में रहस्य सुलझा रहा है, या वह केवल परिचित शब्दों को देखकर भाग्यशाली हो रहा है?
यह शोध पत्र उन प्रशिक्षण परीक्षाओं का एक "पर्दे के पीछे" का ऑडिट है जो हम AI जासूसों को देते हैं। लेखक, डेलीप राव और क्रिस कैलीसन-बर्च, यह देखना चाहते थे कि जब AI मॉडल किसी दावे के लिए "सत्य" (True) या "असत्य" (False) कहते हैं, तो वे वास्तव में क्या सोच रहे होते हैं।
यहाँ सरल शब्दों में इसका विवरण दिया गया है:
1. बड़ी समस्या: "शब्द ढूँढने का" खेल
लेखकों ने पाया कि अधिकांश वर्तमान AI फैक्ट-चेकर्स के परीक्षण "धोखा" हैं। वे ज्यादातर इस बात का परीक्षण कर रहे हैं कि क्या AI "शब्द ढूँढने का" खेल खेल सकता है।
- उपमा: कल्पना कीजिए कि एक शिक्षक पूछता है, "क्या आकाश नीला है?" और छात्र की पाठ्यपुस्तक कहती है, "आकाश नीला है।" छात्र को 'A' ग्रेड मिलता है।
- वास्तविकता: लेकिन क्या होगा यदि प्रश्न था, "क्या रात में आकाश नीला होता है?" और पाठ्यपुस्तक में केवल यह लिखा है, "दिन के दौरान आकाश नीला होता है"? एक स्मार्ट जासूस को कहना चाहिए, "रुको, यह पूरी कहानी नहीं है।" लेकिन अधिकांश वर्तमान AI केवल "आकाश" और "नीला" जैसे शब्द देखते हैं और बिना सोचे-समझे चिल्लाते हैं, "हाँ!"
शोध पत्र दिखाता है कि 50% से 90% बार, AI केवल एक ऐसा वाक्य ढूंढ लेता है जो दावे से मिलता-जुलता हो और उससे मेल खाता हो। वे वास्तव में "तर्क" (reasoning) नहीं कर रहे हैं; वे केवल "पैटर्न मैचिंग" कर रहे हैं।
2. गायब कौशल: "शेफ" बनाम "फोटोकॉपी मशीन"
लेखकों ने सोचने की प्रक्रिया को छह प्रकारों में विभाजित किया। उन्होंने पाया कि AI एक चीज़ में बहुत अच्छा है लेकिन अन्य चीज़ों में बहुत खराब है।
- फोटोकॉपी मशीन (प्रत्यक्ष निष्कर्षण - Direct Extraction): यह वह है जो AI 50% समय करता है। यह दावे से मेल खाने वाला एक वाक्य ढूंढता है और उत्तर की नकल करता है।
- शेफ (संश्लेषण - Synthesis): यह वह है जो AI को अधिक बार करना चाहिए। एक शेफ रसोई के विभिन्न हिस्सों (अलग-अलग वाक्यों) से सामग्री लेता है और एक नया व्यंजन (एक निष्कर्ष) बनाने के लिए उन्हें एक साथ पकाता है। शोध पत्र में पाया गया कि यह बहुत कम (केवल लगभग 10% समय) होता है।
- गणित का जादूगर (संख्यात्मक तर्क - Numerical Reasoning): यह लगभग अस्तित्व में ही नहीं है। यदि किसी दावे के लिए संख्याओं को जोड़ने या इकाइयों को बदलने (जैसे सेल्सियस से फारेनहाइट) की आवश्यकता होती है, तो वर्तमान बेंचमार्क इसका परीक्षण ही नहीं करते हैं।
"पानी उबालने" का उदाहरण:
शोध पत्र एक सटीक उदाहरण देता है।
- दावा: "पानी 100°C पर उबलता है।"
- साक्ष्य: "पानी 212°F पर उबलता है।"
- फोटोकॉपी मशीन AI: देखता है कि "100" और "212" मेल नहीं खाते। यह कहता है "असत्य।" यह विफल हो जाता है क्योंकि यह गणित नहीं कर सकता।
- तर्क करने वाला AI (Reasoning AI): जानता है कि 100°C बराबर 212°F है। यह कहता है "सत्य।"
- समस्या: अधिकांश वर्तमान परीक्षणों में ऐसे "इकाई परिवर्तन" वाले प्रश्न पर्याप्त नहीं हैं, इसलिए फोटोकॉपी मशीन AI उच्च स्कोर प्राप्त कर लेता है भले ही वह बहुत बुद्धिमान न हो।
3. "त्रुटि रिपोर्ट": अलग-अलग कामों के लिए अलग-अलग गलतियाँ
लेखकों ने एक छोटा, स्मार्ट AI (एक "कॉम्पैक्ट वेरीफायर") बनाया ताकि बड़े AI द्वारा की जाने वाली गलतियों को देखा जा सके। उन्होंने पाया कि गलती का प्रकार विषय वस्तु पर निर्भर करता है:
- सामान्य समाचार (शब्द मिलान का जाल - The "Word Match" Trap): समाचारों की जाँच करते समय, AI मुख्य रूप से इसलिए विफल होता है क्योंकि वह उन शब्दों से धोखा खा जाता है जो दिखने में समान हैं लेकिन जिनका अर्थ अलग है। यह एक बच्चे की तरह है जो सोचता है कि "बैंक" (नदी का किनारा) और "बैंक" (पैसा) एक ही चीज़ हैं।
- विज्ञान (अत्यधिक सतर्कता का जाल - The "Over-Cautious" Trap): विज्ञान की जाँच करते समय, AI "हाँ" कहने से बहुत डरता है। यदि साक्ष्य में हर एक विवरण पूरी तरह से नहीं लिखा है, तो वह दावे को खारिज कर देता है। यह एक सुरक्षा गार्ड की तरह है जो आपको तब तक अंदर नहीं आने देता जब तक आपके पास आईडी, टिकट, पासवर्ड और फिंगरप्रिंट न हो, भले ही आपके पास एक वैध टिकट हो।
- गणित (गणना का जाल - The "Calculation" Trap): गणित की जाँच करते समय, AI कहानी तो समझ जाता है लेकिन वास्तविक अंकगणित में विफल हो जाता है। यह उस छात्र की तरह है जो केक बनाने की रेसिपी तो जानता है लेकिन आटा मापने में भूल जाता है।
4. निष्कर्ष: हम खुद को धोखा दे रहे हैं
शोध पत्र का मुख्य संदेश है: इन परीक्षणों पर उच्च स्कोर भ्रामक हैं।
सिर्फ इसलिए कि एक AI तथ्य-जाँच परीक्षण पर 90% अंक प्राप्त करता है, इसका मतलब यह नहीं है कि वह जीनियस है। इसका मतलब सिर्फ यह है कि वह उन वाक्यों को खोजने में बहुत अच्छा है जो प्रश्न से मिलते-जुलते हैं। उसने गहराई से सोचना, बिंदुओं को जोड़ना या गणित करना नहीं सीखा है।
5. हमें क्या करना चाहिए? (बेहतर परीक्षणों का नुस्खा)
लेखक सुझाव देते हैं कि हमें "परीक्षा" को बदलने की आवश्यकता है ताकि इसे कठिन और अधिक निष्पक्ष बनाया जा सके:
- शब्दों के खेल बंद करें: ऐसे प्रश्न बनाएं जहाँ उत्तर केवल टेक्स्ट से कॉपी-पेस्ट न हो।
- "शेफ" के काम को मजबूर करें: ऐसे प्रश्न पूछें जिनमें तीन या चार अलग-अलग वाक्यों से जानकारी को मिलाने की आवश्यकता हो।
- गणित जोड़ें: ऐसे प्रश्न शामिल करें जिनमें गणना या इकाई परिवर्तन की आवश्यकता हो।
- विषय के अनुसार परीक्षण करें: केवल एक बड़ा स्कोर न दें। समाचार, विज्ञान और गणित पर AI का प्रदर्शन अलग-अलग जांचें, क्योंकि ये बहुत अलग कौशल हैं।
संक्षेप में: हम वर्तमान में यह परीक्षण कर रहे हैं कि क्या AI "छिपे हुए शब्द को ढूँढने" का खेल खेल सकता है, लेकिन हम दावा करते हैं कि हम यह परीक्षण कर रहे हैं कि क्या वह "रहस्य सुलझा" सकता है। हमें खुद को धोखा देना बंद करना चाहिए और वास्तविक तर्क कौशल का परीक्षण करना शुरू करना चाहिए जिसकी हमें वास्तव में आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।