Generative AI systems conflate two distinct pregnancy-dating algorithms
यह अध्ययन प्रकट करता है कि जनरेटिव एआई सिस्टम अक्सर गर्भावस्था की अवधि निर्धारित करने वाले दो अलग-अलग एल्गोरिदम को आपस में मिला देते हैं, जिससे गणना संबंधी महत्वपूर्ण त्रुटियां और गलत लेबलिंग होती है जो चिकित्सा एआई के लिए अपनी कम्प्यूटेशनल प्रक्रियाओं को पारदर्शी रूप से प्रकट करने की गंभीर आवश्यकता को रेखांकित करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसा केक बनाने की कोशिश कर रहे हैं जिसे फूलने (rise होने) में ठीक 280 दिन लगते हैं। आपके पास यह पता लगाने के लिए दो अलग-अलग रेसिपी हैं कि केक कब तैयार होगा। लंबे समय तक, सभी ने माना कि ये दोनों रेसिपी जुड़वा बच्चों की तरह बिल्कुल एक जैसी हैं।
रेसिपी A ("कैलेंडर शॉर्टकट"): यह पुराना तरीका है, जिसे नेगेल का नियम (Naele's Rule) कहा जाता है। यह दिमाग में गणित करने की एक ट्रिक है: "कैलेंडर पर तीन महीने पीछे जाओ, फिर सात दिन जोड़ दो।" यह तेज़ है, आसान है और इसे दिमाग में किया जा सकता है, और 200 से अधिक वर्षों से इसका उपयोग किया जा रहा है।
रेसिपी B ("सटीक गणना"): यह 280-दिन की गिनती है। यह रेत की हर एक कण को गिनने जैसा है। आप बस शुरुआती तारीख में 280 दिन जोड़ देते हैं, चाहे आप जिन महीनों से गुजर रहे हों उनमें कितने भी दिन क्यों न हों।
समस्या: जुड़वा नहीं, बल्कि चचेरे भाई हैं
इस शोध पत्र के लेखकों ने पाया कि ये दोनों रेसिपी वास्तव में जुड़वा नहीं, बल्कि चचेरे भाई हैं। क्योंकि हमारा कैलेंडर अजीब है (कुछ महीनों में 30 दिन होते हैं, कुछ में 31, और फरवरी कभी-कभी 29 दिन की होती है), "कैलेंडर शॉर्टकट" हमेशा "सटीक गणना" वाले दिन पर नहीं पहुँचता है।
उन्होंने 1812 से 2025 तक के हर एक दिन के विरुद्ध इसका परीक्षण किया। उन्होंने पाया कि 56% मामलों में, दोनों रेसिपी आपको एक अलग नियत तिथि (due date) देती थीं। शॉर्टकट आमतौर पर सटीक गणना से 1, 2, या यहाँ तक कि 3 दिन बाद का होता था। इसने कभी भी पहले की तारीख नहीं दी; यह बस आगे की ओर खिसक गया।
सबसे बड़ी समस्या तब होती है जब आपकी गर्भावस्था एक लीप डे (Leap Day) को पार करती है (29 फरवरी)। ऐसे मामलों में, दोनों रेसिपी कभी भी एक समान नहीं होतीं। सटीक गणना उस अतिरिक्त दिन को शामिल करती है, लेकिन कैलेंडर शॉर्टकट उसे सीधे छोड़ देता है।
AI की गलती: "भ्रमित शेफ"
शोधकर्ताओं ने फिर पाँच लोकप्रिय AI सिस्टम्स (जैसे ChatGPT, Claude, और Gemini) से बेकर्स (बakers) की भूमिका निभाने और इन नियत तिथियों की गणना करने के लिए कहा। वे यह देखना चाहते थे कि क्या AI इन दो रेसिपी के बीच अंतर जानता है।
जो हुआ वह इस प्रकार है:
- अच्छे बेकर्स: दो AI सिस्टम समझ गए कि रेसिपी अलग हैं। उन्होंने सही उत्तर दिया और समझाया, "यदि आप शॉर्टकट का उपयोग करते हैं, तो आपको दिन X मिलेगा, लेकिन यदि आप ठीक 280 दिनों की गणना करते हैं, तो आपको दिन Y मिलेगा।"
- भ्रमित बेकर्स: तीन AI सिस्टम गलत हो गए। उन्होंने ऐसा व्यवहार किया जैसे वे "कैलेंडर शॉर्टकट" का उपयोग कर रहे हों (यह कहते हुए कि "मैंने तीन महीने घटाए और सात दिन जोड़े"), लेकिन फिर उन्होंने गुप्त रूप से "सटीक गणना" वाले गणित का उपयोग करके एक अलग उत्तर दिया। या, उन्होंने दावा किया कि दोनों विधियाँ एक ही हैं जबकि वे स्पष्ट रूप से नहीं थीं।
यह ऐसा ही है जैसे किसी शेफ ने आपसे कहा हो, "मैं शॉर्टकट रेसिपी का पालन कर रहा हूँ," लेकिन फिर उसने परिणाम प्राप्त करने के लिए गुप्त रूप से तराजू पर सामग्री तौली हो। वे उस विधि को, जिसका उन्होंने वर्णन किया था, और उस विधि को जो उन्होंने वास्तव में उपयोग की थी, आपस में मिला (conflating) रहे थे।
यह क्यों मायने रखता है?
लेखक बताते हैं कि एक एकल गर्भावस्था के लिए, 1-से-3-दिन का अंतर कोई चिकित्सीय आपदा नहीं है। बच्चे स्वाभाविक रूप से कई दिनों के अंतराल पर पैदा होते हैं।
हालाँकि, यह अध्ययन गर्भावस्था की गणना को AI की एक बड़ी समस्या को दिखाने के लिए एक टेस्ट केस के रूप में उपयोग करता है। AI "सोच" नहीं रहा है या तर्क नहीं दे रहा है; यह बस उन पैटर्नों के आधार पर अनुमान लगा रहा है जो उसने किताबों में देखे हैं। चूंकि पुराने टेक्स्टबुक्स ने इन दो रेसिपी को मिला दिया था, इसलिए AI ने भी उन्हें मिलाना सीख लिया।
पेपर यह निष्कर्ष निकालता है कि यदि किसी AI टूल को आपको चिकित्सा गणना देनी है, तो उसे इस बारे में ईमानदार होना चाहिए कि उसने उत्तर कैसे प्राप्त किया। उसे केवल एक संख्या नहीं देनी चाहिए; उसे कहना चाहिए, "मैंने सटीक 280-दिन की गणना का उपयोग किया," या "मैंने कैलेंडर शॉर्टकट का उपयोग किया," ताकि आपको पता चले कि आपको वास्तव में क्या मिल रहा है। यदि एक AI गर्भावस्था के दो सरल गणितीय नियमों के बीच अंतर नहीं कर सकता है, तो वह भविष्य में इसी तरह की अधिक खतरनाक गणनाओं में भी समान गलतियाँ कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।