🤖 AI

A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination

CAP प्रमेय से प्रेरित होकर, यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए एक त्रिशंकु (trilemma) प्रस्तावित करता है, जो यह दावा करता है कि सिमेंटिक अनडिटरमिनेशन (semantic underdetermination) के तहत, पूर्ण शुद्धता (strong correctness), सख्त गैर-पक्षपात (strict non-bias) और उच्च उपयोगिता (high utility) की एक साथ गारंटी देना असंभव है, क्योंकि निर्णायकता प्राप्त करने के लिए ऐसी असमर्थित प्राथमिकताओं को शामिल करना आवश्यक होता है जो तटस्थता या शुद्धता से समझौता करती हैं।

मूल लेखक: Vinu Ellampallil Venugopal

प्रकाशित 2026-05-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Vinu Ellampallil Venugopal

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक व्यस्त रसोई में एक शेफ हैं। एक ग्राहक आता है और कहता है, "मेरे लिए सबसे अच्छा डिनर बनाइए।"

यह पेपर जिसके बारे में आप पूछ रहे हैं, यह सुझाव देता है कि लार्ज लैंग्वेज मॉडल्स (LLMs)—आज हम जिन स्मार्ट AI चैटबॉट्स का उपयोग करते हैं—उसे इस तरह के सवालों का जवाब देने के लिए एक तीन-तरफा खींचतान का सामना करना पड़ता है। लेखक इसे "CAP-जैसा ट्रिलेमा" (CAP-like Trilemma) कहता है, जो कंप्यूटर साइंस के एक विचार (CAP Theorem) से प्रेरित है और इसे AI के सोचने के तरीके पर लागू करता है।

यहाँ उन तीन चीजों का सरल विवरण दिया गया है जिन्हें AI करना चाहता है, और क्यों वह हमेशा एक साथ तीनों नहीं कर सकता:

तीन लक्ष्य

सत्यता (Correctness): उत्तर केवल उन्हीं तथ्यों पर तार्किक रूप से सत्य होना चाहिए जो उपयोगकर्ता ने दिए हैं।
गैर-पक्षपात (Non-bias): AI को गुप्त रूप से किसी पसंदीदा विकल्प को नहीं चुनना चाहिए, जब तक कि उपयोगकर्ता ने उसे ऐसा करने के लिए न कहा हो।
उपयोगिता (Utility): उत्तर सहायक, निर्णायक और एक स्पष्ट "हाँ" या "ना" देने वाला होना चाहिए।

समस्या: "गायब रेसिपी"

परेशानी तब होती है जब उपयोगकर्ता एक ऐसा प्रश्न पूछता है जहाँ दिए गए तथ्य केवल एक एकल उत्तर की ओर संकेत नहीं करते। लेखक इसे सिमेंटिक अंडरडिटरमिनेशन (Semantic Underdetermination) कहता है।

इसे इस तरह सोचें: आप AI से पूछते हैं, "स्कॉलरशिप किसे मिलनी चाहिए? छात्र A का GPA 9.5 है, और छात्र B का GPA 4.0 है लेकिन उसे भोजन के लिए पैसों की जरूरत है।"

AI तथ्यों को देखता है:

तथ्य 1: A के पास उच्च ग्रेड हैं।
तथ्य 2: B की बड़ी वित्तीय आवश्यकता है।

तथ्य अकेले यह नहीं बताते कि विजेता कौन है। चुनने के लिए, AI को एक नियम (रेसिपी) की आवश्यकता होगी।

यदि नियम है "उच्चतम ग्रेड जीतता है," तो छात्र A जीतता है।
यदि नियम है "सबसे बड़ी आवश्यकता जीतती है," तो छात्र B जीतता है।

लेकिन उपयोगकर्ता ने नियम नहीं दिया। प्रॉम्प्ट "अंडरडिटरमाइंड" (अनिर्धारित) है (इसमें पहेली का एक हिस्सा गायब है)।

ट्रिलेमा: आपके पास केवल दो ही विकल्प हैं

पेपर का तर्क है कि जब उपयोगकर्ता नियम नहीं देता, तो AI एक असंभव विकल्प का सामना करता है। वह एक समय में तीन लक्ष्यों में से केवल दो को ही पूरा कर सकता है:

विकल्प 1: सत्य और निष्पक्ष होना (लेकिन अनुपयोगी होना)
AI कहता है: "मैं निर्णय नहीं ले सकता। तथ्य यह नहीं बताते कि ग्रेड या पैसा अधिक महत्वपूर्ण है। कृपया मुझे बताएं कि मुझे किस नियम का उपयोग करना चाहिए।"

सत्य? हाँ। इसने कोई नियम नहीं बनाया।
निष्पक्ष? हाँ। इसने किसी एक पक्ष को नहीं चुना।
उपयोगी? नहीं। उपयोगकर्ता एक निर्णय चाहता था, और AI ने केवल और जानकारी मांगी। इसने स्पष्ट उत्तर देने से इनकार कर दिया।

विकल्प 2: उपयोगी और निष्पक्ष होना (लेकिन गलत होना)
AI कहता है: "छात्र A सबसे अच्छा विकल्प है क्योंकि उनका GPA अधिक है।" (या शायद वह B को चुनता है)।

उपयोगी? हाँ। इसने एक स्पष्ट उत्तर दिया।
निष्पक्ष? नहीं। A को चुनकर, इसने गुप्त रूप से यह तय कर लिया कि "ग्रेड्स" "पैसों" से अधिक महत्वपूर्ण हैं। इसने एक ऐसा नियम पेश किया जो उपयोगकर्ता ने कभी नहीं दिया था।
सत्य? नहीं। केवल दिए गए तथ्यों के आधार पर, न तो छात्र A और न ही छात्र B वस्तुनिष्ठ रूप से "सही" उत्तर है। AI ने एक औचित्य मनगढ़ंत बनाया।

विकल्प 3: सत्य और उपयोगी होना (लेकिन पक्षपाती होना)
AI कहता है: "छात्र A विजेता है।"

उपयोगी? हाँ।
सत्य? केवल तभी जब आप यह मान लें कि नियम है "ग्रेड्स अधिक मायने रखते हैं।" लेकिन चूंकि उपयोगकर्ता ने ऐसा नहीं कहा था, इसलिए AI तकनीकी रूप से झूठ बोल रहा है। यह एक नियम को स्थिति पर थोप रहा है।

पेपर से वास्तविक जीवन के उदाहरण

लेखक कुछ परिदृश्यों का उपयोग करके दिखाते हैं कि यह केवल गणित के बारे में नहीं है:

शहर चुनना: "कौन सा शहर बेहतर है: बेंगलुरु, मुंबई या दिल्ली?"
- यदि AI "बेंगलुरु" कहता है, तो यह गुप्त रूप से मान रहा है कि आप टेक नौकरियों की परवाह करते हैं।
- यदि यह "मुंबई" कहता है, तो यह मान रहा है कि आप वित्त या मनोरंजन की परवाह करते हैं।
- यदि यह "यह निर्भर करता है" कहता है, तो यह ईमानदार (सत्य/निष्पक्ष) है लेकिन शायद परेशान करने वाला (कम उपयोगी) है।
कंपनी के निर्णय: "क्या एक कंपनी को लाभ या कर्मचारियों की परवाह करनी चाहिए?"
- एक को चुनने के लिए, AI को कंपनी के मूल्यों का अनुमान लगाना होगा। यदि यह "लाभ" को चुनता है, तो यह पूंजीवाद के प्रति पक्षपाती है। यदि यह "कर्मचारी" को चुनता है, तो यह सामाजिक कल्याण के प्रति पक्षपाती है। यदि यह "दोनों" कहता है, तो यह झूठ बोल सकता है क्योंकि आप हमेशा दोनों को एक साथ अधिकतम नहीं कर सकते।

मुख्य निष्कर्ष

पेपर यह नहीं कह रहा है कि AI टूटा हुआ है या हमें इसका उपयोग बंद कर देना चाहिए। इसके बजाय, यह कहता है:

कभी-कभी, जब एक AI सीधा उत्तर देने से मना करता है या अपने उत्तर को टालता है, तो वह आलसी या बचना नहीं चाह रहा होता है। वह ईमानदार होने की कोशिश कर रहा होता है।

वह एक ऐसा नियम बनाने से बचने की कोशिश कर रहा है जो उसे दिया ही नहीं गया था। लेखक का सुझाव है कि हमें यह स्वीकार करने की आवश्यकता है कि ऐसी स्थितियों में जहाँ तथ्य अस्पष्ट हैं, हमें एक त्वरित उत्तर पाने और एक तार्किक रूप से पूर्ण, निष्पक्ष उत्तर पाने के बीच समझौता करना होगा।

पेपर द्वारा प्रस्तावित सबसे अच्छा समाधान यह है कि AI पारदर्शी (transparent) हो। गुप्त रूप से एक नियम चुनने के बजाय, उसे कहना चाहिए: "यदि आप ग्रेड्स को महत्व देते हैं, तो A को चुनें। यदि आप आवश्यकता को महत्व देते हैं, तो B को चुनें। चूंकि आपने नहीं बताया, इसलिए मैं आपके लिए नहीं चुन सकता।" यह पहेली के लापता हिस्से को स्वीकार करता है बजाय इसके कि वह उसे छिपाए।

तकनीकी सारांश: लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए एक CAP-जैसा त्रिलम्मा (Trilemma)

समस्या विवरण
यह शोध पत्र लार्ज लैंग्वेज मॉडल (LLM) की प्रतिक्रिया जनरेशन में एक संरचनात्मक तनाव की पहचान करता है जो वितरित प्रणालियों (distributed systems) में CAP प्रमेय (CAP theorem) के समान है। जबकि CAP प्रमेय यह प्रतिपादित करता है कि नेटवर्क विभाजन के दौरान निरंतरता (consistency), उपलब्धता (availability) और विभाजन सहिष्णुता (partition tolerance) को एक साथ सुनिश्चित नहीं किया जा सकता, यह कार्य तर्क देता है कि LLMs इसी तरह की असंभवता का सामना करते हैं जो सिमेंटिक अंडरडिटरमिनेशन (semantic underdetermination) के कारण होती है।

एक प्रॉम्प्ट को तब 'सिमेंटिकली अंडरडिटरमाइंड' माना जाता है जब उपलब्ध तथ्य, धारणाएं और आधार ( $F_x$ ) तार्किक रूप से एक अद्वितीय उत्तर निकालने के लिए अपर्याप्त होते हैं। ऐसे परिदृश्यों में, उपयोगकर्ता के प्रश्न (जैसे, "किस उम्मीदवार का चयन किया जाना चाहिए?" या "कौन सा शहर बेहतर है?") एक एकल निर्णय (singleton decision) की मांग करते हैं, फिर भी आधार (premises) उस निर्णय को न्यायसंगत ठहराने के लिए आवश्यक निर्णय मानदंड (decision criterion) को निर्दिष्ट नहीं करते हैं। यह शोध पत्र तर्क देता है कि एक LLM इन संदर्भों में तीन वांछनीय गुणों को एक साथ सुनिश्चित नहीं कर सकता है:

मजबूत शुद्धता ( $C_{strong}$ ): आउटपुट उपलब्ध आधारों द्वारा कड़ाई से अनुमत (entailed) है ( $F_x \models y$ )।
कठोर गैर-पक्षपात ( $NB_{strict}$ ): मॉडल किसी एक उम्मीदवार को दूसरे पर प्राथमिकता नहीं देता है, जब तक कि वह प्राथमिकता $F_x$ द्वारा स्पष्ट रूप से न्यायसंगत न हो। यहाँ पक्षपात को व्यापक रूप से किसी भी असमर्थ चयन वरीयता, पूर्वग्रह, या मानदण्ड (normative criterion) के रूप में परिभाषित किया गया है।
निर्णायक उपयोगिता ( $U_{decisive}$ ): प्रतिक्रिया एक ठोस, कार्रवाई योग्य उत्तर प्रदान करती है, न कि इनकार, हिचकिचाहट, या स्पष्टीकरण मांगना।

कार्यप्रणाली (Methodology)
यह शोध पत्र इस त्रिलम्मा को स्पष्ट करने के लिए एक औपचारिक तार्किक ढांचे का उपयोग करता है, जो सीधे CAP प्रमेय के गिल्बर्ट-लिंच औपचारिकता (Gilbert-Lynch formalization) से प्रेरित है।

औपचारिक परिभाषाएँ: लेखक आधार-अनुकूल उत्तरों के सेट को $S_x = \{a \in A \mid a \text{ is compatible with } F_x\}$ के रूप में परिभाषित करते हैं। एक प्रॉम्प्ट तब 'अंडरडिटरमाइंड' है यदि $|S_x| > 1$ हो।
तार्किक सूत्र: मुख्य अनुमान को $D(x) \Rightarrow \neg(C_{strong} \land NB_{strict} \land U_{decisive})$ के रूप में औपचारिक रूप दिया गया है। इसका तात्पर्य है कि यदि कोई प्रॉम्प्ट अंडरडिटरमाइंड है, तो तीनों स्थितियों को एक साथ संतुष्ट करना असंभव है।
जोड़ेवार विश्लेषण (Pairwise Analysis): शोध पत्र युग्मवार समझौतों (pairwise trade-offs) का विश्लेषण करता है:
- $C_{strong} \land NB_{strict} \Rightarrow \neg U_{decisive}$ : सही और निष्पक्ष रहने के लिए, मॉडल को इनकार करना होगा या स्पष्टीकरण मांगना होगा, जिससे उपयोगिता कम हो जाती है।
- $NB_{strict} \land U_{decisive} \Rightarrow \neg C_{strong}$ : उपयोगी और निर्णायक होने के लिए, मॉडल बिना समर्थित समानताएं प्रस्तुत कर सकता है जो शुद्धता को कमजोर करती हैं।
- $C_{strong} \land U_{decisive} \Rightarrow \neg NB_{strict}$ : एक सही, निर्णायक उत्तर प्रदान करने के लिए, मॉडल को एक चयन मानदंड पेश करना होगा; यदि यह मानदंड उपयोगकर्ता द्वारा प्रदान नहीं किया गया है, तो यह एक असमर्थ पक्षपात के रूप में कार्य करता है।
केस स्टडीज: कार्यप्रणाली को तीन उदाहरणों के माध्यम से स्पष्ट किया गया है:
1. छात्रवृत्ति चयन: बिना किसी निर्दिष्ट वेटिंग नियम के GPA और वित्तीय आवश्यकता के आधार पर छात्रों के बीच चयन करना।
2. व्यक्तिपरक अनुशंसा (Subjective Recommendation): अनकही उपयोगकर्ता प्राथमिकताओं (जैसे, जॉब मार्केट बनाम सुरक्षा) के आधार पर शहरों को रैंक करना।
3. मानदण्डिक निर्णय (Normative Decision): एक परिभाषित नैतिक ढांचे के बिना लाभ बनाम कर्मचारी कल्याण को प्राथमिकता देना।

प्रमुख योगदान

एक CAP-जैसा अनुमान: प्राथमिक योगदान "करेक्टनेस-नॉन-बायस-यूटिलिटी त्रिलम्मा" का निर्माण है। यह ध्यान को केवल मॉडल की सीमाओं (जैसे, मतिभ्रम या प्रशिक्षण डेटा पूर्वाग्रह) से हटाकर इसे अंडरडetermined निर्णय अनुरोधों के संरचनात्मक परिणाम के रूप में देखने की ओर ले जाता है।
पक्षपात की पुनर्रचना: यह शोध पत्र पक्षपात की परिभाषा को जनसांख्यिकीय या सामाजिक पूर्वाग्रह से आगे बढ़ाकर "सिलेक्शन-थ्योरेटिक बायस" (selection-theoretic bias) तक विस्तारित करता है। अंडरडetermined सेटिंग्स में, कई वैध विकल्पों में से एक एकल उत्तर चुनने वाली कोई भी प्रक्रिया, बिना स्पष्ट उपयोगकर्ता औचित्य के, पक्षपात मानी जाती है।
इनकार (Refusal) का औपचारिक रूप: यह कार्य मॉडल के इनकार या स्पष्टीकरण अनुरोधों को 'हेल्पफुलनेस' की विफलता के रूप में नहीं, बल्कि निरंतरता बनाए रखने वाली रणनीतियों के रूप में पुनर्गठित करता है, जो नेटवर्क विभाजन के दौरान विसंगति से बचने के लिए वितरित प्रणाली के इनकार करने के समान है।
डिजाइन पॉलिसी प्रस्ताव: लेखक इन समझौतों को प्रबंधित करने के लिए एक व्यावहारिक नीति $\pi(x)$ $π (x)$ प्रस्तावित करते हैं, जो सुझाव देती है कि मॉडल्स को:
- उत्तर देना चाहिए यदि $|S_x| = 1$ हो।
- स्पष्टीकरण मांगना चाहिए यदि $|S_x| > 1$ हो और कोई मानदंड प्रदान न किया गया हो।
- सशर्त उत्तर देने चाहिए यदि कई मानदंड संभावित हों।
- अनुशंसा करनी चाहिए यदि उपयोगिता के लिए निर्णय अनिवार्य हो, तो घोषित धारणाओं के साथ।

परिणाम और दावे
शोध पत्र कोई अनुभवजन्य प्रायोगिक परिणाम प्रस्तुत नहीं करता है, बल्कि विरोधाभास द्वारा एक सैद्धांतिक प्रमाण प्रस्तुत करता है। यह प्रदर्शित करता है कि किसी भी अंडरडetermined प्रॉम्प्ट के लिए जिसमें कई वैध उत्तर हैं, तीनों गुणों को संतुष्ट करना एक तार्किक विरोधाभास की ओर ले जाता है।

सैद्धांतिक परिणाम: एक निर्णायक उत्तर ( $y \in S_x$ ) के लिए एक वैल्यू फंक्शन या मानदंड $\theta$ को पेश करने की आवश्यकता होती है। यदि $\theta$ , $F_x$ में नहीं है, तो उत्तर 'स्ट्रॉन्गली करेक्ट' नहीं है ( $F_x \not\models y$ )। यदि $\theta$ छिपा हुआ है, तो उत्तर पक्षपाती है। यदि $\theta$ स्पष्ट है लेकिन मॉडल चुनने से इनकार करता है, तो उपयोगिता कम हो जाती है।
अलाइनमेंट (Alignment) के लिए निहितार्थ: यह शोध पत्र तर्क देता है कि वर्तमान अलाइनमेंट प्रयास, जो अक्सर सत्यता, हानिरहितता और उपयोगिता को स्वतंत्र रूप से अधिकतम करने योग्य लक्ष्यों के रूप में देखते हैं, अंडरडetermined संदर्भों में मौलिक रूप से त्रुटिपूर्ण हो सकते हैं। एक "उपयोगी" उत्तर के लिए अक्सर एक प्राथमिकता की आवश्यकता होती है, और एक "तटस्थ" उत्तर के लिए अक्सर इनकार की आवश्यकता होती है।

महत्व
शोध पत्र का दावा है कि इस त्रिलम्मा को समझना अगली पीढ़ी के LLM अलाइनमेंट और परिनियोजन (deployment) के लिए महत्वपूर्ण है।

विफलताओं का पुनर्निर्धारण: यह सुझाव देता है कि कई कथित मॉडल विफलताएं मॉडल की अक्षमता के बजाय प्रॉम्प्ट की प्रकृति के कारण संरचनात्मक रूप से प्रेरित होती हैं।
तटस्थता के बजाय पारदर्शिता: यह तर्क देता कि लक्ष्य समझौते को समाप्त करना नहीं, बल्कि इसे स्पष्ट करना है। मॉडल्स को "निर्णायक उपयोगिता" के बजाय "सशर्त शुद्धता" और "पारदर्शी गैर-पक्षपात" (उपयोग की गई धारणाओं का खुलासा करना) को प्राथमिकता देनी चाहिए जब आधार अपर्याप्त हों।
प्रणालीगत प्रभाव: जैसे-जैसे फाउंडेशन मॉडल्स को उच्च-जोखिम वाले डाउनस्ट्रीम कार्यों में तैनात किया जा रहा है, यह पहचानना महत्वपूर्ण है कि एक "संतुलित" उत्तर वास्तव में एक असमर्थ समानता दावा हो सकता है, ताकि छिपे हुए मानदण्डिक ढांचों के प्रसार को रोका जा सके।

निष्कर्षतः, यह शोध पत्र दावा करता है कि अलाइनमेंट रणनीतियों को स्वतंत्र रूप से उन्हें अधिकतम करने के बजाय, सिमेंटिक अंडरडिटरमिनेशन के तहत शुद्धता, गैर-पक्षपात और उपयोगिता के बीच होने वाले समझौतों का अध्ययन करने के लिए विकसित होना चाहिए।