तकनीकी सारांश: हर कृत्य की एक कीमत होती है: फ्रंटियर LLMs में संकुचित नैतिक संरचना (Compressed Moral Composition)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए मौजूदा नैतिक बेंचमार्क मुख्य रूप से पृथक कृत्य रैंकिंग (isolated act rankings) पर निर्भर करते हैं। इन मानक ऑडिट में, मॉडल दो विकल्पों के बीच चयन करते हैं, जिनमें से प्रत्येक में एक एकल मुख्य नैतिक कृत्य होता है। हालांकि यह दृष्टिकोण व्यक्तिगत कृत्यों या नैतिक आधारों (जैसे, देखभाल, निष्पक्षता) के लिए प्राथमिकता पदानुक्रम स्थापित करने में प्रभावी है, लेकिन यह यह पकड़ने में विफल रहता है कि मॉडल संयोजित नैतिक साक्ष्य (composite moral evidence) को कैसे संसाधित करते हैं।

वास्तविक दुनिया का नैतिक निर्णय लेना अक्सर ऐसे विकल्पों की तुलना करने से जुड़ा होता है जहाँ एक ही विकल्प के भीतर कई नैतिक संकेत सह-अस्तित्व में होते हैं (उदाहरण के लिए, एक विकल्प जो एक अत्यधिक सकारात्मक कृत्य को हल्के उल्लंघन के साथ जोड़ता है बनाम एक विकल्प जिसमें दो मध्यम सकारात्मक कृत्य हैं)। वर्तमान पद्धतियां यह निर्धारित करने में सक्षम नहीं हैं कि क्या मॉडल इन संकेतों को केवल जोड़ते हैं, माध्यमिक घटकों को कम महत्व देते हैं, या सबसे मजबूत कृत्य को पूरे विकल्प पर हावी होने देते हैं। फलस्वरूप, एक मॉडल की पृथक कृत्यों की रैंकिंग अनिवार्य रूप से उन निर्णयों की भविष्यवाणी नहीं करती है जब वे कृत्य संयोजित होते हैं। यह शोध पत्र इस अंतर को संबोधित करता है कि फ्रंटियर LLMs कैसे कई अंशांकित (calibrated) नैतिक कृत्यों को संयोजित (compose) करके संयुक्त निर्णयों में बदलते हैं।

कार्यप्रणाली: मोरल ट्रॉली एरिना (MORAL TROLLEY ARENA)

नैतिक संरचना को मापने के लिए, लेखक एक दो-चरणीय ब्लाइंड ELO बेंचमार्क प्रस्तुत करते हैं, जिसे कृत्य-स्तरीय अंशांकन को संयुक्त निर्णय से जोड़ने के लिए डिज़ाइन किया गया है। यह ढांचा 'मोरल फाउंडेशन थ्योरी' (MFT) का उपयोग करता है जो पांच आधारों को कवर करता है: देखभाल (Care), निष्पक्षता (Fairness), निष्ठा (Loyalty), अधिकार (Authority), और पवित्रता (Sanctity)।

1. परिदृश्य निर्माण

बेंचमार्क स्थापित मनोवैज्ञानिक विगनेट्स (Clifford et al., 2015; Young & Saxe, 2011; Hofmann et al., 2014) से प्राप्त और एंकर मामलों के साथ संवर्धित 229 व्यक्ति-केंद्रित नैतिक परिदृश्यों के संग्रह का उपयोग करता है। प्रत्येक परिदृश्य को एक प्राथमिक MFT आधार और एक सिमेंटिक तीव्रता लेबल दिया गया है जो $-2$(अत्यधिक गलत कार्य) से$+2$ (असाधारण गुण) तक है।

2. दो-चरणीय एरिना प्रोटोकॉल

यह बेंचमार्क एक ब्लाइंड पेयरवाइज ELO अपडेट प्रोटोकॉल (Chatbot Arena के समान) का उपयोग करते हुए दो जुड़े हुए एरिना के माध्यम से संचालित होता है:

• चरण A: सिंगल-सीन अंशांकन (Single-Scene Calibration)

  • लक्ष्य: प्रत्येक परमाणु कृत्य के लिए "घटक शक्ति" (component strength) स्थापित करना।
  • प्रक्रिया: 229 परिदृश्यों का पृथक रूप से ब्लाइंड पेयरवाइज बैटल के माध्यम से मूल्यांकन किया जाता है। फाउंडेशन लेबल मॉडल से छिपे रहते हैं।
  • आउटपुट: प्रत्येक परिदृश्य के लिए एक अंशांकित ELO स्कोर, जो संयोजन से स्वतंत्र इसकी नैतिक शक्ति का प्रतिनिधित्व करता है।

• चरण B: कंपोजिट एरिना (Composite Arena)

  • लक्ष्य: यह मापना कि जब मॉडल को एक साथ प्रस्तुत किया जाता है तो वे कई कृत्यों के बीच कैसे समझौता (trade-off) करते हैं।
  • प्रक्रिया: अंशांकित कृत्यों को दो-कत्य (two-act) नैतिक मदों में जोड़ा जाता है। लेखकों ने सभी $\binom{5}{2}=10$ फाउंडेशन जोड़ों और 16 गैर-तटस्थ तीव्रता विन्यासों ($\{-2, -1, +1, +2\}^2$) को क्रॉस करके 160 कंपोजिट प्रोफाइल का एक नियंत्रित ग्रिड बनाया।
  • प्रोटोकॉल: मॉडल 1,200 कंपोजिट-बनाम-कंपोजिट युद्धों का निर्णय लेते हैं। फाउंडेशन लेबल छिपे रहते हैं।
  • आउटपुट: प्रत्येक प्रोफाइल के लिए एक कंपोजिट ELO स्कोर, जो उनके एकीकृत निर्णय को दर्शाता है।

3. विश्लेषणात्मक ढांचा

लेखक सिंगल-सीन ELOs (घटक शक्ति) और कंपोजिट ELOs के बीच संबंध का विश्लेषण करने के लिए चार विशिष्ट संकेतों का उपयोग करते हैं:

1. संकुचित संरचना नियम (Compressed Composition Rule): यह परीक्षण करना कि क्या कंपोजिट ELO, घटक ELOs का एक रैखिक फलन है ($E_c = \beta(E_{s1} + E_{s2}) + \alpha$)।
2. फाउंडेशन अवशेष (Foundation Residuals): घटक शक्ति को नियंत्रित करने के बाद फाउंडेशन-विशिष्ट वेटिंग की पहचान करने के लिए रैखिक भविष्यवाणी से विचलन को मापना।
3. तीव्रता एंकरिंग (Intensity Anchoring): गैर-योगात्मक प्रभावों की जांच करना जहाँ विशिष्ट तीव्रता विन्यास (जैसे, $+2, -1$) उन अन्य विन्यासों की तुलना में अलग परिणाम देते हैं जिनका घटक योग समान है (जैसे, $+1, +1$)।
4. क्रॉस-मॉडल अभिसरण (Cross-Model Convergence): विभिन्न मॉडल प्रदाताओं के बीच कंपोजिट प्राथमिकता सतहों के सहसंबंध का आकलन करना।

मुख्य योगदान

1. मोरल ट्रॉली एरिना बेंचमार्क: एक अभिनव दो-चरणीय ब्लाइंड ELO बेंचमार्क जो नैतिक ऑडिट को पृथक कृत्य रैंकिंग से बदलकर संयुक्त नैतिक साक्ष्य पर निर्णयों की ओर ले जाता है।
2. संरचना नियमों का लक्षण वर्णन: लेखक पहचानते हैं कि कंपोजिट निर्णय घटक ELOs के संकुचित रैखिक फलन (compressed linear function) का पालन करते हैं, न कि एक सरल योगात्मक मॉडल का।
3. तीव्रता एंकरिंग की खोज: अध्ययन गैर-योगात्मक तीव्रता एंकरिंग को प्रकट करता है, जहाँ एक अत्यधिक सकारात्मक घटक और एक हल्के नकारात्मक घटक वाला प्रोफाइल ($+2, -1$), दो मध्यम सकारात्मक घटकों ($+1, +1$) वाले प्रोफाइल से बेहतर प्रदर्शन करता है, जबकि घटक शक्ति का योग समान है।
4. फाउंडेशन-विशिष्ट अवशेष: घटक शक्ति को नियंत्रित करने के बाद, लेखक बंधित अवशेषों (bounded residuals) को अलग करते हैं, जिसमें निष्ठा (Loyalty) के लिए सकारात्मक अवशेष और देखभाल (Care) के लिए नकारात्मक अवशेष मिलता है, जबकि अन्य फाउंडेशन रैखिक भविष्यवाणियों के करीब संरेखित होते हैं।
5. क्रॉस-प्रदाता अभिसरण: कंपोजिट प्राथमिकता सतहें नौ अलग-अलग प्रदाताओं के दस फ्रंटियर मॉडल्स के बीच उच्च अभिसरण (औसत पेयरवाइज $r = 0.939$) दिखाती हैं, जो यह सुझाव देता है कि ये संरचना व्यवहार वर्तमान फ्रंटियर मॉडल्स के साझा गुण हैं।

परिणाम

अध्ययन ने दस फ्रंटियर मॉडल्स (Claude-Sonnet-4.6, GPT-5.2, Gemini-2.5-Pro, आदि सहित) का मूल्यांकन किया, जिससे 29,134 ब्लाइंड पेयरवाइज निर्णयों का संग्रह बना।

• संकुचित एकीकरण (Compressed Integration): सभी मॉडल्स में, घटक ELO योगों और कंपोजिट ELOs के बीच रैखिक संबंध का ढलान ($\beta$) लगातार 1 से कम ($\bar{\beta} = 0.862$) था। यह इंगित करता है कि मॉडल संयुक्त नैतिक साक्ष्य को जोड़ने के बजाय उन्हें संकुचित (compress) करते हैं।
• तीव्रता एंकरिंग: मॉनोटोनिसिटी (एकदिशता) से महत्वपूर्ण विचलन देखा गया। $s=+1$ तीव्रता योग वाले प्रोफाइल (जो $+2/-1$ जोड़ी द्वारा संचालित है) ने $s=+2$ वाले प्रोफाइल (जो $+1/+1$ जोड़ियों द्वारा संचालित है, $1063.4$) की तुलना में उच्च कंपोजिट ELO ($1098.4$) प्राप्त किया, भले ही उनके घटक ELO योग लगभग समान थे। यह सुझाव देता है कि एक उच्च-तीव्रता वाला एंकर, कुल योग की तुलना में निर्णय को अधिक संचालित करता है।
• फाउंडेशन अवशेष: घटक शक्ति को नियंत्रित करने पर, निष्ठा (Loyalty) ने सकारात्मक अवशेष ($+9.58$) प्रदर्शित किया, जो दर्शाता है कि इसे कंपोजिट निर्णयों में अतिरिक्त भार मिलता है। इसके विपरीत, देखभाल (Care) ने नकारात्मक अवशेष ($-9.22$) दिखाया।
• अभिसरण: मॉडल्स के बीच 160-आयामी कंपोजिट ELO वेक्टर्स अत्यधिक सहसंबद्ध (औसत $r=0.939$) थे, जो यह दर्शाता है कि प्राप्त संरचना व्यवहार विभिन्न मॉडल आर्किटेक्चर और प्रशिक्षण पाइपलाइनों में सुदृढ़ है।

महत्व और दावे

यह शोध पत्र तर्क देता है कि नैतिक ऑडिट को केवल पृथक कृत्य रैंकिंग की जाँच करने से आगे बढ़कर संरचना नियमों (composition rules) को मापने की ओर विकसित होना चाहिए। निष्कर्ष बताते हैं कि:

• सरल रैंकिंग अपर्याप्त है: एक मॉडल की पृथक कृत्यों के लिए प्राथमिकता पूरी तरह से भविष्यवाणी नहीं करती है कि वह कैसा व्यवहार करेगी जब एक ही विकल्प में कई नैतिक संकेत मौजूद हों।
• संरचना गैर-रैखिक है: मॉडल केवल नैतिक मूल्यों को जोड़ते नहीं हैं; वे साक्ष्य को संकुचित करते हैं और तीव्रता एंकरिंग से प्रभावित होते हैं।
• साझा व्यवहारिक मूल (Shared Behavioral Primitives): विविध फ्रंटियर मॉडल्स के बीच इन संरचना नियमों की निरंतरता यह बताती है कि ये वर्तमान LLM आर्किटेक्चर के मौलिक गुण हैं, जिसका जटिल एजेंट समाजों और बायस प्रोपेगेशन पाइपलाइनों में नैतिक साक्ष्य के संचय, प्रभुत्व या निरस्तीकरण के तरीके पर प्रभाव पड़ता है।

लेखक एक सीमित दायरे बनाए रखते हैं, यह नोट करते हुए कि यह बेंचमार्क मजबूर ट्रॉली फ्रेमिंग के तहत प्रकट किए गए विकल्पों को मापता है और यह मॉडल नैतिकता का पूर्ण सिद्धांत नहीं है। वे 5-स्तरीय तीव्रता पैमाने, तीव्रता के लिए LLM-लेबल वाले परिदृश्यों के उपयोग, और छोटे ओपन-वेट मॉडल्स और बहुभाषी सेटिंग्स को बाहर करने संबंधी सीमाओं को स्वीकार करते हैं।