Self-Preference Is Weak or Absent in Verifiable Instruction-Following Revision: A Four-Model Test Under Genuine Authorship

तकनीकी सारांश: सत्यापन योग्य निर्देश-अनुपालन संशोधन में आत्म-वरीयता (Self-Preference) कमजोर या अनुपस्थित है

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) में एक प्रलेखित "आत्म-वरीयता" (self-preference) पूर्वाग्रह देखा जाता है, जहाँ वे स्वयं द्वारा लिखे गए टेक्स्ट को प्राथमिकता देते हैं जब वे निर्णायक की भूमिका निभाते हैं। हालाँकि यह पूर्वाग्रह गुणवत्ता-निर्णय और स्वयं-परिष्करण (self-refinement) लूप्स में स्थापित है, यह स्पष्ट नहीं है कि क्या मॉडल अपने स्वयं के लेखन के लिए वैध सुधारों का विरोध करते हैं। विशेष रूप से, जब एक मॉडल को उसके द्वारा लिखे गए ड्राफ्ट के लिए एक ठोस, मशीन-सत्यापित सुधार प्रस्तुत किया जाता है, तो क्या वह एक तटस्थ मॉडल की तुलना में उस सुधार को अधिक बार अस्वीकार करता है? दो कारणों से इसका स्पष्ट उत्तर देना कठिन रहा है: (1) कोई सुधार "वैध" है या नहीं, यह निर्धारित करने के लिए आमतौर पर दूसरे LLM की आवश्यकता होती है, जो अध्ययन किए जा रहे पूर्वाग्रह को ही पुन: पेश कर देता है (चक्रीयता/circularity); और (2) पिछले अध्ययन अक्सर "बताए गए लेबल" (मॉडल को यह बताना कि "आपने यह लिखा है") पर निर्भर करते हैं बजाय वास्तविक इन-कॉन्टेक्स्ट लेखकत्व (in-context authorship) के।

कार्यप्रणाली
यह अध्ययन IFEval डेटासेट और इसके आधिकारिक चेकर पर आधारित एक नियतात्मक (deterministic), सत्यापन योग्य ढांचे का उपयोग करके इन समस्याओं का समाधान करता है।

• सत्यापन योग्य सत्य (Verifiable Ground Truth): ड्राफ्ट और सुधारों की वैधता एक प्रोग्रामेटिक चेकर द्वारा निर्धारित की जाती है, न कि किसी LLM द्वारा। चेकर पुष्टि करता है कि एक ड्राफ्ट ने विशिष्ट बाधा (constraint) का उल्लंघन किया है और एक प्रस्तावित संपादन ने अन्य बाधाओं को तोड़े बिना उस उल्लंघन को ठीक कर दिया है।
• प्रायोगिक डिज़ाइन: लेखक एक ही सत्यापित-अच्छे सुधार के लिए दो निर्णय लेने वाली स्थितियों की तुलना करते हैं:
  1. लेखक (वास्तविक): वह मॉडल जिसने वास्तव में इन-कॉन्टेक्स्ट में ड्राफ्ट तैयार किया था, वह संपादन को स्वीकार या अस्वीकार करने का निर्णय लेता है। यह सुनिश्चित करता है कि "बताए गए लेबल" के बिना वास्तविक लेखकत्व बना रहे।
  2. नया (Fresh): एक अलग मॉडल (या एक नया सत्र/सेशन में उसी परिवार का मॉडल) उस ड्राफ्ट को तटस्थ रूप से "एक ड्राफ्ट रिस्पॉन्स" के रूप में देखता है और उसी संपादन पर निर्णय लेता है।
• दायरा: यह अध्ययन तीन पायलटों के माध्यम से विस्तृत होता है, जो चार मिड-टियर मॉडल परिवारों (gpt-4o-mini, claude-3.5-haiku, gemini-2.5-flash-lite, और llama-3.3-70b-instruct) के एक सशक्त परीक्षण (P3) तक पहुँचता है, जिसमें 85 उपयोगी ड्राफ्ट शामिल हैं।
• मेट्रिक: प्राथमिक मेट्रिक स्व-वरीयता अंतराल (self-preference gap, $G$) है, जिसे लेखक और नए मॉडल के बीच अस्वीकृति दरों के अंतर के रूप में परिभाषित किया गया है ($G = r_{author} - r_{fresh}$)। एक सकारात्मक $G$ इंगित करता है कि लेखक अपने स्वयं के कार्य के लिए वैध सुधारों को स्वीकार करने में अधिक अनिच्छुक है।

मुख्य परिणाम

• आत्म-वरीयता की अनुपस्थिति: 85 ड्राफ्ट और चार मॉडल परिवारों में, कोई पता लगाने योग्य आत्म-वरीयता नहीं पाई गई। संचित स्व-वरीयता अंतराल $G = -5.1$ प्रतिशत अंक (pp) था, जिसका 95% विश्वास अंतराल $[-12.9, +2.7]$ था। यह अंतराल शून्य को समाहित करता है, जो दर्शाता है कि लेखक अपने स्वयं के ड्राफ्ट के लिए सत्यापित-अच्छे सुधारों को लगभग उसी दर से अस्वीकार करते हैं जिस दर से नए मॉडल उन्हीं ड्राफ्टों का निर्णय लेते हैं।
• शून्य का पुनरुत्पादन (Replication of Null): एक छोटे पायलट (P2) ने एक कमजोर "आत्म-संदेह" (self-skepticism) संकेत का सुझाव दिया (लेखक अपने स्वयं के कार्य पर थोड़े अधिक कठोर थे), लेकिन यह बड़े P3 परीक्षण में पुनरुत्पादित नहीं हुआ। वास्तव में, P3 में पॉइंट एस्टीमेट थोड़ा नकारात्मक था, जो बताता है कि लेखक अपने स्वयं के कार्य के लिए सुधारों को स्वीकार करने के लिए थोड़े अधिक इच्छुक थे।
• गुणात्मक अंतर: जबकि अस्वीकृति की दर में महत्वपूर्ण अंतर नहीं था, लेखकों के अस्वीकार करने के स्वरूप में अंतर था। उन 39 मामलों में जहाँ लेखकों ने एक सत्यापित-अच्छे सुधार को अस्वीकार किया, 97.4% को "चेकर से अधिक सख्त" (दोष-पकड़ने वाला, जैसे कि यह पहचानना कि सुधार ने एक माध्यमिक बाधा को तोड़ दिया है) के रूप में वर्गीकृत किया गया था, जबकि केवल 2.6% केवल पसंद (जैसे "मैं मूल को पसंद करता हूँ") पर आधारित थे।
• मॉडल परिवर्तनशीलता: अस्वीकृति दरें मॉडल परिवार के अनुसार भिन्न थीं, लेकिन यह मुख्य रूप से "Fresh" तुलनात्मक मॉडलों की कठोरता के कारण था, न कि स्वयं लेखकों के कारण। सभी परिवारों में लेखक की अस्वीकृति दरें 15% के आसपास मजबूती से केंद्रित रहीं।

महत्व और दावे
यह शोध पत्र दावा करता है कि यह स्व-संबंधी पूर्वाग्रहों के परिदृश्य में एक "स्वच्छ सेल" (clean cell) को मैप करता है। जबकि गुणवत्ता-निर्णय और उत्तर-चयन कार्यों में आत्म-वरीयता अच्छी तरह से प्रलेखित है, यह अध्ययन प्रदर्शित करता है कि वास्तविक इन-कॉन्टेक्स्ट लेखकत्व के तहत सत्यापन योग्य निर्देश-अनुपालन संशोधन के विशिष्ट सेटिंग में, यह पूर्वाग्रह कमजोर या अनुपस्थित है।

लेखक अपने दावों के संबंध में स्पष्ट रूप से विनम्रता व्यक्त करते हैं:

• वे यह दावा नहीं करते कि आत्म-वरीयता सार्वभौमिक रूप से "अनुपस्थित सिद्ध" है, बल्कि वे कहते हैं कि नमूना आकार ($N=85$) को देखते हुए $\sim13$ pp से कम के प्रभावों को खारिज नहीं किया जा सकता है।
• यह अध्ययन मिड-टियर मॉडलों तक सीमित है (IFEval सीलिंग प्रभावों से बचने के लिए) और लो-लैटीट्यूड, परमाणु बाधाओं (atomic constraints) तक सीमित है (समग्र संशोधनों जैसे शैली या तर्क को छोड़कर)।
• पहले के पायलटों में देखे गए "आत्म-संदेह" (self-skepticism) संकेत को एक मजबूत निष्कर्ष नहीं माना जाता है, क्योंकि यह बड़े पैमाने पर पुनरुत्पादित होने में विफल रहा।

प्राथमिक सुदृढ़ योगदान इसकी कार्यप्रणाली (नियतात्मक चेकर + वास्तविक लेखकत्व) है जो एक विश्वसनीय 'शून्य परिणाम' (null result) की अनुमति देती है, और गुणात्मक अवलोकन है कि जब लेखक वैध सुधारों को अस्वीकार करते हैं, तो यह अहंकार या पसंद के बजाय कठोर दोष-पकड़ने के कारण होता है।