Omission Constraints Decay While Commission Constraints Persist in Long-Context LLM Agents
यह शोध पत्र "सिक्योरिटी-रिकॉल डायवर्जेंस" (Security-Recall Divergence) की पहचान और मात्रा निर्धारण करता है, जो एक ऐसी घटना है जहाँ एलएलएम (LLM) एजेंट बातचीत की लंबाई बढ़ने के साथ निषेध-आधारित सुरक्षा बाधाओं (लोप/omissions) का पालन करने में तेजी से विफल होते हैं, जबकि साथ ही आवश्यकता-आधारित बाधाओं (आदेशों/commissions) के प्रति सख्त अनुपालन बनाए रखते हैं, एक ऐसा विफलता मोड जो मानक निगरानी के लिए अदृश्य रहता है लेकिन जिसे मॉडल-विशिष्ट 'सेफ टर्न डेप्थ' (Safe Turn Depth) से पहले बाधाओं को पुनः इंजेक्ट करके कम किया जा सकता है।