🤖 machine learning
Dual-Stance Evaluation of Sycophancy: The Structure of Agreement and the Limits of Intervention
यह शोध पत्र एक दोहरी-दृष्टिकोण (dual-stance) मूल्यांकन पद्धति प्रस्तुत करता है जो यह प्रकट करता है कि एलएलएम (LLM) में चाटुकारिता (sycophancy) को कम करने के उद्देश्य से की जाने वाली एक्टिवेशन स्टीयरिंग (activation steering), तथ्यात्मक सत्यों के साथ सहमत होने और चाटुकारितापूर्ण संकेतों के साथ सहमत होने के बीच अंतर करने में विफल रहती है, जिससे वे दोनों प्रकार की सहमति को अनियंत्रित रूप से दबा देती है, बावजूद इसके कि वे ज्यामितीय रूप से भिन्न उप-स्थानों (subspaces) में प्रतिनिधित्व रखती हैं।