Beyond a Single Direction: Chain-of-Thought Disrupts Simple Steering of Refusal
यह शोध पत्र प्रकट करता है कि लार्ज रीजनिंग मॉडल्स (Large Reasoning Models) में, रिफ्यूज़ल मैकेनिज्म (refusal mechanisms) रेसिडुअल स्ट्रीम एक्टिवेशन्स (residual stream activations) और चेन-ऑफ-थॉट ट्रेसेस (Chain-of-Thought traces) दोनों में संयुक्त रूप से एनकोड किए गए हैं, जिससे सरल एक्टिवेशन स्टीयरिंग (activation steering) तब तक कम प्रभावी हो जाती है जब तक कि स्वयं रीजनिंग प्रक्रिया में भी हेरफेर न किया जाए।