A Gravitational Interpretation of Fine-Tuning Reversion
本論文は、ファインチューニングによる回帰の「ニングにおける回帰現象を「重力的解釈」として提案している。ここで用いられる「重力」という用語は、物理的な力学法則を指すものではなく、学習履歴によって生じるバイアスが幾何学的な引き付け(pull)として機能するという最適化のメタファーである。具体的には、初期学習が支配的な行動多様体を確立し、その幾何学的な構造がモデルを事前アライメント時の振る舞いへと回帰させる。この現象は、安全性の浸食を防ぐために阻止可能な、特定の履歴によって定義される方向()によって特徴付けられる。