Procedural Knowledge Is Not Low-Rank: Why LoRA Fails to Internalize Multi-Step Procedures
تُظهر هذه الورقة أن تقنية LoRA تفشل في استيعاب المعرفة الإجرائية المعقدة متعددة الخطوات بفعالية مقارنة بالضبط الدقيق الكامل، لأن تحديثات الأوزان الضرورية تُظهر رتبة فعالة عالية تتجاوز بكثير قدرة LoRA منخفضة الرتبة، مما يؤدي إلى فجوات كبيرة في الأداء حتى عند الرتب العالية.