Grokking or Glitching? How Low-Precision Drives Slingshot Loss Spikes
توضح هذه المقالة أن "آلية المقلاع" (slingshot mechanism)، التي تتميز بزيادات دورية حادة في الخسارة ونمو سريع في المعلمات أثناء التدريب طويل الأمد، لا تمثل ديناميكية تحسين جوهرية، بل هي بالأحرى نتاج رقمي ناجم عن الحسابات بنظام الفاصلة العائمة منخفض الدقة، حيث تؤدي أخطاء التقريب في التدرجات إلى انتهاك شرط المجموع الصفري وتؤدي إلى حلقة تغذية راجعة إيجابية تُعرف باسم تضخم الميزات الرقمي (NFI).