Geometric Decoupling: Diagnosing the Structural Instability of Latent

1. بيان المشكلة

أحدثت نماذج الانتشار الكامن (LDMs) ثورة في الذكاء الاصطناائي التوليدي من خلال تحقيق تخليق صور عالي الدقة. ومع ذلك، فهي تعاني من خلل بنيوي حرج: هشاشة الفضاء الكامن. فبينما تبرع هذه النماذج في أخذ العينات من توزيع ما، إلا أنها هشة عند التنقل عبر هذا التوزيع؛ حيث تؤدي الاضطرابات الطفيفة في الكود الكامن غالبًا إلى قفزات دلالية متقطعة، مما يكسر السلاسة المطلوبة للتحرير والتدخل (interpolation) والقلب (inversion) المنضبطين.

تعزو الأدبيات الحالية هذه عدم الاستقرار إلى عدم الخطية العامة للشبكات العميقة، لكنها تفشل في تقديم تشخيص هندسي كمي. وتحديدًا، لا توضح الطرق الحالية:

• أين بالضبط "ينكسر" المتشعب (manifold).
• لماذا تتباعد اتجاهات التحرير تحت ظروف خارج نطاق التوزيع (OOD).
• التكلفة الهندسية المحددة التي تدفعها النماذج لتوليد مخرجات عالية الدقة ولكنها غير مستقرة بنيويًا.

2. المنهجية: إطار ريماني (Riemannian Framework)

يقترح المؤلفون إطارًا هندسيًا ريمانيًا لتشخيص عدم الاستقرار البنيوي لنماذج الانتشار الكامنة. وبدلاً من معاملة الفضاء الكامن كفضاء إقليدي مسطح، يقومون بتحليل الخريطة التوليدية $G: \mathcal{Z} \to \mathcal{X}$ باستخدام الهندسة التفاضلية.

الواصفات الهندسية الرئيسية

تقوم المنهجية بتفكيك جاكوبي (Jacobian) التوليد إلى مقياسين أساسيين:

1. القياس المحلي (Local Scaling - LS): يقيس السعة المعلوماتية للمتشعب عبر توسع الحجم. ويُعرف بأنه مجموع لوغاريتم القيم المفردة لجاكوبي الفضاء الجزئي. يشير الـ LS المرتفع إلى المناطق التي يتوسع فيها الحجم الكامن بشكل كبير، مما يسمح نظريًا بترميز معلومات كثيف.
2. التعقيد المحلي (Local Complexity - LC): يقيس عدم الاستقرار الهندسي والانحناء. فهو يحدد معدل دوران المتجه الذاتي الرئيسي ($V_1$) لموتر المترية المحلي داخل جوار معين. يشير الـ LC المرتفع إلى أن اتجاه التغير الدلالي الأقصى يدور بسرعة، مما يؤدي إلى مسارات تنقل غير مستقرة.

التشخيصات الوظيفية

لتحديد ما إذا كان الانحناء مفيدًا أم مرضيًا، قدم المؤلفون:

• إسقاط الاتجاه الرئيسي (Principal Direction Projection - P1): وهو إسقاط المحور الرئيسي الكامن ($V_1$) على فضاء البيانات عبر حاصل ضرب متجه جاكوبي (Jacobian-Vector Product). يوضح هذا ما يتم تغييره بالضبط في المحتوى بواسطة الاتجاه الأكثر عدم استقرارًا في النموذج.
• طاقة التردد العالي المسقطة (Projected High-Frequency Energy - PHFE): مقياس يقيس محتوى التردد العالي (الحواف، الأنسجة) لمتجه التغيير (P1)، وهو متميز عن طاقة التردد العالي الساكنة للصورة النهائية.
  • الاقتران الوظيفي: إذا ارتبط الـ LC مع الـ PHFE، فإن الانحناء يقوم بترميز التفاصيل المعقدة بكفاءة.
  • الفصل الهندسي (Geometric Decoupling): إذا كان الـ LC مرتفعًا ولكن الـ PHFE منخفضًا، فإن الانحناء يُهدر على تشوهات غير دلالية.

مقاييس إضافية

• درجة العزل الطيفي (Spectral Isolation Score - SIS): تقيس تأثير "الرؤية النفقية" حيث ينغلق المتشعب بصرامة على محور واحد، مما يقطع الاتصالات مع الأبعاد الدلالية الثانوية.
• تحليل مسار التدخل (Interpolation Trajectory Analysis): يقيس طول المسار، والالتواء (tortuosity)، والقفزات القصوى أثناء التنقل الكامن للكشف عن الهشاشة البنيوية العالمية.

3. المساهمات الرئيسية

1. تحديد الفصل الوظيفي الهندسي: تقدم الورقة أول دليل تجريبي على أن الدور الوظيفي للانحناء الهندسي (LC) يعتمد على السياق. ففي ظروف خارج نطاق التوزيع (OOD)، ينهار الارتباط بين LC وتفاصيل الصورة (PHFE)، مما يكشف أن عدم استقرار OOD مدفوع بـ التواء المتشعب غير الوظيفي.
2. التوصيف الكمي لـ "الفصل الهندسي": يوضح المؤلفون أن عمليات التوليد في ظروف OOD تسبب طفرة غير طبيعية في كل من قيم LC و LS. والأهم من ذلك، بينما يزيد النموذج من جهده الهندسي (LC)، فإن الكفاءة التوليدية (القدرة على ترميز التفاصيل الملحوظة عبر LC) تتضاءل بشدة.
3. تحليل مسار التدخل: يظهرون أن ظروف OOD تسبب التواءً مرضياً وانقطاعات ذات ذيول ثقيلة في المسارات الكامنة، مما يؤكد أن الفصل الهندسي المحلي يترجم إلى هشاشة بنيوية شديدة أثناء التنقل.
4. التحقق السببي: من خلال تدخلات التدريب (مقارنة SD3.5 Base مقابل Turbo)، يظهرون أن فجوة الفصل حساسة لأنظمة التدريب، مما يشير إلى أنها نتيجة بنيوية للعملية التوليدية وليست مجرد أثر إحصائي.

4. النتائج التجريبية

أُجريت الدراسة على Stable Diffusion 3.5 و FLUX.1، مع مقارنة المطالبات الطبيعية (داخل نطاق التوزيع) والمطالبات الخارجة عن النطاق (OOD) (مثل "دجاجة بأسنان"، "كرسي ذائب"، "بطريق طائر").

• فجوة الارتباط:
  • التوليد الطبيعي: ارتباط إيجابي قوي بين LC و PHFE ($\rho \approx 0.41$ لـ SD3.5)، مما يشير إلى أن الانحناء يُستخدم لترميز التفاصيل.
  • توليد OOD: ينهار الارتباط إلى ما يقرب من الصفر ($\rho \approx 0.08$). يبذل النموذج انحناءً فائقًا ولكنه لا يُستخدم لترميز أي تفاصيل ملحوظة.
• انهيار انتقال التردد العالي:
  • تحت ضغط OOD، تزدل طاقة التردد العالي الجيومتري (PHFE) بنسبة ~59.5%، لكن طاقة التردد العالي الناتجة في فضاء الصورة تظل دون تغيير تقريبًا.
  • يشير هذا إلى انخفاض في كفاءة النقل ($\eta$)، حيث تحقق الجهود الهندسية للنموذج عوائد متناقصة في الدقة البصرية.
• صلابة المتشعب:
  • تُظهر عينات OOD زيادة في درجة العزل الطيفي (SIS) (على سبيل المثال، +31% لـ "الكرسي الذائب")، مما يشير إلى أن المتشعب يصبح "شديد الصلابة"، حيث ينغلق على محور واحد ويفقد اللدونة متعددة الأبعاد.
• الأدلة البصرية (البقع الهندسية الساخنة):
  • تكشف الخرائط الحرارية أن "البقع الهندسية الساخنة" (مناطق LC الشديد) تتماشى بدقة مع الشذوذات الدلالية (مثل أسنان الدجاجة أو أجنحة البطريق الطائر).
  • تظهر هذه البقع فصلاً مكانياً عن التفاصيل الفعلية عالية التردد (PHFE)، مما يؤكد تخصيص الموارد لحل النزاعات الدلالية بدلاً من توليد الأنسجة.
• عدم كفاءة المسار:
  • تُظهر مسارات التدخل في ظروف OOD زيادة بنسبة 18.3% في طول المسار التراكمي، وزيادة بنسبة 21.9% في الطول الزائد، مما يثبت أن عمليات التدخل السلسة في فضاء الضجيج تترجم إلى مسارات غير منتظمة وغير فعالة للغاية في الفضاء الكامن النهائي.

5. الأهمية والتطبيقات

• الرؤية النظرية: تنقل هذه الورقة النموذج من اعتبار عدم استقرار LDMs مجرد ضجيج عشوائي إلى فهمه كـ تكلفة بنيوية للتعميم الدلالي. لقد حددت "الفصل الهندسي" كسبب جذري للهلوسة والقفزات الدلالية.
• الكشف عن OOD بدون تسميات توضيحية: يقترح المؤلفون نسبة الكفاءة الهندسية (LC/PHFE) كمعيار قوي وصفر-مشار (zero-shot) للكشف عن فشل OOD. يحقق هذا المعيار AUROC قدره 0.816، وهو ما يتفوق بشكل كبير على مقاييس LC أو LS وحدها.
• مراقبة التدريب: يعمل انخفاض الارتباط كإشارة حساسة لمراقبة سلامة النموذج أثناء التقطير (distillation) أو الضبط الدقيق (fine-tuning)، مما يوفر إشارة جودة مستقلة عن البنية لا يمكن لمقاييس فضاء البكسل التقليدية (مثل FID) التقاطها.
• الاتجاهات المستقبلية: تشير النتائج إلى مسارات جديدة لـ "النماذج التوليدية المدركة هندسياً"، بما في ذلك التنظيم الهندسي أثناء التدريب لمعاقبة تباين الانحناء العالي، وأخذ العينات المتكيف مع الانحناء لضمان استقرار أكبر أثناء الاستدلال.

باختصار، يقدم هذا العمل عدسة رياضية صارمة لتشخيص سبب فشل LDMs تحت الضغط الدلالي، كاشفاً أن النماذج "تهدر" مواردها الهندسية على الحدود غير المستقرة بدلاً من التفاصيل الملحوظة، مما يؤدي إلى ظاهرة الفصل الهندسي.