Differentiable Filtering for Learning Hidden Markov Models

ملخص تقني: التصفية القابلة للتفاضل لتعلم نماذج ماركوف المخفية

1. بيان المشكلة

تتناول الورقة البحثية تحدي تحديد الأنظمة (System Identification) لنماذج ماركوف المخفية (HMMs) — وهي عملية استعادة المعلمات الأساسية (التوزيع الأولي $\mu$، مصفوفة الانتقال $A$، ومصفوفة الانبعاث $C$) من تسلسل من البيانات المرصودة.

حدد المؤلفون قيوداً حرجة في النهج الحالية:

• الطرق الكلاسيكية (Baum-Welch/EM): رغم أنها سليمة رياضياً، إلا أن هذه الخوارزميات التكرارية مكلفة حاسبياً، وحساسة للقيم الأولية، وعرضة للتقارب نحو نهايات صغرى محلية سيئة.
• الخوارزميات الطيفية (Spectral Algorithms): توفر ضمانات مثبتة وكفاءة، لكنها تعاني في الأنظمة "فائقة الاكتمال" (Overcomplete) (حيث يكون بُعد الحالة الكامنة $d$ أكبر من بُعد الملاحظة $m$) بسبب نقص الرتبة، وغالباً ما تنتج توزيعات احتمالية غير صالحة.
• التعلم العميق (المحولات - Transformers): رغم قدرتها العالية على التنبؤ، إلا أنها نماذج "الصندوق الأسود". تفتقر معالمها إلى القابلية للتفسير ولا تستعيد صراحةً البنية التوليدية للعملية الأساسية.

2. المنهجية: إطار عمل شبكة الاعتقاد (Belief Net)

يقترح المؤلفون Belief Net، وهو إطار عمل للتصفية القابلة للتفاضل يجسد الفجوة بين النمذجة الاحتمالية المهيكلة والتعلم العميق القائم على التدرج.

البنية الأساسية:
بدلاً من الشبكة العصبية ذات الصندوق الأسود، يصيغ Belief Net مرشح ماركوف الأمامي المتكرر (Recursive Forward Filter) كرسوم بيانية حسابية مهيكلة. يحافظ النموذج على "حالة اعتقاد" $\mu_t$ (الاحتمال البعدي للحالات المخفية) ويقوم بتحديثها من خلال ثلاث خطوات صريحة:

1. خطوة الانبعاث (التصحيح): تحديث حالة الاعتقاد بناءً على الملاحظة الحالية باستخدام مصفوفة الانبعاث $C$.
2. خطوة الانتقال: التنبؤ بالحالة السابقة التالية باستخدام مصفوفة الانتقال $A$.
3. خطوة التقدير: التنبؤ بتوزيع الاحتمال للملاحظة التالية باستخدام مصفوفة الانبعاث $C$.

آلية التعلم:

• التمثيل البارامتري (Parameterization): الأوزان القابلة للتعلم في الشبكة هي الـ "logits" لمعلمات HMM ($\tilde{\mu}, \tilde{A}, \tilde{C}$). يتم تطبيق عملية softmax على هذه الـ logits لضمان أن المصفوفات الناتجة هي مصفوفات عشوائية (Stochastic Matrices) صالحة.
• التحسين (Optimization): يتم تدريب النموذج من البداية إلى النهاية (End-to-End) باستخدام الاشتقاق المتدرج العشوائي (SGD) مع مُحسن AdamW. دالة الخسارة هي خسارة "الاعتلاج المتقاطع للملاحظة التالية ذاتية الانحدار" (Autoregressive next-observation cross-entropy loss) القياسية، وهي مطابقة لتلك المستخدمة في تدريب النماذج الحديثة المعتمدة على فك الترميز فقط (مثل GPT). وهذا يسمح للنموذج بالتعلم عبر الانتشار العكسي (Backpropagation) خلال خطوات التصفية المتكررة.

3. المساهمات الرئيسية

• مرشح قابل للتفاضل مهيكل: صياغة مرشح HMM كشبكة عصبية حيث تتوافق الأوزان مباشرة مع معلمات HMM القابلة للتفسير.
• تدريب من البداية إلى النهاية: إثبات إمكانية تحسين معلمات HMM باستخدام أهداف نمذجة اللغة القياسية والاشتقاق التلقائي.
• القابلية للتفسير: على عكس المحولات (Transformers)، فإن الأوزان المتعلمة لـ Belief Net هي صراحةً احتمالات الانتقال والانبعاث لنموذج توليدي.
• القابلية للتوسع: من خلال استخدام التحديثات العشوائية للدفعات الصغيرة (Mini-batches)، يتغلب Belief Net على الاختناق الحسابي لخوارزمية Baum-Welch، التي تتطلب عادةً معالجة مجموعة البيانات بأكملها في كل تكرار.

4. النتائج التجريبية

قيم المؤلفون Belief Net مقابل Baum-Welch، والطرق الطيفية، والنماذج القائمة على المحولات (nanoGPT) عبر مجالين:

أ. بيانات HMM الاصطناعية:

• دقة التنبؤ: حقق Belief Net تقارباً أسرع وخسارة تحقق (Validation Loss) أقل من Baum-Welch. وفي الأنظمة فائقة الاكتمال ($d > m$)، نجح Belief Net في استعادة المعلمات حيث فشلت الطرق الطيفية تماماً.
• استعادة المعلمات: عند اختبار مختلف أبعاد الحالات المرشحة، حدد Belief Net بفعالية بُعد الحالة الحقيقي ($d=64$). كما أظهر متانة أعلى تجاه القيم الأولية مقارنة بـ Baum-Welch.
• المقارنة مع المحولات: بينما حققت نماذج nanoGPT خسارة أقل قليلاً (من خلال التقاط التفاصيل غير الماركوفية)، قدم Belief Net بديلاً تنافسياً للغاية وقابلاً للتفسير.

ب. بيانات النصوص الواقعية (الأوراق الفيدرالية):

• الأداء: في نمذجة اللغة على مستوى الحروف، تفوق Belief Net على طرق HMM الكلاسيكية (Baum-Welch والطرق الطيفية).
• القابلية للتفسير: أظهرت عملية تصور المصفوفات المتعلمة أن Belief Net التقط هياكل لغوية ذات معنى (على سبيل المثال، حالات محددة مخصصة لإصدار الأرقام، أو الحروف الكبيرة، أو الحروف الصغيرة).

5. الأهمية

هذا العمل مهم لأنه يوفر طريقة لتطبيق أدوات التحسين القوية للتعلم العميق على العالم المهيكل والقابل للتفسير للنماذج الرسومية الاحتمالية. إنه يثبت أنه ليس عليك الاختيار بين القدرة التنبؤية للشبكات العصبية والقابلية للتفسير لنماذج HMM؛ فمن خلال جعل عملية التصفية قابلة للتفاضل، يمكنك تعلم الأخيرة باستخدام تقنيات تحسين الأولى. وهذا له آثار واسعة النطاق في تحديد الأنظمة في مجالات الروبوتات، والبيولوجيا، والتمويل، حيث يكون فهم "السبب" وراء التسلسل بنفس أهمية التنبؤ بـ "ماذا" سيحدث.