ملخص تقني: LLM-TabLogic

بيان المشكلة

تعد البيانات الجدولية الاصطناعية حيوية بشكل متزايد لمعالجة نقص البيانات ومخاوف الخصوصية في التطبيقات الصناعية مثل تحليلات سلاسل التوريد ومحاكاة التوأم الرقمي. ومع ذلك، تواجه النماذج التوليدية الحالية قصوراً حرجاً: فبينما تنجح غالباً في الحفاظ على الخصائص الإحصائية العالمية (مثل التوزيعات الهامشية والارتباطات الثنائية)، فإنها تفشل تكراراً في الحفاظ على العلاقات المنطقية بين الأعمدة الخاصة بالمجال.

في الأنظمة المعقدة الواقعية، تكون الأعمدة مترابطة من خلال قيود صارمة، مثل:

• القيود الزمنية: يجب أن تكون تواريخ التسليم لاحقة لتواريخ الطلب.
• القيود الرياضية: يجب أن يساوي إجمالي سعر البيع سعر الوحدة مضروباً في الكمية.
• القيود الهرمية: يجب أن تنتمي مدينة معينة إلى دولة مقابلة لها.

تجد الطرق الحالية، بما في ذلك تقنيات الاستكمال (SMOTE)، وشبكات الخصومة التوليدية (CTGAN)، ونماذج الانتشار (TabDDPM, TabSyn)، ونهج النماذج اللغوية الكبيرة (GReeT)، صعوبة في الحفاظ صراحةً على هذه التبعيات المعقدة المحددة لكل صف. وتؤدي هذه الإخفاقات إلى بيانات اصطناعية تفتقر إلى الفائدة الواقعية للمحاكاة واتخاذ القرار، رغم امتلاكها دقة إحصائية عالية محتملة.

المنهجية: LLM-TabLogic

يقترح المؤلفون LLM-TabLogic، وهو إطار عمل مبتكر يدمج الاستدلال القائم على النماذج اللغوية الكبيرة (LLM) مع الانتشار الكامن القائم على الدرجة (Score-based latent diffusion) لتوليد بيانات جدولية اصطناعية تلتزم بصرامة بالعلاقات المنطقية بين الأعمدة. يعمل هذا النهج من خلال مسار مكون من أربع مراحل:

1. التسلسل والاستدلال الموجه بالطلبات (Prompt-Guided Reasoning)

تبدأ العملية بتحويل أسماء الأعمدة وأوصاف بياناتها الوصفية (Metadata) إلى لغة طبيعية. تُغذى هذه المدخلات المتسلسلة، مع الطلبات العامة والتعليمات الخاصة بالمهمة، إلى نموذج لغوي كبير (مثل GPT-4 أو DeepSeek). يقوم النموذج اللغوي الكبير بإجراء استدلال منطقي لاستنتاج وضغط العلاقات المعقدة بين الأعمدة في تمثيلات مهيكلة. تُصنف المخرجات إلى ثلاثة أنواع من التبعيات:

• الاتساق الهرمي ($R_H$): الربط بين السمات التفصيلية والسمات الكلية (مثل: المدينة $\leftarrow$ الدولة).
• التبعية الرياضية ($R_M$): الربط بين المتغيرات المستقلة والمتغيرات المشتقة (مثل: السعر $\times$ الكمية $\leftarrow$ الإجمالي).
• التبعية الزمنية ($R_T$): تسلسل مرتب للأعمدة (مثل: تاريخ الطلب $\leftarrow$ تاريخ التسليم).

2. ضغط البيانات الجدولية

بدلاً من إجبار النموذج التوليدي على تعلم قواعد حتمية جامدة (التي لا تقدم أي إشارة احتمالية)، يستخدم إطار العمل العلاقات المستخرجة من النموذج اللغوي الكبير لـ ضغط البيانات.

• يتم حذف المتغيرات الحتمية (مثل الأعمدة المشتقة) أو استبدالها بدوال التوليد الخاصة بها.
• تشكل المتغيرات "المستقلة" المتبقية مجموعة بيانات مضغوطة ($X_c$).
• تعمل هذه الخطوة فعلياً على فصل القيود المنطقية عن عملية التوليد العشوائية، مما يسمح للنموذج التوليدي بالتركيز على تعلم التوزيع الأساسي للمتغيرات المستقلة.

3. توليد الفضاء الكامن (Latent Space Generation)

يتم تحويل البيانات المضغوطة $X_c$ إلى رموز (Tokens) وتشفيرها في فضاء كامن باستخدام مشفر تلقائي متباين (VAE) قائم على المحولات (Transformer). بعد ذلك، يتم تدريب نموذج انتشار قائم على الدرجة على هذه التضمينات الكامنة ($H_0$).

• العملية الأمامية (Forward Process): يتم إضافة ضوضاء غاوسية تدريجياً إلى التضمينات الكامنة.
• العملية العكسية (Reverse Process): تتعلم شبكة عصبية دالة الدرجة ($\nabla \log p(H_t)$) لإزالة الضوضاء من البيانات بشكل تكراري، واستعادة التوزيع الكامن الأصلي.
• يتم أخذ عينات من التضمينات الكامنة الاصطناعية ($H'$) من هذا التوزيع المتعلم.

4. فك ضغط البيانات الاصطناعية

يتم فك تشفير التضمينات الكامنة المولدة وإعادتها إلى مساحة البيانات المضغوطة ($X'_c$). أخيراً، تستخدم دالة فك الضغط ($f_{decom}$) العلاقات المنطقية المستخرجة سابقاً ($R_H, R_M, R_T$) لإعادة بناء مجموعة البيانات الكاملة ($X'$). تعيد هذه الخطوة إدخال المتغيرات المشتقة وتفرض القيود الهرمية والزمنية، مما يضمن اتساق البيانات الاصطناعية النهائية مع المخطط (Schema) الأصلي.

المساهمات الرئيسية

1. إطار عمل مبتكر: يقدم البحث أول طريقة للحفاظ صراحةً على العلاقات المعقدة بين الأعمدة في توليد البيانات الجدولية الاصطناعية دون الحاجة إلى معرفة يدوية بالمجال، وذلك عبر الاستفادة من قدرة النماذج اللغوية الكبيرة على استنتاج العلاقات.
2. إطار تقييم شامل: يقترح المؤلفون إطار تقييم شاملاً يقيم البيانات الاصطناعية عبر ستة أبعاد: الدقة، التنوع، المنفعة، الخصوصية، الاتساق، والتبعية. وهذا يتجاوز المقاييس التقليدية (مثل منفعة التعلم الآلي) ليشمل الاتساق المنطقي.
3. بنية هجينة: يجمع النهج بشكل فريد بين القدرات الدلالية للاستدلال في النماذج اللغوية الكبيرة (لاستخراج العلاقات) والقدرة العالية على نمذجة التوزيع لنماذج الانتشار القائمة على الدرجة (لتوليد البيانات).

النتائج التجريبية

تم تقييم الطريقة على مجموعتي بيانات صناعيتين من العالم الحقيقي (التجزئة - Retail و المشتريات - Purchasing) ومقارنتها بخمسة نماذج مرجعية وهي: SMOTE، وCTGAN، وTabDDPM، وTabSyn، وGReaT.

• الاتساق المنطقي: حقق LLM-TabLogic درجات تقترب من المثالية (حوالي 99.9% - 100%) في درجة الاتساق الهرمي (HCS) ومؤشر التبعية متعدد المتغيرات (MDI)، متفوقاً بشكل كبير على جميع النماذج المرجعية. وبينما أظهر نموذج GReaT قدرة قوية على الحفاظ على المنطق، إلا أنه واجه صعوبات في المقاييس الأخرى. أما النماذج القائمة على الفضاء الكامن (CTGAN، TabDDPM) فقد كان أداؤها ضعيفاً في الاتساق المنطقي.
• دقة البيانات (Fidelity): حققت الطريقة أداءً رائداً (State-of-the-art) في $\alpha$-Precision (الإحصائيات عالية الرتبة) والارتباطات الثنائية، مما يضاهي أو يتجاوز أداء TabSyn وSMOTE.
• المنفعة: في مهام التعلم الآلي اللاحقة (التصنيف عبر XGBoost)، حقق LLM-TabLogic أعلى درجات AUC في مجموعة بيانات التجزئة وثاني أعلى درجة في مجموعة بيانات المشتريات، مما يثبت أن الاتساق المنطقي يترجم إلى منفعة تنبؤية أفضل.
• الخصوصية: حققت الط Method توازناً مثالياً بين دقة البيانات والخصوصية (المقاسة بالمسافة إلى أقرب سجل، DCR). وخلافاً لنموذج SMOTE الذي قدم دقة عالية ولكن خصوصية ضعيفة، ولنموذج TabDDPM الذي قدم خصوصية عالية ولكن منفعة منخفضة، حافظ LLM-TabLogic على منفعة عالية مع ضمان حماية قوية للخصوصية.

الأهمية والادعاءات

يزعم البحث أن LLM-TabLogic يضع معياراً جديداً لتوليد البيانات الجدولية الاصطناعية من خلال حل فجوة "الاتساق المنطقي" التي حدت من إمكانية تطبيق الأساليب الحالية في السيناريوهات الصناعية الواقعية.

• الأول من نوعه: يؤكد المؤلفون أن هذا هو أول منهج يحافظ بفعالية على العلاقات بين الأعمدة دون الحاجة إلى معرفة صريحة بالمجال، معتمداً بدلاً من ذلك على استدلال النماذج اللغوية الكبيرة.
• القابلية للتطبيق الصناعي: من خلال ضمان التزام البيانات الاصطناعية بالقيود الواقعية (مثل لوجستيات سلاسل التوريد، والحسابات المالية)، فإن الطريقة تتيح الاستخدام الموثوق في التوائم الرقمية، ونماذج المحاكاة القائمة على الوكيل، وأنظمة اتخاذ القرار حيث قد تجعل الأخطاء المنطقية البيانات الاصطناعية عديمة الفائدة.
• التوازن في المقايضة: نجح النهج في تجاوز المقايضة التقليدية بين دقة البيانات، والمنفعة، والخصوصية، مقدماً حلاً قوياً لمشاركة البيانات مع الحفاظ على الخصوصية في المجالات الصناعية الحساسة.

يقر المؤلفون بوجود قيود، مشيرين إلى أن أداء الطريقة يعتمد على قدرة النموذج اللغوي الكبير على تفسير أوصاف الأعمدة (والتي قد تفشل في حالة الأسماء الغامضة أو المختصرة)، وأن التقييمات الحالية تقتصر على مجموعات بيانات سلاسل التوريد والرعاية الصحية. ويهدف العمل المستقبى إلى توسيع ذلك ليشمل العلاقات بين الجداول المتعددة ومجالات صناعية أكثر تنوعاً.