Large language models for partial differential equation workflows
تتناول هذه الورقة كيفية تحويل النماذج اللغوية الكبيرة لسير عمل المعادلات التفاضلية الجزئية من خلال دمج اللغة الطبيعية، والرياضيات الرمزية، والبرمجة عبر صياغة النموذج، وتوليد الحلول، والتحسين، مع تسليط الضوء على التحديات الجوهرية مثل ندرة مجموعات البيانات عالية الجودة والفجوة بين نتائج المحاكاة والتطبيقات الواقعية.
تخيل الكون كأنه فيلم سينمائي ضخم وغير مرئي يُعرض في الوقت الفعلي. في كل مرة تسقط فيها ورقة شجر، أو يتدفق نهر، أو يتأرجح جسر في مهب الريح، فإنه يتبع مجموعة من القواعد غير المرئية المكتوبة بلغة الرياضيات. يسمي العلماء هذه القواعد "المعادلات التفاضلية الجزئية" (أو PDEs اختصاراً). لا تنظر إلى الـ PDE كمعادلة مخيفة على سبورة، بل كبطاقة وصفة نهائية لكيفية تغير الأشياء. فهي تخبرك كيف تنتشر الحرارة عبر مقلاة، أو كيف يتدفق الهواء فوق جناح، أو كيف ينتقل فيروس عبر حشد من الناس.
لعقود من الزمن، كان استخدام هذه الوصفات يشبه إلى حد ما محاولة خبز "سوفليه" في مطبخ يتعين عليك فيه بناء فرنك الخاص، وخلط دقيقك الخاص، وتخمين درجة الحرارة، وكل ذلك وأنت ترتدي قفازات فرن كبيرة جداً. يتطلب الأمر طاهياً ماهراً (خبيراً بشرياً) لترجمة الوصفة إلى برنامج كمبيوتر، وتشغيل المحاكاة، والتحقق مما إذا كانت الكعكة قد احترقت، ثم البدء من جديد إذا لم ترتفع بالشكل المطلوب. إنها عملية بطيئة، ومكلفة، وتعتمد بشكل كبير على خبرة ذلك الطاهي. ولكن الآن، دخل نوع جديد من المساعدين إلى المطبخ: النماذج اللغوية الكبيرة (LLMs). قد تعرفها بصفتها برامج الدردشة الذكية للغاية التي يمكنها كتابة القصص أو الأكواد البرمجية. تطرح هذه الورقة سؤالاً كبيراً: هل يمكن لهذه الدردشة الآلية أن تصبح "مساعد طباخ" (sous-chefs) يساعدنا في إعداد هذه المحاكاة العلمية المعقدة بشكل أسرع وأسهل؟
تشير الورقة التي تحمل عنوان "النماذج اللغوية الكبيرة لسير عمل المعادلات التفاضلية الجزئية"، من تأليف هان وان، وروي تشانغ، وهاو سون من جامعة رنمين الصينية، إلى أن الإجابة هي "نعم، ولكن بشروط" حذرة. لا يدعي المؤلفون أن الذكاء الاصطناعي قد حل المسائل الفيزيائية أو أن الروبوتات تكتب الآن قوانين الطبيعة. بدلاً من ذلك، يجادلون بأن النماذج اللغوية الكبيرة هي الأفضل في لعب دور "مديري المشاريع" للعملية العلمية. فهي تعمل كجسر، يربط بين الطريقة البشرية الفوضوية التي نتحدث بها عن المشكلات ("اجعل تدفق الهواء أكثر سلاسة فوق هذا الجناح") والطريقة الصارمة والدقيقة التي تحتاج الحواسيب إليها لحلها.
يقسم الباحثون العملية بأكملها إلى ثلاث مراحل رئيسية، مثل فصول برنامج طبخ:
مرحلة الاكتشاف (تحديد الوصفة): قبل أن تبدأ في الطبخ، يجب أن تعرف ماذا ستصنع. أحياناً لا يعرف العلماء المعادلة الدقيقة لظاهرة جديدة. هنا، يعمل النموذج اللغوي الكبير كشريك عصف ذهني إبداعي. فهو ينظر في البيانات وفي مكتبته الواسعة من المعرفة العلمية ليقترح معادلات محتملة أو يساعد في صقل فكرة فوضوية وتحويلها إلى مشكلة رياضية واضحة. إنه يشبه مساعد الطباخ الذي يقول: "مهلاً، بناءً على كيفية ارتفاع العجين، ربما نحتاج إلى القليل من الخميرة أكثر"، أو "دعونا نحاول كتابة هذا بتنسيق مختلف". تشير الورقة إلى أنه بينما يمكن للنماذج اللغوية الكبيرة توليد هذه الأفكار، إلا أنها لا تزال بحاجة إلى خبراء بشريين للتحقق مما إذا كانت الرياضيات منطقية بالفعل في العالم الحقيقي.
مرحلة الحل (بناء الفرن والخبز): بمجرد تحديد الوصفة، يتعين عليك تشغيل المحاكاة فعلياً. يتضمن هذا عادةً كتابة أكواد كمبيوتر معقدة لحل الرياضيات. وهنا تتألق النماذج اللغوية الكبيرة كـ "مترجمي أكواد". يمكنها أخذ وصف للمشكلة وكتابة كود الكمبيوتر اللازم لحلها، أو إذا تعطل الكود (وهذا يحدث كثيراً!)، يمكنها قراءة رسائل الخطأ وإصلاح الأخطاء. تسلط الورقة الضوء على قدرة النماذج اللغوية الكبيرة على تنسيق الأدوات المختلفة المطلوبة — مثل مولدات الشبكات (mesh generators) والمحللات (solvers) — تماماً مثل مساعد الطباخ الذي ينظم أعمال التحضير. ومع ذلك، يوضح المؤلفون: النموذج اللغوي الكبير لا يقوم بالعمل الشاق للرياضيات نفسه؛ هو فقط يهيئ الأدوات لكي يعمل محرك الرياضيات الفعلي.
مرحلة التحسين (التذوق والتعديل): أخيراً، تريد الحصول على أفضل نتيجة ممكنة. ربما تريد أن يكون الجناح أخف وزناً، أو أن تنتشر الحرارة بشكل أسرع. يتضمن هذا تشغيل المحاكاة آلاف المرات، وتغيير تفاصيل صغيرة في كل مرة لمعرفة ما هو الأفضل. تساعد النماذج اللغية الكبيرة هنا من خلال العمل كدليل ذكي. يمكنها اقتراح التغييرات التي يجب تجربتها تالياً بناءً على ما حدث في عمليات التشغيل السابقة، حيث تتعلم بفعالية من ملاحظات المحاكاة لإيجال التصميم الأفضل بشكل أسرع.
تتوخى الورقة الحذر الشديد في عدم المبالغة في تقدير هذه التكنولوجيا. فهي تستبعد صراحةً فكرة أن النماذج اللغوية الكبيرة يمكن أن تحل محل الخبراء البشريين أو المحللات العددية تماماً. في الواقع، يحذر المؤلفون من أننا إذا لم نكن حذرين، فقد تولد النماذج اللغوية الكبيرة أكواداً تبدو مثالية ولكنها مستحيلة فيزيائياً (مثل كعكة تتحدى الجاذبية). ويشيرون إلى أن أكبر العقبات حالياً هي نقص البيانات عالية الجودة وصعوبة التأكد من أن اقتراحات الذكاء الاصطناعي تعمل بالفعل في العالم الحقيقي، وليس فقط في محاكاة الكمبيوتر.
باختصار، تقترح هذه الورقة أن النماذج اللغوية الكبيرة بدأت تصبح "مساعدي سير عمل" أقوياء للعلماء. لا يمكنها استبدال الطاهي الرئيسي، ولكن يمكنها التعامل مع عمليات التقطيع، والخلط، والتنظيف، مما يتيح للخبير البشري التركيز على الصورة الكبيرة: تحديد ما يجب طبخه والتأكد من أن مذاقه رائع. المستقبل لا يتعلق باستيلاء الذكاء الاصطناعي على العلم؛ بل يتعلق بمساعدة الذكاء الاصطناعي للعلماء لقضاء وقت أقل في إصلاح الأفران المعطلة ووقت أكثر في اكتشاف نكهات جديدة.
ملخص تقني: النماذج اللغوية الكبيرة لتدفقات عمل المعادلات التفاضلية الجزئية
بيان المشكلة
تُعد المعادلات التفاضلية الجزئية (PDEs) اللغة الرياضية المركزية للعلوم والهندسة، ومع ذلك، لا تتحقق قيمتها العلمية إلا عندما تُحوَّل إلى تدفقات عمل قابلة للتنفيذ تربط بين الافتراضات النمذجة، والمعادلات الحاكمة، والمحللات العددية، والتشخيصات، واتخاذ القرار. تقليديًا، تعتمد هذه التدفقات بشكل كبير على التقدير الخبير والتنسيق اليدوي عبر ثلاث مراحل متميزة: اكتشاف وصياغة النماذج الحاكمة، وتوليد وتهيئة المحللات العددية، وتطبيق نتائج المحاكاة على التحكم والتصميم والتحسين. وبينما عززت الأساليب القائمة على البيانات والتعلم العميق مكونات محددة (مثل اكتشاف المعادلات أو المحللات العصبية)، إلا أنها تظل غالبًا محصورة في مهام معزولة أو مراحل محددة، وتفشل في توفير آلية لتنسيق تدفق العمل بأكทั่ว. علاوة على ذلك، توجد فجوة مستمرة بين النتائج القائمة على المحاكاة والأنظمة الواقعية، مما يحد من النقل المباشر للتصاميم أو سياسات التحكم المُحسَّنة. المشكلة الجوهرية التي يتناولها هذا البحث هي غياب نظام موحد قادر على الجسر بين اللغة الطبيعية، والرياضيات الرمزية، والبرمجيات، والقيود الفيزيائية لأتمتة تدفق العمل العلمي للمعادلات التفاضلية الجزئية من البداية إلى النهاية.
المنهجية
يقترح هذا البحث تصنيفًا على مستوى تدفق العمل للنماذج اللغوية الكبيرة (LLMs) في الحوسبة العلمية للمعادلات التفاضلية الجزئية، حيث يصنف أدوارها إلى ثلاث مراحل متميزة بناءً على المكونات غير المحلولة في تدفق العمل الرياضي:
مرحلة الاكتشاف:
اكتشاف المعادلات بمساعدة النماذج اللغبية الكبيرة: تستخدم النماذج اللغبية الكبيرة المعرفة العلمية المشفرة لبناء أو فحص أو تقييد مكتبات العمليات المرشحة واقتراح معادلات كاملة مرشحة. وهي تتدخل في حلقات التوليد-التقييم-المراجعة التكرارية، وتوجه الانحدار الرمزي أو توليد المعادلات المباشر بناءً على البيانات والبديهيات الفيزيائية.
صياغة المشكلات والاستدلال بمساعدة النماذج اللغبية الكبيرة: تساعد النماذج اللغبية الكبيرة في تحويل المقاصد العلمية غير الرسمية إلى مواصفات رياضية محددة جيدًا (مثل التنسيق بصيغة LaTeX) وتقوم بالاستدلال المهيكل لاستخلاص الحلول التحليلية، أو السلوكيات التقاربية، أو الخصائص الهيكلية للمعادلات التفاضلية الجزئية المعروفة.
مرحلة الحل:
تدفقات عمل المحللات التقليدية المعززة بالنماذج اللغبية الكبيرة: تعمل النماذج اللغبية الكبيرة كوكلاء يقومون بترجمة المواصفات العلمية عالية المستوى إلى تكوينات تفصيلية للمحللات القائمة (مثل OpenFOAM). وهي تنسق بناء الحالة، وتنفذ الأدوات الخارجية، وتستخدم التغذية الراجعة التشخيصية (السجلات، البواقي) لإصلاح التكوينات الفاشلة.
توليد كود المحلل باستخدام النماذج اللغبية الكبيرة: تتعامل النماذج اللغبية الكبيرة مع حل المعادلات التفاضلية الجزئية كمسألة تحويل المواصفات إلى برنامج، حيث تولد كودًا قابلًا للتنفيذ (مثل طرق العناصر المحدودة أو الفروق المحدودة) من الأوصاف الرياضية. ويتضمن ذلك حلقة مقترنة من توليد الكود، والتنفيذ، والاختبار، والتحسين لضمان الدقة العددية والاتساق الفيزيائي.
المحللات العصبية للمعادلات التفليزية الجزئية بمساعدة النماذج اللغبية الكبيرة: تساعد النماذج اللغبية الكبيرة في بناء وتشغيل المحللات المتعلمة (مثل PINNs، DeepONets) من خلال إدارة تصميم البنية، وبناء دالة الخسارة، وتدفقات عمل التدريب، وتفسير التغذية الراجعة للتدريب لتنقية النموذج.
مرحلة التحسين:
التحسين والتحكم في المعادلات التفاضلية الجزئية بمساعدة النماذج اللغبية الكبيرة: تقوم النماذج اللغبية الكبيرة بصياغة الأهداف والقيود رسميًا (مثل ترجمة اللغة الطبيعية إلى المنطق الزمني الإشاري) واقتراح المعلمات أو سياسات التحكم المرشحة، وتنسيق الحلقات التكرارية حيث تقوم المحللات بتقييم المرشحين.
البحث عن التصميم ونموذج الشكل بمساعدة النماذج اللغبية الكبيرة: تدمج النماذج اللغبية الكبيرة الأولويات العلمية والهندسية لتوجيه البحث عن الأشكال الهندسية المثلى، أو توزيعات المواد، أو نماذج الإغلاق، مما يضمن أن تكون المرشحات معقولة فيزيائيًا ومتوافقة مع قيود التصميم.
يراجع البحث دراسات ومعايير تمثيلية (مثل LiveIdeaBench، CFDLLMBench، PDEAgent-Bench) لرسم القدرات الحالية ضمن هذا التصنيف، مؤكدًا أن النماذج اللغبية الكبيرة تعمل كواجهات على مستوى تدفق العمل وليس كبدائل للمحللات العددية.
المساهمات الرئيسية
تصنيف تدفق العمل: يضع البحث تصنيفًا شاملًا لتطبيقات النماذج اللغبية الكبيرة في المعادلات التفاضلية الجزئية، مع التمييز بين مراحل الاكتشاف، والحل، والتحسين. ينقل هذا الإطار تركيز التقييم من دقة الحل النهائي وحدها إلى قدرة النموذج اللغبي الكبير على تنسيق المعرفة غير المتجانسة، والأدوات القابلة للتنفيذ، والتغذية الراجعة عبر دورة الحياة بأكملها.
تكامل المعرفة غير المتجانسة: يوضح كيف تجسر النماذج اللغبية الكبيرة الفجوة بين المقصد باللغة الطبيعية، والرياضيات الرمزية، ومستودعات الكود، ومخرجات المحلل، مما يسمح بترجمة الافتراضات العلمية إلى خطوط إنتاج حوسبية قابلة للتنفيذ.
التحليل النقدي للقيود: يحدد البحث عقبات كبيرة، بما في ذلك ندرة مجموعات البيانات عالية الجودة والمعايير (خاصة لاكتشاف المعرفة والتطبيقات الواقعية)، والاعتماد الشديد على الأدوات المصممة من قبل خبراء ومسارات التحقق، والفجوة بين نتائج المحاكاة والأنظمة الفيزيائية في العالم الحقيقي.
إطار التقييم: يجادل البحث بضرورة وجود مجموعة أوسع من مقايسات التقييم تتجاوز دقة الحل، بما في ذلك الموثوقية القابلة للتنفيذ، والصلاحية العددية والفيزيائية، والقابلية للفحص، والمتانة، وتقليل عبء الخبير.
النتائج والحالة الراهنة
يلخص المراجعة التطورات الأخيرة التي تظهر أن الأنظمة الحالية تعمل أساسًا كواجهات على مستوى تدفق العمل:
في الاكتشاف، بدأت النماذج اللغبية الكبيرة في المساعدة في اختيار الفرضيات وصياغة المعادلات، لكنها لا تزال تتطلب تحققًا من الخبراء وملاءمة عددية.
في الحل، أظهرت النماذج اللغبية الكبيرة نجاحًا في توليد كود المحلل، وتهيئة تدفقات عمل ديناميكا السوائل الحسابية (مثل OpenFOAM)، وتصحيح الأخطاء بناءً على السجلات، رغم أنها غالبًا ما تواجه صعوبة في المسائل المعقدة التي تتطلب رؤية عددية عميقة وغير نمطية.
في التحسين، تظهر الأنظمة المبكرة وعودًا في صياغة مشكلات التحكم وتوجيه عمليات البحث عن التصميم، ومع ذلك تظل معتمدة على المحسنات الراسخة والمقيمات عالية الدقة.
يشير البحث إلى أنه بينما يظهر التقدم بوضوح، فإن الأنظمة الحالية محدودة بالحاجة إلى جهد كبير من الخبراء في التوسيم (Annotation) وبناء المشكلات القابلة للتنفيذ. كما تظل طبيعة "الصندوق الأسود" لبعض مخرجات النماذج اللغبية الكبيرة مصدر قلق للمصداقية العلمية.
الأهمية والادعاءات
يزعم البحث أن المساهمة الأكثر مصداقية للنماذج اللغبية الكبيرة في أبحاث المعادلات التفاضلية الجزئية تكمن في دعم وتنسيق تدفق العمل ككل، وليس كعنصر معزول. وتتحدد قيمتها بقدرتها على الربط بين المقصد باللغة الطبيعية، والتمثيلات الرياضية، والمعرفة العلمية، والكود، والتغذية الراجعة عبر مراحل متعددة.
يؤكد المؤلفون بتواضع أن النماذج اللغبية الكبيرة لا تحل محل الخبرة العددية أو تمكن من علم المعادلات التفاضلية الجزئية المستقل تمامًا. بدلاً من ذلك، هي تقدم آلية لإعادة توزيع جهد الخبير: تقليل عبء الصياغة المتكررة، والتنفيذ، والتنسيق، وأعمال الإصلاح. وهذا يسمح لخبراء المجال بالتركيز على المهام ذات القيمة الأعلى مثل اختيار النماذج الموثوقة، وتحدي الافتراضات، وتصميم الاختبارات المعلوماتية، والحكم على الصلاحية العلمية للاستنتاجات. الهدف النهائي هو تطوير أنظمة ذكاء اصطناعي علمية تكون أكثر سهولة في الوصول، وتكيفًا، وقابلية للفحص، وموثوقية علمية، مع الحفاظ على الاتصال الضروري بالقيود الفيزيائية واتخاذ القرار في العالم الحقيقي.