ملخص تقني: Geo-Expert

بيان المشكلة

غالبًا ما تفشل النماذج اللغوية الكبيرة (LLMs) عامة الأغراض في الاستدلال الجيولوجي، لا سيما عند تكليفها بتفسير البنى تحت السطحية، والتطور عبر الزمن العميق، والعلاقات المكانية والزمانية المعقدة. وبينما تبرع تطبيقات الذكاء الاصطنيعي الحالية في علوم الأرض في الاستشعار عن بعد للسطح، ونظم المعلومات الجغرافية (GIS)، والجغرافيا العامة، إلا أنها تظهر هلاوس شديدة عند تطبيقها على جيولوجيا "الأرض الصلبة". تفتقر النماذج الحالية إلى المنطق العميق المتخصص المطلوب لإعادة بناء التطور التكتوني، أو تفسير التتابعات الطبقية، أو تحليل عمليات نشأة الصخور، مما يحد من فائدتها في الأبحاث الجيولوجية المهنية والاستكشاف الصناعي.

المنهجية

1. بناء مجموعة البيانات (مسار Geo-Expert)

لمعالجة نقص بيانات الضبط الدقيق عالية الجودة للاستدلال الجيولوجي، قام المؤلفون ببناء مجموعة بيانات مخصصة للضبط الدقيق للمهام (instruction-tuning) مستمدة من خمسة كتب مدرسية جيولوجية مرجعية (مثل: Principles of Sequence Stratigraphy، و Structural Geology لـ Fossen). يتضمن المسار ما يلي:

• الاستخراج والتنقية: استخدام MinerU للتحويل عالي الدقة من PDF إلى Markdown، يليه وحدة Python مخصصة لتقسيم النصوص وإزالة التكرار العالمي القائم على الهاش (hash-based global deduplication) لإزالة آثار التنسيق (layout artifacts).
• توليد التعليمات: عملية مكونة من ثلاث مراحل لتوليد أزواج (تعليمات-استجابة) عالية الدقة:
  1. التقسيم المتكرر الواعي بالفصول: تقسيم دلالي يعتمد على رؤوس Markdown للحفاظ على السياق.
  2. توليد الأسئلة المهيكلة مجالياً: يقوم نموذج لغوي كبير ببناء شجرة مجال هرمية لتوليد أسئلة ديناميكية، مما يضمن تغطية واسعة للمفاهيم.
  3. بناء إجابات سلسلة التفكير (CoT): تولد نماذج موجهة نحو الاستدلال إجابات تتضمن كلاً من الحقيقة الأرضية النهائية وخطوات الاستنتاج الوسيطة، مع الالتزام الصارم بالمصدر.
• النتيجة: مجموعة بيانات تضم 11,518 زوجاً من التعليمات والاستجابات عالية الجودة.

2. الضبط الدقيق للنموذج

طبق المؤلفون الضبط الدقيق الفعال للمعلمات (PEFT) باستخدام التكيف منخفض الرتبة (LoRA) على ثلاثة نماذج أساسية:

• النماذج: Qwen3-8B، و Qwen3-32B، و Gemma-3-27B.
• الإعدادات:
  • Qwen3-8B: رتبة LoRA هي $r=32$، و $\alpha=32$، بدقة FP16، تم تدريبه على بطاقة واحدة NVIDIA RTX 5090.
  • Qwen3-32B و Gemma-3-27B: رتبة LoRA هي $r=64$، و $\alpha=128$، بدقة BF16، مع تقنية فحص التدرج (gradient checkpointing)، وخطوات تراكم قدرها 4. تم تدريب هذه النماذج على إعداد يتكون من 4 بطاقات RTX 5090، مما يثبت جدوى ضبط نماذج 27B+ بدقة على أجهزة استهلاكية.
• النطاق: تم استهداف جميع الطبقات الخطية لعملية التكيف.

3. بناء الاختبار المعياري (Geo-Eval)

لتقييم قدرات الاستدلال بما يتجاذا مجرد استرجاع الحقائق، أنشأ المؤلفون Geo-Eval، وهو اختبار معياري جديد متخصص في المجال:

• التوليد: مسار تعدين تنافسي مؤتمت باستخدام DeepSeek-R1 لاستخراج 2,591 سؤالاً معقداً من الكتب المدرسية.
• الاختيار: حددت منهجية تقييم "واعية بالصعوبة" 387 سؤالاً من "الحدود الصعبة" حيث أظهرت النماذج العامة الرائدة (DeepSeek-R1) والنموذج المضبط بدقة 8B فروقاً طفيفة في الدرجات.
• التحقق: خضعت الأسئلة الـ 387 المرشحة لعملية فحص وتنقيح صارمة من قبل أساتذة الجيولوجيا لإرساء حقيقة أرضية مثبتة من قبل الخبراء.
• الفئات: تم تقسيم الأسئلة إلى: مفهوم (تعريفات)، عملية (الاستنتاج المنطقي للآليات)، وهندسة (التطبيق العملي).
• التقييم: يستخدم نهج "النموذج اللغوي كحكم" (GPT-4o) لتوليد درجات كمية (0–10).

النتائج الرئيسية

الطفرة في الأداء

على اختبار Geo-Eval المعياري، تفوقت نماذج Geo-Expert بشكل كبير على النماذج العامة المرجعية:

• Qwen3-8B-geo: حقق متوسط درجة قدره 6.27، متفوقاً على نموذج Llama-3.1-70B-Instruct الذي يحتوي على 70 مليار معلمة (4.12) ونموذج GPT-4o المملوك لشركة OpenAI (5.93).
• Qwen3-32B-geo: حقق متوسط درجة قدره 6.82، ولم يتخلف إلا عن النموذج المملوك الرائد GPT-5.4 (7.15).
• الدلالة الإحصائية: أكدت اختبارات t المقترنة على العينات الـ 387 أن التحسينات ذات دلالة إحصائية ($p < 0.001$).

كفاءة المعلمات

تسلط الدراسة الضوء على الكفاءة القصوى للمعلمات. فقد تفوق نموذج 8B المتوافق مع المجال بشكل شامل على نموذج 70B عام مفتوح الأوزان في جميع الأبعاد (المفهوم، العملية، الهندسة). يشير هذا إلى أنه في المجالات العلمية (STEM) عالية التخصص، فإن جودة تنقية البيانات والمواءمة المنطقية تفوق أهمية حجم المعلمات المجرد.

التحسينات النوعية

في التحليل النوعي، أظهرت النماذج العامة (مثل GPT-4o) هلاوس عابرة للمجالات، حيث أخطأت في تفسير المصطلحات الجيولوجية (مثل "إسفين" - wedge) باعتبارها مكونات هندسية ميكانيكية. في المقابل، نجحت نماذج Geo-Expert في ربط السياق الدلالي بالجيولوجيا التركيبية، حيث حددت بشكل صحيح آليات التكيف التكتوني مثل الانزلاق الدفعي (thrust sliding) وتركيز الإجهاد.

الأهمية والادعاءات

يزعم البحث أنه يقدم وصفة قابلة للتكرار لدمقرطة النماذج اللغوية العلمية وإرساء خط أساس للذكاء الاصطناعي الجيولوجي. تشمل المساهمات الرئيسية ما يلي:

1. بناء مجموعة البيانات: مسار لتحويل الكتب المدرسية غير المهيكلة إلى مجموعات بيانات تعليمية عالية الجودة ومعززة بسلسلة التفكير (CoT).
2. تحليل القياس (Scaling Analysis): دليل على أنه بينما تكون النماذج الأصغر كفؤة، فإن المعلمات الأكبر ضرورية للاستدلال التركيبي المعقد، ومع ذلك يمكن لنموذج 8B مضبوط جيداً أن يتفوق على نموذج 70B عام.
3. الاختبار المعياري: تقديم Geo-Eval، الذي ينقل التركيز من استرجاع الحقائق إلى اختبار الإجهاد الصارم والمدرك للحدود والواعي للخبرة.

يجادل المؤلفون بأن Geo-Expert يوفر حلاً منخفض التكلفة وقابلاً للنشر للهندسة الجيولوجية، مما يحرر الباحثين من الاعتماد على العناقيد الحسابية الضخمة. كما يقرون بالقيود، بما في ذلك انحياز متن التدريب نحو الجيولوجيا التركيبية وعلم الطبقات، وحجم الاختبار المعياري الصغير نسبياً، والطبيعة النصية الحالية للإطار، مشيرين إلى أن العمل المستقبلي سوف يدمج نماذج اللغة والرؤية (VLMs) وتوليد المحتوى المعزز بالاسترجاع (RAG).