A Retrieval-Augmented Generation Method for Industrial Documents based on Reinforcement Learning
تقترح هذه الورقة نموذج RLo-RAG، وهو نموذج توليد معزز بالاسترجاع متعدد الجولات قائم على التعلم التعزيزي ومعزز بتقنية LoRA، والذي يستخدم دالة مكافأة ديناميكية لاسترجاع قطع وثائق عالية الصلة بشكل تكراري، مما يحسن دقة الاسترجاء وجودة التوليد للوثائق الصناعية بشكل كبير مقارنة بطرق RAG التقليدية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الصناعة الحديث، تُنتج المصانع وشركات الهندسة جبالاً من الوثائق المعقدة. هذه ليست مجرد أدلة بسيطة، بل هي مجموعات كثيفة من التقارير الفنية، وسجلات المعدات، وسجلات الاختبار التي تحمل المفتاح لحل المشكلات الحرجة. لعقود من الزمن، كان البحث عن معلومات محددة داخل هذه الأرشيفات الضخمة مهمة بطيئة ويدوية، تعتمد غالباً على الذاكرة الشخصية للموظف أو خبرته. مؤخراً، قدمت برامج حاسوبية قوية تُعرف بنماذج اللغة الكبيرة طريقة جديدة للمضي قدماً. يمكن لهذه النماذج قراءة وفهم اللغة البشرية بمهارة ملحوظة، حيث تعمل كمساعد فائق الذكاء. ومع ذلك، عندما يُطلب منها معلومات تفصيلية صناعية محددة، فإنها غالباً ما تواجه صعوبة لأنها تدربت على بيانات عامة من الإنترنت، وليس على السجلات المتخصصة والمجزأة لأرض المصنع. ولإصلاح ذلك، طور الباحثون طريقة تسمى "التوليد المعزز بالاسترجاع"، والتي تعمل من خلال جعل الكمبيوتر يبحث عن الحقائق ذات الصلة من قاعدة بيانات خاصة قبل الإجابة على سؤال ما. ومع ذلك، حتى هذه الطريقة المحسنة غالباً ما تفشل عندما يتطلب السؤال ربط النقاط عبر مستندات متعددة، مما يؤدي إلى إجابات غير كاملة أو مربكة.
لقد عالج فريق من الباحثين في جامعة "تونغجي" هذا التحدي تحديداً من خلال إنشاء نظام جديد مصمم للتعامل مع الطبيعة الفوضوية والمجزأة للمعرفة الصناعية. أطلقوا على نهجهم اسم RLo-RAG، وهو أسلوب يجمع بين قوة نماذج اللغة الكبيرة وتقنية تعلم تُعرف باسم "التعلم التعزيزي". وببساطة، التعلم التعزيزي هو طريقة لتعليم برنامج كمبيوتر من خلال تركه يجرب إجراءات مختلفة ومكافأته عندما يتخذ خياراً جيداً، تماماً مثل تدريب كلب على سلوكيات صحيحة باستخدام المكافآت. في هذا النظام، يعمل الكمبيوتر كوكيل فضولي لا يكتفي بالبحث عن إجابة مرة واحدة، بل يطرح سلسلة من الأسئلة، ويتعلم من نتائج كل عملية بحث، ويقوم بتحسين سؤاله التالي لسد الفجوات في المعلومات المفقودة. وتستمر هذه العملية حتى يشعر الكمبيوتر أنه جمع ما يكفي من الأدلة لبناء إجابة كاملة ودقيقة.
وجد الباحثون أن الوثائق الصناعية غالباً ما تعاني من مشكلة تسمى "التجزئة الدلالية". وهذا يعني أن المعلومات اللازمة للإجابة على سؤال واحد تكون مبعثرة عبر أقسام وجداول مختلفة، وحتى ملفات منفصلة. قد يجد البحث التقليدي فقرة تصف إجراءً اختبارياً، لكنه قد يفتقد الأرقام المحددة الموجودة في جدول في صفحة أخرى. يحل النظام الجديد هذه المشكلة باستخدام نظام مكافأة ديناميكي؛ فبينما يبحث الكمبيوتر، يتلقى ملاحظات بناءً على ثلاثة عوامل: مدى صلة المعلومات التي عثر عليها، وما إذا كان يكرر معلومات رآها بالفعل، ومدى سرعته في العثقة على الإجابة. إذا وجد الكمبيوتر مستنداً ذا صلة عالية، فإنه يحصل على مكافأة. وإذا أضاع الوقت في النظر إلى نفس المعلومات مرتين، فإنه يتلقى عقوبة. والأهم من ذلك، أن النظام يعدل هذه المكافآت بمرور الوقت؛ ففي المراحل الأولى من التعلم، يركز بقوة على إيجاد معلومات عالية الجودة، ولكن مع تحسنه، يتعلم الموازنة بين إيجاد معلومات جيدة وإنهاء المهمة بكفاءة.
لاختبار هذه الفكرة، بنى الباحثون نظاماً نموذجياً ودربوه باستخدام تقنية تسمى LoRA، والتي تسمح لهم بتعليم الكمبيوتر مهارات محددة دون الحاجة إلى إعادة بناء "دماغه" بالكامل من الصراخ. واختبروا النظام على مجموعتي بيانات مشهورتين صُممتا لتحدي أجهزة الكمبيوتر بأسئلة تتطلب ربط حقائق متعددة. وأظهرت النتائج أن طريقتهم الجديدة تفوقت بشكل كبير على النهج الحالية. وبينما كانت الطرق القديمة غالباً ما تفتقد التفاصيل الرئيسية أو تعلق في حلقات من البحث عن نفس المعلومات، نجح النظام الجديد في استرجاع قطع المعلومات الصحيحة في 88.9 بالمائة من الحالات في إحدى مجموعات الاختبار. كما أنتج إجابات كانت أكثر دقة وتنظيماً من تلك التي تنتجها النماذج المتقدمة الأخرى. وأشار الباحثون إلى أن قدرة النظام على اتخاذ القرار بشأن متى يتوقف عن البحث ومتى يستمر في البحث كانت عاملاً رئيسياً في نجاحه، مما منعه من إضاعة الوقت مع ضمان عدم ترك حقائق مهمة.
قارن الفريق أيضاً طريقتهم بطرق أخرى لاستخدام التعلم التعزيزي لمعرفة ما إذا كان نهجهم المحدد هو الخيار الأفضل. ووجدوا أن استراتيجيتهم، التي توازن بعناية عملية تعلم الكمبيوتر، كانت أكثر استقراراً وفعالية من الطرق الشائعة الأخرى. هذا الاستقرار حيوي في البيئات الصناعية حيث يمكن أن تؤدي الإجابة الخاطئة إلى أخطاء مكلفة. ومن خلال استخدام تعديل سلس وخطوة بخطوة لأهداف التعلم الخاصة به، تجنب النظام الارتباك الذي يمكن أن يحدث عندما يحاول الكمبيوتر تعلم أشياء كثلة في وقت واحد. وقد تحقق الباحثون من هذه النتائج عبر تشغيل تجاربهم عدة مرات لضمان أن النتائج متسقة وليست مجرد ضربة حظ. كما أظهروا قدرة النظام من خلال مثال واقعي يتعلق بتصنيع الطائرات المدنية، موضحين كيف يمكنه تجميع المعلومات المتعلقة بمتطلبات الاختبار الكهربائي من النصوص والجداول والرسوم التوضيحية لتقديم إجابة كاملة.
بينما يظهر النظام وعداً كبيراً، يقر الباحثون بأن هناك المزيد من العمل الذي يتعين القيام به. حالياً، يعتمد النظام على الأوصاف النصية للربط بين الصور والجداول، مما يعني أنه يفهم أن فقرة ما تذكر مخططاً بيانياً معيناً، لكنه لا يحلل المحتوى البصري لذلك المخطط بعمق. يمكن للتحسينات المستقبلية أن تسمح للنظام بـ "رؤية" وفهم الصور والرسوم التوضيحية مباشرة، بدلاً من مجرد قراءة النص الذي يشير إليها. وبالرغم من هذا القصور، تظهر الدراسة خطوة كبيرة للأمام في جعل الذكاء الاصطناعي مفيداً للمهام الصناعية المعقدة في العالم الحقيقي. فمن خلال تعليم أجهزة الكمبيوتر التفكير بشكل أكبر مثل الخبراء البشر — أي التكرار، والتحقق من عملهم، ومعرفة متى يمتلكون معلومات كافية — نجح الباحثون في إنشاء أداة يمكنها مساعدة المصانع والمهندسين على إطلاق العنان للقيمة الكاملة لأرشيفات وثائقهم الضخمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.