A Multimodal Framework Using Red Teaming Prompt Engineering and Retrieval Augmented Generation to Mitigate Large Language Model Hallucinations
تقترح هذه الورقة إطار عمل متينًا متعدد الوسائط قائمًا على الشبكات العصبية الالتفافية (CNN) يدمج بين "الفريق الأحمر" (Red Teaming)، وهندسة الأوامر (Prompt Engineering)، والتوليد المعزز بالاسترجاع (Retrieval-Augmented Generation) للحد بفعالية من هلوسات النماذج اللغوية الكبيرة عبر وسائط النص والصوت والصورة، محققًا مقاييس أداء عالية في مهام متنوعة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناائي المتطور بسرعة، برز نوع محدد من البرامج الحاسوبية يُعرف باسم "النماذج اللغوية الكبيرة" كأداة قوية لفهم وتوليد اللغة البشرية. تستطيع هذه الأنظمة كتابة القصص، والإجابة على الأسئلة المعقدة، والترجمة بين اللغات بطلاقة ملحوظة. ومع ذلك، فهي تعاني من خلل مستمر: فهي أحياناً تذكر بثقة أشياء ليست صحيحة ببساطة. يطلق الباحثون على هذه الأخطاء اسم "الهلوسة". تخيل أمين مكتبة واسع المعرفة، عندما يُسأل عن حقيقة معينة، يبتكر عنوان كتاب يبدو منطقياً ولكنه خيالي تماماً لتلبية الطلب. في المجالات الحساسة مثل الرعاية الصحية أو الأمن السيبراني، حيث تكون الدقة مسألة تتعلق بالسلامة والثقة، تُعد مثل هذه الادعاءات غير مقبولة. التحدي الذي يواجه العلماء ليس فقط جعل هذه النماذج أكثر ذكاءً، بل جعلها صادقة، لضمان أن تكون مخرجاتها قائمة على الواقع بدلاً من أن تكون ناتجة عن مزيج من الأنماط والتخمينات.
اقترح فريق من الباحثين طريقة جديدة لمعالجة هذه المشكلة من خلال بناء نظام يجمع عدة تقنيات مختلفة في إطار عمل واحد متماسك. نهجهم، الذي أطلقوا عليه اسم "MultiModNet"، لا يعتمد على خدعة واحدة، بل ينسج معاً ثلاث استراتيجيات متميزة لإبقاء الذكاء الاصطناعي على المسار المستقيم. أولاً، يستخدمون طريقة تسمى "الفريق الأحمر" (Red Teaming)، وهي في الأساس اختبار جهد صارم. في هذه العملية، يتم تغذية النظام عمداً بمدخلات مخادعة أو مضللة مصممة لإرباكه، تماماً مثل حارس أمن يختبر دفاعات مبنى من خلال محاولة التسلل عبرها. ومن خلال تحديد المواضع التي يفشل فيها النموذج تحت هذا الضغط بدقة، يمكن للباحثين سد تلك الثغرات قبل استخدام النظام في العالم الحقيقي.
ثانياً، يستخدم الفريق تقنية تُعرف باسم "هندسة الأوامر" (Prompt Engineering). يتضمن ذلك صياغة التعليمات المقدمة للنموذج بعناية لضمان فهمه للسياق والقواعد المحددة للمهمة. فبدلاً من طرح سؤال غامض، يتم توجيه النظام بلغة دقيقة توجهه نحو الاستجابات الواقعية وتبعده عن التأليف الإبداعي. ثالثاً، ولعل الأهم، يربط إطار العمل النموذج بمكتبة خارجية من المعلومات الموثقة. هذا المكون، المسمى "التوليد المعزز بالاسترجاع" (Retrieval-Augmented Generation)، يسمح للنظام بالبحث عن الحقائق في الوقت الفعلي أثناء صياغة الإجابة. فبدلاً من الاعتماد فقط على ذاكرته الداخلية، التي قد تكون قديمة أو غير كاملة، يقوم النموذج بجلب بيانات حالية ودقيقة لدعم تصريحاته، مما يقلل بشكل كبير من احتمال اختلاق الأمور.
وللتعامل مع تعقيد العالم الحقيقي، حيث تأتي المعلومات في أشكال عديدة، بنى الباحثون نظامهم ليعالج النصوص والصوت والصور في آن واحد. لقد استخدموا نوعاً من تقنية الرؤية الحاسوبية، صُممت في الأصل للتعرف على الأنماط في الصور، لمساعدة النموذج على فهم ومواءمة هذه الأنواع المختلفة من البيانات. على سبيل المثال، يمكن للنظام النظر إلى صورة طبية، والاستماع إلى وصف للأعراض، وقراءة التاريخ المرضي للمريض جميعاً في وقت واحد، ودمج هذه القرائن لتشكيل صورة متماسكة ودقيقة. إن القدرة على تركيب المدخلات المتنوعة هذه أمر بالغ الأهمية، حيث تحدث الهلوسة غالباً عندما يحاول النموذج تخمين الرابط بين قطع معلومات غير مترابطة.
اختبر الباحثون إطار عملهم الجديد باستخدام مجموعة بيانات مخصصة تتضمن عشرين مدخلاً، يجمع كل منها بين النص والصوت والصور. وأظهرت النت النتائج أن النظام كان قادراً على التعلم بفعالية، حيث وصل إلى مستوى من الدقة حدد فيه الإجابة الصحيحة في 75% من الحالات بعد تدريبه لخمسين جولة. وفي اختبارات محددة تتعلق بالتصوير الطبي، أظهر النظام قدرة عالية على التمييز بين الحالات المختلفة، وفي مهام الترجمة، حقق درجة "BLEU" بلغت 0.94، مما يشير إلى جودة ترجمة قوية. كما وجدت الدراسة أن النظام كان أسرع في التدريب من الطرق السابقة، حيث استغرق أقل من عشر ثوانٍ لكل دورة تدريبية مقارنة بأكثر من اثنتي عشرة ثانية للأنظمة الأقدم.
وعلى الرغم من هذه النتائج الواعدة، يلاحظ المؤلفون بحذر أن هذا العمل ليس حلاً نهائياً بعد. فلا يزال النظام يعاني عندما تكون البيانات التي يتلقاها مشوشة للغاية أو عندما تكون الأمثلة التي يتدرب عليها غير متوازنة بشكل كبير، مثل وجود أمثلة أكثر بكثير لنوع واحد من المشكلات مقارنة بالأنواع الأخرى. ويقر الباحثون بأن مجموعة البيانات الخاصة بهم كانت اصطناعية، مما يعني أنها أُنشئت خصيصاً لهذا الاختبار بدلاً من جمعها من العالم الحقيقي، وأن العمل المستقبلي سيحتاج إلى توسيع النظام للتعامل مع بيانات أكبر وأكثر تنوعاً وتعقيداً من العالم الحقيقي. كما اقترحوا أن إضافة أنواع جديدة من البنى الحاسوبية يمكن أن يحسن بشكل أكبر كيفية فهم النظام للسياقات الطويلة والمعقدة.
في نهاية المطاف، يقدم هذا البحث مخططاً عملياً لجعل الذكاء الاصطناعي أكثر موثوقية. فمن خلال الجمع بين الاختبار التنافسي، والتعليمات الدقيقة، والتحقق من الحقائق في الوقت الفعلي، يوفر إطار العمل وسيلة لربط هذه الأدوات القوية بالواقع. وبينما لا يزال النظام غير مثالي ويتطلب المزيد من الصقل، فإنه يمثل خطوة كبيرة للأمام لضمان أنه عندما تتحدث هذه النماذج، فإنها تقول الحقيقة. ويشير العمل إلى أنه مع وجود الضمانات المناسبة، يمكن إطلاق العنان لإمكانات الذكاء الاصطناعي دون خطر قيادته لنا نحو الأباطيل الواثقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.