📄 المعلوماتية الصحية

BanglaDiaHallu: Hallucinations of large language models and the effect of guideline-grounded retrieval-augmented generation in Bangla diabetes question answering

تُظهر هذه الدراسة أنه في حين تُبدي النماذج اللغوية الكبيرة معدلات هلوسة كبيرة في الإجابة على الأسئلة المتعلقة بمرض السكري باللغة البنغالية، فإن تعزيز نموذج قابل للنشر محلياً من خلال تقنية التوليد المعزز بالاسترجاع باستخدام الدليل الوطني لمرض السكري في بنغلاديش يحسن بشكل كبير من الدقة الطبية والسلامة، رغم أن الإشراف السريري يظل ضرورياً حيث لا يوجد أي تكوين خالٍ تماماً من الأخطاء.

المؤلفون الأصليون: Nahid, K., Anam, M., Saon, M. T. H., Any, O. H., Hassan, K. M. R., Anwar, M. M.

نُشر 2026-10-16

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Nahid, K., Anam, M., Saon, M. T. H., Any, O. H., Hassan, K. M. R., Anwar, M. M.

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ⚕️ هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل

في العالم الحديث، يتجه الناس بشكل متزايد إلى الذكاء الاصطنا أحد الإجابات حول صحتهم، آملين في الحصول على إرشادات سريعة وموثوقة. هذه البرامج الحاسوبية، المعروفة باسم النماذج اللغوية الكبيرة، مدربة على كميات هائلة من النصوص ويمكنها التحدث بطلاقة بلغات عديدة، بما في ذلك اللغة البنغالية، التي يتحدث بها مئات الملايين من الناس. ومع ذلك، فإن هذه الأنظمة لديها عيب معروف: يمكنها أن تبدو واثقة تماماً وهي تذكر أشياء ليست صحيحة ببساطة. وفي المجال الطبي، حيث يمكن لكلمة خاطئة أن تؤدي إلى خيارات خطيرة، يُطلق على هذا الميل لابتكار الحقائق اسم "الهلوسة". وهو مصدر قلق خاص في لغات مثل البنغالية، حيث تكون بيانات التدريب لهذه البرامج الحاسوبية غالباً أقل وفرة وأقل موثوقية منها في اللغة الإنجليزية. بالنسبة لملايين الأشخاص الذين يعيشون مع مرض السكري في بنغلاديش، فإن الحصول على نصيحة دقيقة وآمنة بلغتهم الأم ليس مجرد وسيلة للراحة؛ بل هو حاجة ماسة، خاصة عندما تكون المستشفيات المحلية مثقلة بالأعباء في كثير من الأحيان وتصبح الاستشارات عن بُعد هي القاعدة.

لقد وضع فريق من الباحثين هدفاً لقياس عدد المرات التي تخترع فيها هذه البرامج الحاسوبية حقائق طبية عند سؤالها عن مرض السكري باللغة البنغالية، ولمعرفة ما إذا كان ربطها بمصدر موثوق يمكن أن يوقف هذه الأخطاء. قاموا بجمع أربعين سؤالاً شائعاً قد يطرحها المرضى، تغطي مواضيع من النظام الغذائي والأدوية إلى إدارة المرض أثناء الحمل أو الصيام الديني. ثم طلبوا من أربعة نماذج حاسوبية مختلفة مفتوحة المصدر الإجابة على هذه الأسئلة. تباينت هذه النماذج في الحجم والتصميم، فبعضها كان أدوات عامة الغرض والبعض الآخر تم ضبطه خصيصاً للغة البنغالية. كما بنى الباحثون نظاماً خاصاً أجبر أحد النماذج على البحث عن الإجابات في "الدليل الوطني الرسمي لمرض السكري في بنغلاديش" قبل التحدث، وهي طريقة تُعرف باسم "التوليد المعزز بالاسترجاع". ثم قرأ طبيبان كل إجابة بدقة، وقاما بتقييمها من حيث الدقة والسلامة والوضوح، وحددا أي استجابة تحتوي على ادعاء طبي كاذب أو غير مدعوم باعتبارها "هلوسة".

كشفت النتائج عن فرق صارخ بين النماذج. فالنموذج الأكثر تقدماً وعام الغرض اخترع حقائق في 2.5% فقط من إجاباته، بينما أدى نموذج مصمم خصيصاً للبنغالية ولكن ليس للطب أداءً مقارباً جداً. ومع ذلك، فإن أحد النماذج العامة، الذي كان أصغر حجماً وأقل تخصصاً، هلوس في نسبة مذهلة بلغت 77.5% من استجاباته. فقد اخترع أطعمة لا وجود لها في بنغلاديش، واقترح تغييرات خطيرة في الأدوية، وقدم نصائح قد تضر المريض. أظهر هذا أن مجرد امتلاك نموذج يتحدث اللغة ليس كافياً؛ إذ إن الذكاء الأساسي للنموذج يهم بقدر أهمية اللغة التي يستخدمها.

ثم اختبر الباحثون ما إذا كان ربط النموذج الأضعف باللوائح الوطنية الرسمية يمكن أن يصلح مشكلاته. لقد منحوا النموذج إمكانية الوصول إلى القواعد الطبية الصحيحة ووجهوا إليه تعليمات بالإجابة فقط من هذا النص. كان التحسن دراماتيكياً؛ حيث انخفض معدل الهلوسة من 77.5% إلى 11.3%. أصبحت الإجابات أكثر دقة واكتمالاً وسلامة، وارتفع أداء النموذج ليطابق أو حتى يتجاوز النموذج المتكيف مع اللغة البنغالية في معظم المعايير، رغم أنه ظل دون النموذج الأفضل أداءً في معايير السلامة والقابلية للقراءة والموثوقية. لقد نجح النظام في تحويل أداة غير موثوقة بشكل خطير إلى مساعد أكثر أماناً للمرضى.

ومع ذلك، وجدت الدراسة أيضاً أن الحل لم يكن مثالياً. فحتى مع وجود الإرشادات الرسمية، ظل النموذج يرتكب أخطاء في حوالي إجابة واحدة من كل تسع إجابات. كانت هذه الأخطاء المتبقية مثيرة للقلق بشكل خاص لأنها لم تكن مجرد كلام غير مفهوم، بل كانت جملًا طليقة ومنظمة جيداً وتحتوي على نصائح محددة وواثقة وربما ضارة، مثل إخبار المريض بالتوقف عن تناول الأنسولين أو استخدام جهاز طبي غير موجود. بل إن النموذج كان يستشهد أحياناً باللوائح الرسمية لدعم هذه الادعاءات الزائفة، مما جعل اكتشاف الأخطاء أمراً صعباً. يشير هذا إلى أنه على الرغم من أن ربط الحاسوب بمصدر موثوق يساعد بشكل كبير، إلا أنه لا يلغي المخاطر تماماً. وخلص الباحثون إلى أنه لكي تكون هذه الأدوات آمنة للمرضى، يجب أن تُبنى على نموذج أساسي قوي، وأن تكون مرتبطة بالإرشادات الرسمية، وأن يتم فحصها دائماً من قبل طبيب بشري قبل استخدامها لتقديم المشورة الطبية. ويوفر هذا العمل مساراً واضحاً نحو إنشاء مساعدين صحيين يكونون متاحين وموثوقين لملايين المتحدثين باللغة البنغالية.

أبحاث مشابهة