💬 NLP

TDGNet: Hallucination Detection in Diffusion Language Models via Temporal Dynamic Graphs

إن TDGNet هو إطار عمل للرسوم البيانية الديناميكية الزمنية مصمم للكشف عن الهلوسة في نماذج اللغة الانتشارية من خلال تحليل كيفية تطور أنماط الانتباه على مستوى الرمز (token) وتطور المعلومات طوال مسار إزالة الضجيج.

المؤلفون الأصليون: Arshia Hemmat, Philip Torr, Yongqiang Chen, Junchi Yu

نُشر 2026-02-10

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Arshia Hemmat, Philip Torr, Yongqiang Chen, Junchi Yu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تشاهد طباخاً محترفاً وهو يحضر طبقاً معقداً.

إذا نظرت فقط إلى الطبق النهائي (المخرج)، فقد تعتقد أن الوجبة مثالية. ولكن ماذا لو سقطت من الطباخ بالخطر رشة ملح في مكان خاطئ، فأدرك ذلك، ثم قام بعناية بموازنة الطعم بضغطة من عصير الليمون؟ أو ماذا لو بدأ بفكرة رائعة ولكنه ضل طريقه تدريجياً وانتهى به الأمر بإضافة الكثير من الفلفل؟

ورقة البحث "TDGNet" تدور حول تعليم الذكاء الاصطناعي كيف يكون "ناقداً للطعام" لا يتذوق الطب النهائي فحسب، بل يراقب عملية الطهي بأكملها من البداية إلى النهاية ليقرر ما إذا كانت الوجبة موثوقة حقاً.

المشكلة: الذكاء الاصطناعي "المضبب"

تعمل معظم نماذج الذكاء الاصطناعي الحالية (مثل ChatGPT) مثل شخص يكتب جملة كلمة بكلمة، من اليسار إلى اليمين. إذا ارتكبوا خطأً، يمكنك رؤيته فوراً.

ومع ذلك، يعمل نوع جديد من الذكاء الاصطناعي يسمى "نموذج لغة الانتشار" (Diffusion Language Model) بشكل مختلف. إنه يشبه النحات الذي يعمل بكتلة من الطين؛ يبدأ بكتلة فوضوية ومضببة من "الضجيج"، ثم يقوم بتنقيحها خطوة بخطوة حتى تصبح شكلاً واضحاً (جملة).

المشكلة هي أنه خلال عملية "النحت" هذه، يمكن للذكاء الاصطناعي أن يرتبك. قد يكون:

المنجرف: يبدأ بفكرة رائعة ولكنه "ينجرف" تدريجياً نحو كذبة.
العنيد: يرتكب خطأً في الثانية الأولى ويستمر في البناء على هذا الخطأ حتى النهاية.
الطباخ الفوضوي: يمر بمرحلة من الفوضى العارمة (كلمات غير مفهومة) لكنه يصلح نفسه في النهاية وينتج الإجابة الصحيحة.

أدوات "كشف الهلوسة" الحالية (الأدوات التي تضبط أكاذيب الذكاء الاصطناعي) تشبه النقاد الذين ينظرون فقط إلى الطب النهائي. فهم يرتبكون بسبب "الطباخ الفوضوي" (ظناً منهم أن الفوضى تعني أن الوجبة بأكملها سيئة) ويُخدعون بواسطة "المنجرف" (ظناً منهم أن الكذبة النهائية التي تبدو واثقة هي في الواقع حقيقة).

الحل: TDGNet (الناقد عبر "الفاصل الزمني")

ابتكر الباحثون TDGNet. بدلاً من مجرد النظر إلى الجملة النهائية، يراقب TDGNet "فيديو بفاصل زمني" لكيفية تحرك "أفكار" (انتباه) الذكاء الاصطعي خلال العملية بأكملها.

للقيام بذلك، يستخدمون رسمًا بيانيًا ديناميكيًا زمنيًا (Temporal Dynamic Graph). فكر في هذا كأنه خريطة شبكة اجتماعية للكلمات:

العُقد (الأشخاص): كل كلمة في الجملة هي شخص في شبكة اجتماعية.
الحواف (الصداقات): بينما يقوم الذكاء الاصطناعي بـ "نحت" الجملة، تبدأ كلمات معينة في "التحدث" مع بعضها البعض (الاهتمام ببعضها).
الجزء الزمني (التاريخ): لا يرى TDGNet فقط من هم الأصدقاء الآن، بل يتذكر كيف تغيرت تلك الصداقات بمرور الوقت.

كيف يعمل (الاستعارة)

يعمل TDGNet كالمحقق الذي يراقب مجموعة من الأشخاص في غرفة عبر كاميرا مراقبة:

كشف المنجرف: يلاحظ المحقق أنه في البداية، كان الجميع يتحدث عن "برج إيفل"، ولكن في منتصف الطريق، بدأ الجميع فجأة يتهامسون بهوس حول "برج بيزا المائل". حتى لو بدا الجميع هادئين في النهاية، فإن المحقق يعرف أنهم ضلوا طريقهم.
كشف العنيد: يرى المحقق أنه منذ الدقيقة الأولى، كان الجميع يتجاهلون "كتيب التعليمات" (الأمر/البرومبت) ويتحدثون فقط مع بعضهم البعض في حلقة مغلقة وخاطئة.
التسامح مع الطباخ الفوضوي: يرى المحقق لحظة من الصراخ والفوضى العارمة، لكنه يلاحظ أن المجموعة هدأت في النهاية وبدأت تتبع الكتيب مرة أخرى. يقول المحقق: "كان الأمر فوضوياً، لكن النتيجة النهائية متينة".

لماذا يهم هذا؟

من خلال مراقبة العملية بدلاً من مجرد النتيجة، يعد TDGNet أفضل بكثير في كشف الأكاذيب التي تبدو واثقة. إنه أسرع وأكثر دقة من الطرق السابقة، مما يجعله أداة حيوية لضمان أنه بينما يصبح الذكاء الاصطناعي أكثر إبداعًا و"سيولة"، فإنه يظل متمسكاً بالحقيقة.

ملخص تقني: TDGNet: كشف الهلوسة في نماذج اللغة الانتشارية عبر الرسوم البيانية الديناميكية الزمنية

1. بيان المشكلة

بينما أرست النماذج اللغوية الكبيرة ذات التوليد الذاتي (AR-LLMs) نموذجاً مهيمناً، تبرز الآن نماذج اللغة الانتشارية (D-LLMs) — مثل LLaDA و Dream-7B — كبدائل قوية بفضل سياقها ثنائي الاتجاه وقدراتها على فك التشفير المتوازي. ومع ذلك، فإن كشف الهلوسة في نماذج D-LLMs أكثر تعقيداً بكثير مما هو عليه في نماذج AR-LLMs بسبب وجود "عدم تطابق بنيوي" أساسي:

عدم قابلية حساب الاحتمالية (Likelihood Intractability): على عكس النماذج ذات التوليد الذاتي، لا توفر نماذج D-LLMs احتمالية بسيطة من تمريرة واحدة (الارتباك/Perplexity)، مما يجعل مقاييس عدم اليقين القائمة على المخرجات التقليدية مكلفة حاسوبياً أو غير موثوقة.
التذبذب الزمني (Temporal Oscillation): الهلوسة في نماذج D-LLMs ليست أخطاءً ثابتة بل هي أحداث ديناميكية. خلال عملية إزالة الضجيج (denoising) التكرارية، قد يظهر النموذج "تصحيحاً ذاتياً" (تصحيح خطأ)، أو "انحرافاً دلالياً" (البدء بحقيقة ثم الانحراف نحو الزيف)، أو "خطأً مستمراً" (الاستقرار على خطأ في وقت مبكر). الكواشف الثابتة التي تفحص المخرج النهائي فقط أو لقطة واحدة تفوت هذه الإشارات الهيكلية المتطورة.

2. المنهجية: TDGNet

يقترح المؤلفون TDGNet، وهو إطار عمل يعامل كشف الهلوسة كـ مشكلة تعلم رسوم بيانية زمنية ديناميكية. بدلاً من النظر إلى تسلسلات النصوص، يقوم TDGNet بنمذجة التوليد كشبكة متطورة من التبعيات بين الرموز (tokens).

أ. بناء الرسم البياني الديناميكي الزمني
يمثل الإطار مسار إزالة الضجيج كتسلسل من الرسوم البيانية ذات السمات $G = \{G(0), \dots, G(T)\}$ .

العقد (V): هي الرموز في التسلسل (ثابتة عبر المسار).
الحواف (E(t)): يتم تشكيل حواف موجهة بناءً على أوزان الانتباه ثنائية الاتجاه للنموذج. ولضمان الكفاءة، يستخدم المؤلفون عتبة تخلخل ( $\tau$ ) للاحتفاظ بالتفاعلات الهامة فقط، مما يسمح لطوبولوجيا الرسم البياني بالتطور بشكل طبيعي.
السمات: يتم إثراء العقد بميزات من التدفق المتبقي (residual stream) للترانسفورمر، وتكون الحواف موزونة بأوزان درجات الانتباه.

ب. بنية TDGNet
يعالج النموذج تسلسل الرسم البياني عبر مسار ثلاثي المراحل:

التجميع المكاني (MPNN): في كل خطوة زمنية $t$ ، تقوم شبكة تمرير الرسائل العصبية (Message Passing Neural Network) بتجميع المعلومات من جيران الرمز لالتقاط البنية العلاقاتية اللحظية.
تحديث الذاكرة الزمنية (GRU): لتتبع التطور، يحافظ TDGNet على حالة ذاكرة مستمرة لكل رمز باستخدام وحدة بوابة متكررة (GRU). وهذا يسمح للنموذج بدمج الرسالة الهيكلية الحالية مع "اعتقاد" الرمز التاريخي عبر خطوات إزالة الضجيج.
قراءة المسار (الانتباه الزمني): بدلاً من المتوسط البسيط، يتعلم آلية انتباه زمني تحديد مراحل إزالة الضجيج الأكثر معلوماتية (على سبيل المثال، التركيز على اللحظة التي يحدث فيها "الانحراف") لإنتاج تضمين (embedding) نهائي مدرك للمسار.

ج. القدرة على أداء مهمتين مزدوجتين
تم تصميم TDGNet لكل من الكشف على مستوى الاستجابة (تصنيف ما إذا كان التسلسل بأكمله عبارة عن هلوسة عبر التجميع المتوسط العالمي) و التحديد على مستوى الرمز (تحديد الرموز التي تهلوس بدقة عبر تصنيف العقد).

3. المساهمات الرئيسية

اكتشاف ديناميكيات الهلوسة: يقدم البحث تحليلاً رسمياً يوضح أن إشارات الحقيقة غالباً ما تكون ضعيفة في اللقطات الفردية ولكنها تتراكم عبر مسار إزالة الضجيج.
تمثيل مبتكر: يقدم مفهوم استخدام الرسوم البيانية الدينمايكية الزمنية لالتقاط "الأثر الحسابي" لعملية الانتشار، مما يسد الفجوة بين البنية العلاقاتية والتطور الزمني.
إطار عمل موحد: نموذج واحد يمكنه التعامل مع كشف المستوى التسلسلي وتحديد الرموز الدقيق.

4. النتائج التجريبية

قيم المؤلفون TDGNet على LLaDA-8B و Dream-7B عبر عدة اختبارات مرجعية للأسئلة والأجوبة (Math, CSQA, HotpotQA, TriviaQA, NQ).

أداء فائق: تفوق TDGNet باستمرار على النماذج المرجعية القائمة على المخرجات (مثل Semantic Entropy)، والقائمة على الكمون (مثل TSV, CCS)، والقائمة على الرسم البياني الثابت (CHARM). في LLaDA-8B، تفوق على أقوى نموذج مرجعي (TSV) بما يصل إلى 8.5% في مقياس AUROC.
المتانة تجاه الديناميكيات: على عكس النماذج الثابتة، نجح TDGNet في التمييز بين "الضجيج العابر" (الذي يستقر على الحقيقة) و"الانحراف الدلالي" (الذي يؤدي إلى الخطأ).
الكفاءة: يحقق TDGNet تسريعاً كبيراً (حوالي 4.8 ضعف) مقارنة بالطرق القائمة على أخذ العينات مثل Semantic Entropy، حيث يتطلب مساراً واحداً فقط لإزالة الضجيج بدلاً من توليدات عشوائية متعددة.
التعميم: أظهرت تجارب التعميم عبر مجموعات البيانات المختلفة (Zero-shot) أن نهج الرسم البياني لـ TDGNet يتعمم بشكل أفضل عبر مهام الاستدلال المختلفة مقارنة بطرق فضاء الكمون.

5. الأهمية

يعد هذا العمل مهماً لأنه ينقل نموذج كشف الهلوسة من "فحص النتيجة" إلى "مراقبة العملية". ومن خلال إثبات أن تطور الانتباه الداخلي يحتوي على الإشارات الأكثر موثوقية للحقيقة، يوفر البحث أساساً قابلاً للتوسع ومتيناً لجعل نماذج اللغة الانتشارية أكثر أماناً وموثوقية للنشر في العالم الحقيقي.