Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI
تقدم هذه الورقة إطار عمل "إزالة الحقائق-التوجيه-إعادة الإرواء" (Defactualize-Steer-Rehydrate - DSR)، وهو إطار عمل لا يتطلب ضبطاً دقيقاً يجمع بين توجيه التنشيط ورسم بياني للمعرفة مرجح بالأهمية لتمكين التوليد القابل للتحكم في الأسلوب في النماذج اللغوية الكبيرة الوكيلية، مع الحفاظ المنهجي على الدقة الواقعية من خلال استخراج الكيانات، واستبدال الرموز النائبة، وإعادة الإرواء الحتمي.
في عالم الذكاء الاصطناي، أصبحت النماذج اللغوية الكبيرة أدوات قوية للمحادثة، قادرة على كتابة رسائل البريد الإلكتروني، والإجابة على الأسئلة، وتقديم المشورة. ومع ذلك، عندما يتم نشر هذه الأنظمة في بيئات العالم الحقيقي مثل دعم العملاء، فإنها تواجه عملية توازن صعبة؛ إذ يجب عليها تبني نبرة محددة، كأن تكون متعاطفة مع متصل محبط أو رسمية أثناء شكوى جادة، بينما تحافظ في الوقت ذاته على حقائق دقيقة وقابلة للتحقق مثل أرقام الطلبات، وأسماء المنتجات، وهويات العملاء. وإذا استغرق النموذج نفسه أكثر من اللازم في النبرة المنشودة، فقد يغير الحقائق عن غير قصد، وهي مشكلة يسميها الباحثون "التسرب الدلالي" (semantic leakage). فعلى سبيل المثال، قد يحاول نموذج يسعى ليكون متعاطفاً جداً استبدال رقم طلب العميل برقم آخر مختلف، أو يخترع منتجاً لم يُذكر قط. وهذا يخلق خطراً حيث يبدو الذكاء الاصطناعي متعاوناً ولكنه يقدم معلومات غير صحيحة. ولحل هذه المشكلة، طور العلماء طرقاً لتوجيه سلوك النموذج دون إعادة تدريبه، وهو ما يعني عملياً توجيه عملية تفكيره الداخلية نحو أسلوب معين. ومع ذلك، غالباً ما تدمج هذه التوجيهات بين الأسلوب والمضمون، مما يجعل من الصعب الحفاظ على نقاء الحقائق مع تغيير الحالة المزاجية.
قدم فريق من الباحثين في المعهد الهندي للتكنولوجيا بيلهي إطار عمل جديداً يسمى "إزالة الحقائق - التوجيه - إعادة الإرواء" (Defactualize-Steer-Rehydrate)، أو اختصاراً DSR، والذي يعامل هذه المشكلة كمسألة إدارة معلومات دقيقة بدلاً من مجرد تعديل رياضي. فبدلاً من محاولة تعليم النموذج أن يكون مثالياً، يعمل النظام كحارس بوابة يفصل الحقائق عن المشاعر قبل أن يبدأ النموذج في الكلام. تبدأ العملية بتحليل رسالة العميل واستخراج قطع رئيسية من المعلومات، مثل الأسماء وتفاصيل الطلب، في قائمة منظمة. ثم يقوم النظام باستبدال هذه الحقائق المحددة بعناصر نائبة عامة، مثل "اسم العميل" أو "معرف الطلب"، مما يؤدي فعلياً إلى تنقية النص من البيانات الحقيقية. يتم بعد ذلك تغذية هذا النسخة المنقحة للذكاء الاصطناعي، الذي يُطلب منه إنشاء رد في أسلوب محدد، مثل أن يكون دافئاً ومتفهماً أو بارداً ومهنياً. وبما أن الحقائق الحقيقية قد تمت إزالتها، فلا يمكن للنموذج تغييرها عن طريق الخطأ؛ بل يمكنه فقط التركيز على النبرة وتدفق المحادثة.
بمجرد أن يولد النموذج رده، يقوم النظام بالخطوة النهائية والحاسمة: "إعادة الإرواء" (rehydration). حيث ينظر مجدداً إلى قائمة الحقائق الأصلية التي استخرجها، ويقوم بشكل حتمي باستبدال العناصر النائبة العامة بالقيم الدقيقة والمحققة من رسالة العميل. وهذا يعني أن المخرج النهائي يحمل النبرة العاطفية المنشودة ولكنه يحتوي على الحقائق الدقيقة التي قدمها العميل، دون مجال للنموذج للهلوسة أو التغيير. وقد اختبر الباحثون هذا النهج على ست نسخ مختلفة من عائلة نماذج ذكاء اصطناعي شهيرة، تتراوح من الصغيرة إلى الكبيرة، باستخدام ستمائة حالة دعم عملاء محاكية. ووجدوا أن هذه الطريقة حسنت بشكل كبير معدل الحفاظ على الحقائق الصحيحة في الرد النهائي مقارلة باستخدام توجيه الأسلوب وحده. وبينما كان التحسن واضحاً إحصائياً، إلا أن العدد المطلق للحقائق المستردة كان لا يزال متواضعاً، مما يشير إلى أن النظام يساعد ولكنه لا يضمن بعد الدقة الكاملة في كل حالة على حديد. ومن المهم أن الدراسة أظهرت أن هذه العملية لم تؤدِ إلى تدهور جودة الأسلوب؛ حيث ظلت الردود متعاطفة أو رسمية كما هو مقصود، مما يثبت إمكانية السعي وراء الهدفين بشكل مستقل دون أن يفسد أحدهما الآخر.
كما كشف البحث أن نجاح هذه الطريقة لا يعتمد بشكل كبير على حجم نموذج الذكاء الاصطناعي. فسواء استخدم النظام نموذجاً أصغر بمليار معلمة أو نموذجاً أكبر بـ ثلاثة عشر مليار معلمة، فإن القدرة على الحفاظ على الحقائق ظلت ثابتة، وعمل التحكم في الأسلوب نجح بالتساوي عبر جميع الفئات. وهذا يشير إلى أن القيمة تأتي من العملية المنظمة لفصل وإعادة دمج المعلومات، وليس من القوة الخام للنموذج نفسه. كما اكتشف الفريق أن النظام يتسم بالمتانة ضد الأخطاء؛ ففي أكثر من ألف استجابة تم إنشاؤها، لم تفشل الآلية أبداً في استعادة الحقائق، ولم تترك أي رمز نائب ظاهراً في النص النهائي. تشير هذه الموثوقية إلى أن الطريقة مستقرة بما يكفي للاستخدام العملي، حتى لو لم تحل كل خطأ ممكن قد يرتكبه النموذج.
تتعلق واحدة من أكثر النتائج إثارة للاهتمام في الدراسة بالعلاقة بين مدى قوة دفع النظام لأسلوب معين ومدى تكرار وقوعه في الأخطاء. لاحظ الباحثون أنه بالنسبة لبعض النماذج، لم تؤدِ زيادة قوة تعليمات الأسلوب إلى زيادة مستمرة في الأخطاء. بدلاً من ذلك، كان هناك نطاق محدد حيث يمكن للنظام أن يصبح أكثر تعبيراً في نبرته دون التضحية فوراً بالسيطرة على الحقائق. ويشير هذا الاكتشاف إلى وجود منطقة تشغيل غير معروفة سابقاً حيث يمكن للأسلوب والدقة التعايش معاً بشكل أكثر راحة مما كان يُعتقد. ومن خلال رسم خرائط لهذه التفاعلات، قدم الباحثون صورة أوضح لكيفية ضبط هذه الأنظمة للاستخدام في العالم الحقيقي.
يُظهر هذا العمل أننا لسنا بحاجة إلى إعادة تدريب النماذج الضخمة للذكاء الاصطناعي بشكل جذري لجعلها أكثر موثوقية. بدلاً من ذلك، من خلال إضافة طبقة من هندسة المعرفة المنظمة التي تعمل كمرشح ومسترجع، يمكننا توجيه هذه الأنظمة لتكون مهذبة ودقيقة في آن واحد. يعتمد النهج على فكرة بسيطة ولكنها قوية: إذا فصلت الحقائق عن المشاعر قبل بدء التفكير، يمكنك التحكم في المشاعر دون فقدان الحقائق. تقدم هذه الطريقة مساراً للمضي قدماً في بناء مساعدي الذكاء الاصطناعي الذين ليسوا قادرين فقط على فهم العاطفة البشرية، بل هم أيضاً جديرون بالثقة للتعامل مع التفاصيل الحرجة لحياتنا اليومية. لقد جعل الباحثون كودهم وبياناتهم متاحة للجمهور، مما يسمح للآخرين بالتحقق من هذه النتائج والبناء على هذه الطريقة الجديدة في التفكير حول كيفية تحدث الآلات إلينا.
فيما يلي ملخص تقني مفصل لورقة بحثية بعنوان: "توجيه المعرفة عبر الرسم البياني للمعرفة لمنع التزييف (Defactualization) من أجل توليد قابل للتحكم في الأسلوب وحافظ للحقائق في الذكاء الاصطناعي الحواري الوكيل".
بيان المشكلة
تواجه النماذج اللغوية الكبيرة (LLMs) الوكيلية (Agentic) التي يتم نشرها في المجالات الحساسة للحقائق، مثل دعم العملاء، قيداً مزدوجاً: يجب أن تولد استجابات بأسلوب تعبيري محدد (مثل التعاطف أو الرسمية) مع الحفاظ الصارم على الصحة الواقعية فيما يتعلق بكيانات محددة (مثل معرفات الطلبات، أسماء المنتجات، أسماء العملاء).
تفشل النهج الحالية في معالجة كلا القيدين في آن واحد دون مقايضات:
الضبط الدقيق (Fine-tuning): يدمج الأسلوب في الأوزان ولكنه يتطلب إعادة تدريب لكل أسلوب ونموذج.
التوليد المعزز بالاسترجاع (RAG): يوفر سياقاً ولكنه يترك النموذج حراً في إعادة الصياغة أو إسقاط الكيانات الهامة.
توجيه التنشيط (Activation Steering): يسمح بالتحكم في الأسلوب دون ضبط دقيق عن طريق تشويه الحالات الخفية، ولكنه يفتقر إلى آلية للتمييز بين الرموز (tokens) الواقعية والرموز الأسلوبية. يؤدي هذا إلى تسرب دلالي (semantic leakage)، حيث تقوم متجهات التوجيه بتغيير أو استبدال الكيانات الواقعية عن غير قصد، أو حيث تُنقل السمات الأسلوبية بشكل غير لائق إلى نطاقات الكيانات.
التحدي الجوهري هو فصل التحكم الأسلوبي عن التأسيس الواقعي دون تعديل أوزان النموذج أو اشتراط أن يكون متجه التوجيه خاصاً بالرسالة.
المنهجية: نزع الواقعية - التوجيه - إعادة الإرواء (DSR)
يقترح المؤلفون إطار عمل DSR، وهو إطار عمل عصبي-رمزي مكون من سبع مراحل، لا يتطلب تدريباً، يدمج رسماً بيانياً للمعرفة (KG) موصوفاً وموزوناً بالأهمية (salience-weighted) مع توجيه التنشيط. يعمل خط الإنتاج كما يلي:
استخراج المعرفة وبناء الرسم البياني للمعرفة (KG):
تتم معالجة الرسائل المدخلة عبر خط إنتاج طبقي (regex، وتعرف على الكيانات المسماة NER، ومصنفات معجمية) لاستخراج الكيانات والسمات (اسم العميل، معرف الطلب، المنتج، المشكلة، الاستعجال، الشعور).
يتم بناء رسم بياني موجه وموصوف G=(V,E). تُخصص لكل عقدة درجة أهمية (sal∈[0,1]) بناءً على ثقة الاستخراج والتأكيد (على سبيل المثال، مطابقة البيانات الوصفية تعزز درجة الأهمية).
تُحدد أوزان الحواف بشكل ضربي (w(u,v)=sal(u)⋅sal(v))، مما يضمن أن النهايات الطرفية ذات الثقة المنخفضة تثبط موثوقية الحافة.
نزع الواقعية (ما قبل التوجيه):
قبل أي توجيه تنشيط، يتم إعادة كتابة النص المدخل باستبدال جميع قيم الكيانات المستخرجة بعلامات نائبة موصوفة (مثل <ORDER_ID>, <PRODUCT>).
ينشئ هذا "مطالبة منزوعة الواقعية" حيث يتم حجب المخطط الواقعي، مما يضمن أن الأزواج التباينية المستخدمة لتقدير متجهات التوجيه لا تحتوي على ضجيج كيانات محددة.
بناء متجه توجيه تبايني:
يتم تقدير متجهات التوجيه (vs) لأنماط محددة (مثل التعاطف مقابل الرسمية) باستخدام تحليل المكونات الرئيسية (PCA) على الفرق بين التنشيطات المجمعة لأزواج المطالبات التباينية.
من المهم أن هذه المتجهات تُقدر فقط على المفردات النائبة، مما يضمن أن الاتجاه يمثل الأسلوب الصافي بدلاً من المحتوى المحدد.
التوليد الموجه:
يتم تغذية المطالبة منزوعة الواقعية في نموذج LLM مجمد.
عند طبقة محولة مختارة L، يتم تشويه الحالة الخفية بإضافة مقدار: hL′(t)=hL(t)+αvs.
يولد النموذج استجابة بالأسلوب المستهدف، ولكن المخرجات تحتوي على علامات نائبة بدلاً من الحقائق الفعلية.
إعادة الإرواء والتحقق (ما بعد التوليد):
يتم "إرواء" المخرجات المولدة حتمياً عن طريق استبدال العلامات النائبة بأعلى القيم المتحقق منها من الرسم البياني للمعرفة الأصلي.
هذه الخطوة هي بحث رمزي، وليست عملية توليدية، مما يضمن عدم إدخال أي هلوسات جديدة أثناء الاستعادة.
توجد آلية احتياطية للمخرجات المشوهة (مثل العلامات النائبة المبتورة)، رغم أنه لم يتم ملاحظة أي منها في التقييم.
المساهمات الرئيسية
خط هندسة البيانات: إطار استخراج طبقي لا يتطلب تدريباً، يبني رسماً بيانياً للمعرفة موصوفاً وموزوناً بالأهمية من رسائل الدعم غير المهيكلة باستخدام regex وNER ومصنفات.
بنية DSR: فصل هيكلي للتحكم الواقعي (عبر حجب/إعادة إرواء الرسم البياني للمعرفة) والتحكم الأسلوبي (عبر توجيه التنشيط). يعمل الرسم البياني للمعرفة كبوابة، مما يضمن عدم تعرض عامل التوجيه لقيم الكيانات غير المحجوبة.
مجموعة أدوات تشخيصية: تقديم ثلاثة مقاييس لتقييم التفاعل بين الأسلوب والحقائق:
دقة تنشيط التوجيه (SAF): يقيس مدى توافق الحالة الخفية مع اتجاه الأسلوب المقصود.
مؤشر شدة الهلوسة (HSI): يقيس تسرب الكيانات (الكيانات الموجودة في المخرجات وليست في المدخلات).
مؤشر اتساق النبرة (TCI): يقيس التوافق مع الأسلوب المطلوب بالنسبة لنقيضه.
تقييم شامل: دراسة واسعة النطاق عبر ستة نماذج من عائلة LLaMA (من 1B إلى 13B بارامتر) و1,200 عملية توليد، بما في ذلك دراسة استئصال (ablation study) مخصصة للرسم البياني للمعرفة.
النتائج التجريبية
استعادة الكيانات: حسن خط إنتاج DSR المحكوم بالرسم البياني للمعرفة استعادة الكيانات المتحقق منها بشكل كبير مقارنة بنموذج التوجيه الأساسي (Cohen's d=0.225, pBonf=1.0×10−4). ومع ذلك، يشير المؤلفون إلى أن معدل الاستعادة المطلق يظل متواضعاً (نسب مئوية منخفضة الآحاد إلى عشرات قليلة)، مما يشير إلى أن الطريقة تحسن الأمر ولكنها لا تضمن التأسيس الواقعي الكامل.
الحفاظ على الأسلوب: ظلت جميع مقاييس الدقة الأسلوبية (التعاطف، الرسمية، القابلية للقراءة، التنوع المعجمي) دون تغيير إحصائي بين DSR ونماذج التوجيه الأساسية. وهذا يؤكد أن طبقة الرسم البياني للمعرفة لا تضعف التحكم في الأسلوب.
سلامة العلامات النائبة: عبر 1,200 عملية توليد وستة نماذج، كان تسرب العلامات النائبة صفراً تماماً. نجح عامل إعادة الإرواء في استعادة القيم المتحقق منها أو حذف العلامات النائبة دون ترك رموز عالقة.
استقلالية النموذج: كانت الإحصائيات الهيكلية للرسم البياني للمعرفة (عدد العقد، الكثافة، متوسط الأهمية) ثابتة تقريباً عبر جميع نماذج LLaMA الستة، مما يؤكد أن طبقة المعرفة هي خاصية لخط الاستخراج وليس للنموذج.
تأثيرات القياس: لم يتم ملاحظة أي زيادة رتيبة في دقة الأسلوب أو التأسيس الواقعي مع زيادة عدد البارامترات (1B–13B). فسرت ظروف المدخلات (نوع السيناريو) قدراً أكبر من التباين في التأسيس الواقعي من هوية النموذج.
حساسية الطبقة: كشفت التشخيصات عن علاقة غير رتيبة بين قوة التوجيه (α) واتساق النبرة في بعض النماذج، بينما تشبعت شدة الهلوسة بسرعة. يشير هذا إلى وجود منطقة تشغيل تصبح فيها تشخيصات الهلوسة غير حساسة لقوة التوجيه.
الأهمية والادعاءات
تدعي الورقة أن هندسة المعرفة الصريحة يمكن أن تعزز بشكل منهجي الموثوقية، والقدرة على التحكم، وقابلية التكرار في الذكاء الاصطناعي التوليدي دون الحاجة إلى ضبط دقيق للنموذج.
التعزيز المنهجي: من خلال معاملة التأسيس الواقعي كقيد هيكلي (الحجب وإعادة الإرواء) بدلاً من مشكلة تعلم إحصائية، يقلل DSR من التسرب الدلالي.
التكامل: تم تصميم الإطار ليكون مكملاً لطرق التوليد المعزز بالاسترجاع؛ فهو يحافظ على الحقائق الموجودة بالفعل في المدخلات ولا يقدم معرفة خارجية.
الشفافية: يو്ടفر استخدام الرسم البياني للمعرفة الموصوف وإعادة الإرواء الحتمية مسار قرار قابلاً للتدقيق، مما يتماشى مع نماذج التكامل العصبي-الرمزي.
يظل المؤلفون متواضعين في ادعاءاتهم، حيث يقرون بأن بينما يحسن DSR بشكل كبير الحفاظ على الكيانات مقارنة بالنماذج الأساسية، فإنه لا يحل مشكلة التأسيس الواقعي للكيانات بالكامل، كما أن حجم التأثير محدود. يثبت العمل كإثبات مفهوم أن فصل القيود الواقعية والأسلوبية على مستوى التمثيل هو مسار قابل للتطبيق نحو ذكاء اصطناعي وكيل أكثر موثوقية.