SeqLLM: Augmenting LLMs with Behavioral-Sequence Modeling for High-Stakes Decisions at WeChat Pay
يُعد SeqLLM إطار عمل مبتكر تم نشره في WeChat Pay، يعمل على تعزيز النماذج اللغوية الكبيرة عبر نمذجة التسلسل السلوكي من خلال مفردات منفصلة مدمجة، وجهاز عرض محاذاة ثنائي المراحل، وحقن قدرات موجه بالبادئة، مما يحقق نتائج رائدة في معايير مراقبة مخاطر التجار والتوصيات مع الحفاظ على القدرات اللغوية الأصلية للنموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز ما. لديك محقق ذكي للغاية في قراءة الأدلة المكتوبة بالكلمات — مثل مذكرات أو مقال إخباري. هذا المحقق هو نموذج لغوي كبير (LLM)، وهو نوع من عقول الكمبيوتر التي تدربت على كل ما كتبه البشر تقريبًا. يمكنه فهم السخرية، وتلخيص القصص، وشرح الأفكية المعقدة بشكل أفضل من أي شخص آخر. لكن لهذا المحقق نقطة عمياء: فهو لا يعرف كيفية قراءة قائمة طويلة من الأفعال، مثل الجدول الزمني لكل مرة اشترى فيها شخص ما قهوة، أو زار حديقة، أو نقر على شاشة. تسمى هذه القائمة الطويلة "تسلسل سلوكي" (behavioral sequence).
في العالم الحقيقي، خاصة في أماكن مثل المدفوعات عبر الإنترنت، غالبًا ما تختبئ الحقيقة في مزيج من كليهما. قد يبدو متجر ما طبيعيًا تمامًا في وصفه (النص)، لكن تاريخ معاملاته (السلوك) قد يظهر أنه يعمل فقط في الساعة 3 صباحًا في مقاطعات مختلفة، مستهدفًا كبار السن. إذا قرأت الوصف فقط، فستفوتك الخطورة. وإذا نظرت إلى قائمة المعاملات فقط، فستفوتك السياقات. التحدي الذي يواجهه العلماء هو تعليم المحقق الذكي في الكلمات أن يفهم أيضًا الجدول الزمني الذكي في الأفعال دون أن يجعله ينسى كيف يتحدث أو يفكر. إذا حاولت إجبار المحقق على حفظ مليون جدول زمني، فقد يصاب بالارتباك لدرجة تجعله ينسى كتابة جملة بسيطة. تتناول هذه الورقة البحثية هذه المشكلة تحديدًا: كيف تمنح خبير لغة "قوة خارقة" لرصد الأنماط في الزمن دون أن يفقد قدرته على التفكير.
قصة الورقة البحثية: تعليم محقق كيفية قراءة الجداول الزمنية
ابتكر الباحثون في WeChat Pay وبعض الجامعات إطار عمل جديدًا ذكيًا يسمى SeqLLM. فكر في الأمر كمعسكر تدريبي خاص لمحققنا الذكي في الكلمات. كان هدفهم هو السماح للمحقق بالنظر إلى ملف تعريف التاجر (النص) وتاريخ معاملاته الطويل (السلوك) في وقت واحد لرصد الاحتيال.
المشكلة في الطريقة القديمة
سابقًا، إذا أردت من نموذج لغوي أن يفهم قائمة من الأفعال، فقد تحاول مجرد كتابة القائمة كقصة. "أولاً، اشترى المستخدم قميصًا. ثم، اشترى حذاءً..." لكن هذا يشبه محاولة قراءة رواية حيث كل كلمة فيها هي رقم؛ يصبح الأمر طويلاً جدًا، ويصاب المحقق بالإرهاق.
طريقة أخرى كانت تعليم المحقق لغة جديدة تمامًا من الأرقام مخصصة للأفعال. لكن كان لهذا جانب مخيف: بينما يتعلم المحقق هذه اللغة الجديدة، يبدأ في نسيان لغته القديمة. كان الأمر يشبه طالبًا يتعلم موضوعًا جديدًا بكثافة شديدة لدرجة أنه ينسى كيف يتحدث لغته الأم. يُسمى هذا "النسيان الكارثي" (catastrophic forgetting). تُظهر الورقة أنه إذا حاولت تعليم النموذج بهذه الطريقة باستخدام الطرق القياسية، فإن قدرته على فهم اللغة العامة يمكن أن تنهار من درجة عالية تبلغ 0.78 إلى درجة سيئة للغاية تبلغ 0.27.
حل SeqLLM: ثلاث خدع سحرية
لم يكتفِ المؤلفون بضخ المزيد من البيانات في المشكلة؛ بل بنوا نظامًا أكثر ذكاءً يتكون من ثلاثة أجزاء محددة:
- المفردات المختصرة (الاختصار): بدلًا من كتابة "اشتريت قطعة بقيمة 200 دولار في الساعة 2 مساءً"، أنشأوا رمزًا مختصرًا خاصًا. لقد قاموا بتفكيك كل فعل إلى رموز (tokens) صغيرة ومحددة مثل
<Time:2PM>و<Amount:200>و<Channel:QR>. هذا يشبه إعطاء المحقق مجموعة من قطع الليغو بدلًا من كومة من الرمل. إنها أصغر، وأنظف، ولا تختلط مع الكلمات التي يعرفها المحقق بالفعل. - المترجم (الجسر): هذه الرموز (tokens) الجديدة ليس لها معنى للمحقق في البذابة. لذا، بنوا "جهاز عرض" (projector)، وهو بمثابة مترجم يعلم المحقق معنى كل قطعة. لم يكتفوا بإلقاء القطع على النموذج؛ بل استخدموا درسًا من خطوتين. أولاً، علموا النموذج ترجمة هذه القطع إلى لغة إنجليزية عادية (على سبيل المثال، تحويل
<Time:2PM>إلى "2 PM"). وبمجرد أن فهم النموذج المعنى، انتقلوا إلى الخطوة الثانية: الاستنتاج. طلبوا من النموذج النظر إلى تسلسل كامل من القطع وشرح النمط، مثل "هذا الشخص يتسوق فقط في وقت متأخر من الليل". - البادئة السرية (قناع التدريب): هذه هي الخدعة الأكثر أهمًا. عادةً، لتعليم نموذج مهارة جديدة، تجعله يتدرب على تلك المهارة باستمرار، مما يسبب له نسيان كل شيء آخر. يستخدم SeqLLM طريقة "موجهة بالبادئة" (prefix-guided). تخيل أن المحقق يُعطى بطاقة تعليمات محددة قبل كل مهمة، مثل "الآن، اعمل كمحلل للجداول الزمنية". يتعلم النموذج مهارة الجدول الزمني فقط عند وجود تلك البطاقة المحددة. عندما تختفي البطاقة، يتصرف النموذج كعادته، بذكائه الطبيعي. هذا يحافظ على منع "تعلم الجدول الزمني" من الانتشار وإفساد المعرفة العامة للمحقق.
ما وجدوه
كانت النتائج مبهرة. عندما اختبروا هذه الطريقة الجديدة:
- لا فقدان للذاكرة: تعلم النموذج التنبؤ بالعمل التالي في التسلسل بنفس كفاءة الطرق القديمة التي تعاني من النسيان (بدرجة 0.806 مقابل 0.804)، لكنه حافظ على مهاراته اللغوية سليمة (بدرجة 0.789 بدلًا من الانهيار إلى 0.27).
- نجاح حقيقي في WeChat Pay: قاموا بنشر هذا النظام للتحقق من ملايين التجار يوميًا. مقارنة بنظامهم الأفضل السابق، رصد نظام SeqLLM الجديد التجار ذوي المخاطر بدقة وصلت إلى 97.5% (ارتفاعًا من 92.0%). والأفضل من ذلك، أن عدد الاستئنافات الغاضبة من التجار الأبرياء انخفض من 12% إلى حوالي 2%، ولم يمرروا أي تاجر مذنب بالخطأ.
- كشف أفضل للاحتيال: عندما استخدموا "فهم" النظام الجديد لمساعدة كاشف احتيال آخر، فقد أدى ذلك إلى تحسين اكتشاف الاحتيال رفيع المستوى بمقدار 26.8 نقطة مئوية. هذه قفزة هائلة لنظام يعالج مليارات المعاملات.
- عبقرية عامة: اختبروه أيضًا على توصيات الأفلام والكتب. لقد تفوق على أفضل النماذج الأخرى بما يصل إلى 32% في العثور على العنصر التالي الصحيح، وكل ذلك مع استخدام طاقة حوسبة أقل بـ 4.8 مرة من المنافسين.
ما استبعدوه
أظهرت الورقة صراحةً أن مجرد كتابة السلوك كقصة طويلة (التسلسل السردي/serialization) لا ينجح؛ بل جعل النظام أسوأ، حيث انخفضت الدقة إلى 83%. كما أثبتوا أنه لا يمكنك مجرد "إصلاح" مشكلة النسيان لاحقًا عن طريق إضافة المزيد من البيانات اللغوية؛ فبمجرد أن ينسى النموذج، يصعب استعادته. الطريقة الوحيدة التي نجحت هي منع النسيان في المقام الأول باستخدام طريقتهم الموجهة بالبادئة.
باختختصار، SeqLLM هو وسيلة لمنح خبير لغوي زوجًا جديدًا من العيون لرؤية الأنماط في الزمن، دون أن يجعله ينسى كيف يتحدث. إنه طريقة أكثر ذكاءً، وسرعةً، ودقةً لرصد المشاكل في العالم الرقمي، مما يثبت أنك لست مضطرًا للتضحية بمهارة واحدة لاكتساب أخرى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.