💻 computer science

End-to-End Semantic ID Generation for Generative Advertisement Recommendation

تقترح هذه الورقة البحثية إطار عمل UniSID، وهو إطار عمل شامل (end-to-end) للتوصية الإعلانية التوليدية يوحد بين التضمين وتوليد المعرف الدلالي (Semantic ID) للتغلب على قيود التكميم المتبقي (Residual Quantization) التقليدي ذي المرحلتين، وذلك من خلال تحقيق أداء فائق عبر التعلم التبايني متعدد الحبيبات وإعادة البناء القائم على التلخيص.

المؤلفون الأصليون: Jie Jiang, Xinxun Zhang, Enming Zhang, Yuling Xiong, Jun Zhang, Jingwen Wang, Huan Yu, Yuxiang Wang, Hao Wang, Xiao Yan, Jiawei Jiang

نُشر 2026-05-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jie Jiang, Xinxun Zhang, Enming Zhang, Yuling Xiong, Jun Zhang, Jingwen Wang, Huan Yu, Yuxiang Wang, Hao Wang, Xiao Yan, Jiawei Jiang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "توليد المعرفات الدلالية من البداية إلى النهاية للتوصية بالإعلانات التوليدية" (UniSID)، مترجمة بلغة بسيطة مع تشبيهات إبداعية.

الصورة الكبيرة: مشكلة "الترجمة"

تخيل أنك تحاول تعليم روبوت كيفية التوصية بالمنتجات للناس. للقيام بذلك، يحتاج الروبوت إلى فهم ماهية المنتج.

الطريقة القديمة (خط الإنتاج ذو المرحلتين):
فكر في الطريقة القديمة كأنها لعبة "الهاتف المكسور" (Telephone) التي يلعبها شخصان مختلفان لا يتحدثان مع بعضهما البعض.

الشخص (أ) (المُشفّر - Encoder): ينظر إلى منتج (مثل حذاء جلدي أحمر) ويكتب وصفاً طويلاً ومعقداً على ورقة. ثم يحاول تلخيص ذلك الوصف في رمز قصير (مثل "Shoe-Red-01").
الشخص (ب) (المولّد - Generator): يأخذ ذلك الرمز القصير ("Shoe-Red-01") ويحاول تخمين ما يريده المستخدم تالياً.

المشكلة:
الشخص (أ) والشخص (ب) لديهما أهداف مختلفة. الشخص (أ) يريد كتابة ملخص مثالي. أما الشخص (ب) فيريد التنبؤ بالنقرة التالية. ولأنهما يعملان بشكل منفصل، قد يغفل الشخص (أ) عن تفصيل صغير كان الشخص (ب) يحتاجه بشدة. أيضاً، في كل مرة يقوم فيها الشخص (أ) بتلخيص الورقة، فإنه يفقد القليل من المعلومات (مثل نسخة ضوئية باهتة). وبحلول الوقت الذي يصل فيه الرمز إلى الشخص (ب)، تكون "روح" الحذاء الأصلية قد أصبحت مشوشة قليلاً. وهذا ما تسميه الورقة البحثية التدهور الدلالي (Semantic Degradation) وعدم توافق الأهداف (Objective Misalignment).

الحل الجديد: UniSID (الشيف "الكل في واحد")

يقترح المؤلفون UniSID، الذي يغير قواعد اللعبة. بدلاً من وجود شخصين يلعبان لعبة الهاتف المكسور، يقومون بتعيين "شيف خبير" واحد يقوم بكل شيء في آن واحد.

كيف يعمل UniSID:

المكونات الخام: ينظر الشيف إلى بيانات المنتج الفعلية فوراً: صورة الحذاء، الوصف النصي، اسم العلامة التجارية، وفئات التصنيف (مثل "أزياء رجالية").
الطهي المتزامن: بدلاً من كتابة ملخص أولاً ثم التخمين، يقوم الشيف بطهي "الرمز" (المعرف الدلالي - Semantic ID) و"ملف النكهة" (التضمين - Embedding) في نفس الوقت تماماً.
- ينظرون إلى المكونات الخام ويقررون مباشرة: "هذا حذاء جلدي أسود، أنيق وعالي الجودة".
- يقومون بتوليد الرمز و الفهم العميق للحذاء في آن واحد.
النتيجة: لأن الرمز صُنع مباشرة من المكونات الخام، لا تضيع أي معلومات في عملية الترجمة. الرمز يجسد جوهر الحذاء بشكل مثالي.

المكونات السرية (كيف يجعلونه أفضل)

للتأكد من أن هذا "الشيف" لا يخمن عشوائياً، يستخدم UniSID تقنيتين خاصتين:

1. استراتيجية "عدسة الزووم" (التعلم التبايني متعدد المستويات - Multi-Granularity Contrastive Learning)
تخيل أنك تنظر إلى خريطة.

المستوى 1 (زاوية واسعة): ترى "أمريكا الشمالية".
المستوى 2 (تقريب متوسط): ترى "الولايات المتحدة الأمريكية".
المستوى 3 (تقريب شديد): ترى "مدينة نيويورك".

في الطريقة القديمة، قد يرتبك الروبوت بين "الولايات المتحدة" و"كندا" لأن المستويات لم تُدرّس معاً. يعلّم UniSID الروبوت أن "نيويورك" تقع داخل "الولايات المتحدة"، والتي تقع بدورها داخل "أمريكا الشمالية". هذا يجبر الرمز على أن يكون متسقاً عند كل مستوى من مستويات التقريب، مما يضمن معرفة الروبوت بدقة مدى تحديد أو عمومية المنتج.

2. محقق "المعنى الخفي" (إعادة البناء القائم على الملخص - Summary-Based Reconstruction)
أحياناً، يكون وصف المنتج حرفياً، لكن المعنى الحقيقي يكون مخفياً.

المدخلات: "كوب من الفولاذ المقاوم للصدأ، 500 مل، للمشي لمسافات طويلة".
المعنى الخفي: "هذا مخصص لنمط حياة مغامر وخارجي".

يمتلك UniSID خدعة خاصة. يطلب من ذكاء اصطناعي ذكي كتابة ملخص قصير لـ "روح" المنتج (المعنى الخفي). ثم يتحدى الروبوت: "هل يمكنك النظر إلى الرمز الذي صنعته للتو وتخمين هذا الملخص؟"
إذا لم يستطع الروبوت تخمين "نمط الحياة المغامر" من الرمز، فإنه يعرف أن الرمز يفتقد شيئاً مهماً. هذا يجبر الرمز على التقاط ليس فقط الحقائق، بل حتى روح الإعلان.

النتائج: لماذا يهم هذا؟

اختبرت الورقة البحثية هذا "الشيف" الجديد (UniSID) مقابل "لاعبي الهاتف المكسور" القدامى (RQ-VAE، RQ-KMeans) باستخدام بيانات حقيقية من أنظمة الإعلانات الخاصة بشركة Tencent.

أكواد أفضل: كانت الأكواد (المعرفات الدلالية) التي صنعها UniSID أكثر دقة في تجميع المنتجات المتشابهة معاً.
توصيات أفضل: عند استخدامها لتوصية الإعلانات، حقق UniSID نقرات أكثر بكثير (أفضل بنسبة تصل إلى 4.62%) من أفضل الطرق الموجودة حالياً.
لا مزيد من الضبابية: من خلال تخطي عملية الترجمة "ذات المرحلتين"، لم يفقد النظام التفاصيل الدقيقة للمنتجات.

باختختصار

تجادل الورقة بأن الطريقة الحالية لتحويل المنتجات إلى أكواد حاسوبية تشبه صنع نسخة ضوئية من نسخة ضوئية أخرى—فهي تصبح باهتة وتفقد التفاصيل. UniSID هو طريقة جديدة تنظر إلى المستند الأصلي وتكتب الرمز مباشرة، باستخدام عملية واحدة موحدة. كما يستخدم نظام "اختبار" للتأكد من أن الرمز يلتقط الشخصية الخفية للمنتج، وليس فقط ميزاته السطحية. والنتيجة هي نظام توصية إعلانات أكثر ذكاءً ودقة.

ملخص تقني: UniSID – توليد المعرفات الدلالية (Semantic ID) من البداية إلى النهاية للتوصية الإعلانية التوليدية

1. بيان المشكلة

برزت التوصية التوليدية (Generative Recommendation - GR) كنموذج قوي عبر صياغة التوصية كمهمة تنبؤ بالرمز التالي (next-token prediction)، بالاعتماد على المعرفات الدلالية (SIDs) لترميز العناصر واسعة النطاق إلى تسلسلات منفصلة. ومع ذلك، تعتمد معظم مناهج GR الحالية على نموذج ضغط متتالي من مرحلتين يعتمد على التكميم المتبقي (Residual Quantization - RQ). في هذا المسار، يتم أولاً تشفير العناصر إلى تضمينات كثيفة (المرحلة 1) ومن ثم تكميمها إلى معرفات دلالية (SIDs) منفصلة (المرحلة 2).

حدد المؤلفون ثلاث قيود جوهرية في نموذج المرحلتين السائد:

عدم توافق الأهداف: يتم تحسين مرحلة تعلم التضمين (embedding learning) من أجل الثراء الدلالي، بينما يتم تحسين مرحلة توليد الـ SID من أجل التنبؤ بالرموز المنفصلة. هذا الفصل يمنع التحسين المشترك من البداية إلى النهاية، مما يؤدي إلى تمثيلات SID دون المستوى الأمثل.
التدهور الدلالي: بما أن الـ SIDs يتم توليدها حصرياً من التضمينات سابقة التدريب، فإن هذه العملية لا يمكنها استخدام ميزات العناصر الخام مباشرة (مثل الإشارات متعددة الوسائط أو السمات الهيكلية). يتسبب هذا الاختناق في فقدان الدلالات الحرجة وتقليل دقة الـ SID.
تراكم الخطأ: يقوم نظام RQ بتكميم التضمينات هرمياً عن طريق تقريب المتبقيات (residuals). تتراكم ضوضاء التكميم عبر المستويات، حيث لا تلاحظ الطبقات الأعمق سوى المتبقي من المرحلة السابقة، مما يؤدي إلى معلومات أكثر ندرة وضوضائية وأقل موثوقية في مستويات الـ SID الأعمق.

السؤال البحثي الجوههري هو ما إذا كان يمكن تصميم إطار عمل موحد لتوليد الـ SID من البداية إلى النهاية للابتعاد عن نموذج الضغط المتتالي المكون من مرحلتين.

2. المنهجية: UniSID

يقترح المؤلفون UniSID، وهو إطار عمل موحد للتوصية الإعلانية التوليدية يعمل على تحسين التضمينات والـ SIDs بشكل مشترك ومباشر من بيانات الإعلانات الخام. يتكون الإطار من ثلاثة مكونات رئيسية:

2.1 مخطط مدخلات معزز للإعلانات

لمعالجة التدهور الدلالي، يقوم UniSID بتحويل إشارات الإعلانات غير المتجانسة إلى تسلسل رموز موحد تتم معالجته بواسطة نموذج لغوي كبير متعدد الوسائط (MLLM) مشترك. تتضمن المدخلات:

مطالبات تعليمات الإعلان (Ad Instruction Prompts): توجيه النموذج صراحةً لتوليد الـ SIDs والتضمينات.
الوسائط غير المهيكلة: المحتوى المرئي (الصور) والأوصاف النصية (العناوين/الأوصاف).
سمات الإعلان المهيكلة: معلومات الصناعة والفئة الهرمية (مثل: مستلزمات يومية ← أدوات مائدة ← أدوات شرب ← كوب ماء) لحل الغموض الدلالي المتأصل في الصور/النصوص الخام.
الرموز القابلة للتعلم (Learnable Tokens): مجموعة من رموز الـ SID ورمز التضمين (Embedding token) الملحقة بالمدخلات.

يقوم الـ MLLM بتشفير هذه المدخلات إلى حالات خفية. يقوم رأس الـ SID (SID Head) بإسقاط تمثيلات رموز الـ SID إلى فضاء الـ SID، بينما يقوم رأس التضمين (Embedding Head) بإسقاط تمثيل رمز التضمين إلى فضاء تضمين العنصر. والأهم من ذلك، أن رمز التضمين مشروط بتسلسل الـ SID السابق، مما يسمه بدمج البيانات الخام والمعلومات الدلالية من الخشن إلى الناعم.

2.2 توليد الـ SID والتضمين الموحد

على عكس طرق RQ التي تكمم المتبقيات هرمياً، يتنبأ UniSID بكل طبقة من طبقات الـ SID متعددة الطبقات مباشرة من نفس الإعلان السياقي الكامل. يضمن ذلك وصول جميع طبقات الـ SID إلى معلومات الإعلان الكاملة، مما يخفف من الندرة المعلوماتية التدريجية.

يخرج النموذج قيم اللوجيت (logits) لـ $L$ من الطبقات الدلالية.
يتم الحصول على رموز الـ SID المنفصلة عبر عملية argmax على قيم اللوجيت لكل طبقة.
الـ SID النهائي هو دمج (concatenation) لهذه الرموز لكل طبقة.

2.3 التعلم التبايني متعدد التدرج

لفرض الاتساق الدلالي عبر مستويات الـ SID المختلفة، قدم المؤلفون استراتيجية تعلم تبايني متعددة التدرج.

بدلاً من مجموعة إيجابية ثابتة، تحدد الطريقة العلاقات الإيجابية تكيفياً بناءً على صلة الإعلان في كل مستوى دلالي $l$ .
تتكون المجموعات الإيجابية ( $P_l$ ) من العناصر التي تشترك في نفس الفئة الدلالية عند المستوى $l$ .
يتم تحسين دالة الخسارة ( $\mathcal{L}_{sid}$ ) بشكل مستقل عند كل مستوى تدرج، مما يضمن عدم امتصاص الـ SIDs دقيقة التفاصيل للضوضاء من المستويات الخشنة، وضمان الحفاظ على الاتساق الهرمي.
كما يتم تطبيق خسارة تباينية قياسية ( $\mathcal{L}_{emb}$ ) على تضمينات العناصر.

2.4 إعادة بناء الإعلان القائم على الملخص

لتشجيع الـ SIDs على التقاط الدلالات عالية المستوى الكامنة غير الموجودة صراحة في البيانات الخام، تم اقتراح آلية إعادة بناء قائمة على الملخص.

توليد الملخص: يقوم نموذج لغوي كبير (LLM) مجمد بتلخيص سمات الإعلان المهيكلة إلى ملخص دلالي عالي المستوى ( $s^{sum}_i$ ) يستنتج المعلومات الضمنية (مثل: نية الجمهور المستهدف).
إعادة البناء: يقوم النموذج بدمج تضمين الـ SID وتضمين العنصر، وإسقاطهما عبر رأس إعادة البناء، واستخدام LLM لإعادة بناء الملخص الدلالي عبر التنبؤ بالرمز التالي.
الهدف: تعمل هذه العملية ( $\mathcal{L}_{rec}$ ) كإشارة إشراف مساعدة، مما يجبر الـ SIDs على تشفير ميزات دلالية تمييزية وعالية المستوى.

2.5 التحسين المشترك

يجمع هدف التدريب الإجمالي بين المكونات الثلاثة:
$\mathcal{L}_{total} = \mathcal{L}_{sid} + \mathcal{L}_{emb} + \lambda \mathcal{L}_{rec}$
يسمح هذا التصميم الموحد للـ SIDs والتضمينات بتعزيز بعضهما البعض، وتجنب عدم اتساق الأهداف الموجود في مسارات المرحلتين.

3. المساهمات الرئيسية

تحديد القيود: حدد البحث وحلل رسمياً قيود نموذج RQ المكون من مرحلتين السائد: عدم توافق الأهداف، التدهور الدمالي، وتراكم الخطأ.
إطار عمل UniSID: إطار عمل موحد من البداية إلى النهاية يقوم بتحسين الـ SIDs والتضمينات بشكل مشترك من البيانات الخام، باستخدام مخطط مدخلات معزز للإعلانات وتنبؤ متعدد الطبقات بالسياق الكامل.
آليات الحفاظ على الدلالات: تقديم تعلم تبايني متعدد التدرج لفرض الاتساق الدلالي الخاص بكل مستوى، وآلية إعادة بناء قائمة على الملخص لالتقاط الدلالات العالية المستوى الكامنة.
التحقق التجريبي: تقييم شامل عبر مجموعات بيانات إعلانية صناعية ومعايير عامة.

4. النتائج التجريبية

قيم المؤلفون UniSID على مجموعتي بيانات إعلانيتين صناعيتين (Ad-60W، Ad-100W) ومعيار عام (Amazon Beauty).

جودة الـ SID: في مجموعة بيانات Ad-60W، حقق UniSID تحسناً بنسبة 1.86% إلى 3.09% في مقياس V-Measure (جودة التجميع) عبر ثلاث طبقات دلالية مقارنة بأقوى خط أساس (RQ-Kmeans).
تنبؤ الإعلان التالي: في مجموعة بيانات Ad-100W، حسن UniSID معدل الإصابة (HR@5) بنسبة 4.62% عن RQ-Kmeans.
استرجاع التضمين: في مجموعة بيانات Ad-60W، تفوق UniSID على أساليب التضمين متعددة الوسائط الحديثة (مثل VLM2Vec) بتحسن هائل قدره 45.46% في Recall@1.
المعيار العام: عند دمجه في إطار عمل TIGER على مجموعة بيانات Amazon Beauty، حسن UniSID من Recall@5 بنسبة 11.83% عن أفضل خط أساس (TIGER-LETTER).

أكدت دراسات الاستئصال (Ablation Studies) أن:

التدريب المشترك يتفوق على التدريب أحادي المهمة، حيث أن التعزيز المتبادل بين توليد الـ SID والتضمين يعزز كليهما.
خسارة التباين متعددة التدرج تتفوق على خسائر مطابقة التوزيع القياسية (KL, JS) وخسارة BCE في الحفاظ على الهياكل الدلالية الهرمية.
إعادة البناء القائمة على الملخص تعزز جودة الـ SID بشكل كبير من خلال توجيه النموذج لالتقاط الميزات الدلالية العالية والمضمنة.

أظهرت دراسات الحالة (Case Studies) أن الـ SIDs التي ولدها UniSID يمكنها بنجاح إعادة بناء ليس فقط السمات الصريحة ولكن أيضاً الدلالات العالية المستوى الضمنية (مثل "الراحة"، "الأناقة"، "الصورة الاحترافية") المستنتجة من آلية الملخص.

5. الأهمية والادعاءات

يدعي البحث أن UniSID يمثل تحولاً كبيراً من نموذج الضغط المنفصل ذو المرحلتين إلى نهج موحد من البداية إلى النهاية. من خلال استحثاث الـ SIDs مباشرة من بيانات الإعلانات الخام، تخفف الطريقة بفعالية من فقدان المعلومات وتراكم الخطأ المتأصل في التكميم المتبقي (RQ).

يؤكد المؤلفون أن نهجهم:

يوفر حلاً أكثر قوة وقابلية للتوسع للتوصية التوليدية في البيئات الإعلانية المعقدة وغير المتجانسة.
يمكّن الـ SIDs من التقاط التفاصيل الدقيقة والدلالات عالية المستوى الكامنة، مما يحسن جودة المعرفات وأداء التوصية في المراحل اللاحقة.
يظهر قدرات تعميم قوية، حيث يعمل بشكل جيد على كل من مجموعات البيانات الصناعية واسعة النطاق والمعايير العامة.

يخلص العمل إلى أن UniSID نجح في التغلب على القيود المتأصلة في طرق توليد الـ SID الحالية، مقدماً إطار عمل موحداً يوفق بين أهداف تعلم التمثيل والتوصية التوليدية.