Building a User Foundation Model for the Open Web

تخيل الإنترنت كمدينة ضخمة وصاخبة، حيث يترك كل شخص خلفه آثار أقدام رقمية بينما يتنقل من متجر إلى آخر. لسنوات طويلة، حاولت الشركات التي تعرض لنا الإعلانات بناء "ملف تعريف" لكل شخص بناءً على آثار الأقدام هذه لتخمين ما قد يرغب في شرائه لاحقًا. هذا هو عالم أنظمة التوصية، وهو فرع من علوم الحاسوب يستخدم الرياضيات للتنبؤ بالسلوك البشري. والسر الكامن وراء الأنظمة الحديثة هو تعلم الآلة، حيث تتعلم الحواسيب الأنماط من أكوام هائلة من البيانات، والنماذج التأسيسية، التي تشبه عقولًا عملاقة مدربة مسبقًا تعلمت بالفعل كيفية فهم تسلسل الأحداث قبل تعليمها مهمة محددة.

لكن الجزء الصعب هنا هو: في "الويب المفتوح" (الجزء الذي تزوره دون تسجيل الدخول إلى حساب محدد)، تكون آثار الأقدام هذه غير منظمة. قد تزور موقعًا عبر هاتفك، ثم لاحقًا عبر جهاز كمبيوتر محمول، ولا تملك الحواسيب طريقة لمعرفة ما إذا كان الشخص نفسه هو ذاته. تاريخك غالبًا ما يكون قصيرًا، أو مجزأً إلى قطع صغيرة، أو مفقودًا تمامًا بسبب إعدادات الخصوصية. تتناول هذه الورقة البحثية سؤالًا كبيرًا: هل يمكننا بناء نظام ذكي يفهم آثار الأقدام المبعثرة وغير المنظمة هذه بنفس جودة فهمه للتاريخ الطويل والمنظم للمستخدمين المسجلين؟ الإجابة مهمة لأننا إذا لم نتمكن من ذلك، فسنفقد القدرة على فهم جزء ضخم من الإنترنت، مما يؤدي إلى إعلانات تبدو عشوائية أو غير ذات صلة.

---

لغز الأثر المكسور

واجه المؤلفون، وهم فريق من شركة Teads، تحديًا فريدًا. في معظم أنظمة التوصية (مثل تلك الموجودة في وسائل التواصل الاجتماعي أو تطبيقات التسوق)، تمتلك فيلمًا مستمرًا وطويلًا لحياة المستخدم: لقد سجل دخوله، وشاهد فيديو، واشترى حذاءً، وأعجب بصورة. يمكن للحاسوب مشاهدة هذا الفيلم بأكمله لفهم المستخدم.

لكن في الويب المفتوح، غالبًا ما يكون "الفيلم" مجرد بضع إطارات متفرقة، أو أحيانًا مجرد إطار واحد فقط. قد يكون المستخدم مجهول الهوية، وقد يكون تاريخه مقطوعًا بسبب خيارات الخصوصية. كانت الطريقة القديمة للتعامل مع هذا هي عد الأشياء: "هذا المستخدم نقر 3 مرات على إعلانات رياضية". لكن هذا يشبه محاولة فهم شخصية إنسان من خلال معرفة عدد مرات رمش عينيه فقط. هذا النهج يفتقر إلى "القصة" — ترتيب الأحداث، والتوقيت، والتدفق.

سأل الفريق: هل يمكننا تعليم الكمبيوتر فهم هذه القصص القصيرة والمكسورة؟ وإذا فعلنا ذلك، هل سيساعد في التنبؤ بما سينقر عليه المستخدم، حتى عندما لا نعرف من هو؟

عقل "المسافر عبر الزمن"

لحل هذه المشكلة، بنى الفريق نموذجًا تأسيسيًا للمستخدم (UFM). فكر في هذا النموذج كمسافر عبر الزمن فائق الذكاء قرأ ملايين القصص القصيرة والمجزأة عن أشخاص يتصفحون الويب.

بدلاً من مجرد عد النقرات، ينظر النموذج إلى تسلسل الأحداث. إنه يعامل تاريخ تصفح المستخدم كأنه جملة. تمامًا كما تحتوي الجملة على مبتدأ وفعل وخبر، فإن تاريخ المستخدم يحتوي على ناشر (أين كان)، ومعلن (ماذا رأى)، وحدث (ماذا فعل، مثل النقر أو مجرد المشاهدة).

تم تدريب النموذج باستخدام لعبة تسمى التعلم الذاتي الخاضع للإشراف. تخيل أن لديك جملة بها بعض الكلمات المخفية (المحجوبة)، وعليك تخمين ماهيتها بناءً على السياق. مارس النموذج هذا من خلال النظر إلى تاريخ المستخدم، وإخفاء أجزاء منه، ومحاولة ملء الفراغات. كما لعب لعبة مطابقة: أخذ جزأين مختلفين من تاريخ المستخدم نفسه (مثل الصباح والمساء) وتعلم أنهما ينتميان إلى نفس الشخص، حتى لو بدوا مختلفين.

"المدرب الآلي" الذي يعدل الدماغ

هنا يصبح الأمر رائعًا حقًا. لم يكتفِ الفريق ببناء النموذج فحسب؛ بل استخدموا ذكاءً اصطناعيًا لبناء الذكاء الاصطناعي. أطلقوا على هذا العملية اسم "النموذج اللغوي الكبير كمحسن" (LLM-as-Optimizer).

تخيل أنك تحاول بناء سيارة سباق مثالية. بدلًا من التخمين حول أي محرك أو إطار هو الأفضل، لديك مدرب آلي (نموذج لغوي كبير) يقرأ كتالوجًا يحتوي على 150 "نصيحة ضبط" مختلفة من الكتب العلمية. يقترح المدرب الآلي تغييرات: "لنحاول جعل المحرك أكبر قليلاً"، أو "لنغير خليط الوقود". يختبر الفريق هذه التغييرات، وإذا جعل التغيير السيارة أسرع، يتذكر المدرب الآلي ذلك ويبني عليه نجاحه.

في هذه الورقة، قام "المدرب الآلي" بتعديل "النموذج التأسيسي للمستخدم" عن طريق تغيير أشياء مثل عدد طبقات التفكير التي يمتلكها، وكيفية تعامله مع الوقت، وكيفية تعلمه. هذه العملية، التي تسمى البحث عن البنية العصبية (NAS)، وجدت نسخة من النموذج أفضل بكما هو عليه في الأصل بشكل ملحوظ.

النتائج: من "ربما" إلى "نعم"

اختبر الفريق نموذجهم الجديد الذي أشرف عليه "المدرب الآلي" بطريقتين: أولاً في محاكاة (خارج الخط/offline)، ثم في العالم الحقيقي (على الخط/online).

1. المحاكاة (خارج الخط):
اختبروا النموذج على مجموعة بيانات ضخمة من طلبات الإعلانات الحقيقية. وقارنوه بالنظام الذي كانت تستخدمه Teads بالفعل.

• الأخبار الجيدة: حسن النموذج الجديد من التنبؤ بما سينقر عليه المستخدمون بنسبة +1.354%. وفي عالم الإعلانات، تعد هذه قفزة هائلة.
• اختبار "الأثر المكسور": اختبروا النموذج خصيصًا لمستخدمين لديهم تواريخ قصيرة جدًا أو مفقودة. حتى بالنسبة للمستخدمين الذين ليس لديهم تاريخ تقريبًا، حسن النموذج التنبؤات بنسبة +0.99%. وهذا يثبت أن النموذج يعمل حتى عندما يكون "الفيلم" مجرد إطار واحد.
• اختبار التعميم: جربوا النموذج في أنواع مختلفة من مهام التنبؤ (مثل تخمين ما إذا كان الإعلان سيفوز بالمزايدة، وليس فقط ما إذا كان سيتم النقر عليه). لقد نجح هناك أيضًا، حيث حسن تلك التنبؤات بنسبة +1.197%. وهذا يشير إلى أن النموذج تعلم فهمًا عميقًا للسلوك البشري، وليس مجرد خدعة لمهمة واحدة محددة.

2. العالم الحقيقي (على الخط):
أجرى الفريق اختبارًا مباشرًا لمدة 7 أيام، حيث عرضوا النموذج الجديد لنصف مستخدميهم والنموذج القديم للنصف الآخر.

• النتيجة: المجموعة التي حصلت على النموذج الجديد نقرت على الإعلانات أكثر بنسبة 2.13%.
• التكلفة: نظرًا لأن الإعلانات كانت أكثر صلة، انخفضت تكلفة النقرة الواحدة بنسبة 1.13%.
• الثقة: الفريق واثق جدًا من هذه الأرقام. لقد حسبوا فاصل ثقة بنسبة 80%، مما يعني أنهم واثقون إحصائيًا من أن هذا التحسن حقيقي وليس مجرد ضربة حظ.

لماذا يهم هذا الأمر

تظهر هذه الورقة أننا لسنا بحاجة إلى تاريخ طويل ومثالي لفهم المستخدم. حتى مع البيانات المجزأة والقصيرة والمجهولة، يمكن لنموذج ذكي أن يجمع أجزاء القصة.

يشير المؤلفون إلى أن هذا النهج يفتح "محورًا جديدًا" للتحسين. الأمر لا يتعلق فقط بجعل الرياضيات الحالية أفضل قليلاً؛ بل يتعلق بإضافة طريقة تفكير جديدة تمامًا تجاه بيانات المستخدم. من خلال معاملة تاريخ التصفح كسلسلة يجب فهمها وليس مجرد قائمة من العدّات، وجدوا طريقة لجعل الإعلانات أكثر صلة، حتى بالنسبة لـ "أشباح" الإنترنت الذين لا يسجلون دخولهم.

يعترف الفريق بوجود حدود. لقد اختبروا نوعًا واحدًا فقط من بنية النماذج ومجموعة واحدة من البيانات. كما يشيرون إلى أن "مدربهم الآلي" قد وجد حلاً جيدًا، لكننا لا نعرف ما إذا كان هو الحل الأفضل على الإطلاق. ومع ذلك، فإن الاختبار المباشر يؤكد أن هذا النهج يعمل في العالم الحقيقي، محولًا فكرة نظرية إلى أداة عملية تجعل الويب المفتوح يبدو أقل فوضوية وأكثر تخصيصًا.