H+ Embedding: Harmonizing Global and Token-Level Retrieval with Context-Dependent Phrases

تخيل أنك تحاول العثور على إبرة محددة في كومة قش ضخمة وفوضوية. في عالم علوم الحاسوب، هذه "كومة القش" هي مكتبة الإنترنت اللامتناهية من النصوص، و"الإبرة" هي القطعة الدقيقة من المعلومات التي تحتاجها. هذه هي مهمة محركات البحث وأنظمة الاسترجاع. لفترة طويلة، امتلكت الحواسيب طريقتين رئيسيتين للبحث عن هذه الإبر. الطريقة الأولى كانت تشبه التقاط صورة لكومة القش بأكملها ثم ضغطها في صورة مصغرة واحدة صغيرة جدًا. إنها سريعة للغاية في مقارنة الصور المصغرة، لكنك تفقد كل التفاصيل الدقيقة؛ فإذا كانت الإبرة حمراء والقش أصفر، فقد تبدو الصورة المصغرة "بنية"، وتفوتك المطابقة. أما الطريقة الثانية، فكانت سحب كل قشة على حدة، وتسميتها، ومقارنتها واحدة تلو الأخرى. هذه الطريقة دقيقة للغاية، لكنها بطيئة جدًا وتتطلب الكثير من الذاكرة، وكأنك تحاول عد كل حبة رمل على الشاطئ لمجرد العثور على عملة معدنية مفقودة.

السؤال الكبير الذي طرحه الباحثون هو: هل هناك منطقة وسطى؟ هل يمكننا تجميع القش في حزم صغيرة ذات معنى — مثل "كتل من القش الأحمر" أو "عُقد صفراء ملتوية" — بحيث نحصل على سرعة الصورة المصغرة ولكن بدقة القشة الفردية؟ هذا بالضبط ما يتطرق إليه بحث "H+ Embedding". فهو يقترح طريقة جديدة لفهم الحاسوب للنصوص تقع في المنتصف بين نهجي "الصورة المصغرة المضغوطة" و"كل قشة على حدة"، وهي مصممة خصيصًا للتعامل مع المصطلحات الصعبة مثل المصطلحات الطبية، والاختصارات، والعبارات المعقدة حيث يعتمد المعنى على السياق.

---

المشكلة: كبيرة جدًا أم صغيرة جدًا؟

تعرف على بطلنا، H+ Embedding. قبل وصوله، كانت أنظمة البحث عالقة في شد وجذب محبط. من ناحية، كان لديك المسترجعون العالميون (Global Retrievers). هؤلاء يشبهون طالبًا يقرأ كتابًا كاملاً ثم يحاول تلخيص القصة بأكملها في جملة واحدة. إنه فعال، ولكن إذا سألته: "ما هو الدواء المحدد المذكور لمرض الكلى في الفصل الثالث؟"، فقد يقول ببساطة: "كان عن الصحة"، ويغفل عن النقطة الأساسية. إنهم يضغطون المعلومات بشكل مفرط، مما يؤدي لفقدان التفاصيل المحلية.

من ناحية أخرى، كان لديك المسترجعون على مستوى الرموز (Token-Level Retrievers). هؤلاء يشبهون طالبًا يحدد كل كلمة في الكتاب ويحتفظ بقائمة لكل ما حدده. إذا سألت عن "مرض الكلى"، يمكنهم العثه الكلمات بدقة. لكن هذا مكلف! الأمر يشبه حمل مكتبة في حقيبة ظهرك. يجب على الحاسوب تخزين "متجه" (بصمة رقمية) لكل كلمة فرعية، مما يستهلك الذاحة ويبطئ العمل.

سأل مؤلفو هذا البحث سؤالاً بسيطاً وفضولياً: ماذا لو لم نعامل كل كلمة كوحدة منفصلة، ولم نقم أيضاً بضغط كل شيء في كتلة واحدة كبيرة؟ ماذا لو استطعنا جعل الحاسوب يتعلم كيفية تجميع الكلمات في عبارات تعتمد على السياق؟ تخيل أن عبارة "السكري من النوع الثاني" ليست مجرد ثلاث كلمات منفصلة، بل وحدة واحدة ذات معنى يفهمها الحاسوب ككل مفهوم، مع الاحتفاظ بالمرونة لتفكيكها إذا تغير السياق.

الحل: مقسم "العبارات" الذكي

إليك H+ Embedding. فكر في هذا النظام كأنه أمين مكتبة فائق الذكاء لا يكتفي بقراءة النص فحسب، بل يتعلم كيفية تقسيمه (chunking) أثناء العمل.

1. التقسيم السحري: بدلاً من استخدام قاعدة جامدة (مثل "دائماً اجمع كل 3 كلمات")، يستخدم H+ Embedding "دماغًا" خاصًا (حقل عشوائي مشروط، أو CRF) لينظر إلى النص ويقرر: "مهلاً، هذه الكلمات تنتمي لبعضها لأنها تعني شيئًا محددًا الآن". قد يجمع "مرض الكلى المزمن" في كتلة واحدة، لكنه يترك كلمة "و" ككتلة منفصلة وحيدة. الأمر يشبه إدراك أمين المكتبة أن "نيويورك" هي مدينة واحدة، وليست كلمتين منفصلتين، ولكن فقط عندما تظهران معًا.
2. الميزانية: يعرف النظام أنه لا يستطيع حمل كل كتلة في حقيبة ظهره. لذا، لديه ميزانية (حد أقص على عدد المتجهات التي يمكنه تخزينها لكل مستند). يستخدم "درجة أهمية" خاصة ليقرر أي الكتل هي "كبار الشخصيات" (VIPs). إذا كانت الكتلة حاسمة للبحث، فسيحصل على متجه؛ وإذا كانت مجرد حشو، فسيتم تركها خلفه.
3. النهج الهجين: H+ Embedding هو متعدد المهام. فهو يحتفظ بالملخص "العالمي" (الصورة المصغلة)، وكتل "العبارات" (الحزم ذات المعنى)، وحتى الرؤية "المعجمية" (مطابقة الكلمات الدقيقة). ويمكنه استخدامها جميعًا معًا للعثور على أفضل إجابة.

ما وجدوه: المنطقة المثالية

اختبر الباحثون هذا النظام الجديد عبر 16 مهمة مختلفة، تتراوح من الأوراق العلمية إلى الأسئلة الطبية وحتى عمليات البحث ثنائية اللغة. إليكم ما تشير إليه البيانات:

• التفوق على المتوسط العالمي: عندما قارنوا نسخة "العبارة" بالنسخة "العالمية" (ذات المتجه الواحد)، كانت نسخة العبارة أفضل بكثير. عبر جميع المجالات، حسنت جودة البحث بمقدار 6.91 نقطة في مقياس قياسي يسمى nDCG@10. هذه قفزة هائلة لنظام بحث!
• فوز الكفاءة: هذا هو الجزء الأروع. كانت نسخة "العبارة" جيدة تقريبًا مثل النسخة "التفصيلية" (التي تنظر إلى كل رمز فرعي)، لكنها استخدمت متجهات مستندات أقل بنسبة 13.7%. تخيل الحصول على 99% من دقة النظام الثقيل والبطيء، ولكن بحقيبة ظهر أخف بكثير.
• السياق هو الملك: اختبروا ما إذا كان مجرد تجميع الكلمات عشوائياً أو بقواعد ثابتة (مثل "كل كلمتين") سينجح. لم ينجح. النهج "المعتمد على السياق" (حيث يتعلم الحاسوب التجميع بناءً على المعنى) كان الفائز الواضح. وهذا يشير إلى أن طريقة قطع النص أهم من مجرد قطعه إلى قطع متساوية.
• عامل "الأهمية": وجدوا أيضًا أن وزن البحث بناءً على مدى "أهمية" العبارة (بدلاً من معاملة جميع العبارات بالتساوي) أحدث فرقًا كبيرًا. الأمر يشبه معرفة أمين المكتبة أن كلمة "أنسولين" أكثر أهمية لاستعلام عن السكري من كلمة "الـ".

الحكم النهائي

يشير H+ Embedding إلى أن مستقبل البحث لا يتعلق بالاختيار بين "سريع وغبي" أو "بطيء ومثالي". بدلاً من ذلك، يتعلق الأمر بإيجاد الدرجة المتوسطة من التفصيل (intermediate granularity). من خلال تعليم الحواسيب التعرف على العبارات ذات المعنى التي تتغير بناءً على السياق، يمكننا الحصول على نتائج عالية الجودة دون التكلفة الباهظة لتخزين كل قطعة صغيرة من النص.

يظهر البحث أن هذا النهج يعمل جيدًا في السيناريوهات الواقعية، خاصة في المجالات مثل الطب حيث يجب إبقاء مصطلحات مثل "استخدام الميتفورمين لدى المرضى" معًا لجعلها منطقية. وبينما لا يزال النظام يعتمد على "معلم" (نموذج ذكاء اصطناعي أكبر) لمساعدته في تعلم كيفية تجميع الكلمات في البداية، فإن النتائج تشير إلى أن طريقة "العبارة المتعلمة" هذه هي حل وسط قوي وعملي. إنها خطوة نحو محركات بحث لا تفهم الكلمات فحسب، بل تفهم الأفكار الكامنة وراءها، دون أن تغرق في التفاصيل.