Stop Indexing at Full Precision: Revisiting Clustering for Vector Embeddings
تُثبت هذه الورقة أن تطبيق تقليل الأبعاد، والكمية، وتقليم الأبعاد قبل التجميع يسمح بفهرسة تضمينات المتجهات برموز مكونة من بت واحد، مما يحقق جودة بحث قريبة من المثالية مع تقليل متطلبات التخزين بمقدار 60 ضعفاً وتسريع وقت التجميع مقارنة بطرق الدقة الكاملة.
في عالمنا الرقمي الحديث، تُطالب الحواسيب بشكل متزايد بإيجاد المعنى في محيطات شاسعة من البيانات. فعندما يبحث مستخدم عن أغنية، أو منتج، أو صورة مشابهة، لا يكتفي النظام بالبحث عن تطابق تام للكلمات أو البكسلات، بل يقوم بدلاً من ذلك بترجمة كل عنصر إلى قائمة طويلة من الأرقام، تُعرف باسم "التضمين" (embedding)، والتي تلتقط جوهر معنى ذلك العنصر. هذه القوائم طويلة جداً والمجموعات ضخمة للغاية لدرجة أن البحث عن العناصر الأكثر تشابهاً عبر فحص كل عنصر منها على حدة هو أمر مستحيل. ولحل هذه المشكلة، يستخدم المهندسون طريقة تسمى "التجميع" (clustering). تخيل فرز مكتبة ضخمة ليس عبر قراءة كل كتاب، بل من خلال تجميعها في أكوام بناءً على مواضيعها العامة؛ فبمجرد تقسيم الكتب إلى مجموعات، يحتاج البحث فقط إلى النظر داخل الأكوام الأكثر صلة، مع تجاهل البقية. هذه العملية من التجميع هي العمود الفقري للعديد من أنظمة البحث الحديثة، مما يسمح لها بتقديم النتائج في جزء من الثانية. ومع ذلك، فإن بناء هذه المجموعات مهمة بطيئة ومكلفة، تتطلب غالباً من الحاسوب الاحتفاظ بالمكتبة بأكملها في ذاكرته دفعة واحدة وإجراء مليارات العمليات الحسابية لتحديد مكان انتماء كل كتاب.
لقد اكتشف فريق من الباحثين في مركز أبحاث (CWI) في أمستردام أن هذه العملية المكلفة هي أكثر هدراً مما هو ضروري. فلقد بنيت الأنظمة هذه المجموعات لسنوات باستخدام النسخة الأكثر دقة وتفصيلاً من البيانات الممكنة، حيث كانت تعامل كل رقم في القوائم الطويلة بعناية فائقة. ووجد الباحثون أن هذا المستوى من الدقة مبالغ فيه؛ فقد أثبتوا أن الحاسوب يمكنه بناء هذه المجموعات بنفس الكفاءة باستخدام نسخة أكثر خشونة وضغطاً من البيانات. ومن خلال تبسيط الأرقام قبل بدء عملية التجميع، تمكنوا من تقليص الذاكرة المطلوبة لهذه المهمة بمقدار ستين ضعفاً. والأكثر إثارة للدهشة هو أن هذا التبسيط لم يجعل المجموعات أسوأ؛ إذ كانت المجموعات الناتجة مطابقة تقريباً لتلك التي بُنيت باستخدام البيانات الكاملة والمفصلة، مما سمح للنظام بالعثور على الإجابات الصحيحة بنفس الموثوقية.
اختبرت الدراسة هذه الفكرة على مجموعات ضخمة من البيانات، بما في ذلك الملايين من تضمينات النصوص وأوصاف الصور. طبق الباحثون ثلاث طرق مختلفة لتبسيط البيانات قبل بدء عملية التجميع: إحدى الطرق قللت من طول قوائم الأرقام، وطريقة أخرى ضغطت الأرقام نفسها في رموز أصغر، وطريقة ثالثة أزالت الأجزاء غير الضرورية من البيانات. ووجدوا أنه حتى أكثر أنواع الضغط شدة، والذي قلص البيانات إلى مجرد بت واحد (bit) لكل رقم، أنتج مجموعات تختلف بنسبة تقل عن واحد بالمائة عن المجموعة المثالية. وكان هذا الفرق الضئيل صغيراً جداً لدرجة أنه لم يكن له أي تأثير ملحوظ على نتائج البحث النهائية. وفي الواقع، جعل استخدام هذه الأرقام المبسطة عملية التجميع أسرع بكثير، وأسرع في بعض الأحيان بمقدار سبعة عشر ضعفاً، لأن الحاسوب أصبح لديه معلومات أقل لمعالجتها ويمكنه استخدام قدرته الحسابية بكفاءة أكبر.
كان أحد أكثر النتائج لفتاً للنظر هو مدى مرونة عملية التجميع تجاه هذه الاختصارات. فعندما نظر الباحثون في كيفية تخصيص نقاط البيانات لمجموعاتها، وجدوا أن القرار الأكثر أهمية — وهو اختيار المجموعة الأقرب — نادراً ما ارتبك بسبب التبسيط. فالفجوة بين المجموعة الأفضل والمجموعة الثانية كانت عادة كبيرة جداً لدرجة أن التقدير التقريبي يمكنه بسهولة تمييزهما. وهذا يعني أن النظام لا يحتاج إلى دقة مثالية لاتخاذ القرار الصحيح، بل يحتاج فقط إلى وضوح كافٍ لتمييز الفائز الواضح. وقد سمحت هذه الرؤية للفريق بدمج تقنيات تبسيط مختلفة، مثل تقليص قوائم البيانات وضغط الأرقام، لتحقيق توفير أكبر في السرعة والتخزين دون التضحية بالجودة.
كما استكشف الباحثون كيفية التعامل مع الخطوة النهائية من العملية. فبمجرد تشكيل المجموعات، يحتاج النظام إلى معرفة مكان العثور على العناصر الأصلية. وقد أظهروا أن البيانات المبسطة نفسها المستخدمة لبناء المجموعات يمكن استخدامها لتخزين الفهرس النهائي، مما يلغي الحاجة إلى العودة واسترجاع ملفات البيانات الأصلية الثقيلة. وهذا يخلق مساراً انسيابياً حيث يتم تبسيط البيانات مرة واحدة ثم تُستخدم لبناء الفهرس والبحث فيه على حد سواء. وبينما أدت بعض الطرق، مثل نوع معين من ضغط "البت الواحد"، إلى إنشاء مجموعات غير متساوية أحياناً، وجد الباحثون أن تعديلاً بسيطاً في الخطوة النهائية يمكنه إصلاح هذه المشكلة. والنتية هي نظام ليس أسرع في البناء فحسب، بل هو أيضاً أقل تكلفة في التشغيل، لأنه يتطلب ذاكرة وقدرة حوسبية أقل بكثير.
يتحدى هذا العمل الافتراض السائد منذ فترة طويلة بأن فهارس البحث عالية الجودة يجب أن تُبنى باستخدام بيانات عالية الدقة. تثبت الدراسة أن عملية تجميع المتجهات (vectors) تحديداً تجعل التفاصيل الإضافية مجرد ضجيج لا طائل منه. ومن خلال تبني التقريب في وقت مبكر من العملية، يمكن للأنظمة التعامل مع مجموعات البيانات الأكبر بسهولة أكبر. لقد أتاح الباحثون أدواتهم للجمهور، مما يسمح للآخرين باختبار هذه الطرق على بياناتهم الخاصة. ومع استمرار نمو الطلب على البحث عبر كميات هائلة من المعلومات، تقدم هذه النتائج مساراً عملياً للمستقبل: طريقة لجعل أنظمة البحث أسرع، وأرخص، وأكثر قابلية للتوسع دون فقدان الدقة التي يعتمد عليها المستخدمون. إن مستقبل البحث المتجهي قد لا يكمن في حساب كل تفصيل بدقة مثالية، بل في معرفة التفاصيل التي يمكن تركها بأمان.
ملخص تقني: التوقف عن الفهرسة بالدقة الكاملة: إعادة النظر في التجميع لتمثيلات المتجهات (Vector Embeddings)
بيان المشكلة
يعتمد البحث التقريبي عن تشابه المتجهات (VSS) بشكل كبير على خوارزميات التجميع (Clustering)، مثل k-means، لتقسيم مجموعات كبيرة من المتجهات عالية الأبعاد إلى عناقيد (Clusters). تعمل هذه العناقيد كنقاط دخول للفهارس القائمة على التقسيم (مثل فهارس الملفات المعكوسة - Inverted File Indexes)، مما يقلل زمن البحث بشكل كبير عبر تجنب مسح مجموعة البيانات بأكملها. ومع ذلك، فإن بناء هذه الفهارس يمثل عنق زجاجة حرج؛ فخلافًا لاستعلامات VSS التي تستبعد معظم المجموعة، يتطلب التجميع الوصول إلى مجموعة المتجهات الخام بالكامل عدة مرات، وهي عملية مستهلكة للذاكرة وللحوسبة بشكل مكثف، مما يمنع المستخدمين غالبًا من استعلام المجموعة حتى يتم بناء الفهرس بالكامل.
عادةً ما تقوم الأنظمة الحالية بفهرسة المتجهات بالدقة الكاملة (float32 أو float16) أثناء مرحلة التجميع، مع تطبيق التكميم (Quantization) أو تقليل الأبعاد فقط بعد حساب المراكز (Centroids). تجادل هذه الورقة بأن استخدام متجهات الدقة الكاملة في التجميع هو أمر مفرط، وتفترض أن تقنيات التقريب المستخدمة على نطاق واسع في البحث عن المتجهات يمكن تطبيقها قبل عملية التجميع لتقليل البصمة التخزينية بشكل جذري وتسريع خط إنتاج الفهرسة دون التضحية بجودة المراكز الناتجة.
المنهجية
يقترح المؤلفون خط إنتاج فهرسة مبتكر حيث يتم تطبيق تقليل الأبعاد، والتكميم، وتقليم الأبعاد (Dimension Pruning) على المتجهات الخام قبل عملية التجميع. يتكون خط الإنتاج من المراحل التالية:
المعالجة المسبقة (التقريب أولاً):
تقليل الأبعاد: تشمل التقنيات تحويل جونسون-ليندسترأس-جاينرال (JLT)، وتحليل المكونات الرئيسية (PCA)، واستخدام تمثيلات ماتريوشكا (Matryoshka embeddings) (التي تركز الطاقة طبيعيًا في الأبعاد الأمامية).
التكميم: تكيّف الورقة عدة مخططات للتكميم للاستخدام قبل التجميع:
SQ8/SQ4: يسمح الانحياز (Bias) والقياس (Scaling) العالمي بإجراء حسابات المسافة باستخدام الحسابات الصحيحة مباشرة.
LVQ4 (التكميم المتجهي المحلي): يشتق المؤلفون صياغة رياضية لمسافة L2 تدمج بين إعادة البناء وحساب المسافة، مما يتيح استخدام نوى GEMM بـ 4 بت مع التعامل مع الانحياز والقياس لكل متجه.
RabitQ: طريقة تكميم بنبضة واحدة (1-bit) تعتمد على الدوران العشوائي والحفاظ على الإشارة. قام المؤلفون بتكييف المقدر غير المنحاز لمسافة L2 لتعمل ضمن حلقة التجميع، حيث يتم ترميز نقاط البيانات برموز 1-بت والمراكز بـ SQ4.
تقليم الأبعاد: يدمج المؤلفون SuperKMeans، الذي يدمج عمليات ضرب المصفوفات العامة (GEMM) مع نوى التقليم التدريجي. تستخدم هذه التقنية الأبعاد الأمامية لتصفية المرشحين، مما يقلل من عدد حسابات المسافة الكاملة المطلوبة.
التجميع:
يتم تنفيذ خوارزمية k-means (خوارزمية Lloyd) على المتجهات المُقربة.
تهيئة المراكز: تُستخدم العينات العشوائية، حيث وُجد أن k-means++ يقدم تحسينات هامشية مقابل تكلفة زمن تشغيل عالية في مجموعات البيانات التمثيلية.
التعيين: تُجرى حسابات المسافة باستخدام التمثيلات المُقربة (مثل 4-bit GEMM، أو FastScan لـ RabitQ).
التحديث: يتم تحديث المراكز عن طريق متوسط المتجهات المعينة. بالنسبة للمخططات المكممة، يتضمن ذلك دمج فك الترميز والمتوسط، ثم إعادة ترميز المركز الجديد.
تجسيد الفهرس (Index Materialization):
يتم تجسيد المراكز النهائية كمتجهات float32 لفهرس IVF. تشير الورقة إلى أنه يمكن إعادة حساب هذه المراكز من المتجهات الخام (إذا كانت متاحة) أو اشتقاقها من الأكواد المكممة.
المساهمات الرئيسية
إعادة تصميم خط الإنتاج: ينقل المؤلفون النموذج من "التجميع ثم التكميم" إلى "التكميم ثم التجميع"، موضحين أن تقنيات التقريب يمكن تطبيقها مبكرًا في خط إنتاج الفهرسة.
التعديلات الخوارزمية:
تكييف LVQ و RabitQ لحسابات المسافة "متعدد لمتعدد" المتأصلة في التجميع، بما في ذلك اشتقاقات محددة للتعامل مع المعاملات لكل متجه وأكواد 1-بت بكفاءة.
دمج SuperKMeans (تقليم الأبعاد) مع مختلف مخططات التكميم (SQ, LVQ, RabitQ)، متجاوزين القيود السابقة حيث كان التقليم يتطلب مسافات L2 بدقة كاملة.
التقييم التجريبي: تقييم شامل عبر ست مجموعات متنوعة من تمثيلات المتجهات (Cohere, OpenAI, arXiv, Jina, MXBAI, ImageNet) لقياس جودة التجميع (Recall@k, WCSS)، وتقليل التخزين، ووقت البناء.
النتائج
تكشف التجارب أن التجميع مرن للغاية تجاه تقنيات التقريب:
الحفاظ على الجودة: تحقق التقريبات الشديدة جودة تجميع قريبة من المثالية.
يحقق SQ8 توازيًا مع التجميع بدقة كاملة.
يحقق LVQ4 و RabitQ (أكواد 1-بت) جودة تجميع ضمن نطاق 1% من النتيجة المثالية (الدقة الكاملة).
تم تحديد PCA كأكثر تقنيات تقليل الأبعاد فعالية؛ حيث يكفي الحفاظ على 60-70% من التباين للحفاظ على جودة قريبة من المثالية.
تقليل التخزين: يقلل خط الإنتاج المقترح البصمة التخزينية المطلوبة لدورات التجميع بمقدار يصل إلى 60 ضعفًا (باستخدام RabitQ مع PCA).
مكاسب الأداء:
تسريع السرعة: تتحسن سرعة التجميع بشكل كبير. يحقق RabitQ مع SuperKMeans تسريعًا يصل إلى 17 ضعفًا على مجموعة بيانات Cohere.
التجميع الهرمي (Hierarchical k-means): عند دمجه مع RabitQ، يحقق التجميع الهرمي تسريعًا يصل إلى 91 ضعفًا مقارنة بـ k-means التقليدي على البيانات ذات الدقة الكاملة.
القابلية للتوسع: يتوسع خط الإنتاج دون خطي مع عدد العناقيد (k)، مما يسمح ببناء فهارس لـ 50 مليون متجه مع 200 ألف عنقود في أقل من دقيقة واحدة.
المقايضات:
تعاني PQ (التكميم بالمنتج) عندما تُطبق قبل التجميع لأنها تبني كتاب رموز عالمي على المتجهات الخام بدلاً من البواقي (residuals)، مما يؤدي إلى جودة أقل.
يسبب RabitQ عدم توازن طفيف في أحجام العناقيد بسبب انحياز إعادة البناء المنهجي في العناقيد الطرفية، وإن كان يمكن التخفيف من ذلك باستخدام المتجهات الخام في التكرار النهائي.
الأهمية والادعاءات
تدعي الورقة أن الممارسة القياسية للفهرسة بالدقة الكاملة غير ضرورية وغير فعالة. من خلال نقل تقنيات التقريب إلى مقدمة خط الإنتاج، يمكن للأنظمة تحقيق:
توفير هائل في الموارد: تقليل البصمة الذاكرية بمقدار 60 ضعفًا ووقت الحوسبة بمقدار يصل إلى 91 ضعفًا.
الحفاظ على جودة الفهرس: توجه المراكز الناتجة عملية البحث عن المتجهات مع تدهور ضئيل (غالبًا أقل من 1% في الاستدعاء/Recall).
تمثيلات موحدة: يمكن استخدام نفس التمثيلات المُقربة لكل من مرحلة التجميع وفهرس البحث عن المتجهات النهائي، مما يبسط استيعاب البيانات ويلغي الحاجة إلى رحلات ذهاب وإياب إلى البيانات الخام أثناء تجسيد الفهرس.
يخلص المؤلفون إلى أن هذا النهج حيوي بشكل خاص لأنظمة المتجهات السحابية واسعة النطاق حيث يؤثر وقت الحوسبة مباشرة على الفواتير، ويعد زمن استيعاد البيانات عائقًا حرجًا. ويقترحون أن العمل المستقبلي يجب أن يستكشف الأجهزة المتخصصة (مثل Intel AMX) واستراتيجيات التعيين القائمة على الرسوم البيانية (graph-based) لمزيد من تحسين خط الإنتاج هذا.