FactorHD: A Hyperdimensional Computing Model for Multi-Object Multi-Class Representation and Factorization
تقدم هذه الورقة البحثية FactorHD، وهو نموذج حوسبة فائقة الأبعاد مبتكر يستخدم الترميز الرمزي مع بند ذاكرة وتخزين مؤقت وخوارزمية تحليل عوامل فعالة لتمثيل وتحليل علاقات الفئات والفئات الفرعية المعقدة متعددة الكائنات بفعالية، مما يتغلب على قيود مثل كارثة التراكب مع تحقيق تسريع كبير ودقة عالية.
تخيل عالماً لا تكتفي فيه الحواسيب بمعالجة الأرقام فحسب، بل "تفكر" حقاً مثل البشر، حيث تجمع بين قدرة أدمغتنا على التعرف على الأنماط وبين الدقة المنطقية لعالم الرياضيات. هذا هو مجال الذكاء الاصطناعي العصبي الرمزي (Neuro-symbolic AI)، وهو مجال يحاول بناء آلات يمكنها التفكير في العالم، لا مجرد حفظه. وفي قلب هذا الجهد يكمن مفهوم يسمى الحوسبة فائقة الأبعاد (Hyperdimensional Computing - HDC). فكر في الـ HDC كخزانة ملفات عملاقة متعددة الأبعاد، حيث يكون كل جزء من المعلومات عبارة عن "متجه" ضخم وفريد (قائمة طويلة من الأرقام). في هذا النظام، يمكنك "ربط" عنصرين معاً (مثل كلب ولون أحمر) لإنشاء توقيع جديد وفريد، أو "تجميع" عنصرين (مثل كلب وقطة) لتخزينهما معاً في كومة واحدة. هذا النظام سريع للغاية وجيد في التعامل مع الضجيج، تماماً كما يمكن لأدمغتنا التعرف على وجه صديق حتى في صورة ضبابية. ومع ذلك، هناك عقبة: عندما تحاول تخزين أشجار عائلية معقدة أو تسلسلات هرمية - مثل "فيدو هو كلب من نوع سبانيل، وهو كلب، وهو حيوان" - تصبح أنظمة الملفات القديمة فوضوية؛ فهي تكافح لاستخراج عنصر واحد من الكومة دون أن تفقد المسار لكل شيء آخر، وهي مشكلة تُعرف باسم "كارثة التراكب" (superposition catastrophe).
هنا يأيدخل FactorHD، وهو نموذج جديد اقترحه باحثون من جامعة تشجيانغ، يعمل بمثابة أمين مكتبة بارع لهذه الملفات فائقة الأبعاد. تشير الورقة البحثية إلى أن FactorHD يحل مشكلة الفوضى الناتجة عن تنظيم كائنات متعددة ذات علاقات معقدة ومتعددة المستويات. فبدلاً من مجرد إلقاء كل شيء في كومة، يستخدم FactorHD طريقة ترميز جديدة وذكية تضيف "بند ذاكرة" إلى المزيج. تخيل محاولة العثور على كتاب محدد في مكتبة حيث جميع الكتب ملتصقة ببعضها البعض في كرة ضخمة؛ الطرق القديمة ستتطلب منك سحب كل خيط من الخيوط لترى ما بداخله، وغالباً ما ستتعثر. أما FactorHD، فيقوم بإرفاق "علامة" خاصة وفريدة بكل كتاب قبل لصقه. وعندما تريد العثور على كتاب معين، ما عليك سوى البحث عن تلك العلامة، مما يفصل الكتاب الذي تريده فوراً عن البقية دون الحاجة إلى فك تشابك الكرة بأكملها. وقد وجد الباحثون أن هذه الطريقة لا تفك التشابك فحسب، بل تفعل ذلك بسرعة البرق. ففي اختباراتهم، كان FactorHD أسرع بما يصل إلى 5,667 مرة من النماذج السابقة عند التعامل مع كميات هائلة من البيانات، مع الحفاظ على دقة عالية جداً (حوالي 92.48% على مجموعة بيانات Cifar-10 عند اقترانه بشبكة عصبية قياسية). وهذا يشير إلى أنه من خلال تغيير طريقة كتابة "العلامات" على بياناتنا، يمكننا جعل الذكاء الاصطناعي أفضل بكثير في فهم التسلسلات الهرمية المعقدة في العالم الحقيقي دون أن يضيع في الضجيج.
ملخص تقني: FactorHD
بيان المشكلة يعتمد الذكاء الاصطناعي العصبي-الرمزي (neuro-symbolic AI) على الحوسبة فائقة الأبعاد (HDC) للقيام بالتحليل المنطقي والاستدلال. وبينما تنجح نماذج HDC الحالية في تمثيل علاقات الفئة-المثيل (class-instance) أو الفئة-الفئة (class-class) البسيطة باستخدام هياكل الربط والتجميع (binding-bundling)، إلا أنها تواجه صعوبة في التعامل مع علاقة الفئة-الفئة الفرعية (class-subclass) الأكثر تعقيداً، حيث ترتبط كائنات متعددة بمستويات مختلفة من الفئات والفئات الفرعية (على سبيل المثال: حيوانات ← كلاب ← سبانيل ← فيدو).
تواجه النماذج الحالية ثلاثة تحديات رئيسية في هذا المجال:
كارثة التراكب (Superposition Catastrophe): عند تمثيل كائنات متعددة، تختلط عناصر الفئات الفرعية وتصبح غير قابلة للتمييز.
مشكلة الرقم 2 (The Problem of 2): يؤدي تمثيل عدة كائنات متطابقة في آن واحد إلى فقدان المعلومات.
عدم الكفاءة في التفكيك (Inefficiency in Factorization): مع توسع حجم الهيكل الهرمي (عدد الفئات والفئات الفرعية)، تتطلب النماذج الحالية عمليات فك ربط وقياس تشابه تكرارية وشاملة. ينتج عن ذلك تكاليف حوسبية عالية وتعقيد زمني (غالباً ما يتجاوز O(N2M))، مما يجعلها غير مناسبة للسيناريوهات واسعة النطاق. علاوة على ذلك، تتطلب النماذج الحالية غالباً تفكيكاً كاملاً للكائن حتى لو كان الاهتمام منصباً فقط على مجموعة فرعية من الفئات.
المنهجية: FactorHD يقترح المؤلفون FactorHD، وهو نموذج HDC مبتكر مصمم لتمثيل وتفكيك الهياكل الهرمية المعقدة (فئة-فئة فرعية) بكفاءة. تتكون المنهجية من مكونين أساسيين:
الترميز الرمزي (التجميع-الربط-التجميع):
يقدم FactorHD طريقة ترميز رمزي تدمج بند ذاكرة إضافي (تسمية فئة زائدة، يُرمز لها بـ LABEL) لربط العناصر.
يتبع الهيكل صيغة التجميع-الربط-التجميع:
يتم دمج مستويات الفئات الفرعية التي تنتمي إلى نفس الفئة عبر التجميع (الجمع).
يتم ربط الفئات المختلفة عبر الربط (الضرب).
يتم ربط الكائنات المختلفة عبر التجميع.
والأهم من ذلك، أنه حتى إذا لم تكن فئة معينة مرتبطة بكائن ما، فإن النموذج يحجز تسمية الفئة الخاصة بها ويجمعها مع متجه فضاء عالي الأبعاد (HV) عالمي فارغ NULL. وهذا يلغي الحاجة إلى المعرفة المسبقة بالفئات الموجودة في الكائن، وهو مطلب كان موجوداً في النماذج السابقة.
خوارزمية التفكيك الفعالة:
تتجنب الخوارزمية البحث الشامل عن طريق الاستبعاد الانتقائي للفئات الزائدة. فهي تقوم بفك ربط تسميات الفئات غير المختارة وحساب التشابه بين المتجه الناتج وعناصر الفئة الفرعية للفئة المستهدفة.
الكائن الواحد: يتم اختيار العنصر ذو أعلى درجة تشابه، وتتكرر العملية للمستويات الفرعية اللاحقة.
الكائنات المتعددة: تحدد الخوارزمية جميع عناصر الفئة الفرعية عند مستوى معين والتي تتجاوز عتبة تشابه (TH) محددة مسبقاً. ثم تقوم بربط هذه المرشحات انتقائياً لتشكيل تركيبات. إذا تجاوز تشابه أحد التركيبات مع الـ HV المستهدف العتبة (TH)، يتم تأكيد وجود الكائن.
اختيار العتبة: يتم تحديد قيمة العتبة المثلى (TH∗) بناءً على أبعاد الـ HV (D)، وعدد الكائنات (N)، وعدد العوامل (F). تقدم الورقة صيغة ملائمة: TH∗=0.001(104+2N−15F−0.001D−log(M)).
المساهمات الرئيسية
تمثيل مبتكر: يدعم FactorHD تمثيل كائنات متعددة مع هياكل فئات فرعية متعددة المستويات دون المعاناة من كارثة التراكب أو مشكلة الرقم 2، وذلك باستخدام تسمية فئة زائدة للحفاظ على المعلومات.
خوارزمية فعالة: تقلل خوارزمية التفكيك المقترحة التعقيد الحسابي بشكل كبير ليصل إلى حوالي O(NM) (حيث N هو عدد الكائنات و M هو عدد عناصر الفئة الفرعية لكل فئة)، مقارنة بالتعقيد الأسي أو التربيعي للطرق السابقة. كما تتيح التفكيك الجزئي، مما يسمح للنظام باستخراج فئات فرعية محددة ذات أهمية دون معالجة الهيكل بأكم له.
القابلية للتوسع والدقة: يحافظ النموذج على دقة تفكيك عالية حتى مع توسع أحجام المشكلات، متجاوزاً قيود نماذج C-C (فئة-فئة) و C-I (فئة-مثيل) الحالية.
النتائج التجريبية أُجريت التقييمات على تمثيلات اصطناعية (Rep 1, 2, 3) ومجموعات بيانات عملية (RAVEN, Cifar-10, Cifar-100) مدمجة مع شبكة ResNet-18 لاستخراج الميزات.
التسريع: يحقق FactorHD تسريعاً بمقدار 5667 ضعفاً عند حجم تمثيل قدره 109 مقارنة بنماذج HDC الحالية (مثل شبكة الرنين و IMC factorizer). وعند حجم 106، يبلغ التسريع حوالي 18.5 ضعفاً.
الدقة على البيانات الاصطناعية: يحافظ FactorHD على دقة تفكيك أعلى من 99% حتى عند أبعاد HV منخفضة، بينما تفشل النماذج المرجعية (مثل شبكة الرنين) مع زيادة أحجام المشكلات.
مجموعات البيانات الواقعية:
في مجموعة بيانات Cifar-10، حقق FactorHD المدمج مع ResNet-18 دقة تفكيك بلغت 92.48%.
في Cifar-100، أظهر النموذج دقة عالية مع فقدان ضئيل مقارنة بمهام التصنيف العصبية القياسية (فقدان الدقة < 3% لـ Cifar-10).
في مجموعة بيانات RAVEN، حقق النموذج دقة تزيد عن 90% لمعظم الأنماط مع D=1000.
الأهمية تزعم الورقة أن FactorHD يتغلب على القيود الجوهرية لـ "كارثة التراكب" و"مشكلة الرقم 2" في الذكاء الاصطنا_العصبي-الرمزي. ومن خلال تمكين التفكيك الجزئي الفعال والتعامل مع الهياكل الهرمية المعقدة، يوسع FactorHD من نطاق تطبيق HDC ليشمل سيناريوهات أوسع تتضمن الاستدلال متعدد الكائنات. يثبت النموذج أن الأنظمة العصبية-الرمزية يمكن أن تحقق كفاءة حسابية ودقة عالية دون الاعتماد على العمليات التكرارية الشاملة التي تعيق تصميمات HDC السابقة.