تخيل أنك تحاول وصف كائن معقد، متعدد الأبعاد—مثل مجرة دوارة أو كعكة متعددة الطبقات—لصديق لا يستطيع فهم سوى الرسومات البسيطة والمسطحة. في عالم علوم الحاسوب والرياضيات، يُعرف هذا بـ "مشكلة التقريب عالي الأبعاد". لعقود من الزمن، كان العلماء يصارعون عدواً لئيماً يسمى "لعنة الأبعاد". الاسم يبدو مخيفاً، لكن الفكرة بسيطة: كلما زاد عدد المتغيرات (أو الأبعاد) في مسألة ما، انفجر مقدار المعلومات اللازمة لوصفها بدقة. الأمر يشبه محاولة رسم لوحة لكائن ذي 100 بُعد؛ عدد ضربات الفرشاة المطلوبة يبدو وكأنه ينمو بسرعة تجعل من المستحيل إنهاء المهمة.

لفترة طويلة، كانت الطريقة القياسية لقياس مدى جودة حل الكمبيوتر لهذه المشكلات هي عدّ "المعلمات" (Parameters). فكر في المعلمات كأنها مقابض، أو أقراص، أو إعدادات على آلة. إذا استخدمت طريقة ما عدداً أقل من المقابض للحصول على نفس النتيجة، تُعتبر أكثر كفاءة. مؤخراً، تم الاحتفاء بالشبكات العصبية (أنظمة الذكاء الاصطناعي التي تشغل أشياء مثل التعرف على الصور أو النماذج اللغوية) لأنها تبدو وكأنها تكسر هذه اللعنة. فهي تبدو وكأنها تحل مشكلات عالية الأبعاد بعدد من المقابض لا ينفجر مع نمو الأبعاد، مما جعل الكثيرين يعتقدون أنها وجدت المفتاح السحري لفتح أكثر المشكلات تعقيداً في العلم.

ومع ذلك، هناك فخ غالباً ما يتم التغاضي عنه في غمرة الحماس. في العالم الحقيقي، لا تخزن أجهزة الكمبيوتر الأرقام بدقة لانهائية؛ بل تخزنها كسلاسل من الأصفار والآحاد، أو "البتات" (Bits). كل مقبض في تلك الآلة يحتاج إلى ترميزه في عدد معين من البتات ليتم تخزينه وحسابه. يسأل هذا البحث سؤالاً جوهرياً: إذا توقفنا عن عدّ المقابض فقط وبدأنا في عدّ "البتات" الفعلية من المعلومات المطلوبة لتخزين تلك المقابض، فهل ستظل الشبكات العصبية تبدو كالسحر؟ يغوص المؤلفان، تونغ ماو وجينتشاو شو، في هذا السؤال بعمق، باستخدام مفهوم "الإنتروبيا المترية" (Metric Entropy)—والذي يقيس أساساً الحد الأدنى من المعلومات اللازمة لوصف شكل أو دالة ما—ليروا ما إذا كانت الشبكات العصبية تهزم اللعنة حقاً، أم أنها مجرد تخفي التكلفة بطريقة أخرى.

---

عملية سطو "البتات" الكبرى

قرر مؤلفا هذا البحث، تونغ ماو وجينتشاو شو، ارتداء قبعات المحققين والنظر إلى "لعنة الأبعاد" من زاوية جديدة. فبدلاً من مجرد عدّ عدد المعلمات (المقابض) التي تستخدمها طريقة ما، تساءلا: "كم من بتات الذاكرة يتطلبه الأمر فعلياً لتخزين تلك المقابض والحصول على إجابة جيدة؟"

لفهم تحقيقهما، تخيل أنك تحاول وصف تلة ناعمة ومتموجة لروبوت.

• الطريقة القديمة (عدّ المعلمات): قد تقول: "أحتاج إلى 100 نقطة لوصف هذه التلة". إذا انتقلت إلى طريقة جديدة، مثل الشبكة العصبية، وقلت: "أحتاج فقط إلى 10 نقاط"، فستشعر أنك انتصرت. لقد هزمت اللعنة!
• الطريقة الجديدة (عدّ البتات): ولكن مهلاً. ماذا لو كانت تلك النق العشر حساسة للغاية؟ ماذا لو كان لوصف شكل التلة بدقة، تحتاج كل نقطة من تلك النق العشر إلى تخزينها بدقة متناهية—مثل الحاجة إلى 1000 بت لكل نقطة؟ فجأة، أنت لا تستخدم 10 وحدات من المعلومات؛ بل تستخدم 10,000. وفي الوقت نفسه، كانت الطريقة "القديمة" تستخدم 100 نقطة، لكن كل منها احتاج فقط إلى 10 بتات. في النهاية، استخدمت الطريقة "القديمة" في الواقع بتات أقل.

يجادل البحث بأننا لمدد طويلة، كنا مخدوعين بـ "عدد المعلمات". رأينا الشبكات العصبية تستخدم عدداً أقل من المقابض وافترضنا أنها أكثر كفاءة. ولكن عندما قاس المؤلفان الكفاءة من حيث "البتات" (العملة الفعلية للحوسبة)، تغيرت القصة.

"السحر" الذي ليس سحراً حقاً

بحث الباحثون في نوعين رئيسيين من "السحر" الذي اشتهرت به الشبكات العصبية:

1. معدلات مستقلة عن الأبعاد: ادعت بعض الدراسات أن الشبكات العصبية يمكنها تقريب دوال معقدة معينة دون أن يتدهور أداؤها مع زيادة عدد الأبعاد. بدا الأمر وكأنها وجدت طريقة لتجاهل حجم المشكلة تماماً.
2. التقارب الفائق (Superconvergence): وهي الفكرة القائلة بأن الشبكات العصبية العميقة (الشبكات ذات الطبقات المتعددة) يمكنها تقريب الدوال الناعمة بشكل أسرع بكثير من الطرق التقليدية مثل كثيرات الحدود أو العناصر المحدودة. بدا الأمر وكأنها تتجاوز المنافسين بسرعة فائقة.

كشف تحقيق المؤلفين أن هذه "القوى الخارقة" هي إلى حد كبير وهم ناتج عن كيفية قياس الأشياء.

عندما حللوا الإنتروبيا المترية—وهو مصطلح معقد يشير إلى التعقيد الجوهري لفئة الدالة التي يتم تقريبها—وجدوا أن الدوال التي تجيد الشبكات العصبية تقريبها (مثل تلك الموجودة في "فضاءات بارون" - Barron spaces) هي في الواقع أبسط من الدوال التي تعاني الطرق التقليدية معها. ليست المسألة أن الشبكة العصبية فنانة أفضل؛ بل إن اللوحة التي يُطلب منها نسخها أقل تفصيلاً من اللوحة التي يحاول الفنان التقليدي نسخها. السرعة "المستقلة عن الأبعاد" ليست لأن الشبكة مميزة؛ بل لأن الهدف كان سهلاً منذ البداية.

فخ الشبكة العميقة

النتيجة الأكثر إثارة للدهشة تتعلق بـ الشبكات العصبية العميقة. هذه هي الشبكات ذات الطبقات المتعددة التي حظيت بكل هذا الزخم. يوضح البحث أنه بينما يمكن للشبكات العميقة بالفعل تحقيق معدل خطأ أسرع عند قياسها بعدد المعلمات (المقابض)، إلا أن هذه السرعة تأتي مع ضريبة خفية.

لأن الشبكات العميقة معقدة وحساسة للغاية، فإن الأرقام الموجودة داخلها (الأوزان والانحيازات) تحتاج إلى تخزينها بـ دقة أعلى بكثير لتجنب الأخطاء. أثبت المؤلفون أن عدد البتات المطلوبة لتخزين هذه المعلمات ينمو بشكل انفجاري كلما زاد عمق الشبكة.

فكر في الأمر كالتالي: الشبكة الضحلة تشبه جسراً خشبياً متيناً. يتطلب الكثير من الألواح (المعلمات)، لكن قياس وتخزين كل لوح سهل. أما الشبكة العميقة فهي تشبه جسراً زجاجياً. تستخدم ألواحاً أقل، لكن كل لوح هش ودقيق للغاية لدرجة أنك تحتاج إلى ماسح ضوئي ليزري لقياسه. إذا حاولت بناء الجسر الزجاجي باستخدام شريط قياس عادي (دقة محدودة)، فسوف ينهار.

يوضح البحث أنه عندما تعدّ إجمالي البتات اللازمة لبناء ذلك الجسر الزجاجي، فإن "الكفاءة" تتلاشى. البتات الإضافية المطلوبة للحفاظ على استقرار الشبكة العميقة تلغي ميزة امتلاك عدد أقل من المعلمات. في الواقع، بالنسبة للعديد من المشكلات القياسية، تنتهي الشبكات العميقة باحتياجها لبتات مساوية، أو حتى أكثر، من الطرق الكلاسيكية مثل كثيرات الحدود أو العناصر المحدودة.

الحكم النهائي: إنها "بتات" من اللعنة

إذن، هل تهزم الشبكات العصبية لعنة الأبعاد؟ وفقاً لماو وشو، الإجابة هي لا، على الأقل ليس بالطريقة التي ظنناها.

"اللعنة" ليست حقاً تتعلق بعدد الأبعاد. بل تتعلق بـ تعقيد البتات. الحد الأساسي لمدى جودة تقريب دالة ما يتحدد بمقدار المعلومات (البتات) التي تحتوي عليها تلك الدالة فعلياً. وهذا ما تحكمه "الإنتروبيا المترية".

• إذا كانت الدالة معقدة، فهي تتطلب الكثير من البتات لوصفها، بغض النظر عن الأداة المستخدمة.
• إذا كانت الدالة بسيطة، فهي تتطلب بتات أقل.

الشبكات العصبية لا تغير قواعد اللعبة؛ هي فقط تغير الطريقة التي نعد بها النتيجة. عندما ننظر إلى اللعبة من خلال عدسة البتات بدلاً من المعلمات، فإن "تفوق" الشبكات العصبية غالباً ما يختفي. فالامتيازات الظاهرة، مثل المعدلات المستقلة عن الأبعاد أو التقارب الفائق، غالباً ما تكون فقط لأن الشبكات العصبية يتم اختبارها على فئات من الدوال التي هي بطبيعتها أقل تعقيداً (ذات إنتروبيا مترية منخفضة) من تلك التي تُختبر عليها الطرق التقليدية.

لماذا هذا مهم؟

لا يقول هذا البحث إن الشبكات العصبية عديمة الفائدة. بل يقول إننا بحاجة إلى أن نكون أكثر ذكاءً في كيفية تقييمها. في العالم الحقيقي، تمتلك أجهزة الكمبيوتر ذاكرة محدودة. لا يمكنها تخزين دقة لانهائية. إذا بدت طريقة ما رائعة على الورق لأنها تستخدم معلمات أقل، ولكنها تتطلب كمية هائلة من الذاكرة لتخزين تلك المعلمات بدقة، فقد لا تكون الخيار الأفضل لتطبيق في العالم الحقيقي.

يقترح المؤلفان أن "لعنة الأبعاد" هي في الواقع "لعنة تعقيد البتات". الحد الحقيقي ليس عدد الأبعاد التي لديك، بل عدد البتات التي تحتاجها لوصف المشكلة. ومن خلال تحويل تركيزنا من عدّ المقابض إلى عدّ البتات، نحصل على صورة أكثر وضوحاً وواقعية لما يمكن لهذه الأدوات القوية فعله وما لا يمكنها فعله. إنه تذكير بأنه في عالم الرياضيات عالية الأبعاد، الشيطان يكمد دائماً في التفاصيل—وتلك التفاصيل تُقاس بالبتات.