📊 statistics

Iterative Erasure Count Is Not an Affine-Invariant Concept Dimension

تُثبت هذه الورقة أن أعداد المحو التكرارية المستخدمة لتقدير أبعاد المفهوم ليست ثابتة تآلفياً، وبالتالي فهي تعتمد على إجراء القياس المحدد وهندسة التمثيل بدلاً من كونها تعكس خاصية دلالية جوهرية للتمثيل العصبي.

المؤلفون الأصليون: Tingan Jin, Shuhang Dong, Haosong Li, Chung-Hsien Chou

نُشر 2026-08-12

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Tingan Jin, Shuhang Dong, Haosong Li, Chung-Hsien Chou

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الفخ الخفي في عدّ "الاتجاهات" العصبية

تخيل أنك تحاول فهم كيف يرى روبوت فائق الذكاء العالم. قد تعتقد: "إذا استطعت طرح سؤال على الروبوت وحصلت على إجابة، فلا بد أن المعلومات مخزنة في اتجاه محدد داخل دماغه". لقد طور العلماء حيلة ذكية تسمى "المحو التكراري" لعدّ هذه الاتجاهات. تعمل هذه الحيلة كالتالي: تجد الاتجاه الذي يستخدمه الروبوت للإجابة على سؤال ما، ثم تقوم رياضياً بـ "محو" ذلك الاتجاه وتطرح السؤال مرة أخرى. إذا كان الروبوت لا يزال يعرف الإجابة، تمحو اتجاهاً آخر. تستمر في العد حتى يقول الروبوت أخيراً: "لا أعرف". وكان يُعتقد أن عدد عمليات المحو التي قمت بها هو "البعد" الحقيقي للمفهوم — مثل عدّ كم عدد الألوان المتميزة المختلطة لصنع درجة معينة من اللون الأرجواني.

لكن إليك الخدعة: ماذا لو لم يكن دماغ الروبوت صندوقاً ثابتاً وصلباً، بل بالوناً مرناً يتغير شكله؟ إذا ضغطت أو مددت البالون (وهي حركة رياضية تسمى "إعادة المعلمة" أو reparameterization)، فإن الاتجاهات بداخله ستتغير زواياها وأطوالها، رغم أن الروبوت لا يزال يعرف نفس الأشياء تماماً. تغوص هذه الورقة البحثية في ركن من أركان الذكاء الاصطناعي يسمى "تعلم التمثيل" (representation learning)، حيث يدرس الباحثون كيف تنظم نماذج الذكاء الاصطناعي المعلومات. السؤال الكبير هو: عندما نعدّ كم مرة يتعين علينا محو اتجاه ما لجعل الذكاء الاصطناعي ينسى شيئاً ما، هل نعدّ ميزة حقيقية غير قابلة للتغيير، أم أننا نعدّ فقط كيف تم تمديد البالون في تلك اللحظة تحديداً؟

تجربة البالون المطاطي العظيم

تكشف هذه الورقة البحثية الستار عن طريقة شائعة تُستخدم لقياس مفاهيم الذكاء الاصطناعي، وتكشف عن حقيقة مفاجئة وماكرة نوعاً ما: العدد الذي تحصل عليه يعتمد كلياً على كيفية تمدد البيانات، وليس على المفهوم نفسه.

يجادل المؤلفون، تينغان جين، وشوهانغ دونغ، وهاوسونغ لي، وتشونغ-هسيان تشو، بأن "عدد المحو التكراري" — وهو عدد الاتجاهات التي يجب عليك حذفها لجعل الذكاء الاصطناعي ينسى مفهوماً ما — ليس خاصية ثابتة وجوهرية لمعرفة الذكاء الاصطناعي. بدلاً من ذلك، هو رقم "مرتبط بالإجراء" (procedure-relative)، مما يعني أنه يتغير بناءً على الأدوات والقواعد الرياضية المحددة التي تستخدمها للعدّ.

ولإثبات ذلك، بنوا "مختبراً" رياضياً حيث يمكنهم التحكم في كل متغير. خلقوا سيناريو يتم فيه توليد مفهوم (مثل إشارة "نعم/لا" بسيطة) بواسطة مصدر واحد فقط مخفي. في العالم الحقيقي، هذا يشبه مفتاح إضاءة واحد يشغل مصباحاً. ومع ذلك، قاموا بعد ذلك بتطبيق "قص" رياضي (shear - تمدد مائل) على البيانات، مما خلط ذلك المفتاح الوحيد مع بعض الضوضاء العشوائية. ورغم أن المفهوم كان لا يزال يُولد بواسطة مصدر واحد فقط، ولا يزال بإمكان الذكاء الاصطناعي أن يُحجب (يُجعل ينسى) عبر إزالة اتجاه واحد فقط، إلا أن لعبة عدّ المحو أعطت إجابة مختلفة.

عندما استخدموا طريقة عدّ قياسية مستقيمة (إقليدية):

إذا كانت البيانات مستقيمة تماماً (بدون تمدد)، توقف العداد عند 1.
إذا طبقوا ولو تمدداً طفيفاً (عامل قص قدره 0.5 أو 2)، قفز العداد فجأة إلى 2.

الأمر يشبه أن يكون لديك مفتاح إضاءة واحد، ولكن إذا نظرت إلى الغرفة من زاوية مائلة، ستظن فجأة أنك بحاجة لفصل سلكين مختلفين لإطفاء الضوء. تثبت الورقة رياضياً أنه بالنسبة لنوع معين من مجسات الذكاء الاصطناعي، يمكن للعدد أن يقفز من 1 إلى 2 (أو من 2 إلى 4 في الإعدادات الأكثر تعقيداً) ببساطة عن طريق تغيير نظام الإحداثيات، رغم أن "بُعد المفهوم" الأساسي لم يتغير أبداً.

"اختبار الضغط" مع الروبوتات الحقيقية

لم يتوقف المؤلفون عند الرياضيات فحسب؛ بل اختبروا ذلك على نماذج ذكاء اصطناعي حقيقية ومجمدة تحلل مقاطع الفيديو والصور (تحديداً V-JEPA2 و DINOv2). بحثوا في مفهوم يسمى "تلامس اليد مع الجسم" — أي، هل تلمس يدٌ جسماً ما؟

أخذوا السمات الداخلية للذكاء الاصطنا_ (حالة "دماغه") وطبقوا عليها تمددات رياضية مختلفة (تسمى خرائط كثيفة - dense maps). ثم أعادوا تشغيل لعبة عدّ المحو مرة أخرى.

النتيجة: عندما استخدموا رؤية قياسية غير ممددة، بدا أن الذكاء الاصطناعي يحتاج إلى عدد معين من عمليات المحو لنسيان التلامس. ولكن عندما قاموا بتمديد البيانات (باستخدام عوامل مثل 2، 3، 5، أو 10)، تغير عدد عمليات المحو المطلوبة لجعل الذكاء الاصطناعي "ينسى" بشكل كبير.
الدليل: في تجربة واحدة باستخدام 4,000 عينة، توقف الإعداد القياسي (الهوية) بعد تحديث 1 في جميع الجولات الـ 20. ولكن عندما طبقوا تمدداً (قص بمقدار 1)، قبلت كل جولة من الجولات الـ 20 تحديثين على الأقل، ووصل بعضها إلى 8 تحديثات.

يظهر هذا أن "العدّ" ليس مقياساً مستقراً لعدد "المتغيرات الفيزيائية" المشاركة في المفهوم. إنه مقياس لكيفية تفاعل الرياضيات مع الشكل المحدد للبيانات.

الجانب المشرق: طريقة جديدة للعدّ

لا تكتفي الورقة بالقول إن "هذه الطريقة معطلة"؛ بل تقدم طريقة لإصلاح الرياضيات بحيث تعمل بالفعل، ولكن فقط إذا اتبعت قواعد صارمة. لقد أثبتوا أنه إذا حملت "مسطرتك" (المقياس - metric) معك أثناء التمدد، فإن العدّ سيبقى ثابتاً. وهذا ما يسمى "التكافؤ الأفيني" (affine equivariance).

فكر في الأمر كالتالي: إذا مددت ورقة مطاطية عليها رسم، فسوف يتشوه الرسم. إذا استخدمت مسطرة تتمدد أيضاً مع المطاط، فستظل قياساتك دقيقة. أما إذا استخدمت مسطرة معدنية صلبة، فستكون قياساتك خاطئة. يوضح المؤلفون أنه إذا استخدمت "المسطرة الصحيحة" (المقياس المنقول) واتبعت الخطوات الصحيحة، يصبح العدّ مستقراً. ومع ذلك، يؤكدون أن الطرق الشائعة المستخدمة حالياً في المجال غالباً ما تستخدم "المسطرة المعدنية الصلبة"، مما يؤدي إلى أعداد مضللة.

ماذا يعني هذا بالنسبة لك؟

الخلاصة الرئيسية هي تحذير لأي شخص يحاول عدّ "أبعاد" أفكار الذكاء الاصطناعي. إذا رأيت ورقة بحثية تدعي أن مفهوماً ما يستخدم "عشرات الاتجاهات" لأن خوارزمية المحو عدّت هذا العدد، فيجب أن تكون متشككاً. قد يكون هذا الرقم مجرد نتاج لكيفية تمدد البيانات أو كيفية إعداد الخوارزمية.

يخلص المؤلفون إلى أن "عدد المحو التكراري" ليس حقيقة سحرية مستقلة عن الإحداثيات حول عقل الذكاء الاصطناعي. إنه نتيجة تتحدد بشكل مشترك من خلال هندسة التمثيل وإجراء القياس الكامل. وللحصول على إجابة حقيقية، عليك أن تعلن عن قواعدك، ومسطرتك، ونقطة التوقف الخاصة بك مسبقاً. وبدون هذه الالتزامات، فإن العدد الذي تحصل عليه هو مجرد انعكاس لعملياتك الرياضية، وليس لسر الذكاء الاصطناعي.

باختصار: لا تثق في العدّ ما لم تكن تعرف بالضبط كيف تم تمديد البالون.

ملخص تقني: عدد المسح التكراري ليس بُعداً للمفهوم ثابت التباين الخطي (Affine-Invariant)

بيان المشكلة

تتناول الورقة البحثية غموضاً جوهرياً في تفسير "بُعد المفهوم" (concept dimension) ضمن التمثيلات العصبية. وتتمثل إحدى الطرق التشغيلية الشائعة لتقدير عدد الاتجاهات التي يستخدمها التمثيل لترميز مفهوم ما في المسح التكراري (iterative erasure): وهو ملاءمة مسبار خطي (linear probe)، ثم إزالة اتجاهه (عبر إسقاط الفضاء الصفري - null-space projection)، ثم إعادة الملاءمة، وعدّ عدد الخطوات حتى يفشل المسبار. وقد فسرت الأدبيات الحديثة هذا العدد عند التوقف أو الرتبة المزالة تراكمياً على أنه بُعد جوهري ودلالي للمفهوم (على سبيل المثال، الإيحاء بأن مفهوماً ما موزع عبر "عشرات" من الاتجاهات).

يجادل المؤلفون بأن هذا التفسير معيب. فقد أثبتوا أن عدد المسح التكراري ليس خاصية جوهرية للمفهوم أو لمحتوى المعلومات في التمثيل. بدلاً من ذلك، هو مُقدّر مرتبط بالإجراء (procedure-relative estimand) يتغير تحت عمليات إعادة المعلمة القابلة للعكس (مثل عمليات القص - shears) التي تحافظ على جميع التنبؤات الخطية والمعلومات. وبناءً على ذلك، فإن هذا العدد لا يوفر مقياساً غير مرتبط بالإحداثيات (coordinate-free) للبعد الدلالي.

المنهجية

تستخدم الورقة مزيجاً من تحليل المجتمع النظري، والمحاكاة في العينات المحدودة، والدراسات البصرية للحالات لفصل الكميات المتميزة التي غالباً ما يتم الخلط بينها تحت مسمى "البُعد".

بناء المجتمع النظري:
- يعرّف المؤلفون خمس كميات متميزة هي: البُعد المولد (generating dimension)، البُعد الخطي الكافي (sufficient linear dimension)، رتبة التغاير المشترك (cross-covariance rank)، عدد المسح التكراري (iterative erasure count)، ورتبة الحماية الخطية (linear guarding rank).
- قاموا ببناء نموذج مجتمع حيث يولد مفهوم قياسي $S$ تسمية $Y$ ، ممزوجة بمتغيرات إزعاج مستقلة $N$ عبر مصفوفة قابلة للعكس $A$ .
- في هذا النموذج، تكون البُبعد الخطي الكافي والحد الأدنى لرتبة الحماية ثابتين عند 1 (أو $r$ في الحالات متعددة المتغيرات)، بغض النظر عن مصفوفة الخلط $A$ .
- حللوا سلوك المسح التكراري تحت مقاييس مختلفة (المسافة الإقليدية مقابل التغاير المنقول) ومخططات التنظيم (Ridge، OLS).
تحليل التباين الخطي (Affine Equivariance):
- أثبتت الورقة أنه بينما يمكن جعل المسار الكامل لإجراء المسح متماثلاً خطياً (affine-equivariant) إذا تم نقل المقياس، والمسبار، والمنظم، وقواعد كسر التعادل بشكل متسق، فإن عدد المسح الإقليدي القياسي ليس كذلك.
- وتحديداً، أظهروا أن عملية قص (shear) قابلة للعكس تغير مسار المسح الإقليدي، مما يغير عدد الخطوات المطلوبة لإزالة المفهوم، رغم أن المعلومات الأساسية تظل دون تغيير.
التجارب النهائية والبصرية:
- الجسر الدائري (Circular Bridge): محاكاة عينة محدودة باستخدام هدف دائري (يتنبأ بـ $\sin \theta, \cos \theta$ ) مع مُحسّن Adam وعملية إزالة QR كاملة. وهذا يحاكي الإجراء المستخدم في دراسات نماذج العالم المرئي الحديثة.
- دراسة حالة بصرية: قام المؤلفون بفحص الميزات المجمدة من V-JEPA2 وDINOv2 على مجموعات بيانات اتصال اليد بالأجسام (100DOH وTouchMoment). طبقوا خرائط متباينة كثيفة (مصفوفات Hadamard موقعة وكثيفة) وخرائط متعامدة على الميزات.
- الضوابط: قارنوا بين المسح الإقليدي القياسي وإجراءات تستخدم التغاير التجريبي غير المنكمش (وهو متماثل خطياً) واختبروا الاستقرار تحت إعادة معيرة الإحداثيات وتعديل المهاجم الجديد.

المساهمات الرئيسية

عدم تحديد العدد التكراري:
- النظرية 1: تثبت أنه بالنسبة لمجتمع ذي مفهوم ذي رتبة واحدة، فإن عدد مسح Ridge التكراري يكون 1 تحت خلط الهوية (identity mixing) و2 تحت أي قص غير صفري، رغم أن البُعد الكافي ورتبة الحماية يظلان 1.
- النظرية 2: توسع هذا إلى إزالة full-QR متعددة المتغيرات. بالنسبة لنظام ذي مخرجين، تتغير رتبة التعديل التراكمية من 2 (الهوية) إلى 4 (البعد المحيط) تحت تأثير القص، بينما يظل البُعد الكافي 2.
نظرية التماثل الخطي (Affine Equivariance):
- تثبت أن المسار التراكمي الكامل يكون متماثلاً خطياً إذا وفقط إذا تم نقل المقياس، والمسبار، والمنظم، وقواعد كسر التعادل بشكل متسق. وهذا يثبت أن التغاير الدقيق هو نتيجة لهذه النظرية، وليس مقياساً دلالياً فريداً.
اختبارات الضغط التجريبية:
- أظهرت أن في إعدادات العينات المحدودة (باستخدام Adam/QR)، يظل الفصل بين الهوية والقص قائماً: خلط الهوية يتوقف بعد تحديث واحد، بينما يقبل القص (shear) تحديثين أو أكثر في جميع الجولات.
- أظهرت أن الميزات البصرية، في حالات التباين، تظل حساسة للإحداثيات حتى بعد إعادة المعيرة، بينما تعيد الخرائط المتعامدة (التي تحافظ على الهندسة الإقليدية) إنتاج مسار الهوية، مما يؤكد أن الحساسية ناتجة عن التباين (anisotropy) وليس ضجيج الحل أو إعادة التسمية.
الفصل المفاهيمي:
- فصلت بدقة بين البُعد السكاني (المتغيرات الكامنة)، والبُعد الكافي، ورتبة الحماية، والعدد التكراري، مجادلة بوجوب عدم تقديمها تحت اسم واحد.

النتائج

على مستوى المجتمع: تؤكد البراهين النظرية أن عدد التوقف الصحيح ليس ثابتاً. يمكن لمفهوم من الرتبة الأولى أن يعطي عدداً قدره 1 أو 2 اعتماداً فقط على معامل شرط نظام الإحداثيات.
الجسر الدائري المحدود: في 20 جولة كبيرة العينات ( $n=4,000$ )، توقف خلط الهوية بعد تحديث واحد. بينما قبلت جميع عمليات القص المختبرة ( $a \in \{0.5, \dots, 2\}$ ) تحديثين على الأقل. وصلت رتبة التعديل التراكمية إلى البعد المحيط (4) في حالات القص، بينما ظلت 2 للهوية.
دراسة الحالة البصرية:
- أدى تطبيق خرائط متباينة كثيفة على ميزات V-JEPA2 المجمدة إلى تغيير مسار المسح وإمكانية الوصول بعد التعديل (AUROC) بشكل كبير، حتى بعد إعادة المعيرة.
- وعلى العكس من ذلك، أدى استخدام التغاير التجريبي غير المنكمش (الذي يحقق شرط التماثل الخطي) إلى الحصول على مسارات متطابقة عبر جميع الخرائط.
- أعادت الخرائط المتعامدة إنتاج مسار الهوية، مما أكد أن الحساسية الملحوظة مدفوعة بالتباين، وليس بضجيج الحل أو التسمية العشوائية.
معايرة الملاءمة المتقاطعة (Cross-Fit Calibration): يمكن أن تترك التعديلات المقدرة في العينات بقايا وصول كبيرة للمهاجمين الجدد حتى عندما تكون رتبة حماية المجتمع معروفة بأنها 1، مما يسلط الضال على الفرق بين بقايا العينة المحدودة وخصائص المجتمع.

الأهمية والادعاءات

تخلص الورقة إلى أن عدد المسح التكراري ليس بُعداً للمفهوم ثابتاً للتباين الخطي. فهو كمية يحددها بشكل مشترك هندسة التمثيل وإجراء القياس المحدد (المقياس، المسبار، المنظم، قاعدة التوقف).

إعادة تفسير العمل السابق: لا يبطل المؤلفون فائدة المسبارات الخطية أو التمثيلات المعدلة التي تنتجها. ومع ذلك، يجادلون بأن استخدام عدد الاتجاهات الممسوحة للادعاء بأن مفهوماً ما "موزع" عبر العديد من الأبعاد أو لتحديد بُعد جوهري هو أمر غير سليم رياضياً دون تثبيت المقياس والمُقدّر مسبقاً.
التقرير الدفاعي: تدعو الورقة إلى ذكر الإجراء كاملاً (المقياس، الخسارة، المنظم، قاعدة التوقف) والتمييز بين البُعد المولد، والبُعد الكافي، ورتبة الحماية.
النطاق: تنطبق النتائج على التمثيلات الخطية والتدخلات الخطية. ويذكر المؤلفون صراحة أنهم لا يدعون تحديد تنظيم المفاهيم غير الخطي أو المعتمد على الرمز (tokenwise) أو السببي، كما أنهم لا يقترحون خوارزمية "ماسح" جديدة. تُقدم الدراسة البصرية كدراسة حالة واختبار ضغط، وليس كقياس نهائي لبُعد الاتصال.

باختاً، تقدم الورقة رداً رياضياً وتجريبياً صارماً على فكرة أن عدد الخطوات في إجراء المسح التكراري يكشف عن البعد الجوهري لمفهوم عصبي، مبينة بدلاً من ذلك أن هذا العدد هو نتاج لنظام الإحداثيات والخيارات الخوارزمية المحددة أثناء التحليل.