Why the Third Axis Is Freedom

لعبة التخمين الكبرى للذكاء الاصطناعي

تخيل أنك تعلم روبوتاً كيفية رسم الصور. في عالم الذكاء الاصطناعي، يتم ذلك عادةً من خلال عملية تسمى "التدريب التوليدي". يحاول الروبوت صنع صورة، وإذا بدت مختلفة عن المثال الذي أريته إياه، فإنه يتلقى "عقوبة" أو درجة سيئة. يريد الروبوت تقليل هذه العقوبة، لذا يتعلم نسخ المثال بدقة قدر الإمكان. لكن هنا تكمن المشكلة: إذا تعلم الروبوت مجرد إخراج الإجابة الأكثر شيوعاً التي يراها، فقد يصبح بارعاً جداً في نسخ هذا الشيء المحدد، ولكنه سيكون سيئاً جداً في التعامل مع أي شيء جديد أو مختلف. سيصبح ببساطة ببغاءً جامداً بدلاً من أن يكون فناناً مبدعاً.

لفترة طويلة، تساءل العلماء عن كيفية جعل هذه النماذج أكثر مرونة. اكتشفوا حيلة تسمى "النمذجة الاستكشافية". بدلاً من أن تطلب من الروبوت تقديم تخمين واحد فقط، تطلب منه تقديم تخمينات عديدة في وقت واحد — لنقل عشر رسومات مختلفة. ثم، أنت تعاقب التخمين الأقرب للهدف فقط، وتتجاهل التسعة الأخرى. هذا يجبر الروبوت على الاحتفاظ بمجموعة متنوعة من الأفكار في ذهنه، على أمل أن يكون أحدها هو الصحيح. هذه الفكرة سُميت مؤخراً بـ "المحور الثالث" لتدريب الذكاء الاصطناعي، مما يشير إلى أن القدرة على الاحتفاظ بالعديد من "الأنماط" أو النسخ المختلفة من الإجابة هي المفتاح لجعل الذكاء الاصطناعي أكثر ذكاءً.

ولكن هل امتلاك العديد من الأفككن هو نفسه الشيء الذي يجعل المرء ذكياً؟ يسأل هذا البحث سؤالاً أعمق: هل السحر يكمكم في عدد التخمينات، أم في الحرية التي يمتلكها الروبوت للاختيار؟ يجادل المؤلف بأن مجرد عدّ كم عدد التخمينات التي يقوم بها النموذج ليس هو القصة بأكملها. بدلاً من ذلك، السر الحقيقي هو "الحرية" — والتي تعني في هذا السياق، عدد الطرق المختلفة التي يُسمح للنموذج من خلالها بأن يكون صحيحاً دون كسر القواعد. إنه الفرق بين روبوت مُجبر على الاختيار من قائمة ضيقة مكونة من عشر خيارات، وروبوت مسموح له بالاختيار من مكتبة واسعة من الاحتمالات، حتى لو كان يستخدم عدداً قليلاً منها حالياً. يستكشف البحث ما إذا كانت هذه "الحرية" هي ما يساعد الذكاء الاصطناعي على التعلم بشكل أفضل، بدلاً من مجرد العدد الخام للتخمينات.

المحور الثالث هو الحرية، وليس مجرد عدد

يأخذ المؤلف، مايكل تيموثي بينيت، نظرة جديدة على هذا "المحور الثالث" لتدريب الذكاء الاصطناعي. يجادل بأن فكرة "التعبير التوليدي" السابقة (القدرة على احتواء العديد من الأنماط) مثيرة للاهتمام، لكنها في الواقع مجرد تضليل. البطل الحقيقي للقصة هو الحرية.

فكر في سلوك النموذج مثل مجموعة من قواعد اللعبة. القاعدة "الضعيفة" هي قاعدة لا تقيدك كثيراً. على سبيل المثال، قاعدة تقول "يمكنك ارتداء أي لون قميص" هي قاعدة ضعيفة لأنها تسمح بالملايين من الاحتمالات. أما القاعدة "القوية" التي تقول "يجب أن ترتدي قميصاً أحمر" فهي قوية لأنها تتركك بخيار واحد فقط. يجادل بينيت بأن أفضل نماذج الذكاء الاصطناعي هي تلك التي تبقي قواعدها "ضعيفة" قدر الإمكان مع بقائها صحيحة. هذه "الضعف" هو ما يسميه الحرية. إنه حجم الإكمالات المتوافقة التي لا يزال بإمكان النموذج تخيلها. إذا كان النموذج صلباً للغاية (قوياً جداً)، فقد يفشل عندما يتغير العالم. أما إذا كان حراً (ضعيفاً)، فيمكنه التكيف مع المواقف الجديدة لأنه لم يحبس نفسه في مسار واحد ضيق.

يتحدى البحث فكرة أن "المحور الثالث" يتعلق ببساطة بعدد المخرجات التي يمكن للنموذج إنتاجها (عدد الأنماط). يوضح بينيت أنه يمكن للنموذج نظرياً أن يمتلك عدداً هائلاً من المخرجات المسموح بها ومع ذلك يكون سيئاً جداً في التعميم إذا كان يستخدم واحداً منها فقط. وعلى العكس من ذلك، فإن النموذج الذي يمتلك مجموعة أصغر من المخرجات المسموح بها قد يكون قوياً للغاية إذا وزع انتباهه بالتساوي عبرها. يثبت البحث رياضياً أن الحرية هي خاصية لوظيفة النموذج (ما يفعله بالفعل)، وليس لشكلة (عدد المعاملات أو الطبقات لديه). يمكنك تغيير حجم النموذج أو البيانات التي يراها، ولكن إذا ظلت "حرية" سلوكه ثابتة، فإن قدرته على التعميم ستظل ثابتة.

سحر "أفضل من K"

إذاً، كيف نحصل على هذه الحرية؟ ينظر البحث في طريقة تسمى النمذجة الاستكشافية (XM)، حيث يولد النموذج $K$ من المرشحين ويختار الأفضل من بينهم. يستنتج المؤلف صيغة رياضية توضح بالضبط كيف تعمل هذه العملية.

تخيل أنك تبحث عن مفتاح معين في غرفة مظلمة.

• إذا بحثت مرة واحدة فقط ($K=1$)، فقد تفقد المفتاح حتى لو كان موجوداً هناك.
• إذا بحثت عشر مرات ($K=10$)، فإن فرصك في العثور على المفتاح تزداد.

يوضح البحث أن عملية "البحث عشر مرات" هذه تعمل مثل عدسة مكبرة على حرية النموذج. هي لا تخلق حرية جديدة من العدم؛ بل تكافئ النماذج التي تمتلك "ملف إذن" واسعاً. إذا كان النموذج يسمح بالعديد من المخرجات المختلفة (حرية عالية)، فإن عملية "أفضل من K" ستكون أكثر عرضة للعثور على تطابق جيد. أما إذا كان النموذج صلباً ولا يسمح إلا بمخرج واحد، فإن البحث عشر مرات لن يفيد كثيراً لأن التخمينات العشرة ستكون على الأرجح نفس الشيء الممل.

يثبت المؤلف أنه مع زيادة $K$ (عدد التخمينات)، تدفع عملية التدريب النموذج طبيعياً نحو أن يكون "أضعف" (أكثر حرية). يتوقف عن محاولة أن يكون نسخة مثالية لشيء واحد فقط ويبدأ في تعلم تغطية نطاق أوسع من الاحتمالات. وهذا صحيح بشكل خاص عندما لا تكون الأهداف (الأشياء التي يحاول النموذج تعلمها) متطابقة جميعها. إذا كانت بعض الأهداف نادرة وبعضها شائع، فإن $K$ الصغير سيجعل النموذج يركز فقط على الأشكال الشائعة. ولكن مع زيادة $K$، يُجبر النموذج على الاهتمام بالأشكال النادرة أيضاً، مما يؤدي في النهاية إلى نشر "إذنه" عبر جميع الخيارات الصالحة.

التجارب: وضع النظرية قيد الاختبار

لا يكتفي البحث بالبقاء في مجال الرياضيات؛ بل يجري تجربتين رئيسيتين لمعرفة ما إذا كان هذا سيصمد في عالم الشبكات العصبية الحقيقي.

التجربة 1: هل تجعل كثرة التخمين النموذج أكثر حرية؟
قام الباحثون بتدريب نماذج ذكاء اصطناعي بقيم مختلفة لـ $K$ (من 1 إلى 32). وقاسوا "حرية" النماذج المدربة عن طريق عدّ كم عدد المخرجات الصالحة المختلفة التي يُسمح للنماذج بإنتاجها فعلياً.

• النتيجة: عندما استخدموا $K$ أعلى، أصبحت النماذج أكثر حرية بشكل ملحوظ. على سبيل المثال، تحت الأهداف الموحدة، أدت زيادة $K$ من 1 إلى 8 إلى زيادة "متوسط لوغاريتم الحرية" بنحو 8.3. لم تصبح النماذج أفضل في التخمين فحسب؛ بل وسعت بالفعل "ملف الإذن" الخاص بها لتشمل المزيد من الاحتمالات الصالحة. وقد أكد هذا أن طريقة التدريب نجحت في تحويل ميزانية "التخمينات" إلى حرية وظيفية.

التجربة 2: هل اختيار النموذج "الأكثر حرية" يجعله أفضل؟
هنا، قام الباحثون بتدريب مجموعة من النماذج ثم توجب عليهم اختيار النموذج الأفضل لاستخدامه في موقف جديد (حيث تغيرت قواعد اللعبة قليلاً). وقارنوا بين طريقتين للاختيار:

1. التحقق من "الطفل" (Child-Validation): اختيار النموذج الذي حقق أفضل أداء على بيانات التدريب الأصلية (مهمة "الطفل").
2. اختيار الحرية (Freedom Selection): اختيار النموذج الذي سجل أعلى درجة "حرية"، حتى لو لم يكن الأفضل مطلقاً في البيانات الأصلية.

• النتيجة: فازت طريقة "اختيار الحرية" في 29 حالة من أصل 30. أدت النماذج المختارة بناءً على حريتها إلى أداء أفضل بكثير في البيانات الجديدة المتوازنة (مما أدى إلى تحسين معدل الإصابة من حوالي 0.317 إلى 0.389). وهذا يشير إلى أنه باختيار الحرية، أنت تختار نموذجاً أكثر قوة وقدرة على التكيف مع التغيير، حتى لو بدا أقل مثالية في البيانات المحددة التي تدرب عليها.

الصورة الكبيرة: الوسائل مقابل الغايات

يختتم البحث بتمييز واضح بين الأداة و الهدف.

• الاستكشاف (التخمينات $K$) هو الوسيلة. إنه الآلية، والميزانية، والطريقة التي نجبر بها النموذج على النظر حوله.
• الحرية هي الغاية. إنها الخاصية الفعلية للنموذج التي تجعله جيداً في التعميم.

يجادل المؤلف بأن "التعبير التوليدي" (فكرة أن امتلاك العديد من الأنماط هو الهدف) هو مجرد مؤشر للحرية. إنها طريقة لعد الاحتمالات، لكنها تغفل التفاصيل الدقيقة لكيفية استخدام تلك الاحتمالات. يمكن للنموذه أن يمتلك عدداً كبيراً من الأنماط ومع ذلك يظل صلباً إذا لم يستخدمها جيداً. التعميم الحقيقي يأتي من الحرية — القدرة على بقاء النموذج منفتحاً على العديد من المستقبلات المتوافقة.

في النهاية، يشير البحث إلى أن "المحور الثالث" لتدريب الذكاء الاصطناعي كان دائماً هو الحرية. الأساليب الجديدة مثل النمذجة الاستكشافية هي مجرد طريقة ذكية لتدريب النماذج لتكون أقل تقييداً، وأقل صلابة، وأكثر استعداداً لأي شيء يرميه المستقبل في طريقها. من خلال التدريب باستخدام المزيد من التخمينات، نحن لا نعلم الذكاء الاصطناعي التخمين بشكل أفضل فحسب؛ بل نعلمه كيف يكون أكثر حرية.