📈 economics

The Dynamics of Intelligence Explosions

تحلل هذه الورقة رياضياً ديناميكيات الانفجارات الاستخباراتية المدفوعة بالذكاء الاصطناعي، مبرهنةً على أن النمو التفردي أصعب في التحقيق مما كان يُعتقد سابقاً، ومسلطةً الضوء على زمن التوليد كعامل حاسم، وغالباً ما يتم إهماله، يحدد ما إذا كانت حلقات التغذية الراجعة ستؤدي إلى خط تقارب رأسي أو نمو أسرع من الأسي ولكنه محدود.

المؤلفون الأصليون: Toby Ord

نُشر 2026-08-17

📖 7 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Toby Ord

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تشاهد سباق سيارات، حيث تصبح السيارات أفضل في بناء نفسها. في عالم الذكاء الاصطناعي، هناك فكرة رائعة تسمى "انفجار الذكاء". وهي مفهوم مفاده أنه إذا أصبح الكمبيوتر ذكيًا بما يكفي للمساعدة في تصميم الكمبيوتر التالي، الذي سيكون أكثر ذكاءً، فإن هذا الكمبيوتر الجديد يمكنه المساعدة في تصميم كمبيوتر أفضل منه، وهكذا. هذا يخلق حلقة تغذية راجعة، مثل ميكروفون يقترب كثيرًا من مكبر صوت فينتج عنه صوت صفير مزعج، ولكن بدلًا من الضوضاء، يحدث انفجار سريع للذكاء. لقد حاول العلماء معرفة مدى سرعة حدوث ذلك بالضبط. هل سيكون صعودًا ثابتًا، أم ركضًا سريعًا، أم قفزة مفاجئة مستحيلة نحو اللانهاية في طرفة عين؟ هذا هو السؤال الذي يتناوله عالم الرياضيات توبي أورد في ورقتة البحثية. إنه ينظر إلى الرياضيات وراء هذه الآلات ذاتية التحسين ليرى ما إذا كان بإمكانها حقًا الوصول إلى "التفرد" (Singularity)—وهي نقطة ينمو فيها الذكاء بسرعة كبيرة لدرجة أنه يصطدم بجدار رأسي في وقت محدد، أو ما إذا كانت هناك طرق أخرى، أبطأ قليلاً، ولكنها لا تزال سريعة للغاية، لكيفية حدوث هذا الانفجار.

السباق نحو اللانهاية: لماذا قد يكون "القفز" أصعب مما نعتقد

تخيل أنك تخبز كعكة، ولكن بدلًا من استخدام مؤقت، لديك فرن سحري. في كل مرة تخبز فيها كعكة، يصبح الفرن أكثر ذكاءً ويبني فرنًا أفضل للجولة التالية. الفرن الأول يستغرق 10 دقائق. الثاني، لكونه أكثر ذكاءً، يبني ثالثًا في 5 دقائق. الثالث يبني رابعًا في 2.5 دقيقة. إذا استمر هذا الأمر، واستمر الوقت المستغرق لبناء الفرن التالي في التقلص إلى النصف، فقد تعتقد أن بإمكانك خبز عدد لا نهائي من الكعكات في بضع ساعات فقط. هذا هو حلم "انفجار الذكاء": آلة تستمر في جعل نفسها أكثر ذكاءً، بشكل أسرع وأسرع، حتى تتجاوز كل الفهم البشري في لمح البصر.

لفترة طويلة، اعتقد العديد من الخبراء أن هذا الانفجار سيبدو مثل "المقارب الرأسي" (Vertical Asymptote). في المصطلحات الرياضية، تخيل رسمًا بيانيًا حيث يصعد الخط مباشرة إلى الأعلى، مثل صاروخ يصطدم بالسماء، ليصل إلى ارتفاع لانهائي في وقت محدد. إنه "الانفجار" الأعظم. لكن ورقة توبي أورد تقترح أنه بينما يكون هذا الصاروخ الرأسي ممكنًا، إلا أنه في الواقع أصعب بكثير في البناء مما اعتقدنا. في الواقع، هناك فئة كاملة أخرى من الانفجارات التي هي سريعة للغاية—أسرع من النمو الأسي—لكنها لا تصعد مباشرة إلى اللانهاية. إنها فقط تنطلق بسرعة هائلة دون أن تصطدم أبدًا بذلك الجدار الرأسي.

المكون السري: "زمن الجيل"

لفهم سبب صعوبة بناء الصاروخ الرأسي، نحتاج إلى النظر في متغير خفي ينساه معظم الناس: زمن الجيل (Generation Time).

فكر في حلقة التغذية الراجعة مثل سباق تتابع. العداء الأول (الذكاء الاصطناعي 1) يسلم العصا للعداء الثاني (الذكاء الاصطناعي 2)، الذي يسلمها للثالث (الذكاء الاصطناعي 3). "زمن الجيل" هو المدة التي يستغرقها كل عداء لإنهاء مرحلته وتجهيز الراكض التالي.

في النماذج الرياضية القديمة والبسيطة، افترض الناس أن هذا التتابع يحدث فورًا، أو على الأقل بسرعة ثابتة. ظنوا أنه إذا أصبح العداؤون أسرع فأسرع (أكثر "ذكاءً")، فإن السباق سيتسارع ببساء نحو اللانهاية. لكن أورد يشير إلى خلل جوههري: لا يمكنك ركض عدد لا نهائي من الدورات في وقت محدد ما لم يتقلص الوقت المستغرق في كل دورة إلى الصفر.

تخيل أنك تركض سباقًا حيث يتعين عليك إكمال عدد لا نهائي من الدورات.

السيناريو أ: تركض كل دورة في 10 ثوانٍ، ثم 9، ثم 8. أنت تصبح أسرع، لكنك لا تزال تقضي 10 ثوانٍ، ثم 9 ثوانٍ. مهما بلغت سرعتك، لن تنهي أبدًا عددًا لا نهائيًا من الدورات في 10 دقائق فقط. ستنفد منك الدقائق فحسب.
السيناريو ب: تركض الدورة الأولى في 10 ثوانٍ، والثانية في 5، والثالثة في 2.5، والرابعة في 1.25. هنا، الوقت المستغرق لكل دورة يتقلص بسرعة. إذا استمررت في قطع الوقت إلى النصف، يمكنك بالفعل إنهاء عدد لا نهائي من الدورات في وقت محدد (مثل 20 ثانية إجمالية).

توضح ورقة أورد أنه لكي يحقق انفجار الذكاء ذلك "المقارب الرأسي" (التفرد)، يجب أن يتقلص زمن الجيل (الوقت اللازم لبناء الذكاء الاصطناي التالي) نحو الصفر بسرعة هائلة. لا يكفي أن يصبح الذكاء الاصطناعي أكثر ذكاءً فحسب؛ بل يجب أن تصبح عملية صنع الذكاء الاصطناعي التالي سريعة بشكل مستحيل.

انفجار "المنطقة الوسطى"

إليك المفاجأة: تشير الورقة إلى أنه بينما يكون "المقارب الرأسي" ممكنًا، إلا أنه في الواقع نادر الحدوث. هناك منطقة وسطى شاسعة تم تجاهلها.

تخيل منحنى نمو فائق الأسية (Super-exponential). هذا يعني أنه ينمو بشكل أسرع من المنحنى الأسي القياسي (مثل الفائدة المركبة). إنه يصعد في الرسم البياني بسرعة! ولكن، لأن زمن الجيل لا يتقلص بسرعة كافية ليصل إلى الصفر، فإن الخط لا يصبح رأسيًا أبدًا. إنه يستمر في الصعود، أسرع فأسرع، للأبد، لكنه لا يصطدم أبدًا بجدار "اللانهاية في وقت محدد".

يسمي أورد هذا "النمو تحت-التفردي" (Sub-singular growth). إنه لا يزال سريعًا بشكل مرعب. لا يزال انفجارًا. لكنه ليس "القفزة الرأسية السحرية" التي تتوقعها بعض النماذج. إنه أشبه بصاروخ يتسارع بقوة تجعلك تشعر وكأنه سيحطم الكون، لكنه لا يصل أبدًا إلى تلك الهاوية الرأسية المستحيلة.

لماذا تهم الرياضيات (ولماذا هي معقدة)

تستخدم الورقة بعض الرياضيات المتقدمة لإثبات ذلك، لكن الفكرة الأساسية بسيطة: لا يمكنك تجاوز قيود الوقت.

في النماذج القديمة، استخدم الناس معادلات تفترض أن الذكاء الاصطناعي يمكنه تحسين سرعته ذاتيًا بشكل فوري. لكن في العالم الحقيقي، بناء ذكاء اصطناعي جديد يستغرق وقتًا. يجب عليك تصميمه، وتدريبه، واختباره. حتى لو كان الذكاء الاصطناعي عبقريًا، فلا يزال يستغرق وقتًا لكتابة الكود أو إجراء التجارب.

يوضح أورد أنه إذا أخذت هذا "الوقت" على محمل الجد (باستخدام ما يسميه "معادلات الفرق المدمجة زمنيًا")، فإن شروط التفرد تصبح صارمة للغاية. أنت بحاجة إلى حدوث شيئين في نفس الوقت:

يجب أن يستمر الذكاء الاصطناعي في التحسن والارتقاء دون توقف (نمو غير محدود).
يجب أن يتقلص الوقت اللازم لصنع النسخة التالية نحو الصفر بسرعة كبيرة جدًا (شرط زينو - Zeno condition).

إذا وصل الوقت اللازم لصنع الذكاء الاصطناعي التالي إلى حد أدنى—على سبيل المثال، يستغرق تدريب نموذج جديد ساعة واحدة على الأقل بغض النظر عن مدى ذكاء الذكاء الاصطناعي—فإن الانفجار الرأسي يصبح مستحيلاً. سيصبح النمو مجرد منحنى أسي شديد الانحدار وسريع جدًا، لكنه لن يصبح "تفردًا".

فخ القياس

تحذر الورقة أيضًا من كيفية قياسنا لـ "الذكاء". تخيل أنك تقيس مدى براعة لاعب شطرنج.

القياس أ: عدد المباريات التي يفوز بها متتاليًا.
القياس ب: عدد الثواني التي يستغرقها لاتخاذ حركة.

إذا أصبح الذكاء الاصطناعي جيدًا لدرجة أنه لا يرتكب أي خطأ، فقد يصل القياس (أ) إلى اللانهاية (انتصارات لا نهائية). لكن القياس (ب) قد يصل إلى حد معين (لا يمكنه التحرك أسرع من الضوء). تجادل الورقة بأن بعض الطرق الشائعة لقياس تقدم الذكاء الاصطناعي قد تبدو وكأنها تصل إلى "تفرد" (تذهب إلى اللانهاية) لمجرد طريقة قياسنا لها، وليس لأن الذكاء الاصطناعي أصبح ذكيًا بشكل لانهائي بالفعل. إنه يشبه "التفرد الإحداثي" في الفيزياء: خلل في الخريطة، وليس جرفًا حقيقيًا في التضاريس.

الخلاصة

إذن، ماذا يعني كل هذا للمستقبل؟

توبي أورد لا يقول إن الانفجار لن يحدث. هو يقول إن "المقارب الرأسي" (القفزة اللحظية إلى ذكاء لانهائي) أصعب بكثير في التحقيق مما اقترحته النماذج الرياضية البسيطة. فهي تتطلب ألا يصبح الذكاء الاصطناعي أكثر ذكاءً فحسب، بل أن يجعل عملية أن يصبح أكثر ذكاءً سريعة بشكل مستحيل، بحيث يتقلص الوقت بين الأجيال نحو الصفر.

بدلًا من ذلك، من المرجح أن نشهد انفجارًا "فائق الأسية". لا تزال هذه فترة من التغيير السريع للغاية حيث تتضاعف قدرات الذكاء الاصطناعي وتتضاعف ثلاث مرات في السرعة، مما قد يتجاوز قدرتنا على التحكم فيها. إنه انفجار في "المسار السريع" بدلاً من "القفزة الرأسية".

تشير الورقة إلى أنه إذا أردنا فهم مستقبل الذكاء الاصطناعي، فلا ينبغي لنا فقط مراقبة مدى ذكاء الذكاء الاصطناعي. نحن بحاجة إلى مراقبة زمن الجيل. كم من الوقت يستغرق بناء النسخة التالية؟ إذا توقف ذلك الوقت عن التقلص، يتوقف الانفجار الرأسي. وإذا استمر في التقلص، فقد نكون مقبلين على رحلة أكثر جموحًا مما تصورنا.

باختصار: الانفجار حقيقي، لكن "الهاوية الرأسية" قد تكون مجرد سراب. الخطر الحقيقي يكمكمن في سرعة تكون سريعة جدًا لدرجة أنها تبدو كهاوية، حتى لو كانت تقنيًا مجرد منحدر شديد الانحدار. ومع ذلك، فإن هذا كافٍ لتغيير العالم إلى الأبد.

ملخص تقني: ديناميكيات انفجارات الذكاء

بيان المشكلة
تتناول الورقة الديناميكيات الرياضية لأتمتة البحث والتطوير في مجال الذكاء الاصطناوي (AIRDA)، وهي حلقة تغذية راجعة حيث تقوم أنظمة الذكاء الاصطناعي بالمساعدة في تصميم وبناء أنظمة ذكاء اصطناعي لاحقة أكثر قدرة. وبينما يشير مفهوم "انفجار الذكاء" (الذي صاغه آي. جي. جود) إلى أن مثل هذه التغذية الراجعة يمكن أن تؤدي إلى نمو سريع، وربما غير محدود في القدرات، فإن النماذج الاقتصادية القائمة غالباً ما تخلط بين أنواع مختلفة من النمو الانفجاري. وتحديداً، تفترض النماذج القياسية بشكل متكرر أن أي نمو فائق الأسي يؤدي بالضرورة إلى "تفرد في زمن محدد" (نقطة تباعد رأسية حيث تصل القدرة $A$ إلى اللانهاية في زمن $t^*$ محدد). وتجادل المؤلفة بأن هذا الافتراض يتجاهل القيود الفيزيائية الحرجة، ولا سيما الطبيعة المنفصلة لحلقات التغذية الراجعة والوقت المطلوب لإكمالها (زمن الجيل)، مما يؤدي إلى المبالغة في تقدير احتمالية حدوث نمو تفردي.

المنهجية
تستخدم الورقة النمذجة الرياضية لتحليل ديناميكيات (AIRDA)، متدرجة عبر ثلاثة أطر نمذجة متميزة:

المعادلات التفاضلية: راجعت المؤلفة أولاً النماذج المستمرة القياسية من الشكل $\dot{A} = f(A)$ . وحللت الشروط التي تظهر فيها $A(t)$ نمواً فائق الأسي مقابل النمو التفردي (الانفجار في زمن محدد). ويفرق التحليل بين "شرط الانفجار" (تقارب تكامل مقلوب $f(A)$ ) وبين مجرد الخطية الفائقة.
المعادلات الفرقية: إدراكاً منها بأن البحث والتطوير في الذكاء الاصطناوي يحدث في خطوات منفصلة وليس في تدفقات مستمرة، تنتقل الورقة إلى المعادلات الفرقية ( $\Delta A_n = f(A_n)$ ). وتوضح أنه في الزمن المنفصل الصرف، يستحيل رياضياً تحقيق النمو التفردي بغض النظر عن معدل نمو $f(A)$ ، حيث لا يمكن لعدد محدد من الخطوات أن يصل إلى اللانهاية.
المعادلات الفرقية المدمجة زمنياً: لسد الفجوة بين الخطوات المنفصلة والزمن المستمر، تقدم المؤلفة نموذجاً حيث يكون "زمن الجيل" ( $T_n$ )، أو مدة حلقة التغذية الراجعة رقم $n$ ، متغيراً يمكن أن يتقلص بمرور الوقت. يسمح هذا الإطار بتحليل كيفية تفاعل معدل إكمال الحلقات مع حجم مكاسب القدرة.

المساهمات والنتائج الرئيسية

الفصل بين النمو فائق الأسي والنمو التفردي:
تثبت الورقة أن النمو فائق الأسي (النمو الأسرع من أي دالة أسية) لا يعني بالضرورة وجود تفرد في زمن محدد.
- في النماذج المستمرة ( $\dot{A} = f(A)$ )، فإن الدوال مثل $f(A) = A \log(A)$ تنتج نمواً أسياً مزدوجاً ولكنها تفشل في تحقيق "شرط الانفجار"، مما يعني أن $A(t)$ لا تصل أبداً إلى اللانهاية في زمن محدد.
- في النماذج المنفصلة، يكون النمو التفردي مستحيلاً ما لم يتقلص زمن الجيل ( $T_n$ ) بسرعة كافية.
الدور الحاسم لزمن الجيل:
النتيجة المركزية هي أن النمو التفردي في حلقة تغذية راجعة واقعية ومنفصلة يتطلب أن يقترب زمن الجيل ( $T_n$ ) من الصفر بسرعة كافية لاستيفاء "شرط زينو" (أن يكون مجموع جميع أزمنة الأجيال متقارباً بحيث يسمح بحلقات لانهائية في زمن محدد).
- مبرهنة التفرد: بالنسبة لمعادلة فرقية مدمجة زمنياً، يكون لـ $A(t)$ $A (t)$ تفرد إذا وفقط إذا تحقق:
  1. استوفى زمن الجيل $T_n$ شرط زينو (تقارب بسرعة بما يكفي للسماح بحلقات لانهائية في زمن محدد).
  2. استوفت القدرة $A_n$ شرط عدم المحدودية (النمو بلا حدود).
- تجادل الورقة بأن تحقيق شرط زينو أمر صعب فيزيائياً. فإذا وصلت أزمنة الأجيال إلى حد أدنى (على سبيل المثال، بسبب القيود الفيزيائية لتصميم الرقائق أو وقت التدريب)، يصبح النمو التفردي مستحيلاً، حتى لو كانت مكاسب القدرة هائلة.
إعادة تقييم السيناريوهات "الانفجارية":
يشير التحليل إلى أن النتيجة الأكثر احتمالاً لـ (AIRDA) هي النمو فائق الأسي ولكن دون مستوى التفرد. إذا تقلصت أزمنة الأجيال ولكنها اصطدمت بحد أدنى (على سبيل المثال، عند التشبع بسرعات الآلة)، فقد ينتقل النظام من مرحلة فائقة الأسية إلى مرحلة أسية عالية المعدل، وأخيراً إلى تشبع لوجستي، بدلاً من الوصول إلى مباعدة رأسية.
الاعتماد على المقياس:
تحلل الورقة كيف يؤثر اختيار مقياس القدرة ( $A$ ) على ملاحظة حالات التفرد.
- بالنسبة للمقاييس "المتشابهة" (حيث يذهب أحدها إلى اللانهاية إذا وفقط إذا ذهب الآخر)، يظل عتبة النمو التفردي ثابتاً.
- ومع ذلك، بالنسبة للمقاييس "غير المتشابهة" (مثل متوسط الوقت بين الإخفاقات مقابل الذكاء العام)، فإن التفرد في أحد المقاييس (مثل اللانهاية في الموثوقية لمهمة ضيقة) لا يعني بالضرورة تفرداً في المقياس الآخر. وتحذر الورقة من أن مقاييس مثل "الأفق الزمني" قد تتباعد نحو اللانهاية دون أن تمثل انفجاراً حقيقياً في الذكاء العام.

الأهمية والادعاءات
تدعي الورقة أنها تعمل على تنقيح الفهم النظري لانفجارات الذكاء من خلال تصحيح الخلط في الأدبيات السابقة بين النمو فائق الأسي والنمو التفردي.

تواضع الادعاءات: تصرح المؤلفة صراحة بأن حالات التفرد الرياضي التي تمت مناقشتها هي على الأرجح حدود مثالية لن تصل إليها العمليات الفيزيائية في العالم الحقيقي بسبب الحدود العليا للذكاء أو الموارد أو زمن الجيل. الهدف ليس إثبات أن انفجار الذكاء سيحدث، بل توضيح الشروط المطلوبة لأكثر أشكال النمو تطرفاً.
الآثار السياساتية والقياسية: تجادل الورقة بأنه نظراً لأن النمو التفردي أصعب في التحقيق مما كان يُعتقد سابقاً (يتطلب اقتراب أزمنة الأجيال من الصفر)، فإن ملاحظة معدلات نمو فائقة الأسية (مثل زيادة نسب النمو الشهرية) ليست دليلاً كافياً على قرب حدوث تفرد.
التركيز على زمن الجيل: تخلص الورقة إلى أن تتبع "زمن الجيل" هو أمر أكثر أهمية للتنبؤ بالديناميكيات الانفجارية من تتبع مقدار مكاسب القدرة في كل دورة. وتقترح الورقة أنه إذا لم يكن من الممكن تقليص أزمنة الأجيال بشكل تعسفي، فإن "الانفجار" سيظهر على الأرجح كنمو متسارع سريع يليه استقرار (ثبات)، بدلاً من مباعدة رأسية.

في نهاية المطاف، تفترض الورقة أنه بينما يفرض (AIRDA) مخاطر كبيرة من خلال تسريع التقدم، فإن الديناميكية المحددة لـ "التفرد" (قدرة لانهائية في زمن محدد) هي إمكانية رياضية هشة تعتمد على شروط (تلاشي زمن الجيل) قد تكون غير قابلة للتحقيق فيزيائياً.