🤖 machine learning

Imaginative Generative AI: Crossing the Entropy Wall into Worlds Beyond Imitation

تقدم هذه الورقة البحثية الذكاء الاصطناً التوليدي الخيالي (IGA)، وهو إطار عمل يستخدم إنتروبيا فون نيومان لتعريف "جدار الإنتروبيا" الذي يفصل بين إصلاح التنوع والاستقراء الخيالي، مما يتيح طريقة تسمى "توجيه IGA" تعمل أثناء الاستدلال دون الحاجة لإعادة التدريب للتحكم في التنوع الطيفي للنماذج التوليدية بما يتجاوز حدود بيانات تدريبها.

المؤلفون الأصليون: Hossein Goli, Farzan Farnia, Amin Gohari

نُشر 2026-08-11

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hossein Goli, Farzan Farnia, Amin Gohari

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوتاً كيف يرسم. تعرض عليه مليون صورة لقطط، فيتعلم كيف يرسم القطط. لكن هنا تكمن المشكلة: يصبح الروبوت أقل تنوعاً؛ إذ يتعلم رسم "القط المتوسط" – ذلك القط ذو لون الفراء الأكثر شيوعاً، وشكل الأذن الأكثر معيارية، والوضعية الأكثر نمطية. يتوقف عن رسم القطط الغريبة والفريدة من نوعها، ويتوقف عن كونه مبدعاً. هذا هو جوهر مشكلة تواجه الكثير من تقنيات الذكاء الاصطناعي الحديثة؛ فهي بارعة في نسخ ما رأته، لكنها غالباً ما تجد صعوبة في ابتكار أي شيء جديد أو متنوع حقاً. إنها تقع في فخ التكرار، فتنتج مليون نسخة مختلفة قليلاً من نفس القط الممل.

يطلق العلماء على هذه الظاهرة اسم "فقدان التنوع" (Diversity Loss). ولإصلاح ذلك، يحاولون عادةً إجبار الروبوت على النظر إلى المزيد من الصور أو تعديل "دماغه" أثناء عملية التعلم. ولكن ماذا لو كان الروبوت قد انتهى من التدريب بالفعل؟ ماذا لو أردت فقط أن تقول له: "مهلاً، كن أكثر خيالاً الآن، دون الحاجة لإعادة تعليمه كل شيء من جديد"؟ هذا هو السؤال الكبير الذي تعالجه هذه الورقة البحثية. فهي تسأل: هل يمكننا توجيه الذكاء الاصطناعي ليكون أكثر إبداعاً بعد أن أنهى "واجباته المدرسية"، ودون كسر القواعد التي يعرفها؟

تأتي الإجابة من فكرة جديدة تسمى "الذكاء الاصطناعي التوليدي الخيالي" (Imaginative Generative AI - IGA). فكر في الأمر كأنه "مقبض تحكم في الإبداع" للذكاء الاصطناعي. لقد اكتشف الباحثون حاجزاً خفياً يسمونه "جدار الإنتروبيا" (Entropy Wall). تخيل أن الجدار مكون من مقدار التنوع الموجود في العالم الحقيقي تماماً. إذا كان الذكاء الاصطناعي يرسم تنوعاً أقل مما هو موجود في الواقع (أي لديه "عجز في التنوع")، فإن الجدار يخبرنا أنه يمكننا ببساطة إصلاح أخطاء الروبوت وجعله يرسم بشكل يشبه الواقع أكثر. أما إذا قمت بتدوير المقبض لتجاوز الجدار، فيحدث شيء سحري: يتوقف الذكاء الاصطناعي عن محاولة تقليد العالم الحقيقي ويبدأ في ابتكار أشياء أكثر تنوعاً من الواقع نفسه. إنه يعبر من مرحلة "التقليد" إلى مرحلة "الخيال".

تقترح الورقة طريقة للتحكم في هذا المقبض. وهي تستخدم مفهوماً رياضياً يسمى "الإنتروبيا الطيفية" (Spectral Entropy) – وهو مجرد طريقة معقدة لقياس مدى انتشار أفكار الذكاء الاصطناعي في "فضاء أفكار" خفي – لمعرفة أين يقف الذكاء الاصطناعي. إذا كان الذكاء الاصطناعي تحت الجدار، فإن الطريقة تساعده على استعادة التنوع الذي فقده أثناء التدريب. أما إذا دفعته لتجاوز الجدار، فإن الطريقة توجهه لإنشاء متغيرات جديدة، مهيكلة، ومبتكرة لم تظهر أبداً في البيانات الأصلية.

اختبر الباحثون هذا على بعض أشهر مولدات الصور، مثل Stable Diffusion XL و PixArt-Σ. لم يحتاجوا إلى إعادة تدريب هذه النماذج الضخمة، بل اكتفوا بتطبيق حيلة "التوجيه" الجديدة أثناء توليد الصور. كانت النتائج مذهلة؛ فعندما رفعوا درجة المقبض قليلاً، أصلح الذكاء الاصطناعي عاداته المملة ورسم وجوهاً وأشياء أكثر تنوعاً. وعندما رفعوه عالياً جداً، متجاوزين "جدار الإنتروبيا"، بدأ الذكاء الاصطناعي في رسم ناطحات سحاب بأصداف منحنية مستحيلة، وأزياء ذات قصات غير متماثلة غريبة، ومشاهد تحت الماء مليئة بالغواصين والمركبات التي لم تكن موجودة في صور التدريب الأصلية.

والأهم من ذلك، تُظهر الورقة أن هذا ليس مجرد ضجيج عشوائي؛ فالذكاء الاصطناعي لا يصبح فوضوياً فحسب، بل يستكشف هياكل جديدة ومتماسكة. لقد أثبت الباحثون رياضياً أن هذه العملية تعمل عبر مرحلتين متمايزتين: أولاً، تقوم بإصلاح ذاكرة الذكاء الاصطناعي لتتطابق مع الواقع، وثانياً، تتجاوز الواقع عمداً لابتكار شيء جديد. كما أظهروا أن هذا يعمل أيضاً عند تدريب نماذج جديدة من الصفر، وليس فقط لإصلاح النماذج القديمة.

إذاً، ما هي الخلاصة الكبرى؟ تشير الورقة إلى أننا لسنا مضطرين للاختيار بين "الواقعية" و"الإبداع"؛ إذ يمكننا الحصول على كليهما، ويمكننا التحكم في المفتاح. يمكننا أن نطلب من الذكاء الاصطناعي أن يكون ناسخاً مثالياً، أو يمكننا أن نطلب منه أن يكون مخترعاً. توفر هذه الورقة الخريطة الرياضية وعجلة القيادة لهذه الرحلة، وتوضح أنه مع التوجيه الصحيح، يمكن للذكاء الاصطناعي أن يعبر الخط الفاصل من مجرد نسخ العالم إلى تخيل عوالم جديدة.

ملخص تقني: الذكاء الاصطناي التوليدي الخيالي (IGA)

1. بيان المشكلة

تُصمم نماذج الذكاء الاصطناعي التوليدي الحالية في المقام الأول لغرض المحاكاة التوزيعية، حيث تهدف إلى تقليل التباين بين التوزيع المولد $Q$ وتوزيع بيانات التدريب $P_{data}$ . وبينما تعد هذه الطريقة فعالة من حيث الدقة (fidelity)، إلا أنها تفرض سقفاً على التنوع. تشير الأدلة التجريبية إلى أن المولدات الناجحة غالباً ما تظهر عجزاً في التنوع الطيفي (spectral diversity deficit)، حيث تنتج عينات ذات تنوع أقل (مقاساً بالإنتروبيا القائمة على النواة) من البيانات الأصلية. علاوة على ذلك، تفتقر الأطر القياسية إلى آلية لتوليد محتوى يتجاوز تنوع بيانات التدريب عمداً ("الخيال") مع الحفاظ على علاقة محكومة بالتوزيع المرجعي.

المشكلة الجوهرية التي يعالجها البحث هي كيفية تنظيم التوزيع المستهدف لنموذج توليدي للتحكم صراحة في التنوع الطيفي، مما يتيح انتقالاً مستمراً من إصلاح التنوع المفقود في النموذج إلى التوسع المتعمد خارج حدود تنوع البيانات.

2. المنهجية: إطار عمل IGA

يقدم البحث الذكاء الاصطناعي التوليدي الخيالي (IGA)، وهو إطار عمل يصيغ التنوع كقيد في مشكلة تصميم التوزيع المستهدف.

2.1 التنوع الطيفي وجدار الإنتروبيا

يُقاس التنوع باستخدام إنتروبيا فون نيومان (VNE) لمؤثر التغاير النواتي (kernel covariance operator) المعيّر الناتج عن التوزيع في فضاء تمثيل ثابت (مثل تضمينات CLIP أو DINO).

المقياس: $H(Q) = -\text{Tr}(\Sigma_Q \log \Sigma_Q)$ ، حيث $\Sigma_Q$ هي مصفوفة التغاير النواتي. يقابل الأس الخاص بهذه الإنتروبيا درجة فيندي (Vendi score).
جدار الإنتروبيا ( $\rho^*$ ): يُعرف بأنه الإنتروبيا الطيفية لتوزيع البيانات الحقيقية، $\rho^* = H(P_{data})$ $ρ^{*} = H (P_{d a t a})$ . يعمل هذا الجدار كحد نظري يفصل بين نظامين تشغيليين:
1. أدنى الجدار ( $\rho \le \rho^*$ ): إصلاح التنوع. الهدف هو استعادة التباين المفقود أثناء التدريب، ورفع تنوع المولد ليصل إلى مستوى البيانات دون تجاوزه.
2. أعلى الجدار ( $\rho > \rho^*$ ): التوليد الخيالي. يصبح توزيع البيانات نفسه غير ممكن تقنياً. يُجبر النموذج على الابتعاد عن $P_{data}$ لإنتاج توزيع ذي تنوع طيفي أكبر بالنسبة للتمثيل، محققاً بذلك "توسعاً خارجياً محكوماً".

2.2 صياغة التحسين

يحل IGA مشكلة تقليل التباين المقيدة:
$\min_{Q} D(Q; P_{ref}) \quad \text{subject to} \quad H(Q) \ge \rho$
حيث $P_{ref}$ هو توزيع مرجعي (إما البيانات التجريبية أو نموذج مدرب مسبقاً) و $D$ هو مقياس التباعد (مثل تباعد KL).

باستخدام الثنائية المحدبة (convex duality)، يكافئ هذا عملية هدف مُعاقب:
$\min_{Q} \left( D(Q; P_{ref}) - \lambda H(Q) \right)$
حيث يتحكم $\lambda \ge 0$ في المقايضة بين الدقة والتنوع.

2.3 التوصيف النظري

في الحالة المحددة حيث يكون $D$ هو تباعد KL ( $KL(Q \| P_\theta)$ ) و $P_\theta$ هو نموذج مدرب مسبقاً، فإن التوزيع المستهدف الأمثل $Q^*$ يحقق إمالة أسية ذاتية الاتساق:
$\frac{dQ^*}{dP_\theta}(x) \propto \exp\left( \lambda G_{Q^*}(x) \right)$
هنا، $G_{Q^*}(x)$ هي طاقة الإنتروبيا، والتي تمثل التباين الأول لدالة الإنتروبيا. وهي تقيس كيف يؤثر وضع كتلة احتمالية بالقرب من $x$ على التنوع الطيفي. ولأن المكافأة تعتمد على التوزيع المستهدف $Q^*$ نفسه، فإن العلاقة تكون ذاتية الاتساق.

2.4 توجيه IGA (منهج وقت الاستدلال)

يقترح البحث توجيه IGA، وهو طريقة لا تتطلب إعادة التدريب لتوجيه النماذج القائمة على الدرجة (score-based) والانتشار (diffusion) (بما في ذلك DDPM و DDIM) نحو هدف IGA.

الآلية: يتم تمرير الإمالة النظرية عبر عملية التنويم (noising) الأمامية لاشتقاق حقل توجيه يعتمد على الزمن $u_t(x_t) = \nabla \log h_t(x_t)$ ، حيث $h_t$ هو التوقع الشرطي للمكافأة تحت النموذج الأساسي.
التنفيذ: تستخدم التقريبات العملية (plug-in guidance) مخرجات المُنقّص (denoiser) لتقدير تدرج المكافأة. ويتم تقدير مصفوفة التغاير المطلوبة من خلال دفعة تجريبية (pilot batch) وتجميدها، مما يضمن أن العينات الناتجة هي مستقلة ومتماثلة التوزيع (i.i.d.) (على عكس طرق التنوع القائمة على التفاعل التي تربط العينات ببعضها).

2.5 التطبيق في وقت التدريب

يمتد الإطار أيضاً ليشمل تدريب النماذج التوليدية (مثل GANs) عن طريق إضافة عقوبة الإنتروبيا إلى هدف الخصومة. يتم صياغة ذلك كـ لعبة (min-max) حيث يتم إدخال خصم طيفي (مصفوفة $\Theta$ ) إلى جانب المميز (discriminator) القياسي. يمتلك الخصم الطيفي استجابة مثلى ذات صيغة مغلقة، مما يجعل التدريب فعالاً من الناحية الحسابية.

3. المساهمات الرئيسية

إطار عمل IGA: صياغة على مستوى التوزيع تدمج الإنتروبيا الطيفية كمكون تنوع صريح وقابل للتحكم، مما يحدد مسار تنظيم واحد من المحاكاة إلى الخيال.
جدار الإنتروبيا: تعريف رسمي للإنتروبيا الطيفية لتوزيع البيانات كحد فاصل. عبور هذا الجدار ينقل النموذج من إصلاح التنوع إلى التوسع الطيفي المتعمد.
الإمالة الأسية ذاتية الاتساق: توصيف نظري للتوزيع المستهدف الأمثل تحت تثبيت KL، مما يظهر أنه إعادة وزن للنموذج الأساسي بناءً على حد طاقة الإنتروبيا.
توجيه IGA: خوارزمية عملية في وقت الاستدلال لتوجيه نماذج الدرجة والانتشار دون الحاجة لإعادة التدريب، قادرة على إنتاج عينات i.i.d. بمستويات تنوع محددة.
إعادة صياغة Min-Max: صياغة طيفية لـ min-max للمشكلة التحسينية، مما يسمح بدمج مكافأة الإنتروبيا في التدريب الخصومي عبر خصم طيفي.

4. النتائج التجريبية

قام المؤلفون بتقييم IGA على بيانات اصطناعية، ومعايير صور حقيقية (CelebA-HQ, ImageNet)، ونماذج تحويل النص إلى صورة واسعة النطاق (Stable Diffusion XL, PixArt-Σ).

تأكيد عجز التنوع: أكدت التجارب أن النماذج المدربة مسبقاً (مثل DDPM, SDXL) تعمل غالباً تحت جدار الإنتروبيا التجريبي، حيث تظهر تنوعاً طيفياً أقل من البيانات الحقيقية.
الإصلاح أدنى الجدار: يؤدي زيادة $\lambda$ في البداية إلى تقليل عجز التنوع. في هذا النظام، تظهر النماذج الموجهة توافقاً توزيعياً أفضل مع البيانات (FID/KD أقل) وارتفاعاً في الاستدعاء (recall)، مما "يصلح" المولد بفعالية.
التوسع أعلى الجدار: مع زيادة $\lambda$ $λ$ أكثر، تعبر النماذج جدار الإنتربيا.
- نوعياً: تظهر الصور المولدة تنوعات هيكلية وتكوينية جديدة (مثل أشكال معمارية أكثر تنوعاً، تصاميم أزياء غير معتادة، مشاهد تحت الماء موسعة) مع الحفاظ على دلالات المطالبة (prompt) الأساسية.
- كمياً: بينما قد تزدัง المسافات التوزيعية (FID) مع ابتعاد النموذج عن المنوال (manifold)، يستمر التنوع الطيفي (درجة فيندي) في الارتفاع، ويزداد تغطية اتجاهات الميزات النادرة.
المحكوم مقابل المتماثل (Isotropic): على عكس حقن الضجيج البسيط أو التلافيف الغاوسية التي توسع الأنماط بشكل متماثل، يقوم IGA بملء المناطق غير الممثلة بشكل انتقائي ويخلق تنوعات مهيكلة.
نتائج وقت التدريب: في نماذج MNIST GANs، قلل تنظيم IGA من عدم التوازن بين الفئات وحسن المسافات في فضاء الميزات، مما أثبت قابلية تطبيق الإطار على أهداف التدريب.

5. الأهمية والادعاءات

يزعم البحث أن IGA يوفر إطار تنظيم عام يعرّف رياضياً ويتحكم في الانتقال من المحاكاة إلى الخيال.

التعريف التشغيلي للخيال: يعرّف المؤلفون "الخيال" ليس كمفهوم إبداعي غامض، بل كخاصية مرتبطة بالتمثيل: توليد توزيع يتجاوز تنوعه الطيفي تنوع البيانات في فضاء تضمين محدد.
تنوع i.i.d.: على عكس الطرق التي تسبب التنوع من خلال تفاعلات الدفعة (batch) المقترنة (والتي تنتج مخرجات غير مستقلة)، يحدد IGA توزيعاً مستهدفاً يسمح بتوليد عينات مستقلة ومتماثلة التوزيع.
التحكم المنهجي: يوفر الإطار طريقة مبدئية للتنقل في المقايضة بين الدقة والتنوع، مما يسمح للممارسين باختيار نقطة محددة على مسار التنظيم (من إصلاح نموذج إلى استكشاف تنوعات جديدة) بناءً على التطبيق المطلوب.
التواضع: يقر المؤلفون بأن تعريف الخيال يعتمد على التمثيل المختار (embedding) والتوزيع المرجعي. هم لا يدعون أن عبور الجدار يضمن محتوى "إبداعياً" بالمعنى البشري، بل يضمن خاصية إحصائية محددة (تنوع طيفي أعلى) بالنسبة للبيانات.