💻 computer science

Diffusion Mental Averages

تقدم الورقة البحثية "متوسطات التشتت الذهني" (DMA)، وهي طريقة مبتكرة تولد نماذج أولية حادة وواقعية للمفاهيم من خلال محاذاة مسارات إزالة الضجيج ضمن الفضاء الدلالي لنموذج الانتشار، مما يتغلب بذلك على ضبابية تقنيات المتوسط التقليدية القائمة على البيانات.

المؤلفون الأصليون: Phonphrm Thawatdamrongkit, Sukit Seripanitkarn, Supasorn Suwajanakorn

نُشر 2026-04-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Phonphrm Thawatdamrongkit, Sukit Seripanitkarn, Supasorn Suwajanakorn

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك فناناً سحرياً، فائق الذكاء، قد شاهد مليارات الصور للعالم. إذا طلبت منه رسم "قطة"، فقد يرسم قطة برتقالية كثيفة الشعر. وإذا سألته مرة أخرى، فقد يرسم نمرة سوداء رشيقة. وإذا سألته ألف مرة، ستحصل على ألف قطة مختلفة.

ولكن يبرز هنا السؤال الكبير: هل لدى هذا الفنان "متوسط ذهني" واحد لقطة؟ قطة مثالية، نموذجية، تمثل ما يعتقد أنه شكل "القطة النموذجية"، حتى لو لم يرسم تلك القطة تحديداً من قبل؟

تقدم هذه الورقة أداة جديدة تسمى "المتوسطات الذهنية للانتشار" (Diffusion Mental Averages - DMA) للإجابة على هذا السؤال. إنها تشبه طريقة تتيح لك التلصص داخل عقل الفنان واستخراج تلك الصورة المثالية والمتوسطة.

المشكلة: لماذا لا يمكننا مجرد "دمج" الصور؟

قد تعتقد: "الأمر سهل! فقط خذ ألف صورة لقطط، وضعها فوق بعضها البعض، ثم ادمجها معاً لتصبح ضبابية".

يقول المؤلفون إن هذا لا ينجح. وإليك السبب:

مشكلة المحاذاة: إذا وضعت 1,000 صورة لقطط فوق بعضها، ستجد قطة تنظر لليسار، وأخرى لليمين، وواحدة ذيلها للأعلى، وأخرى للأسفل. إذا دمجتها ببساطة، فلن تحصل على قطة واضحة؛ بل ستحصل على كتلة ضبابية غير مفهومة.
فخ "البكسل": تحاول الطرق التقليدية حساب متوسط ألوان البكسلات. ولكن نظرًا لأن التفاصيل (مثل الشوارب أو شكل الأذن) تقع في أماكن مختلفة قليلاً في كل صورة، فإنها تلغي بعضها البعض، مما يترك خلفه كتلة ضبابية.

الحل: "الرقصة المنسقة"

بدلاً من أخذ الصور ثم دمجها، تقوم طريقة المؤلفين (DMA) بشيء أكثر ذكاءً. فهي تتعامل مع عملية الرسم كأنها رقصة منسقة.

البدء بالفوضى: تخيل 1,000 راقص (هذه هي "اللا-عشوائية الكامنة" أو noise latents) يبدأون في غرفة ضبابية. هم لا يعرفون بعد كيف يجب أن يكون شكلهم.
**أرضية الرقص (النموذج): ** نموذج الانتشار هو "مصمم الرقصات". هو من يخبر الراقصين بالقيام بخطوات معينة، لتحويل الضباب ببطء إلى صورة واضحة.
الخدعة السحرية: عادةً، يتحرك كل راقص بشكل مستقل. ولكن مع تقنية DMA، يقوم مصمم الرقصات بإيقافهم عند كل خطوة من خطوات الرقص.
- في الخطوة 1، ينظر مصمم الرقصات إلى جميع الراقصين الـ 1,000، ويحسب الموقع المتوسط الذي يجب أن يكونوا فيه، ثم يدفع الجميع ليتوافقوا مع ذلك المتوسط.
- في الخطوة 2، يفعل ذلك مجدداً.
- في الخطوة 3، وهكذا.

من خلال دفعهم باستمرار للبقاء في انسجام مع "المتوسط الجماعي" بينما يصبحون أكثر وضوحاً، ينتهي بهم الأمر جميعاً إلى التجمع حول نفس الصورة تماماً.

النتيجة؟ صورة واحدة، حادة، وواقعية للغاية تمثل "المتوسط الذهني" للمفهوم. إنها ليست ضبابية لأن النموذج حدد الهيكل أولاً (شكل القطة) ثم ملأ التفاصيل (الفراء) بتناغم تام.

التعامل مع المفاهيم "المربكة" (الأنماط/Modes)

أحياناً، قد تحمل الكلمة معانٍ متعددة. إذا طلبت كلمة "رافعة" (Crane)، قد يفكر النموذج في طائر أو في آلة بناء. وإذا قمت بدمجهما ببساطة، ستحصل على وحش غريب نصفه طائر ونصفه آلة.

لقل حل المؤلفون هذه المشكلة باستخدام نهج "قبعة التنسيق" (Sorting Hat):

الفرز أولاً: قبل بدء الرقص، يستخدمون أداة ذكية (مثل CLIP) للنظر إلى الراقصين وقول: "مجموعتكم هناك هي طيور، ومجموعتكم هناك هي آلات".
رقصات منفصلة: ثم يقومون بتشغيل "الرقصة المنسقة" بشكل منفصل لكل من الطيور والآلات.
النتيجة: تحصل على متوسط طائر مثالي ومتوسط آلة مثالية، مما يحافظ على الأفكر المتميزة منفصلة.

لماذا يهمنا هذا؟

هذا ليس مجرد صنع صور رائعة. إنه مرآة لانحياز الذكاء الاصطناعي.

رصد الانحياز: إذا طلبت من النموذج "متوسط" كلمة "طبيب"، وكانت النتيجة دائماً رجلاً يرتدي معطفاً أبيض، فقد أثبتَّ بصرياً أن النموذج لديه انحياز جنساني. إذا طلبت "إطفائي" وحصلت على رجال فقط، فسترى ذلك الانحياز بوضوح.
فهم "الدماغ": يساعد هذا الباحثين على فهم ما "يعتقده" الذكاء الاصطناعي فعلياً بشأن مفهوم ما. على سبيل المثال، توضح الورقة أن النسخ المختلفة من الذكاء الاصطناعي (مثل "Realistic Vision" مقابل "Pixel Art") لديها "متوسطات ذهنية" مختلفة لنفس الكلمة، مما يكشف كيف شكلت بيانات التدريب شخصياتها.

باخت مختص

اعتبر "المتوسطات الذهنية للانتشار" وسيلة لأخذ حشد فوضوي من 1,000 تفسير مختلف لكلمة ما، وتوجيههم بلطف، خطوة بخطوة، حتى يتفقوا جميعاً على تعريف واحد مثالي. إنها تحول "خيال" الذكاء الاصطناعي إلى ملخص بصري ملموس يمكننا رؤيته وتحليله.

إليك ملخص تقني مفصل لورقة البحث "Diffusion Mental Averages" (متوسطات التخيل عبر الانتشار) من إعداد Thawatdamrongkit وآخرون.

1. بيان المشكلة

تعالج الورقة البحثية تحدي توليد "متوسط ذهني" (نموذج أولي) واحد، حاد، وواقعي لمفهوم ما مباشرة من نماذج الانتشار (diffusion models) سابقة التدريب والمخصصة لتحويل النص إلى صورة.

الفجوة: بينما يمكن لنماذج الانتشار توليد عدد لا يحصى من المتغيرات لمفهوم ما (مثل "كلب"، أو "إطفائي"، أو مفاهيم مجردة مثل "الحرية")، إلا أنها تفتقر إلى آلية صريحة لإخراج نموذج أولي ممثل يلتقط الإجماع الدلالي الداخلي للنموذج.
قصور الطرق الحالية:
- المتوسط في فضاء البكسل (Pixel-space averaging): يتطلب محاذاة مكانية (مثل GANgealing)، وهو أمر غير ممكن للمفاهيم المعقدة أو المجردة، ويؤدي إلى صور ضبابية بسبب متوسط التفاصيل الدقيقة.
- التقطير المرتكز على البيانات (Data-centric distillation): تهدف طرق مثل تقطير مجموعة البيانات (D4M, MGD3) إلى ضغط مجموعات البيانات للمهام اللاحقة، لكنها غالبًا ما تنتج نماذج أولية إما غير متسقة (تتفاوت بشكل كبير بين عمليات التشغيل) أو تفتقر إلى الواقعية البصرية.
- المتوسط في الفضاء الكامن (Latent-space averaging): تمتلك المشفرات التلقائية القياسية (VAEs, GANs) اختناقات صريحة تسمح بمتوسط التضمين وفك التشفير. ومع ذلك، تفتقر نماذج الانتشار إلى اختناق دلالي واحد؛ حيث تتوزع المعلومات الدلالية عبر الخطوات الزمنية والطبقات، مما يجعل المتوسط المباشر مستحيلاً بدون وجود مفسر (decoder).

2. المنهجية: متوسطات التخيل عبر الانتشار (DMA)

يقترح المؤلفون DMA، وهو نهج مرتكز على النموذج يعامل عملية حساب المتوسط كمسألة محاذاة مسار (trajectory alignment) داخل الفضاء الدلالي لنموذج الانتشار.

المفهوم الجوهري: محاذاة المسار

بدلاً من توليد عينات وحساب متوسطها لاحقاً، يقوم DMA بتحسين عدة متغيرات ضوضاء (noise latents) بشكل مشترك بحيث تتقارب مسارات إزالة الضوضاء الخاصة بها نحو إجماع دلالي مشترك.

الفضاء الدلالي (h-space): تعتمد الطريقة على h-space (طبقة الاختناق في شبكة U-Net)، والتي أظهرت الدراسات الحديثة أنها تشفر معلومات دلالية قابلة للتفسير وتقترب من الخطية.
المحاذاة التدريجية: تعمل العملية عبر خطوات الانتشار ( $t$ $t$ ):
- التهيئة: البدء بـ $K$ من المتغيرات الضوضائية ( $z^{(0)}_k$ ) المستمدة من توزيع غاوسي.
- التحسين التكراري: عند كل خطوة زمنية $t$ $t$ :
  - استخراج تنشيط h-space (الذي يرمز له بـ $H(z^{(t)}_k)$ ) لكل متغير.
  - حساب متوسط التنشيط $\bar{A}^{(t)} = \frac{1}{K}\sum H(z^{(t)}_k)$ .
  - تحسين الضوضاء: تحسين كل متغير $z^{(t)}_k$ لتقليل مسافة L2 بين التنشيط الخاص به ومتوسط التنشيط $\bar{A}^{(t)}$ . هذا يجبر جميع المسارات على المحاذاة مع الميزات الدلالية المشتركة في تلك المرحلة المحددة من إزالة الضوضاء.
  - إزالة الضوضاء: إجراء خطوة واحدة من إزالة الضوضاء باستخدام DDIM للانتقال إلى $t-1$ .
- الإنهاء: تستمر هذه المحاذاة حتى الوصول إلى خطوة التوقف $t_{stop}$ ، وبعدها تكتمل عملية التوليد عبر إزالة الضوضاء القياسية.
النتيجة: المخرج النهائي هو نموذج أولي واحد وحاد يمثل "المتوسط الذهني" للمفهوم كما هو مشفر في النموذج.

التعامل مع المفاهيم متعددة الأنماط (اكتشاف الأنماط/Modes)

بالنسبة للمفاهيم ذات الأنماط المتميزة (مثل "رافعة" كطائر مقابل آلة، أو "كلب" حسب السلالة)، فإن المتوسط الواحد قد يخلق ضبابية. تعالج DMA ذلك عبر:

التجميع (Clustering): يتم تجميع العينات في فضاء دلالي مستقر (مثل CLIP أو BLIP-VQA للسمات المرتكزة مثل العرق).
الاشتراط الخاص بالمجموعة (Cluster-Specific Conditioning): لضمان أن يعكس المتوسط بدقة دلالات المجموعة المحددة (لسد الفجوة بين فضاء التجميع و h-space الخاص بالانتشار)، يطبق المؤلفون اشتراطاً خفيف الوزن:
- قلب النص (Textual Inversion): تعلم تضمين رمز (token embedding) محدد للمجموعة.
- LoRA (التكيف منخفض الرتبة): ضبط مسار الاشتراط بدقة لالتقاط التباينات الأكثر ثراءً داخل النمط الواحد (وُجد أنه يتفوق على Textual Inversion للأنماط المعقدة).
- بعد ذلك، يتم تشغيل DMA بشكل مستقل داخل كل مجموعة.

3. المساهمات الرئيسية

أول متوسط مرتكز على النموذج: يقدم أول طريقة لتوليد متوسطات متسقة وواقعية مباشرة من نماذج الانتشار سابقة التدريب دون الحاجة للوصول إلى مجموعة البيانات الأصلية.
صياغة محاذاة المسار: يعيد صياغة مسألة حساب المتوسط كمحاذاة لمسارات إزالة الضوضاء في h-space، مما يحل مشكلة المعلومات الدلالية الموزعة عبر الخطوات الزمنية.
التعميم متعدد الأنماط: يوسع الطريقة للتعامل مع المفاهيم الغامضة عبر الجمع بين التجميع و LoRA/Textual Inversion، مما يسمح باكتشاف أنماط دلالية متميزة.
استقلالية البنية (Architecture Agnosticism): يثبت أن الطريقة قابلة للتعميم عبر مختلف متغيرات Stable Diffusion (مثل SD1.5، وRealistic Vision، وPixelArt) وبنيات مختلفة (مثل DiT).

4. النتائج التجريبية

قيم المؤلفون DMA على 12 مفهوماً عبر أربع فئات: الحيوانات، الأشخاص، الأشياء، والمفاهيم المجردة.

المقارنة المرجعية (Baselines): تمت المقارنة مع GANgealing (المحاذاة المكانية)، وAvg. VAE (متوسط الفضاء الكامن)، وD4M، وMGD3 (تقطير مجموعة البيانات).
المقاييس:
- الاتساق (Consistency): مدى تشابه النتائج عبر بذور عشوائية مختلفة؟ (DMA أكثر اتساقاً بشكل ملحوظ من D4M/MGD3).
- التمثيلية (Representativeness): مدى قرب النموذج الأولي من المركز الدلالي للتوزيع؟ (يحقق DMA أدنى درجات المسافة).
- ImageReward: مقياس تفضيل بشري للجودة والمواءمة. (يحقق DMA أعلى الدرجات).
النتائج النوعية:
- الواقعية: على عكس النماذج المرجعية التي تنتج آثاراً ضبابية أو مشوهة، ينتج DMA صوراً حادة ومنظمة (على سبيل المثال، رائد فضاء واضح بخوذة، بدلاً من شكل خوذة غامض).
- المفاهيم المجردة: نجح DMA في تصوير مفاهيم مجردة مثل "الحرية" (تمثال الحرية) أو "الفقر"، بينما فشلت النماذج المرجعية أو أنتجت نتائج غير متسقة.
- كشف التحيز: تكشف الطريقة عن تحيزات النموذج، مثل التحيز الجنسي في مفهوم "جندي" (SD1.5 يولد ذكوراً، بينما PixelArt محايد جنسياً) والتحيزات الثقافية في مفهوم "إيطاليا" (التقارب نحو قنوات البندقية).

5. الأهمية والأثر

أداة تفسيرية: يوفر DMA ملخصاً بصرياً ملموساً لما "يعتقده" نموذج الانتشار حول شكل مفهوم ما، مما يعمل كعدسة قوية لتدقيق تحيزات النماذج وفهم التمثيلات المتعلمة.
كفاءة البيانات: يوفر وسيلة لضغط معرفة مجموعة بيانات ضخمة في نموذج أولي واحد عالي الجودة، وهو أمر قد يكون مفيداً لمشاركة البيانات مع الحفاظ على الخصوصية أو للتدريب الفعال اللاحق.
التقدم المنهجي: من خلال إثبات إمكانية تحقيق المحاذاة الدلالية عبر تحسين المسار في h-space، تفتح الورقة آفاقاً جديدة للتلاعب بنماذج الانتشار وتحليلها داخلياً بما يتجاوز مجرد التوليد البسيط.

باختصار، يجسد "Diffusion Mental Averages" الجسر بين القدرة التوليدية لنماذج الانتشار والحاجة إلى نماذج أولية ممثلة وقابلة للتفسير، مقدمًا أداة قوية لكل من تحليل سلوك النماذج وتوليد ملخصات مفاهيمية عالية الجودة.