OccluRank: Controllable Occlusion-Aware Layout-to-Image Generation by Adding Just an Ordinal Rank
يُعد OccluRank إطار عمل بسيطاً وقابلاً للتحكم لتوليد الصور من التخطيطات، حيث يحقق تركيباً دقيقاً واعياً بالاحتجاب عبر تعزيز المربعات المحيطة برتبة ترتيبية واحدة واستخدام وحدة تفاعل مثيل مدركة للترتيب، مما يلغي الحاجة إلى شروط هندسية معقدة أو إجراءات استدلال متخصصة.
المؤلفون الأصليون:Wenyang Hong, Yuan Wang, Yanbin Hao, Lanqing Xue, Ke Wang, Xiang Wang, Kuien Liu, Richang Hong
في عالم الرؤية الحاسوبية، لطالما علّم الباحثون الآلات كيفية توليد الصور من الأوصاف النصية. ومؤخراً، طوروا طريقة لإعطاء هذه الآلات تعليمات دقيقة حول مكان ظهور الأشياء في الصورة. فمن خلال رسم مربع بسيط حول منطقة محددة وتسميتها، يمكن للمستخدم إخبار الكمبيوتر بوضع قطة هناك، أو سيارة هناك، أو شجرة هناك. هذه العملية، المعروفة باسم "توليد الصور من التخطيط" (layout-to-image generation)، أصبحت أداة قوية للمصممين والمبدعين الذين يحتاجون إلى ترتيب المشاهد بتحكم دقيق. ومع ذلك، لا تزال هناك نقطة عمياء كبيرة في هذه التكنولوجيا؛ فبينما يمكن للمربع أن يخبر الكمبيوتر بمكان وجود الشيء، فإنه لا يستطيع إخبار الكمبيوتر أي الأشياء يقع أمام الآخر. في العالم الحقيقي، غالباً ما تتداخل الأشياء؛ فقد يقف شخص أمام مقعد، أو قد يوضع كوب فوق طاولة، مما يخفي جزءاً من السطح تحته. وتكافح نماذج الكمبيوتر الحالية مع هذا العمق، حيث غالباً ما تدمج الأشياء المتداخلة في كتلة واحدة مشوشة، أو تضعها في الترتيب الخاطئ، مما يجعل المشهد يبدو مستحيلاً من الناحية الفيزيائية.
قدم فريق من الباحثين الآن طريقة جديدة تسمى "أوكلو رانك" (OccluRank) لحل هذه المشكلة المحددة المتعلقة بالتداخل البصري. نهجهم بسيط بشكل مدهش، حيث يضيف معلومة واحدة فقط إلى التعليمات القياسية: رقم الترتيب. فبدلاً من الاعتماد على نماذج ثلاثية الأبعاد معقدة، أو خرائط عمق، أو طبقات متعددة من البيانات الهندسية، يطلب النظام من المستخدم تعيين رقم بسيط لكل كائن، يشير إلى ما إذا كان يجب أن يظهر في المقدمة أم في الخلفية. الرقم الأقل يعني أن الكائن أقرب إلى المشاهد، بينما الرقم الأعلى يعني أنه أبعد. وقد بنى الباحثون إطار عمل يستخدم هذا الترتيب الواحد لتوجيه عملية اتخاذ القرار في الكمبيوتر. وقبل أن يقوم الكمبيوتر بدمج الأجزاء المختلفة للصورة، فإنه يستخدم وحدة خاصة للسماح للأشياء بـ "التحدث" مع بعضها البعض. فإذا كان من المفترض أن يتداخل دراجة نارية ورف كتب، فإن النظام يتحقق من أرقامهما المخصصة ويضمن معالجة ميزات الدراجة النارية كما لو كانت تجلس فوق رف الكتب، مما يؤدي فعلياً إلى إخفاء الجزء من رف الكتب الذي ينبغي أن يكون خلفها.
لاختبار ما إذا كانت هذه الطريقة تعمل بالفعل، أنشأ الفريق مجموعة بيانات جديدة تسمى "أوكلو لاي أوت" (OccluLayout). لقد بنوا آلاف المشاهد باستخدام برامج الرسومات الحاسوبية ثلاثية الأبعاد، مرتبين الأثاث والحيوانات والمركبات في تكوينات مختلفة متداخلة. ولأنهم بنوا هذه المشاهد من الصفر، فقد عرفوا الترتيب الدقيق لظهور كل كائن. ثم استخدموا الذكاء الاصطناعي لتعديل الخلفيات وإضافة أوصاف تفصيلية للأشياء، مما خلق مكتبة ضخمة من بيانات التدريب حيث كانت الإجابة الصحيحة معروفة بيقين. سمح لهم هذا بتدريب نموذجهم دون تخمين أو الاعتماد على تقديرات غير دقيقة للعمق. كما طوروا نظام اختبار جديداً، "أوكلو لاي أوت بنش" (OccluLayout-Bench)، والذي يستخدم نماذج لغوية متقدمة لتقييم النتائج. فبدلاً من النظر فقط إلى جودة الصورة الإجمالية، تتحقق هذه المقيمات من تفاصيل محددة: هل رسم الكمبيوتر جميع الأشياء المطلوبة؟ هل بقيت داخل مربعاتها؟ هل حافظت على ألوانها وأنسجتها؟ والأهم من ذلك، هل ظهرت الأشياء المتداخلة في الترتيب الصحيح من الأمام إلى الخلف؟
تظهر النتائج أن نظام الترتيب البسيط هذا فعال للغاية. فعند مقارنته بالطرق الأخرى التي تحاول حل نفس المشكلة، أنتج النهج الجديد باستمرار صوراً كانت فيها الأشياء أكثر وضوحاً وكانت علاقات التداخل فيها صحيحة. وفي الاختبارات التي تضمنت مشاهد معقدة بها عناصر متعددة، نجح النموذج في الحفاظ على رؤية الأشياء التي ينبغي أن تكون في المقدمة مع حجب أجزاء الأشياء التي ينبغي أن تكون خلفها بشكل صحيح. وقد تمكن من القيام بذلك دون الحاجة إلى مدخلات إضافية مثل الإحداثيات ثلاثية الأبعاد أو زوايا الكاميرا، معتمداً فقط على قائمة الأرقام البسيطة للمستخدم. لم تكن الصور المولدة دقيقة هيكلياً فيما يتعلق بترتيب الأشياء فحسب، بل حافظت أيضاً على جودة بصرية عالية، حيث بدت الأشياء طبيعية وظلت سماتها ثابتة.
وجد الباحثون أن مفتاح نجاحهم يكمكم في الطريقة التي يتعامل بها النظام مع التفاعل بين الأشياء قبل دمجها في صورة نهائية. فمن خلال السماح للأشياء بتبادل المعلومات بناءً على رتبها المخصصة، تعلم النموذج كيفية حل النزاعات في مناطق التداخل. فإذا قيل للنظام إن حماراً وحشياً يقع أمام ثلاجة، فإنه يعدل ميزات الحمار الوحشي لتغطية الثلاجة، بدلاً من دمج الاثنين معاً. وقد ظل هذا القدرة قائمة حتى عندما اختبر الباحثون النموذج على أشياء لم يسبق له رؤيتها أثناء التدريب، مما يشير إلى أن الطريقة تعلمت قاعدة عامة حول كيفية التعامل مع العمق بدلاً من مجرد حفظ صور محددة. وتوضح الدراسة أنه من خلال إضافة طبقة واحدة بديهية من التعليمات، يمكن توجيه الحواسيب لإنشاء مشاهد معقدة ومتعددة الطبقات تحترم الواقع الفيزيائي لكيفية إشغال الأشياء للمساحة.
ملخص تقني: OccluRank
بيان المشكلة
تتيح عملية توليد الصور من التخطيط (Layout-to-image generation) تحكماً صريحاً في المكان والسمات على مستوى الكائنات من خلال تخطيطات صناديق الإحاطة (bounding-box layouts). ومع ذلك، فإن صناديق الإحاطة القياسية تحدد فقط الامتداد المكاني للكائنات وتفشل في تمثيل ترتيب الاحتجاب (أي أي كائن يظهر أمام الآخر). يؤدي هذا القصور إلى علاقات احتجاب غير صحيحة، أو دمج الكائنات، أو ارتباك في السمات في المشاهد المزدحمة، والتفاعلات بين الإنسان والأشياء، والتكوينات الطبقية.
تواجه الأساليب الحالية لمعالجة هذه المشكلة تحديين رئيسيين:
التفاعل بين الكائنات المعتمد على الاحتجاب: غالباً ما تعزل الطرق الحالية سمات الكائنات أو تستخدم تجميعاً بوابياً (مثل IFAdapter) يعيد وزن الميزات المنشأة بشكل مستقل دون نمذجة التفاعلات صراحةً بناءً على ترتيب الرؤية. يمكن أن يؤدي هذا إلى طبقات غامضة أو خلط في الميزات.
تحديد الترتيب ببساطة وقابلية للتحكم: تعتمد الأساليب التي تدرج الترتب غالباً على مدخلات هندسية معقدة (مثل صناديق الإحاطة ثلاثية الأبعاد، أو معلمات الكاميرا، أو الأقنعة) أو إجراءات استدلال متخصصة ومكلفة حاسوبياً (مثل التحسين الكامن التكراري، أو إزالة الضجيج المتسلسل). لا تزال هناك حاجة إلى طريقة تدمج ترتيب الاحتجاب المحدد من قبل المستخدم من خلال شرط بسيط يتوافق مع توليد الصور من التخطيط القياسي.
المنهجية: OccluRank
يقترح المؤلفون OccluRank، وهو إطار عمل للتحكم في التخطيط لإنتاج الصور مع مراعاة الاحتجاب، مبني على نموذج Stable Diffusion XL (SDXL) مدرب مسبقاً. الابتكار الجوهري هو تعزيز كل صندوق إحاطة برتبة ترتيبية (ordinal rank) واحدة لتحديد ترتيب الاحتجاب المقصود من الأمام إلى الخلف.
المكونات الرئيسية
الاشتراط بالرتبة الترتيبية:
يتم تخصيص رتبة ri∈{1,…,O} لكل كائن i، حيث تشير القيمة الأصغر إلى موقع أكثر بروزاً في المقدمة.
يتم ترميز هذه الرتب كتضمينات قابلة للتعلم وحقنها في تمثيلات الكائن المقابلة. يسمح هذا بالتحكم الصريح في الترتيب دون الحاجة إلى مدخلات هندسية إضافية مثل خرائط العمق أو المعلمات ثلاثية الأبعاد.
وحدة التفاعل بين الكائنات المدركة للترتيب (OII):
يتبع OccluRank مسار "التفاعل قبل التجميع". بدلاً من تجميع خرائط ميزات الكائنات المنشأة بشكل مستقل مباشرة، يحافظ النموذج عليها منفصلة في البداية.
عند كل موقع كامن تغطيه عدة كائنات، يتم تنظيم الميزات المشروطة بالرتبة في تسلسل على طول بُعد الكائن.
تقوم كتلة Transformer بمعالجة هذا التسلسل، مما يسمح لميزات الكائنات المتداخلة بالتفاعل والتحديث بشكل مشترك بناءً على محتواها الدلالي وأدوارها الترتيبية.
تمكن هذه الآلية الترتب المحدد من توجيه تبادل المعلومات، مما يسمح للكائن بتكييف تمثيله بناءً على الكائنات التي تتنافس معه والتي يجب أن تظهر في المقدمة.
التجميع والحقن:
بعد التفاعل، يتم تجميع الميزات المحدثة في خريطة سمات الكائن (ISM).
يتم حقن الـ ISM في طبقات انتباه تقاطعي مختارة من هيكل SDXL عبر اتصال متبقي بوابي، مما يضمن احترام الصورة المولدة للتخطيط المحدد وترتيب الاحتجاب.
هدف التدريب:
يتم تدريب النموذج باستخدام فقدان إزالة الضجيج العالمي (Lglobal) وفقدان إزالة الضجيج المحلي المرتكز على المنطقة (Llocal).
يستهدف الفقدان المحلي تحديداً اتحاد مناطق الكائنات، مما يوفر إشرافاً أقوى على هياكل الكائنات وحدود الاحتجاب حيث يتم التعبير عن ترتيب الرؤية.
مجموعات البيانات والمعايير
لدعم التدريب والتقييم، قدم المؤلفون موردين جديدين:
OccluLayout: مجموعة بيانات تدريب اصطناعية تم إنشاؤها من مشاهد ثلاثية الأبعاد قابلة للتحكم في Blender. على عكس مجموعات البيانات التي تستنتج الاحتجاب من صور محجوبة جزئياً باستخدام نماذج مساعدة، يستمد OccluLayout ترتيب الاحتجاب، وصناديق الإحاطة غير الكاملة (amodal bounding boxes)، والأقنعة غير الكاملة (amodal masks) مباشرة من هندسة المشهد المعروفة. وهي تتضمن 34,496 صورة مع أوصاف دقيقة للكائنات و71 فئة من الأشياء.
OccluLayout-Bench: معيار تقييم شامل يتكون من 1,000 صورة مستبعدة. يقيم خمسة أبعاد:
وجود الكائن: ما إذا كانت الكائنات المطلوبة قابلة للتمييز.
التخطيط المكاني: المحاذاة مع الصناديق المدخلة (Box mIoU).
اتساق السمات: الالتزام باللون والملمس.
ترتيب الاحتجاب: مقاييس Strict Pair وStrict Image لضمان علاقات الرؤية الصحيحة.
جودة الصورة: مسافة Fréchet Inception Distance (FID).
يتم إجراء التقييم باستخدام نماذج لغوية كبيرة متعددة الوسائط (MLLMs) لضمان القوة والمتانة.
النتائج
تظهر التجارب على OcluLayout-Bench أن OccluRank يتفوق على الأساليب الحالية ذات الحالة الفنية المتقدمة (بما في ذلك IFAdapter وCreatiLayout وLaRender وVODiff وOcclusionFormer) عبر معظم المقاييس:
التحكم في الاحتجاب: يحقق OccluRank أعلى الدرجات في مقاييس Strict Pair وStrict Image، متفوقاً بشكل كبير على النماذج المرجعية مثل IFAdapter (تحسن بنسبة 7.38%–10.61% في Strict Pair). يشير هذا إلى قدرة فائقة على حل الشروط المتنافسة في المناطق المتداخلة.
الحفاظ على الكائنات: يحقق النموذج أفضل درجات الوجود (Presence)، حيث يحافظ ببراعة على الكائنات المستهدفة حتى تحت ظروف الاحتجاب الشديد.
اتساق السمات: يحافظ على أداء تنافسي أو متفوق في مقاييس اللون والملمس، مما يضمن الحفاظ على السمات المحددة رغم التعامل المعقد مع الاحتجاب.
جودة الصورة: يحافظ OccluRank على درجة FID تنافسية (62.746)، وهي مقاربة للنماذج المرجعية القوية، مما يثبت أن التحكم المضاف لا يقلل من جودة الصورة الإجمالية.
الدراسات الاستقصائية (Ablation Studies): أدى حذف وحدة OII، أو تضمينات الرتبة، أو هدف الفقد المحلي إلى تدهور الأداء في ترتيب الاحتجاب وتماسك الحدود، مما يؤكد ضرورة كل مكون.
الأهمية والادعاءات
يزعم البحث أن OccluRank يقدم حلاً بسيطاً وقابلاً للتحكم لمشكلة توليد الصور من التخطيط مع مراعاة الاحتجاب. فمن خلال إضافة رتبة ترتيبية واحدة فقط لكل كائن، فإنه يحقق تحكماً صريحاً في الرؤية دون الحاجة إلى مدخلات هندسية معقدة أو تحسين وقت الاستدلال المتخصص.
يؤكد المؤلفون أن وحدة التفاعل بين الكائنات المدركة للترتيب (OII) الخاصة بهم تنمذج بفعالية التفاعلات المعتمدة على الاحتجاب قبل تجميع الميزات، مما يسمح للترتيب المحدد بتوجيه تحديثات المحتوى عالية الأبعاد بدلاً من مجرد إعادة وزن الميزات المستقلة. علاوة على ذلك، فإن تقديم OcluLayout وOcluLayout-Bench يعالج نقص الإشراف الموثوق والمستمد من الهندسة والبروتوكولات الشاملة للتقييم في هذا المجال، مما يوفر أساساً لأبحاث مستقبلية في توليد الصور القابل للتحكم.