Bridging Language and Spherical Space: Object-Centric Control for Text-to-Panorama Generation
تقدم الورقة البحثية PanoCtrl، وهو إطار عمل متمحور حول الكائنات يربط بين اللغة الطبيعية والمساحة البانورامية الكروية عبر تحويل النص إلى شروط كروية مهيكلة على مستوى الكائنات من خلال محلل ووحدة تحكم، مما يتيح توليد صور بانورامية من النصوص بأحدث التقنيات القابلة للتحكم مع محاذاة مكانية دقيقة.
تخيل أنك تقف في منتصف غرفة وتدور ببطء في دائرة، لتستوعب المشهد في كل اتجاه في آن واحد. هذه هي تجربة الصورة البانورامية، وهو تنسيق يلتقط عالماً كاملاً بزاوية ثلاثمائة وستين درجة حول نقطة واحدة. وخلافاً للصورة الفوتوغرافية القياسية، التي تجمد شريحة واحدة من المشهد، تقوم الصورة البانورامية بلف البيئة بأكملها في حلقة واحدة مستمرة. لعقود من الزمن، تطلب إنشاء هذه الصور كاميرا وموقعاً حقيقياً، لكن التطورات الأخيرة في الذكاء الاصطناعي سمحت للحواسيب بتوليدها من أوصاف نصية بسيطة. ومع ذلك، لا تزال هناك عقبة كبيرة قائمة: فبينما أصبحت الحواسيب بارعة في رسم الصور من الكلمات، إلا أنها تواجه صعوبة في فهم أين يجب أن توضع الأشياء في دائرة. فإذا طلبت من الحاسوب رسم كرسي على اليسار ومصباح على اليمين، فإنه غالباً ما يضعهما في المواقع الخاطئة أو يتجاهل الاتجاهات تماماً، لأن الطريقة التي يصف بها البشر المساحة في دائرة لا تتطابق مع الطريقة التي تعالج بها الحواسيب الصور المسطحة.
لقد طور باحثون في جامعة بكين للاتصالات في بيجينج نظاماً جديداً يسمى PanoCtrl لحل هذه المشكلة تحديداً. يركز عملهم على سد الفجوة بين اللغة الطبيعية التي نستخدمها لوصف الاتجاهات وبين الهندسة الكروية المطلوبة لبناء صورة بزاوية 360 درجة. أدرك الفريق أن الأساليب الحالية، التي تعمل بشكل جيد مع الصور المسطحة القياسية، تفشل عند تطبيقها على الصور البانورامية لأنها لا تأخذ في الاعتبار الطريقة الفريدة التي تلتف بها الاتجاهات حول المشاهد. ولإصلاح ذلك، أنشأوا إطار عمل يعامل عملية التوليد ليس ككتلة واحدة ضبابية من البكسلات، بل كمجموعة من الأجسام المحددة، لكل منها موقع وحجم محدد داخل الكرة. ومن خلال تعليم الحاسوب كيفية تحديد ماهية الأجسام المذكورة ومكان وجودها في الدائرة بدقة أولاً، يمكنهم بعد ذلك توجيه عملية إنشاء الصورة لوضع تلك العناصر بدقة عالية.
يتضمن جوهر حلهم خطوتين رئيسيتين تحدثان بالتتابع. أولاً، يقرأ النظام النص الوصفي ويقوم بتفكيكه إلى قائمة مهيكلة من الأجسام، فلا يحدد ماهية الجسم فحسب، بل يحدد أيضاً موقعه وحجمه الدقيق في مساحة الـ 360 درجة. على سبيل المثال، إذا قال النص "نافذة على يساري"، فإن النظام يترجم هذا إلى إحداثيات محددة ومجال رؤية، مما يرسم فعلياً خريطة غير مرئية لمكان ظهور النافذة. هذه الخطوة حاسمة لأنها تحول الاتجاهات البشرية الغامضة إلى تعليمات مكانية ملموسة يمكن للحاسوب اتباعها. وبمجرد إنشاء هذه الخريطة، تستخدم الخطوة الثانية هذه التعليمات لتوجيه عملية الرسم الفعلية؛ حيث يقوم النظام بحقن هذه التعليمات مباشرة في مولد الصور، مما يضمن أنه أثناء بناء الحاسوب للصورة، يعرف بالضبط أين يضع النافذة أو الكرسي أو المصباح. يسمح هذا النهج المزدوج للحاسوب بالحفاظ على المظهر العام والملمس لغرفة واقعية مع الالتزام الصارم بالأوامر الاتجاهية المعطاة في النص.
لتدريب هذا النظام الجديد، اضطر الباحثون إلى إنشاء مجموعة بيانات جديدة ضخمة لأنه لم تكن هناك أي مجموعة موجودة من الصور البانورامية تتضمن المعلومات الاتجاهية التفصيلية على مستوى الأجسام التي يحتاجونها. لقد بنوا مجموعة بيانات تسمى PanoGround، تحتوي على آلاف الصور البانورامية المقترنة بأوصاف تحدد بدقة مكان وجود كل جسم بالنسبة للمشاهد. تعمل مجموعة البيانات هذه كأرضية للتدريب، مما يسمح للحاسوب بتعلم العلاقة بين كلمات مثل "أمام"، "خلف"، "يسار"، و"يمين" ومواقعها الفعلية في صورة كروية. وبدون هذه البيانات المحددة، لن يكون لدى النظام طريقة لتعلم القواعد المعقدة للمساحة الكروية، حيث أن مجموعات بيانات الصور القياسية لا توفر هذا المستوى من التفاصيل الاتجاهية.
عندما اختبر الباحثون طريقتهم الجديدة مقابل التقنيات الموجودة، أظهرت النتائج تحسناً واضحاً في الدقة. في تجاربهم، نجح النظام الجديد في وضع الأجسام في الاتجاهات الصحيحة بنسبة تقارب تسعة وتسعين بالمائة، وهي قفزة كبيرة عن أداء الأساليب الرائدة الأخرى، التي غالباً ما كانت تقل عن خمسة وثمانين بالمائة. علاوة على ذلك، قلل النظام من الخطأ في وضع الأجسام بهامش كبير، مما يعني أن الأجسام ظهرت أقرب بكثير إلى المكان الذي ذكرها فيه النص. وبالإضافة إلى مجرد الحصول على الموقع الصحيح، كانت الصور المنتجة أيضاً ذات جودة أعلى، حيث بدت أكثر واقعية وتماسكاً من تلك التي أنتجتها النماذج السابقة. وتثبت الدراسة أنه من خلال تعليم الحاسوب صراحةً فهم الأجسام ومواقعها الكروية، فمن الممكن إنشاء صور بانورامية تتبع تعليمات المستخدم حقاً، مما يفتح الباب أمام بيئات افتراضية أكثر انغماساً وقابلية للتحكم.
ملخص تقني: تجسير اللغة والفضاء الكروي عبر PanoCtrl
بيان المشكلة
يعد توليد الصور البانورامية أمراً بالغ الأهمية للتطبيقات الغامرة مثل الواقع الافتراضي (VR) والواقع المعزز (AR). وخلافاً للصور المنظورية، تمثل الصور البانورامية فضاءً مركزياً للمشاهد بزاوية 360 درجة، حيث تُعد التعبيرات الاتجاهية (مثل "يسار"، "أمام"، "خلف") أساسية للفهم المكاني. ومع ذلك، تعتمد طرق تحويل النص إلى بانوراما الحالية بشكل كبير على الاستدلال المكاني الضمني وتواجه صعوبة في ربط الأوصاف الاتجاهية على مستوى الكائنات بدقة داخل المشاهد البانورامية الكروية.
هناك تحديان رئيسيان يعيقان التقدم:
فجوة المحاذاة: يوجد عدم محاذاة جوهري بين اللغة الاتجاهية القائمة على منظور الشخص الأول (egocentric) وفضاء الإسقاط متساوي المسافات (ERP) المستخدم في البانوراما. إن تشوه الـ ERP والاستمرارية الالتفافية الكروية يجعلان نمذجة مفاهيم مثل "اليسار" و"اليمين" أكثر تعقيداً بكثير من المستويات الصورية الإقليدية.
قيود التحكم: صُممت طرق التوليد القابلة للتحكم الموجودة للصور المنظورية ذات التخطيطات أو صناديق الإحاطة الثابتة. وهي تفشل في التطبيق المباشر على الصور البانورامية بسبب التشوهات الهندسية. علاوة على ذلك، فإن اشتراط شروط مكانية محددة يدوياً يقلل من مرونة التفاعل القائم على اللغة، بينما تؤدي المسارات المنفصلة (تحليل النص ثم التوليد) غالباً إلى عدم اتساق بين فهم اللغة وتوليد الصورة.
المنهجية: PanoCtrl
يقترح المؤلفون PanoCtrl، وهو إطار عمل متمحور حول الكائنات مصمم لربط اللغة الطبيعية والفضاء البانورامي الكروي بشكل صريح. يعمل الإطار بشكل متكامل (end-to-end) ويتكون من وحدتين رئيسيتين: PanoParse و PanoControl، مدمجتين في هيكل محول الانتشار (diffusion transformer).
1. PanoParse: التحليل من النص إلى الكروي
يقوم PanoParse بتحويل المطالبات النصية غير المهيكلة إلى شروط كروية مهيكلة على مستوى الكائنات. وبدلاً من الاعتماد على النموذج التوليدي لحل الفجوات المكانية ضمنياً، يصيغ PanoParse المهمة كمسألة تنبؤ بمجموعة في الفضاء الكروي.
المدخلات: سمات نصية مستخرجة من مشفر نصي.
الآلية: باستخدام مُحول (transformer decoder) مع استعلامات كائن قابلة للتعلم، تتنبأ الوحدة بمجموعة من مثيلات الكائنات.
المخرجات: لكل كائن، تتنبأ بـ:
الفئة الدلالية: صنف الكائن.
مجال الرؤية الكروي (BFoV): محدد بمركز خط الطول (θ)، ومركز خط العرض (ϕ)، والمدى الزاوي الأفقي/الرأسي (α,β).
التدريب: يتم الإشراف على المحلل باستخدام المطابقة ثنائية الأجزاء (على طراز DETR) مقابل التوصيفات الكروية الأرضية، باستخدام خسائر التصنيف والتوطين (تصنيف الحاويات وانحدار الإزاحة).
2. PanoControl: توجيه الانتشار المدرك للكائنات
يقوم PanoControl بحقن شروط الكائنات التي تم تحليلها في عملية الانتشار لضمان التوطين المكاني الدقيق. وهو يستخدم تصميماً ثنائي الفروع:
بناء شرط الكائن: يتم توحيد السمات المحللة (الدلالية والهندسية) في رموز تحكم عبر MLP.
حقن الانتباه المدرك للكائن: يتم حقن رموز الكائنات في كل من تدفقات رموز النص والصورة في محول الانتشار عبر الانتباه المبوب (gated attention). وهذا يضمن الربط الدلالي بين وصف الكائن والمحتوى المولد.
تعزيز المتبقي المكاني: لتوفير توجيه صريح على مستوى المنطقة في فضاء ERP، يقوم هذا الفرع بـ:
أخذ عينات من السمات المحلية من شبكة رموز ERP بناءً على الـ BFoVs المتوقعة.
تعزيز هذه السمات المحلية من خلال تحويل QKV والانتباه.
تجميع السمات المعززة مرة أخرى في شبكة الرموز العالمية عبر الدمج المتبقي. يعالج هذا الفرع مباشرة عدم التطابق الموضعي بين الأوصاف القائمة على منظور الشخص الأول وتمثيل الـ ERP.
3. أهداف التدريب
يتم تدريب الإطار بشكل متكامل مع هدف مشترك:
خسارة التحليل (Lparse): تشرف على دقة دلالات الكائنات ومواقعها الكروية.
خسارة الانتشار (Ldiff): تجمع بين خسارة إزالة الضجيج العالمية القياسية وخسارة منطقة الكائن (Lobj). تطبق خسارة منطقة الكائن خسارة مقنعة (masked loss) على مناطق الـ BFoV الأرضية، مما يجبر النموذج على تخصيص قدرة أكبر لإزالة الضجيج لمناطق كائنات محددة لتحسين الدقة المحلية.
المساهمات الرئيسية
إطار عمل PanoCtrl: إطار عمل متمحور حول الكائنات يربط صراحة بين اللغة الطبيعية والفضاء البانورامي الكروي عن طريق تحويل النص إلى شروط كروية مهيكلة على مستوى الكائن (BFoV) ودمجها في محولات الانتشار.
التحكم ثنائي الفرع: تقديم PanoParse للتنبؤ بالشرط المهيكل و PanoControl لحقن الانتباه المدرك للكائن والتعزيز المتبقي المكاني، مما يتيح توطيناً اتجاهياً دقيقاً.
مجموعة بيانات PanoGround: مجموعة بيانات جديدة تحتوي على 12,688 صورة بانورامية ERP مع 37,980 توصيفاً كروياً على مستوى الكائن وأوصاف اتجاهية متنوعة، مما يضع معياراً لتوليد البانوراما القابل للتحكم.
النتائج التجريبية
قيم المؤلفون PanoCtrl على معيار PanoGround مقابل أحدث الطرق (مثل LayerPano3D، و DiT360، و HunyuanWorld).
المحاذاة المكانية: حقق PanoCtrl أداءً رائداً في جميع المقاييس المكانية:
معدل وجود الكائن (OPR): 98.59% (متفوقاً على أفضل المنافسين بنسبة 13.26%).
محاذاة المنطقة والنص (RTA): 36.91 (متفوقاً على DiT360 بنسبة 9.23).
خطأ التوطين الكروي (SLE): 25.34 درجة (أقل بكثير من 47.63 درجة التي سجلها أقوى منافس).
جودة الصورة: قدمت الطريقة أداءً قوياً، حيث حققت أفضل قيم لـ FID (46.86)، و FAED (2.77)، و CLIP Score (32.54) بين جميع الطرق المقارنة. وبينما وصل مؤشر Inception Score (IS) الخاص بها إلى 3.35، وهو أقل قليلاً من 3.37 الذي حققه DiT360، إلا أن الفجوة ضئيلة. بشكل عام، تظهر هذه النتائج أن التحكم الصريح على مستوى الكائن يحسن الدقة المكانية دون التضحية بالواقعية الإدراكية أو الاتساق الدلالي.
دراسات الاستئصال (Ablation Studies): أكدت التجارب أن كل من وحدة التحليل والتحكم ثنائي الفرع (الانتباه + المتبقي المكاني) ضروريان. أدى إزالة خسارة التحليل أو خسارة منطقة الكائن إلى تدهور كبير في الأداء. كما وُجد أن معامل المزج المكاني الأمثل هو 0.7، وأن 8 استعلامات كائن توفر أفضل توازن بين قدرة التمثيل والاستقرار.
الأهمية والادعاءات
يزعم البحث أن PanoCtrl يحل بفعالية عدم المحاذاة بين اللغة الاتجاهية القائمة على منظور الشخص الأول والتمثيل البانورامي الكروي. ومن خلال نمذجة الشروط المكانية على مستوى الكائن في الإحداثيات الكروية صراحةً ودمجها مباشرة في عملية الانتشار، تحقق الطريقة توطيناً اتجاهياً دقيقاً دون التضحية بجودة الصورة أو اشتراط مواصفات تخطيط يدوية. ويضع المؤلفون هذا العمل كخطوة هامة نحو جعل توليد البانوراما القائم على النص أكثر قابلية للتحكم والموثوقية لإنشاء المحتوى الغامر، مدعوماً بمجموعة بيانات PanoGround الجديدة التي تسد الفجوة في الإشراف الكروي على مستوى الكائنات.