MMArch: Benchmarking Multimodal Reasoning Grounded in Architectural Evidence
تقدم الورقة البحثية MMArch، وهو معيار مرجعي صارم للهندسة المعمارية والهندسة المدنية يقيم قدرة النماذج اللغوية الكبيرة متعددة الوسائط على توليف الأدلة البصرية الموزعة مع المبادئ الهندسية، مما يكشف عن فجوة أداء كبيرة بين الأنظمة الحالية للذكاء الاصطناعي والخبراء البشريين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيف يكون مهندساً معمارياً. أنت لا تريد منه فقط أن يتعرف على أن الصورة تُظهر منزلاً؛ بل تريد منه أن يفهم لماذا لن ينهار هذا المنزل. هذا هو عالم "نماذج اللغات الكبيرة متعددة الوسائط" (MLLMs). فكر في هذه النماذج كأدمغة رقمية فائقة الذكاء يمكنها قراءة النصوص والنظر إلى الصور في آن واحد. إنها بارعة في وصف ما تراه، مثل قول: "هذا باب أزرق"، أو "هذا الرسم البياني يُظهر خطاً يتجه للأعلى". لكن في عالم الهندسة الواقعي، لا يكفي معرفة ما تراه؛ بل يجب عليك الربط بين الرسم، وقاعدة فيزيائية، وكود سلامة لاتخاذ قرار. الأمر يشبه كونك محققاً يتعين عليه النظر إلى صورة لمسرح جريمة، وتذكر قانوناً معيناً، ثم تقرير ما إذا كان المشتبه به مذنباً أم لا. السؤال الكبير الذي يسأله الباحثون هو: هل يمكن لهؤلاء المحققين من الذكاء الاصطناعي حل القضية حقاً، أم أنهم مجرد يخمنون بناءً على الأدلة التي يرونها؟
هنا يأتي دور دراسة جديدة تسمى MMArch. فقد بنى الباحثون اختباراً ضخماً ومعقداً مخصصاً للهندسة المعمارية والمدنية ليروا ما إذا كان بإمكان الذكاء الاصطناعي أن "يفكر" حقاً كمهندس. لم يكتفوا بسؤال الذكاء الاصطناعي عن وصف صورة؛ بل أعطوه لغزاً كانت إجابته مخبأة عبر أجزاء مختلفة من الرسم وتتطلب قاعدة فيزيائية محددة لحلها. كانت النتائج بمثابة صرخة استيقاظ. فبينما تمكنت أذكى نماذج الذكاء الاصطناعي من حل حوالي نصف الأسئلة بشكل صحيح، تمكن فريق من الخبراء البشر من حل جميع الأسئلة تقريباً. وجدت الدراسة أن الذكاء الاصطناعي لا يفشل لأنه لا يستطيع "رؤية" الصورة، بل لأنه لا يستطيع ربط الصورة بالقاعدة الصحيحة ثم إجراء الحسابات للوصول إلى الإجابة. الأمر يشبه أن يكون بإمكان الذكاء الاصطناعي قراءة قائمة الطعام ورؤية المكونات، لكنه لا يستطيع معرفة كيفية طهي الطبق.
الاختبار الكبير: MMArch
أنشأ الباحثون معياراً يسمى MMArch (الهندسة المعمارية متعددة الوسائط). فكر في الأمر كاختبار نهائي للذكاء الاصطناعي، ولكن بدلاً من أسئلة الاختيار من متعدد حيث يمكنك التخمين فقط، هو اختبار ذو إجابات قصيرة. يتكون الامتحان من 1,212 سؤالاً مستمدة مباشرة من أوراق علمية محكمة حول المباني والجسور والمدن. هذه ليست صوراً وهمية؛ بل هي المخططات الفعلية التي يستخدمها المهندسون لإثبات نجاح تصاميمهم.
يغطي الاختبار 10 مجالات مختلفة، من كيفية اهتزاز المباني أثناء الزلازل إلى كيفية تصميم النماذج الرقمية للمدن. وللتأكد من عدم قدرة الذكاء الاصطناعي على استخدام طرق مختصرة، استخدم الباحثون نظام "المخطط-الكاتب" الذكي. أولاً، قام "مخطط" بالنظر في ورقة بحثية واختار إجابة محددة (مثل "حديد تسليح رقم 6 و7"). بعد ذلك، قام "كاتب" بإنشاء سؤال يتطلب النظر إلى الصورة ومعرفة القاعدة الهندسية لإيجاد تلك الإجابة. لم يكن بإمكان الذكاء الاصطناعي مجرد قراءة النص أو النظر إلى جزء صغير من الصورة؛ بل كان عليه النظر إلى الصورة بأكملها، وإيجاد القرائن الصحيحة، وتطبيق قاعدة لحل المسألة.
النتائج: الذكاء الاصطناعي مقابل البشر
عندما أخضعوا 18 نموذجاً مختلفاً للذكاء الاصطناعي (سواء كانت نماذج مفتوحة المصدر ومجانية أو نماذج تجارية باهظة الثمن ومن الفئة العليا) لهذا الاختبار، كانت النتائج واضحة: الذكاء الاصطناقي لا يزال بعيداً جداً عن كونه مهندساً حقيقياً.
- الخبراء البشريون: حصلت لجنة من المعماريين والمهندسين الحقيقيين على 94.6% من الإجابات الصحيحة. لقد تفوقوا في الاختبار.
- أفضل ذكاء اصطناعي: حصل أذكى نموذج تجاري للذكاء الاصطناعي (GPT-5.5) على 51.7% فقط.
- الذكاء الاصطناعي مفتوح المصدر: تمكن أفضل نموذج مجاني من تحقيق حوالي 30%.
هذه فجوة تزيد عن 40 نقطة مئوية. حتى أفضل نماذج الذكاء الاصطناعي بالكاد يجتاز الاختبار، بينما يحصل البشر على درجات تقارب الكمال. تحقق الباحثون للتأكد من أن الذكاء الاصطناعي لا يخمن فقط أو يقرأ النص بدلاً من الصورة، وأكدوا أن الذكاء الاصطناعي كان يعاني حقاً في جزء الاستنتاج.
لماذا يعاني الذكاء الاصطناعي؟
لم يتوقف الفريق عند النتائج فحسب؛ بل بحثوا في سبب وقوع الذكاء الاصطناعي في الأخطاء. وجدوا أن المشكلة لم تكن في عدم قدرة الذكاء الاصطناعي على "رؤية" الصورة. كان الذكاء الاصطناعي جيداً جداً في رصد الخطوط والأرقام الصحيحة في المخططات. المشكلة الحقيقية حدثت عندما حاول الذكاء الاصطناعي الجمع بين ما رآه وما يعرفه.
لقد قسموا الأخطاء إلى خمسة أنواع:
- أخطاء الإدراك (20.3%): أخطأ الذكاء الاصطناعي في قراءة الصورة (مثل الخلط بين خطين متشابهين).
- أخطاء المبادئ (21.7%): رأى الذكاء الاصطناً الصورة بشكل صحيح ولكنه استخدم القاعدة الخاطئة (مثل الاعتقاد بأن حلقة واسعة في رسم بياني تعني أن المادة تضعف، بينما هي في الواقع تعني أنها تزداد قوة).
- أخطاء التركيب (35.8%): كان هذا هو المشكل الأكبر. وجد الذكاء الاصطناعي الأرقام الصحيحة وعرف القاعدة الصحيحة، ولكن عندما حاول الجمع بينهما للحصول على الإجابة النهائية، فقد خطوة أو أخطأ في الحسابات. الأمر يشبه امتلاك كل المكونات والوصفة، لكنك تحرق الكعكة لأنك نسيت خلطها بالترتيب الصحيح.
- أخطاء الربط (14.5%): عرف الذكاء الاصطناعي ما يبحث عنه ولكنه قرأ الرقم بشكل خاطئ (مثل قول +138 بدلاً من -142).
- أخطاء الاتساق (7.7%): توصل الذكاء الاصطناعي إلى الإجابة الصحيحة في "عقله" ولكنه كتب إجابة خاطئة.
الاستنتاج الأهم هو أن أخطاء التركيب شكلت أكثر من ثلث جميع الأخطاء. وهذا يعني أن نقطة ضعف الذكاء الاصطناسي الكبرى هي ربط النقاط ببعضها. يمكنه رؤية الأدلة، ويمكنه استرجاع القاعدة، لكنه لا يستطيع دمجها بموثوقية لحل مشكلة معقدة.
هل يساعد "التفكير خطوة بخطوة"؟
ربما سمعت أن إخبار الذكاء الاصطناعي بأن "يفكر خطوة بخطوة" (تقنية تسمى سلسلة الأفكام - Chain-of-Thought) يساعده على حل المشكلات الصعبة. جرب الباحثون ذلك على MMArch. طلبوا من الذكاء الاصطناعي شرح منطقه قبل إعطاء الإجابة. والنتيجة؟ لم يساعد ذلك كثيراً. بالنسبة لبعض النماذج، جعلها أفضل قليلاً؛ وبالنسبة لأخرى، جعلها أسوأ في الواقع. هذا يشير إلى أن المشكلة ليست في أن الذكاء الاصطناعي يحتاج إلى أن يُقال له كيف يفكر، بل في أنه ببساطة لا يعرف بما يكفي عن القواعد المحددة للهندسة المعمارية والهندسة المدنية ليبني سلسلة أفكار صحيحة في المقام الأول.
ما الخطوة التالية؟
تخلص الدراسة إلى أنه لا يمكننا مجرد جعل الذكاء الاصطناعي أكبر أو تزويده بمزيد من البيانات لإصلاح هذا الأمر. المشكلة ليست في الحجم؛ بل في نقص الاستنتاج العميق والمتخصص. يحتاج الذكاء الاصطناعي إلى تعلم كيفية ربط الأدلة المرئية بالمعرفة المتخصصة بطريقة لا تستطيع النماذج الحالية القيام بها بعد.
إن MMArch متاح الآن للباحثين الآخرين لاستخدامه كساحة تدريب. إنه أداة تشخيصية لمساعدتنا في رؤية أين يفشل الذكال الاصطناعي بالضبط حتى نتمكن من بناء نماذج أفضل للمستقبل. وحتى ذلك الحين، إذا كنت بحاجة لتصميم ناطحة سحاب لن تنهار أثناء زلزال، فمن الأفضل توظيف خبير بشري بدلاً من سؤال روبوت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.