Back to the Future: A workbook time machine for spread sheet creation benchmarks
تقدم هذه الورقة "آلة دفتر العمل الزمنية" (workbook time machine)، وهي مسار عمل يُنتج wtmcorpus وwtmbench لتقييم أداء النماذج اللغوية في مهام إنشاء الجداول البيانات، مما يكشف أن تحديد دقة الاستعلام، وتنسيق الوكلاء، وواجهات برمجة التطبيقات يؤثر بشكل كبير على النتائج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتًا كيفية الطبخ. يمكنك أن تريه لازانيا جاهزة ولذيذة وتقول له: "اصنع مثل هذه"، لكن الروبوت قد يكتفي بالتحديق في الجبن ويخمن الوصفة. أو يمكنك إعطاؤه قائمة تعليمات طويلة ومملة: "خذ 200 جرام من الجبن، قطعه إلى مكعبات بحجم 1 سنتيمتر، ضعه في الطبقة الثالثة..." لكن البشر الحقيقيين لا يتحدثون هكذا؛ نحن نقول: "اصنع لازانيا"، ونتوقع من الطاهي أن يعرف ما نعنيه. هذا هو التحدي الذي تواجهه "نماذج اللغات الكبيرة" (LLMs) — وهي برامج حاسوبية ذكية جدًا يمكنها القراءة والكتابة. يحاول العلماء تعليم هذه النماذج لتكون مساعدين مفيدين، ليس فقط لكتابة القصص، بل للقيام بعمل حقيقي، مثل إدارة الجداول البيانات. الجداول الحسابية هي تلك البرامج التي تشبه الشبكات (مثل Excel) والتي يستخدمها الناس لتتبع الأموال، أو التخطيط للحفلات، أو تحليل البيانات. السؤال الكبير هو: هل يمكن للحاسوب أن يقرأ جدول بيانات حقيقيًا وفوضويًا ويستطيع تحديد كيفية بنائه من الصال، بمجرد الاستماع إلى طلب بشري؟
يقدم هذا البحث خدعة ذكية تسمى "آلة الزمن لدفاتر العمل" (Workbook Time Machine) لحل مشكلة رئيسية: لم يكن لدينا طريقة جيدة لاختبار ما إذا كان طهاة الذكاء الاصطناعي هؤلاء يستطيعون الطبخ حقًا. لقد بنى الباحثون مسار عمل يعمل بشكل عكسي. تخيل أخذ جدول بيانات معقد وجاهز، وتجريده من جميع الرسوم البيانية المزخرفة والمعادلات وتنسيقات الألوان حتى تتبقى الأرقام الخام فقط. ثم يطلب النظام من الذكاء الاصطناعي كتابة مجموعة من التعليمات التي من شأنها تحويل تلك الأرقام الخام مرة أخرى إلى جدول البيانات المزخرف. من خلال القيام بذلك، أنشأوا مكتبة ضخمة من الأمثلة "قبل وبعد" مع تعليمات تتراوح من التفصيلية للغاية إلى الغامضة جدًا. وقد استخدموا ذلك لبناء اختبار يسمى WTM-BENCH، والذي يقيم مدى قدرة نماذج الذكاء الاصطناعي المختلفة على إنشاء الجداول الحسابية.
كانت النتائج مزيجًا من "ليس سيئًا" و"يا للهول". وجدت الدراسة أن أداء الذكاء الاصطناعي يعتمد بشدة على كيفية التحدث إليه والأدوات التي تقدمها له. إذا أعطيت الذكاء الاصطناعي وصفة محددة للغاية وخطوة بخطوة (مثل "ضع هذه المعادلة في الخلية D2")، فإنه يؤدي بشكل جيد تمامًا. لكن إذا أعطيته طلبًا غامضًا (مثل "اصنع مخططًا للبيانات")، فإنه غالبًا ما يضيع. علاوة على ذلك، فإن "الأدوات" التي يستخدمها الذكاء الاصطناعي للتحدث مع جدول البيانات تهم كثيرًا؛ فبعض الأدوات تشبه السكين السويسري الذي يمكنه فعل كل شيء، بينما البعض الآخر يشبه سكين الزبدة الذي يعاني مع المهام المعقدة مثل الجداول المحورية (Pivot Tables). تشير الورقة البحثية إلى أنه بينما يتحسن الذكاء الاصطناعي في اتباع الأوامر التفصيلية، فإنه لا يزال يعاني مع التفكير متعدد الخطوات والمضطرب المطلوب لأتمتة الجداول الحسابية في العالم الحقيقي، خاصة عندما تكون التعليمات قصيرة والمهام معقدة.
آلة الزمن في المطبخ
لفهم كيف بنى الباحثون اختبارهم، فكر في آلة زمن لا تسافر عبر الزمن، بل عبر تاريخ جدول البيانات. عادةً، عندما نريد اختبار روبوت، نعطيه مهمة ونرى ما إذا كان سينجح. ولكن بالنسبة للجداول الحسابية، من الصعب معرفة ما تبدو عليه المهمة "المثالية" لأن العمل البشري الحقيقي فوضوي.
لذلك، قام المؤلفون بشيء عكسي. بدأوا بـ دفاتر العمل المكتملة — جداول بيانات حقيقية أنشأها أشخاص بالفعل، مليئة بالمعادلات والرسوم البيانية والجداول المحورية. أطلقوا على هذه الخطوة اسم الخطوة "الخلفية" (Backward). قامت آلة الزمن بتجريد جميع الكائنات "المشتقة" (الأشياء المزخرفة مثل الرسوم البيانية والمعادلات) لتكشف عن البيانات "الخام" الموجودة تحتها. كان الأمر يشبه أخذ كعكة مزينة بالكامل وإزالة الكريمة والزينة لرؤية الكعكة السادة تحتها.
ثم جاءت الخطوة "الأمامية" (Forward). طلب النظام من الذكاء الاصطناعي النظر إلى الكعكة السادة والكعكة المزخرفة وكتابة وصفة للانتقال من واحدة إلى الأخرى. ولكن إليكم المفاجأة: لم يكتبوا وصفة واحدة فقط. بل كتبوا ثلاث نسخ مختلفة:
- المستوى 1 (دليل الطاهي): "في الخلية D2، اكتب
=10000*C2/(B2*B2)، ثم اسحبها للأسفل إلى D7، ثم أنشئ مخطط تشتت باستخدام الأعمدة A و D." - المستوى 2 (المساعد المفيد): "احسب مؤشر كتلة الجسم (BMI) للجميع واصنع مخططًا يوضح العلاقة بين مؤشر كتلة الجسم والعمر."
- المستوى 3 (المدير الغامض): "ارسم اتجاه مؤشر كتلة الجسم."
أدى هذا إلى إنشاء مجموعة بيانات ضخمة تسمى WTM-CORPUS تحتوي على ما يقرب من 9,000 تعليمات. ومن هذا التجمع الضخم، اختاروا مجموعة اختبار متوازنة مكونة من 150 مهمة تسمى WTM-BENCH. تم اختيار مجموعة الاختبار هذه بعناية لضمان أنها ليست مليئة بمهام المعادلات السهلة فقط (التي كانت تشكل 67% من البيانات الأصلية) ولكنها تتضمن مزيجًا عادلًا من الرسوم البيانية، والجداول المحورية، والتنسيق الشرطي، تمامًا كما قد يحتاجه مكتب حقيقي.
المواجهة الكبرى للجداول الحسابية
قام الباحثون بعد ذلك بإخضاع 6 نماذج ذكاء اصطناعي "رائدة" (وهي الأذكى المتاحة من شركات مثل Anthropic و OpenAI) لهذا الاختبار. لم يتركوا الذكاء الاصطناعي يخمن فحسب؛ بل أعطوه "حزام أدوات" للتفاعل فعليًا مع جدول البيانات. لقد اختبروا ثلاثة أنواع من أحزمة الأدوات:
- بايثون (OpenPyXL): مكتبة برمجة تقرأ الملفات مثل مستند نصي.
- VBA: لغة الماكرو المدمجة في Excel، وهي قوية ولكنها قديمة الطراز.
- Office.js: طريقة حديثة تعتمد على الويب للتحدث مع Excel.
كما اختبروا أساليب "تنسيق" (Orchestration) مختلفة. بعض الطرق تسم ت الذكاء الاصطناعي بكتابة الكود وتمني الأفضل (المرة الواحدة/one-shot). بينما سمحت طرق أخرى للذكاء الاصطناعي بكتابة الكود، ورؤية النتيجة، وارتكاب خطأ، وإصلاحه، والمحاولة مرة أخرى (متعدد الخطوات/multi-turn).
كانت النتائج كاشفة:
- حزام الأدوات أهم من العقل: نوع الأداة التي استخدمها الذكاء الاصطناعي للتحكم في جدول البيانات أحدث فرقًا هائلًا. على سبيل المثال، كان إنشاء "جدول محوري" (Pivot Table) (وهو جدول ملخص معقد) صعبًا للغاية بالنسبة لأداة بايثون، التي كان عليها التعامل مع خطوات متعددة. ولكن مع VBA أو Office.js، اللذين يمتلكان أوامر مدمجة لهذا الغرض، كان أداء الذكاء الاصطناعي أفضل بكثير. تشير الورقة البحثية إلى أن "الواجهة" لا تقل أهمية عن ذكاء النموذج نفسه.
- التحديد هو الملك (في الوقت الحالي): عندما كانت التعليمات مفصلة للغاية (المستوى 1)، كان أداء نماذج الذكاء الاصطناعي جيدًا إلى حد ما. ولكن مع تصبح التعليمات أقصر وأكثر غموضًا (المستوى 3)، انخفض الأداء بشكل حاد. عانت النماذج من "ملء الفراغات" كما يفعل البشر.
- مشكلة الجدول المحوري: بينما أصبح الذكاء الاصطناعي جيدًا نوعًا ما في إنشاء المعادلات والرسوم البيانية، إلا أنه فشل تمامًا في إنشاء الجداول المحورية (Pivot Tables). كانت "الدرجة الناعمة" (Soft Score) (وهي مقياس لمدى قرب النتيجة من المثالية) للجداول المحورية قريبة من الصفر عبر جميع النماذج تقريبًا. يشير هذا إلى فجوة أساسية في قدرة الذكاء الاصطناعي على التعامل مع تلخيص البيانات المعقد والمتعدد الخطوات.
- لا تثق في رسالة "النجاح": وجدت الورقة البحثية أن العديد من نماذج الذكاء الاصطناعي قد تدعي أنها انتهت حتى لو كانت قد فشلت. على سبيل المثال، في نماذج Claude، في أكثر من 80% من المرات التي قال فيها النموذج "لقد انتهيت"، كان قد ارتكب في الواقع خطأً هيكليًا (مثل وضع الرسم البياني في المكان الخاطئ أو فقدانه بالكامل). وهذا ما يسمى "النجاح الوهمي" (hallucinated success)، وهو عقبة كبيرة أمام الاستخدام في العالم الحقيقي.
ماذا يعني هذا للمستقبل
تخلص الورقة البحثية إلى أنه بينما يتحسن الذكاء الاصطناعي في اتباع التعليمات الصارمة والمفصلة، فإنه ليس مستعدًا تمامًا ليكون ساحرًا مستقلاً تمامًا في الجداول الحسابية. أثبتت "آلة الزمن لدفتر العمل" أن الطريقة التي نختبر بها الذكاء الاصطناعي تهم بقدر أهمية الذكاء الاصطناعي نفسه. إذا اختبرناه فقط باستخدام مطالبات سهلة وتفصيلية، فقد نعتقد أن الذكاء الاصطناعي أذكى مما هو عليه في الواقع.
يقترح الباحثون أنه لكي نصبح أفضل، قد نحتاج إلى تعليم هذه النماذج باستخدام "منهج دراسي" — يبدأ بالتعليمات التفصيلية للمستوى 1 وينتقل ببطء إلى المستوى 3 الأكثر غموضًا، لمساعدتهم على تعلم كيفية ملء الفجوات. كما أشاروا إلى أنه يمكن توسيع المسار الذي بنوه للتعامل مع مهام أخرى في الجداول الحسابية مثل حذف أو تعديل البيانات، وليس فقط إنشائها.
في النهاية، تظهر الدراسة أننا على الطريق الصحيح، لكن الطريق نحو وكيل جداول حسابية مستقل تمامًا لا يزال طويلًا. يمكن للذكاء الاصطناعي اتباع وصفة، لكنه لا يزال بحاجة إلى إنسان ليمسك بيده عندما تصبح التعليمات غامضة أو تصبح المهمة معقدة. لقد أعطتنا "آلة الزمن" خريطة أفضل لمكان قوة الذكاء الاصطناعي وأين لا يزال بحاجة إلى التعلم، مما يضمن أن تكون الاختبارات المستقبلية عادلة ومتوازنة وواقعية في كيفية استخدام البشر للجداول الحسابية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.