Reading Why: Born-Measured Attention with Exact Word Evidence on Light and Qubits
تقدم هذه الورقة نموذج "ترانسفورمر بور-مقاس" (Born-Measured transformer) الذي يستبدل آليات الانتباه والعمليات غير الخطية القياسية بعمليات مستوحاة من ميكانيكا الكم لتوفير عزٍّ دقيق وخالٍ من الأخطاء على مستوى الكلمات لتنبؤاته، محققاً دقة تنافسية في مهمة e-SNLI مع إثبات نجاح تجميعه لكل من الدوائر البصرية وجهاز كمي بسعة 23 كيوبت.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلف ولم يصادق عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
عندما يقرأ برنامج حاسوبي جملة ويقرر معناها، غالباً ما نضطر للتخمين حول السبب الذي جعله يتخذ ذلك الخيار. يمكننا النظر إلى الأرقام التي يستخدمها البرنامج لوزن الكلمات المختلفة، لكن تلك الأرقام ليست سوى تقديرات؛ فهي لا تخبرنا بالضبط أي الكلمات تسببت في الإجابة النهائية. هذه مشكلة تواجه الذكاء الاصطناعي، خاصة عندما نحتاج إلى الوثوق بقرار الآلة. لقد حاول العلماء طويلاً بناء نماذج ليست دقيقة فحسب، بل شفافة أيضاً، بحيث يمكننا رؤية المسار الدقيق من الكلمات على الشاشة إلى الاستنتاج الذي تصل إليه الآلة. التحدي يكمن في أن النوع الأكثر شيوعاً من النماذج اللغوية يعتمد على خدعة رياضية لتنعيم خياراته، وهي خدعة تجعل من الصعب جداً تتبع تأثير أي كلمة بمفردها. إذا أردنا معرفة سبب اعتقاد الآلة بأن قصة ما حقيقية أو كاذبة، فنحن بحاجة إلى طريقة لقياس مساهمة كل كلمة دون أن نفقد الخيط في سحابة من التقديرات التقريبية.
قام فريق من الباحثين ببناء نوع جديد من النماذج اللغوية يحل هذه المشكلة عن طريق تغيير طريقة تفكير الآلة. فبدلاً من استخدام الخدع الرياضية القياسية التي تخفي المنطق، قاموا ببناء نظام يكون فيه كل خطوة من خطوات عملية التفكير عبارة عن قياس مباشر للضوء أو الجسيمات الكمومية. في هذا التصميم الجديد، لا تخمن الآلة مدى أهمية الكلمة، بل تقيسها. لقد استبدل الباحثون خطوات التنعيم المعتادة بقاعدة فيزيائية تربع قوة الإشارة، وهي قاعدة معروفة في الفيزياء منذ قرن من الزمان. ومن خلال القيام بذلك، أنشأوا نموذجاً تكون فيه الإجابة النهائية عبارة عن مجموع دقيق لمساهمات كل كلمة على حدة. وعندما اختبروا هذا النظام في مهمة تسأل عما إذا كانت جملة ما تتبع من جملة أخرى، كان أداء الآلة يضاهي أفضل النماذج القياسية، ولكن مع اختلاف جوهي: فقد استطاعت إخبارهم بدقة أي الكلمات هي التي حسمت النتيجة، وكانت تلك التفسيرات تتطابق تماماً مع الدرجة النهائية.
اختبر الباحثون ابتكارهم على مجموعة بيانات تضم ما يقرب من عشرة آلاف زوج من الجمل، حيث قام مراجعون بشريون بالفعل بتحديد الكلمات المحددة التي صنعت الفارق بين كون الجملة صحيحة أو خاطئة أو غير ذات صلة. وقارنوا نموذجهم الجديد بنموذج قياسي يستخدم خدع التنعيم المعتادة. حصل كلا النموذجين على الإجابة الصحيحة بنسبة 77 بالمائة تقريباً، مما أظهر أن التصميم الجديد لم يضحِّ بالدقة من أجل الوضوح. ومع ذلك، عندما طلب الباحثون من النماذج شرح نفسها، كان الفرق صارخاً. ففي النموذج القياسي، لم تكن الكلمات التي ادعى أنها الأكثر أهمية تغير الإجابة دائماً عند إزالتها. أما في النموذج الجديد، فإن إزالة الكلمة التي قال النظام إنها الأكثر أهمية غيرت الإجابة في 45 بالمائ-ة من الحالات، وهي علامة أقوى بكثير على أن التفسير كان هو المحرك للقرار. علاوة على على ذلك، كانت الكلمات التي أشار إليها النموذج الجديد تتطابق مع الكلمات التي حددها البشر بشكل أوثق مما فعل النموذج القياسي.
إن ما يجعل هذا العمل فريداً هو أن التفسير ليس مجرد فكرة مضافة لاحقاً، بل هو جزء مبني في بنية الآلة نفسها. فقد صمم الباحثون النموذج بحيث يكون الرياضيات التي تصف الإجابة عبارة عن كثير حدود بسيط، وهو نوع من المعادلات حيث تكون المتغيرات هي إشارات الكلمات. وبسبب ذلك، يمكنهم حساب المساهمة الدقيقة لكل كلمة عن طريق جمع أجزاء صغيرة من الحساب، وهي عملية لا تترك مجالاً للخطأ. وقد تحققوا من ذلك عبر تشغيل النموذج على حاسوب كمومي، وهو آلة تستخدم الخصائص الغريبة للجسيمات دون الذرية لمعالجة المعلومات. لم يقوموا بتشغيل النموذج بأكمله على الحاسوب الكمومي، لأن ذلك سيكون صعباً للغاية مع التكنولوجيا الحالية، لكنهم قاموا بتشغيل الأجزاء التي تقيس كيفية ارتباط الكلمات ببعضها البعض. وقد أعطى الحاسوب الكمومي نفس إجابات النموذج الرياضي المثالي، وعندما أزالوا كلمة رئيسية، غير الحاسوب الكمومي رأيه تماماً كما فعل النموذج المثالي. وهذا أثبت أن التصميم يعمل ليس فقط من الناحية النظرية، بل على أجهزة حقيقية أيضاً.
كما أظهر الباحثون أن هذه المجموعة نفسها من الأرقام يمكن استخدامها لبناء آلة تعمل بالضوء. فقد قاموا برسم خرائط لأوزان النموذج على تصميم يمكن بناؤه باستخدام المرايا والليزر، حيث تمثل الكلمات حزم ضوئية وتُقاس العلاقات بينها من خلال كيفية تداخل موجات الضوء مع بعضها البعض. وبينما قاموا بمحاكاة هذه النسخة البصرية على الحاسوب، أظهرت الرياضيات أنها ستعمل تماماً مثل النسخة الكمومية. هذا الاحتمال المزدوج يشير إلى أن النموذج ليس مرتبطاً بنوع محدد من الأجهزة؛ فهو تصميم يمكنه العمل على الضوء، أو الجسيمات الكمومية، أو الحواسيب التقليدية، مع الحفاظ دائماً على نفس التفسير الواضح والدقيق لإجاباته.
كان أحد أكثر النتائج إثارة للدهشة هو أن الطريقة القياسية للنظر في هذه النماذج، من خلال التحقق من الكلمات التي توليها الآلة أكبر قدر من الانتباه، كانت مضللة. ففي النموذج الجديد، لم تكن الكلمات التي تلقت أكبر قدر من الانتباه تفسر الإجابة دائماً بنفس كفاءة الكلمات التي حددها النموذج كدليل. في الواقع، إن إزالة الكلمة ذات درجة الانتباه الأعلى غيرت الإجابة في حالات أقل مما فعلت إزالة الكلمة ذات درجة الدليل الأعلى. وهذا يشير إلى أن أوزان الانتباه، التي تُستخدم غالباً لشرح كيفية عمل النموذج، قد تبدو مثل التفكير البشري ولكنها تفشل في دفع القرار فعلياً. أما دليل النموذج الجديد، فكان حساباً حقيقياً للإجابة.
لا يدعي هذا العمل أنه حل جميع مشايات الذكاء الاصطناعي، ويحرص الباحثون على ملاحظة حدود تجاربهم الحالية. فقد أجريت اختبارات الحاسوب الكمومي على جملتين قصيرتين فقط، والنسخة البصرية لم تُبنَ بعد بل تمت محاكاتها فقط. كما يتطلب النظام الكثير من القياسات ليعمل على حاسوب كمومي، وهو أمر بطيء ومكلف حالياً. ومع ذلك، تثبت الدراسة أنه من الممكن بناء نموذج لغوي دقيق وقابل للتفسير بشكل مثالي في آن واحد. ومن خلال استبدال الخدع الرياضية المخفية بالقياسات الفيزيائية المباشرة، أنشأ الباحثون آلة لا تعطي إجابة فحسب، بل تعرض عملها بطريقة دقيقة، وقابلة للتحقق، ومفهومة. وهذا يفتح مساراً نحو ذكاء اصطناعي يمكننا الوثوق به ليس لأنه "صندوق أسود" يعمل، بل لأننا نستطيع رؤية كيفية عمله بالضبط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.