في عالم البيانات، غالبًا ما تصل المعلومات في شكل شبكات مستطيلة أنيقة: صفوف من العملاء، وأعمدة من المعاملات، وخلايا مليئة بالأرقام أو الفئات. لعقود من الزمن، كانت الطريقة الأكثر موثوقية لإيجاد الأنماط في هذه الشبكات هي استخدام نوع محدد من برامج الكمبيوتر يُعرف باسم "أشجار القرار المعززة بالتدرج" (gradient-boosted decision tree). هذه البرامج تشبه فريقًا من الخبراء الذين يطرحون سلسلة من الأسئلة البسيطة التي تُجاب بنعم أو لا لتصنيف البيانات، ويبنون هيكلًا معقدًا لاتخاذ القرار قطعة بقطعة. إنها فعالة للغاية، لكن لديها عيب جوهري: يجب تدريبها من الصفر لكل مجموعة بيانات جديدة. فإذا أرادت شركة التنبؤ بترك العملاء لمنتج معين ثم الانتقال للتنبؤ بالتعثر في سداد القروض لمنتج آخر، يجب إعادة تدريب النموذج، وهي عملية تتطلب وقتًا وقدرة حوسبية وضبطًا دقيقًا للإعدادات.

مؤخرًا، ظهر نهج جديد يستعير تقنية من دراسة اللغة. فبدلاً من تدريب نموذج جديد لكل مهمة، تستخدم هذه الأنظمة الأحدث نموذجًا تأسيسيًا واحدًا مُدربًا مسبقًا يمكنه التعلم من الأمثلة المقدمة في اللحظة ذاتها. تتيح هذه الطريقة، التي تُسمى "التعلم في السياق" (in-context learning)، للنموذج النظر إلى بضعة أمثلة للمشكلة التي يحاول حلها، ومن ثم إجراء تنبؤ لحالة جديدة دون تغيير إعداداته الداخلية أبدًا. وبينما يمثل هذا مسارًا واعدًا نحو أداة عالمية للبيانات الجدولية، لا تزال هناك عقبة رئيسية؛ فكلما زاد حجم البيانات التاريخية التي يحتاج النموذج إلى مراعاتها، انفجر الوقت المستغرق لإجراء تنبؤ واحد. يجب على النموذج مقارنة كل سؤال جديد بكل قطعة من البيانات الماضية التي رآها على الإطلاق، مما يخلق عنق زجاجة حوسبي يجعل الأمر غير عملي للاستخدام واسع النطاق في الوقت الفعلي.

لقد عالج الباحثون في جامعة كامبريدج عنق الزجاجة هذا بطريقة أطلقوا عليها اسم "Localized TabICLv2". يركز عملهم على نسخة محددة من نموذج التعلم في السياق تُعرف باسم "TabICLv2"، والتي أظهرت بالفعل أداءً رائدًا في مهام تصنيف متنوعة. تكمن المشكلة الجوهرية في النموذج الأصلي في أنه خلال مرحلته النهائية من التنبؤ، يجبر كل نقطة بيانات جديدة على الانتباه إلى مجموعة بيانات التدريب بأكملها في آن واحد. فإذا كانت مجموعة البيانات تحتوي على مئات الآلاف من الصفوف، يجب على النموذج معالجة كمية هائلة من المعلومات لكل استعلام، مما يؤدي إلى بطء زمن الاستجابة وارتفاع تكاليف الطاقة. وقد طرح الباحثون سؤالاً بسيطًا: هل يحتاج النموذج حقًا إلى النظر في كل مثال ماضٍ لإجراء تنبؤ جيد، أم يمكنه العثور على مجموعة أصغر وأكثر صلة من الأمثلة التي تحتوي على القرائن اللازمة؟

وللإجابة على ذلك، قدم الفريق خطوة "استرجاع" تعمل كمرشح (فلتر) قبل إجراء التنبؤ النهائي. فبدلاً من تغذية تاريخ البيانات بالكامل في النموذج، يقومون أولاً بتحويل كل صف من البيانات إلى تمثيل رياضي يلتقط سماته الأساسية. وعند وصول استعلام جديد، يبحث النظام في التاريخ المخزن للعثور على بضع عشرات من الصفوف الأكثر تشابهًا مع الحالة الجديدة. ثم يقوم بتغذية محرك التنبؤ بهذه المطابقات الأقرب فقط، بدلاً من مجموعة البيانات بأكملها. يشبه هذا النهج كيفية حل الإنسان لمشكلة ما من خلال استحضار حفنة من التجارب الماضية ذات الصلة بدلاً من محاولة تذكر كل حدث في حياته. ومن خلال حصر السياق في هؤلاء "الجيران الأقرب"، نجح الباحثون في تقليل كمية المعلومات التي يتعين على النموذج معالجتها في وقت واحد بشكل كبير.

ومع ذلك، لم يكن مجرد تقليص البيانات كافيًا للحفاظ على الدقة العالية للنظام الأصلي؛ فقد كان النموذج مدربًا على توقع السياق الكامل، لذا تسبب إزالة معظم هذا السياك في البداية في انخفاض أدائه. ولإصلاح ذلك، قام الباحثون بضبط الآليات الداخلية للنموذج؛ حيث عدلوا الطريقة التي ينشئ بها النموذج تمثيلاته للبيانات والطريقة التي يستخدم بها تلك التمثيلات لإجراء التنبؤات، وتحديدًا تدريبه على العمل بشكل جيد مع هذه الرؤية الموضعية الأصغر. ضمنت هذه العملية أن يتعلم النموذج استخراج المعلومات الأكثر أهمية من مجرد بضعة أمثلة، بدلاً من الاعتماد على الحجم الهائل للبيانات لإيجاد الأنماط.

تم قياس نتائج هذا النهج مقابل مجموعة واسعة من مجموعات البيانات الواقعية، بدءًا من اكتشاف الاحتيال في بطاقات الائتمان وصولاً إلى ترك العملاء للمنتجات. وعندما اختبر الباحثون النموذج الموضعي على معيار مرجعي قياسي يحتوي على ثمانية وثلاثين مجموعة بيانات مختلفة، وجدوا أن النسخة المضبوطة بدقة احتفظت بمعظم دقة النموذج الكامل. وتحديدًا، حافظت على 98.64 بالمائة من الأداء الأصلي، مما يعني أنها قدمت تنبؤات صحيحة تقريبًا مثل النسخة الأبطاء ذات السياق الكامل. وكان المقابل هو مكسب هائل في السرعة؛ ففي السيناريوهات التي طُلب فيها من النموذج معالجة البيانات في دفعات، كان يعمل أسرع بمرتين من النموذج الأصلي. وفي الحالات التي كان على النموذج فيها الإجابة على سؤال واحد في كل مرة، كان التحسن في السرعة أكثر دراماتيكية، حيث وصل إلى متوسط تحسن قدره 249 ضعفًا أسرع من النظام الأصلي.

كما كشفت الدراسة أن حجم مجموعة البيانات كان مهمًا بشكل كبير لهذه المكاسب في السرعة. فكلما كبرت مجموعة التدريب، زادت فائدة "التوطين" (localization). بالنسبة لمجموعات البيانات الصغيرة، كان الوقت المستغرق في البحث عن الجيران المناسبين يعوض أحيانًا الوقت الذي تم توفيره عن طريق معالجة بيانات أقل. ولكن مع نمو عدد صفوف التدريب إلى مئات الآلاف، أصبح النهج الموضعي أكثر كفاءة بشكل متزايد، مما يثبت أن النهج يتوسع بشكل جيد مع أحجام البيانات التي عادة ما تبطئ هذه النماذج. علاوة على ذلك، قارن الباحثون طريقتهم ببدائل أبسط، مثل استخدام شجرة قرار قياسية على الجيران المسترجعين فقط أو نظام تصويت أساسي. وقد تفوق نموذجهم الموضعي باستمرار على هذه الخطوط المرجعية الأبسط، مما أثبت أن الجمع بين الاسترجاء الذكي ومحرك التنبؤ المتخصص كان مفتاح النجاح.

يشير هذا العمل إلى أن مستقبل تعلم البيانات الجدولية قد لا يكمن في بناء نماذج أكبر تستهلك المزيد من الطاقة، بل في جعل النماذج الموجودة أكثر ذكاءً بشأن المعلومات التي تحتاجها. ومن خلال تعليم نموذج تأسيسي قوي التركيز فقط على الأمثلة الأكثر صلة، أظهر الباحثون أنه من الممكن تحقيق دقة عالية دون التكلفة الحوسبية الثقيلة لمعالجة مجموعات البيانات بأكملها. وتشير النتائج إلى أنه يمكن جعل هذه النماذج عملية للنشر في العالم الحقيقي، حيث تعتبر السرعة والكفاءة مهمتين بقدر القوة التنبؤية. وبينما يعتمد النهج على افتراض أن الأمثلة الماضية الأكثر تشابهًا هي الأكثر إفادة، فإن النتائج تظهر أن هذا الافتراض يصمد أمام مجموعة واسعة من أنواع البيانات. وتخلص الدراسة إلى أنه مع التعديلات الصحيحة، يمكن تحقيق وعد "التعلم في السياق" للبيانات الجدولية دون التضحية بالكفاءة المطلوبة للتطبيقات واسعة النطاق.