CarbonCrediBERT: Expert-Guided Few-Shot and Selective Classification of Carbon Credit Disclosures
تقترح الورقة البحثية CarbonCrediBERT، وهو إطار عمل لمعالجة اللغات الطبيعية بتوجيه من الخبراء يجمع بين تصنيف متخصص، وأمثلة سلبية صعبة، ونماذج مخصصة للمهام سواء عبر التعلم من أمثلة قليلة أو الضبط الدقيق، وذلك لتصنيف صلة أرصدة الكربون والمشاعر المتعلقة بها واستخدامها في الإفصاحات المؤسسية بدقة، مع تحديد الحالات غير المؤكدة بشكل انتقائي للمراجعة البشرية.
المؤلفون الأصليون:Hang Thanh Bui, Eric Lee, Megan C Evans
أصبحت التقارير المؤسسية مزدحمة بشكل متزايد بالوعود المتعلقة بالمناخ. ومع مطالبة الحكومات والمستثمرين بمزيد من الشفافية، تكتب الشركات باستفاضة عن أهدافها للوصول إلى "صافي انبعاثات صفري" وخططها للتحول بعيداً عن الوقود الأحفوري. وضمن هذه الوثائق الطويلة، يظهر نوع معين من الأدوات المالية بشكل متكرر: ائتمان الكربون. هذه الائتمانات هي شهادات قابلة للتداول تمثل طنًا واحدًا من ثاني أكسيد الكربون الذي تمت إزالته من الغلاف الجوي أو مُنع من دخوله. تشتري الشركات هذه الشهادات وتلغيها لتعويض تلوثها الخاص، زاعمة أنه مقابل كل طن تنبعث منه، فقد دفعت مقابل طن آخر ليتم تنظيفه في مكان آخر. ومع ذلك، فإن اللغة المستخدمة لوصف هذه الائتمانات مخادعة؛ فالكلمات نفسها التي تشير إلى شراء ائتمان كربوني — مثل "ائتمان" (credit)، أو "تعويض" (offset)، أو "صافي" (net) — تظهر أيضًا في سياقات مختلفة تمامًا، مثل الخدمات المصرفية، أو المحاسبة، أو استراتيجية المناخ العامة. فجملة تتحدث عن "مخاطر الائتمان" لا علاقة لها بالبيئة، تمامًا كما أن ذكر "صافي الفائدة" هو أمر مالي بحت. هذا الغموض يجعل من المستحيل تقريبًا على المستثمرين أو المنظمين مسح آلاف التقارير بسرعة لمعرفة ما تفعله الشركة فعليًا بائتمانات الكربون، أو ما إذا كانت تستخدمها على الإطلاق.
قام باحثون من جامعة نيو ساوث ويلز وفيرسينترا بتطوير أداة جديدة لقطع هذا الارتباك، تهدف إلى تعليم الحواسيب كيفية قراءة التقارير المؤسسية بنفس العين الدقيقة التي يستخدمها الخبير البشري. وقد أطلقوا على نظامهم اسم "CarbonCrediBERT". وبدلاً من مجرد البحث عن الكلمات المفتاحية، الذي غالبًا ما يؤدي إلى إنذارات خاطئة، صُمم هذا النظام لفهم السياق الكامل للفقرة. فهو يطرح ثلاثة أسئلة محددة حول أي نص يقرأه: هل تتحدث هذه الفقرة بالفعل عن ائتمانات الكربون؟ وإذا كان الأمر كذلك، هل النبرة إيجابية أم سلبية أم محايدة؟ وأخيرًا، هل تقول الشركة إنها تستخدم هذه الائتمانات بالفعل، أم أنها تتحدث عنها فحسب؟ وللإجابة على هذه الأسئلة، لم يعتمد الفريق على كميات هائلة من البيانات الموجودة مسبقًا، والتي غالبًا ما تكون غير متوفرة لمثل هذا الموضوع المحدد، بل استخدموا طريقة تسمى "التعلم بتوجيه الخبراء"، حيث قام متخصصون بشريون بتصنيف مجموعة صغيرة من الأمثلة لتعليم الكمبيوتر ما يبحث عنه. كما تضمنوا "سلبيات صعبة" (hard negatives) — وهي أمثلة تبدو وكأنها مناقشات حول ائتمان الكربون ولكنها تتعلق بشيء آخر، مثل الضرائب أو الأهداف المناخية العامة — لتدريب النظام على تمييز الفرق.
اختبر الباحثون نظامهم على تقارير أفضل 100 شركة مدرجة في بورصة أستراليا، مغطيةً التقارير السنوية والمناخية وتقارير الاستدامة المنشورة في عامي 2024 و2025. بدأوا باستخراج آلاف الجمل التي تحتوي على كلمات مفتاحية ذات صلة، ثم حصروا ذلك في مجموعة متوازنة تضم أكثر من 15,000 فقرة. ومن هذه المجموعة، قام خبراء بشريون بتصنيف 100 فقرة بدقة لكل مهمة من المهام الثلاث لتكون بمثابة مجموعة تدريب. ثم قارن الفريق بين نماذج حاسوبية مختلفة لمعرفة أي منها يتعلم بشكل أفضل من هذا القدر الصغير من توجيه الخبراء. ووجدوا أنه لا يوجد نموذج واحد مثالي لكل مهمة. فبالنسبة للمهمة الأولى — تحديد ما إذا كانت الفقرة ذات صلة بائتمانات الكربون — كان النموذج الذي تم تدريبه مسبقًا على قدر هائل من النصوص المتعلقة بالمناخ هو الأفضل أداءً، حيث حدد الفقرات ذات الصلة بدقة عالية. ومع ذلك، بالنسبة للمهام الأكثر دقة مثل تحديد النبرة (المشاعر) وتحديد ما إذا كانت الشركة تستخدم الائتمانات بالفعل، نجح نهج مختلف بشكل أفضل. هذا النهج الثاني، المعروف باسم "التعلم القليل العينات" (few-shot learning)، سمح للنموذج بالتعلم من خلال مقارنة أزواج من الأمثلة بدلاً من حفظ كميات هائلة من النصوص، وقد ثبتت فاعليته في فهم الفروق الدقيقة في كيفية وصف الشركات لأفعالها.
على الرغم من هذه النجاحات، كشفت الدراسة أيضًا عن حدود كبيرة لما يمكن للحاسوب القيام به بمفرده. فعندما حاول الباحثون جعل النظام يقرر متى يكون واثقًا بما يكفي لإعطاء إجابة دون مساعدة بشرية، كانت النتائج مختلطة. فبالنسبة لمهمة رصد الفقرات ذات الصلة، استطاع النظام قبول معظم الإجابات تلقائيًا مع معدل خطأ منخفض، لكنه لا يزال يرتكب أخطاء في الحالات الأكثر صعوبة. أما بالنسبة لمهام الحكم على المشاعر واستخدام الائتمان، فلم يتمكن النظام من إيجاد عتبة آمنة لأتمتة العملية؛ إذ خلط كثيرًا بين خطة الشركة لاستخدام الائتمانات وبين بيان يفيد بأنها قد استخدمتها بالفعل، أو واجه صعوبة في التمييز بين التقرير المحايد والتقرير السلبي. وفي الواقع، فات النظام المثال الوحيد للمشاعر السلبية في مجموعتهم الاختبارية، حيث صنفه على أنه إيجابي. وهذا يشير إلى أنه بينما يمكن للتكنولوجيا المساعدة في تصفية الضجيج، إلا أنها لا يمكنها بعد استبدال الحكم البشري، خاصة عندما يكون النص غامضًا أو عندما تكون الشركة غامضة بشأن أفعالها.
كما نظر الباحثون في كيفية تغير اللغة في هذه التقارير بين عامي 2024 و2025. ووجدوا أنه بينما تظل المصطلحات العامة مثل "صافي الانبعاثات الصفري" و"ائتمان الكربون" هي الأكثر شيوعًا، فقد كان هناك ارتفاع ملحوظ في ذكر أساليب محددة لإزالة الكربون، مثل تجديد الغابات، وإدارة التربة، والتقاط غاز مكبات النفايات. ومع ذلك، تؤكد الدراسة أن ذكر هذه الأساليب لا يعني تلقائيًا أن الشركة تستخدم ائتمانات الكربون؛ فقد تكون مجرد وصف لمشروع دون وجود معاملة مالية مرتبطة به. هذا التمييز أمر بالغ الأهمية لأن اللوائح تزداد صرامة، مما يتطلب من الشركات أن تكون أكثر تحديدًا بشأن كيفية استخدامها للائتمانات لتحقيق أهدافها المناخية. وتخلص الدراسة إلى أنه بينما يمكن لأدوات مثل "CarbonCrediBERT" تنظيم وتسليط الضوء على الأدلة داخل هذه الوثائق الضخمة، فإن المسؤولية النهائية عن تفسير الادعاءات وضمان نزاهتها لا تزال تقع على عاتق الخبراء البشريين. فالنظام يعمل كعدسة قوية لتركيز الانتباه على الفقرات الصحيحة، لكنه لا يمكنه بعد استبدال الحاجة إلى التدقيق البشري الدقيق فيما تعنيه تلك الفقرات حقًا.
ملخص تقني: CarbonCrediBERT
بيان المشكلة
يواجه تحليل الإفصاحات المتعلقة بائتمانات الكربون للشركات تحديات كبيرة بسبب غموض اللغة الطبيعية وندرة البيانات المصنفة من قبل الخبراء. فبينما تُعد مصطلحات مثل "ائتمان" (credit)، و"تعويض" (offset)، و"صافي" (net) شائعة في التقارير المناخية، إلا أنها تظهر بشكل متكرر في سياقات مالية أو محاسبية أو تشغيلية غير ذات صلة (مثل مخاطر الائتمان، أو التعويضات الضريبية، أو صافي الفائدة). ويتطلب التمييز بين الإفصاحات الحقيقية لائتمانات الكربون وهذه "السلبيات الصعبة" (hard negatives) حكماً خبيراً دقيقاً. علاوة على ذلك، تعتمد النهج المؤتمتة الحالية غالباً على الكشف الواسع عن لغة المناخ، وهو أمر غير كافٍ لتحديد الادعاءات المتعلقة بالائتمان تحديداً. وتتمثل المشكلة الجوهرية في غياب إطار عمل يمكنه التعلم بفعالية من التوصيفات الخبيرة المحدودة والمكلفة لتصنيف الفقرات حسب الصلة، والمشاعر، والاستخدام المُبلغ عنه، مع القدرة أيضاً على تحديد متى يكون تنبؤ النموذج غير مؤكد بما يكفي لاستدعاء مراجعة بشرية.
المنهجية
يقترح المؤلفون CarbonCrediBERT، وهو إطار عمل لمعالجة اللغات الطبيعية (NLP) بتوجيه من الخبراء، مصمم لتقارير الشركات المدرجة في مؤشر ASX100 للأعوام 2024-2025. وتتكون المنهجية من خمس وحدات:
بناء المتن (Corpus Construction): تمت معالجة مجموعة من التقارير السنوية، والمناخية، والاستدامة، وتقارير الحوكمة البيئية والاجتماعية وحوكمة الشركات (ESG) الخاصة بكيانات ASX100. ويقوم النظام باستخراج مطابقات الكلمات المفتاحية على مستوى الجمل باستخدام تصنيف (Taxonomy) مكون من سبع فئات محددة من قبل الخبراء (تغطي المصطلحات العامة، والامتثال الأسترالي، والأسواق الطوعية، والمترادفات، والمبادرات، وطرق التعويض).
استخراج الأدلة والسلبيات الصعبة (Evidence Extraction & Hard Negatives): يقوم النظام ببناء مجمع مرشح متوازن يتكون من 15,026 فقرة. ومن الأهمية بمكان أنه يستخدم استراتيجية "السلبيات الصعبة" حيث يتم تصنيف الفقرات التي استخرجها التصنيف ولكن اعتبرها الخبراء غير ذات صلة (مثل أهداف صافي الانبعاثات الصفرية العامة أو وصف المشاريع دون إصدار ائتمانات) صراحةً كأمثلة سلبية. وهذا يدرب النماذج على التمييز بين الإفصاحات الائتمانية الجوهرية واللغة المتشابهة ظاهرياً.
تحديد المهام (Task Definition): يحدد إطار العمل ثلاث مهام متسلسلة:
المرحلة 1 (الصلة): تصنيف ثنائي لما إذا كانت الفقرة مرتبطة بائتمانات الكربون.
المرحلة 2أ (المشاعر): تصنيف الفقرات ذات الصلة كإيجابية، أو سلبية، أو محايدة فيما يتعلق بمكون الائتمان.
المرحلة 2ب (الاستخدام): تصنيف ما إذا كانت المنشأة تبلغ عن استخدام فعلي، أو مخطط له، أو غير واضح للائتمانات.
مقارنة النماذج: تقارن الدراسة ثلاث استراتيجيات تدريب باستخدام مجموعات بيانات صغيرة مصنفة من قبل الخبراء (100 فقرة لكل مهمة، مقسمة إلى 80 للتطوير و20 للاختبار الثابت):
ClimateBERT: الضبط الدقيق الكامل لنموذج مدرب مسبقاً على المجال المناخي.
DistilRoBERTa: الضبط الدقيق الكامل لنموذج عام (كعينة ضابطة).
SetFit–MiniLM: نهج التعلم من أمثلة قليلة (few-shot learning) باستخدام التعلم التبايني على تضمينات الجمل.
التصنيف الانتقائي (Selective Classification): يقيم إطار العمل ما إذا كانت درجات الثقة في النماذج قادرة على تحديد التنبؤات المناسبة للقبول الآلي مقابل تلك التي تتطلب مراجعة بشرية. ويتم اختيار العتبات بناءً على بيانات التطوير لضمان بقاء معدل الخطأ بين التنبؤات المقبولة دون مستوى خطر محدد (0.20).
المساهمات الرئيسية
يقدم البحث خمس مساهمات محددة في أدبيات الإفصاح عن ائتتمانات الكربون والتحليل المؤتمت:
إطار تحليلي: يقدم إطار عمل مفاهيمي وحسابي يدمج التصنيف المحدد من قبل الخبراء، والتفسير على مستوى الفقرة، والمراجعة الانتقائية لثلاث مهام متميزة (الصلة، والمشاعر، والاستخدام).
التصنيف وسير العمل الموجه بالخبرة: يربط بين تصنيف محدد من قبل الخبراء وسير عمل قابل للتكرار لشركات ASX100، مع تحديد واستخدام "السلبيات الصعبة" صراحةً لتعليم النماذج الفرق بين الإفصاحات ذات الصلة والنصوص الأخرى المشابهة لها في اللفظ وغير ذات الصلة.
أدلة مقارنة على الملصقات المحدودة: يقدم أدلة تجريبية تقارن بين الضبط الدقيق للمجال المناخي (ClimateBERT) والضبط الدقيق للنماذج العامة والتعلم من أمثلة قليلة (SetFit) في ظل ظروف ندرة الإشراف الخبير.
التقييم التجريبي للإحالة الانتقائية: يقيم فائدة عتبات الثقة للأتمتة، موضحاً أنه بينما يمكن للثقة تصفية بعض الأخطاء، إلا أنها لا تزال غير قادرة على القضاء عليها تماماً في حالات العينات الصغيرة.
أدلة وصفية على لغة الإفصاح: يقدم تحليلاً مقارناً لتوزيع لغة ائتتمانات الكربون عبر تقارير 2024 و2025 لشركات ASX100، مع التمييز بين ذكر الأساليب/المبادرات وبين الاستخدام الفعلي للائتمانات.
النتائج
استخدمت الدراسة 8,299 سجلاً للجمل المطابقة للكلمات المفتاحية ومجمعاً متوازناً من 15,026 فقرة. وتشير النتائج إلى أنه لا يوجد نهج نمذجة واحد يتفوق في جميع المهام:
الصلة (المرحلة 1): تفوق نموذج ClimateBERT (الضبط الدقيق الكامل) على النماذج الأخرى، محققاً درجة F1 كليّة (macro F1) خارج نطاق التحقق (OOF) بلغت 0.923، ودرجة F1 ثابتة للاختبار بلغت 0.785. وقد نجح في التمييز بين الإفصاحات ذات الصلة والسلبيات الصعبة بشكل أفضل من النماذج العامة.
المشاعر (المرحلة 2أ) والاستخدام (المرحلة 2ب): تم اختيار استراتيجية SetFit–MiniLM (التعلم من أمثلة قليلة) كأفضل استراتيجية للمهام اللاحقة، محققة درجات F1 كليّة للاختبار بلغت 0.513 و0.744 على التوالي.
التصنيف الانتقائي: فقط مهمة "الصلة" هي التي اجتازت شاشة التطوير للقبول الآلي. حيث قبلت عتبة ثقة قدرها 0.589 نسبة 95% من فقرات الاختبار، ولكنها لا تزال تؤدي إلى معدل خطأ في الحالات المقبولة بنسبة 15.8%. أما مهمتا "المشاعر" و"الاستخدام"، فلم تنتجا أي عتبة تحقق معايير السلامة (معدل خطأ ≤ 20% مع تغطية كافية)، مما يشير إلى أن القبول الآلي لهذه المهام غير مدعوم بالأدلة الحالية.
التكلفة الحسابية: لاحظت الدراسة أن عدد المعلمات وحده لا يحدد التكلفة التشغيلية؛ إذ تطلب نهج SetFit (التعلم من أمثلة قليلة) وقتاً وطاقة أكبر بكثير من عمليات الضبط الدقيق بسبب توليد الأزواج التباينية.
الأهمية والادعاءات
يضع البحث CarbonCrediBERT ليس كحل مستقل تماماً، بل كـ إطار عمل تجريبي يسلط الضوء على الضرورة المستمرة لتقدير الخبراء.
محدودية الأتمتة: يؤكد المؤلفون أن الكشف الواسع عن لغة المناخ غير كافٍ لتحديد الإفصاحات المتعلقة بائتمانات الكربون. وتوضح الدراسة أنه بينما يمكن للنماذج التعلم من بيانات محدودة، إلا أنها تواجه صعوبة في التعامل مع الفئات النادرة (مثل المشاعر السلبية) والعبارات الغامضة حول استخدام الائتمان.
دور الخبرة: تؤكد النتలు أن التفسير الخبير يظل أمراً حيوياً، خاصة للتمييز بين الاستخدام المخطط له والنشاط المُبلغ عنه، ولتفسير المشاعر. وقد صُمم إطار العمل لـ "إحالة الحالات غير المؤكدة للمراجعة البشرية" بدلاً من استبدال المحللين البشر.
المسار نحو النماذج التأسيسية: يدعي البحث بتواضع أن العمل الحالي يمهد الطريق نحو نموذج تأسيسي (Foundation Model) لـ CarbonCrediBERT قابل لإعادة الاستخدام. ومع ذلك، فإنه ينص صراحة على أن مثل هذا النموذج يتطلب متن مجال أوسع (بما في ذلك السجلات والمعايير والإرشادات المحاسبية) ومزيداً بكثير من الأدلة المصنفة من قبل الخبراء ليكون قابلاً للتطبيق.
الصلة السياقية: في السياق الأسترالي، يدعم إطار العمل التدقيق في الإفصاحات المناخية الإلزامية (AASB S2) من خلال المساعدة في تحديد موقع الأدلة ومقارنتها، رغم أن المؤلفين يوضحون أن النموذج لا يضمن سلامة التقارير ولا يؤسس للسيادة على الذكاء الاصطناعي بمفرده.
باختصار، يجادل البحث بأن التحليل الفعال لائتمانات الكربون يتطلب نهجاً هجيناً: تصنيف موجه بالخبرة لتحديد المشكلة، ونماذج متخصصة للتعامل مع مهام محددة، وآلية تصنيف انتقائية لضمان أتمتة التنبؤات عالية الثقة فقط، مع توجيه كافة الحالات الأخرى إلى الخبراء البشريين.