Precise Verification of Transformers through ReLU-Catalyzed Abstraction Refinement
تقترح هذه الورقة إطار عمل جديد للتحقق من نماذج المحولات (transformer) يعزز الدقة عبر الاستفادة من تجريدات قائمة على دالة ReLU لتحديد حدود نواتج الضرب النقطي في طبقات الانتباه الذاتي بدقة، مما يقلل بشكل كبير من الإنذارات الكاذبة مقارنة بطرق التقريب المحدب الحالية مع الحفاظ على كفاءة مقبولة.