← أحدث الأبحاث
💬 NLP

Peek2: Regex-free Byte-level Byte-Pair Encoding Pretokenizer for LLM Inference on Edge Devices

تقدم الورقة البحثية Peek2، وهو محلل أولي (pretokenizer) عالي التحسين وخالٍ من التعبيرات النمطية (regex-free) لتقنية Byte-level BPE، والذي يحقق سرعة إنتاجية في الاختبارات المرجعية الدقيقة تصل إلى 2.48 ضعفاً وسرعة ترميز إجمالية تبلغ 1.14 ضعفاً على الأجهزة الطرفية مع الحفاظ على مخرجات متطابقة مع أدوات الترميز القياسية القائمة على cl100k.

المؤلفون الأصليون: Liu Zai, Iraklis Klampanos

نُشر 2026-05-04
📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Liu Zai, Iraklis Klampanos

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول إرسال رسالة طويلة إلى صديق، لكن صديقك لا يفهم إلا كلمات رمزية قصيرة ومحددة. قبل أن تتمكن من إرسال الرسالة، يجب عليك تفكيك جملتك إلى تلك الكلمات الرمزية. تسمى هذه العملية التقطيع (Tokenization)، وهي الطريقة التي تفهم بها أجهزة الكمبيوتر مثل GPT-3 أو LLaMa لغة البشر.

تقدم الورقة البحثية التي تقرأها أداة جديدة تسمى Peek2. وإليك كيفية عملها، مشروحة ببساطة:

المشكلة: ازدحام حركة المرور في "Regex"

حالياً، تستخدم معظم أجهزة الكمبيوتر طريقة تسمى Regex (التعبيرات النمطية) لتقطيع النصوص إلى هذه الكلمات الرمزية. فكر في Regex كأنه حارس أمن صارم ومعقد عند مدخل نادٍ ليلي.

  • لدى الحارس قائمة ضخمة من القواعد (الفروع/Branches).
  • عندما يصل شخص ما (حرف)، يتحقق الحارس من مطابقتهم للقاعدة رقم 1. إذا لم يتناسبوا معها، يتحقق من القاعدة رقم 2. إذا فشل ذلك، ينتقل إلى القاعدة رقم 3، وهكذا.
  • عملية "التحقق، الفشل، ثم التحقق مجدداً" هذه بطيئة، خاصة على الأجهزة الصغيرة ذات القدرة المنخفضة مثل أجهزة اللابتوب أو التابلت (أجهزة الحافة/Edge devices). الأمر يشبه جعل الشخص ينتظر بينما يقلب الحارس في كتاب قواعد ضخم في كل مرة يقترب فيها شخص ما.

الحل: اختصار "Peek2"

ابتكر المؤلفون Peek2، وهي طريقة جديدة للقيام بهذه المهمة بشكل أسرع بكerer واستهلاك أقل للذاكرة.

بدلاً من قيام الحارس بتقليب كتاب القواعد، يستخدم Peek2 ورقة غش (جدول بحث).

  1. الـ "Peek" (اللمحة): بدلاً من التحقق من حرف واحد في كل مرة، ينظر Peek2 إلى حرفين في وقت واحد (مثل استراق النظر للأمام).
  2. الفئات: يقوم بتصنيف هذين الحرفين بسرعة في مجموعات بسيطة (مثلاً: "هل هو مسافة؟"، "هل هو رقم؟"، "هل هو حرف؟").
  3. ورقة الغش: ولأن عليه فقط النظر في مجموعتين، فقد صنع المؤلفون شبكة صغيرة بحجم 7×7 (مثل لوحة سودوكو). أنت فقط تنظر إلى المجموعتين، وتجد المربع على الشبكة، والشبكة تخبرك فوراً بما يجب فعله بعد ذلك.

التشبيه:

  • الطريقة القديمة (Regex): تمشي نحو متاهة. تجرب الباب الأيسر، فيكون مغلقاً. تجرب الباب الأيمن، فيكون مغلقاً. تجرب الباب الخلفي، فيكون مفتوحاً. ثم تكرر هذا لكل شخص في الطابور.
  • الطريقة الجديدة (Peek2): تمشي نحو جدار به خريطة واحدة ضخمة. تشير إلى مكانك، والخريطة ترسم لك خطاً مباشراً إلى المخرج فوراً. لا تخمين، لا أبواب مغلقة، فقط مسار مباشر.

لماذا يهم هذا؟

تدعي الورقة أنه من خلال استبدال "المتاهة" بـ "الخريطة"، جعلوا العملية أسرع بكثير:

  • السرعة: في بعض الاختبارات، كانت أسرع بمقدار 2.48 مرة في مرحلة التقطيع فقط.
  • الإجمالي: عند النظر إلى المهمة كاملة المتمثلة في تحويل النص إلى كلمات رمزية، كانت أسرع بنحو 14% بشكل عام.
  • الدقة: تنتج نفس النتائج تماماً مثل الطريقة القديمة. إنها "بديل جاهز للاستخدام" (drop-in replacement)، مما يعني أنه يمكنك استبدال الحارس القديم بالجديد دون تغيير أي شيء آخر أو كسر النظام.

العقبة (القيود)

الورقة صريحة بشأن ما لا تفعله هذه الأداة:

  • هي لأجهزة محددة: تم اختبارها على أجهزة الكمبيوتر المكتبية. يأمل المؤلفون أن تعمل على الهواتف والأجهزة اللوحية أيضاً، لكنهم لم يثبتوا ذلك بعد.
  • هي لنماذج محددة: تعمل مع النماذج التي تستخدم أسلوب "cl100k" (مثل GPT-3 و LLaMa-3). هي لا تصلح كل نماذج الذكاء الاصطناعي الموجودة في العالم بشكل سحري.
  • هي تحتفظ بالأخطاء: كانت الطريقة القديمة تحتوي على بعض الأخطاء الغريبة (مثل تقسيم كلمة بشكل غير صحيح). ولأن Peek2 مصمم ليكون نسخة طبق الأصل من سلوك الطريقة القديمة، فإنه يحتفظ بنفس تلك الأخطاء. إصلاح هذه الأخطاء يتطلب إعادة تدريب نماذج الذكاء الاصطناعي، وهي مهمة أكبر بكثير من مجرد استبدال الأداة.

باخت-القول: Peek2 هو طريقة أذكى وأسرع لتقطيع النصوص للذكاء الاصطناعي، مصممة خصيصاً لتعمل بسلاسة على الأجهزة اليومية دون الحاجة إلى كمبيوتر خارق.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →