PAST: Prompt-Adaptive Sampling Termination for Efficient Diffusion Model

تخيل عالماً يمكن فيه للحواسيب أن تتخيل صوراً بمجرد الاستماع إلى كلماتك. تقول "قط يرتدي خوذة فضاء"، فتقوم الآلة برسمها لك. هذا السحر يأتي من شيء يسمى نماذج الانتشار (diffusion models). فكر في هذه النماذج كأنها نحات يبدأ بكتلة من الضجيج الساكن (static) – مثل تشويش التلفاز – ثم يقوم ببطء بنحت هذا الضجيج ليكشف عن صورة واضحة تحته. إنها عملية خطوة بخطوة، تشبه تقشير طبقات البصل، حتى تصبح الصورة مثالية.

لكن هنا تكمن المشكلة: هؤلاء النحاتون الرقميون بارعون في صنع أي صورة، لكنهم ليسوا بارعين دائماً في صنع النوع المحدد الذي تريده، مثل صورة تبدو "رائعة" أو تتبع قصة معقدة. ولإصلاح ذلك، يستخدم العلماء طريقة تدريب تسمى التعلم التعزيزي (Reinforcement Learning - RL). الأمر يشبه تعليم كلب؛ فأنت تعطيه مكافأة (مكافأة/مكافأة تشجيعية) عندما يفعل شيئاً صحيحاً. ومع ذلك، في عالم الكمبيوتر، لا تأتي "المكافأة" إلا في نهاية العملية تماماً، بعد أن يقضي الكمبيوتر وقتاً طويلاً واستهلاكاً كبيراً للكهرباء في نحت الضجيج. إذا ارتكب الكمبيوتر خطأً في وقت مبكر، فلن يعرف ذلك إلا بعد فوات الأوان، وسيهدر كمية هائلة من الطاقة في محاولة إصلاح مسار مكسور. وهذا يجعل التدريب بطيئاً، ومكلفاً، وأحياناً غير متقن.

هنا يظهر PAST (الاستئناف التكيفي لأخذ العينات بناءً على المطالبة - Prompt-Adaptive Sampling Termination)، وهي طريقة جديدة اقترحها الباحثون ريني يان، وجيكانغ تشنغ، وفريقهم. فكر في PAST كمدرب ذكي للنحات الكمبيوتري. فبدلاً من إجبار الكمبيوتر على تقشير كل طبقة من طبقات البصل لكل صورة، تعلم PAST الكمبيوتر أن يستمع إلى شيئين: مقدار الضجيج المتبقي، ومدى مطابقة الصورة لكلماتك. إذا كانت الصورة واضحة بالفعل وتطابق وصفك تماماً، فإن PAST تقول: "توقف! لقد انتهيت!"، وبذلك توفر بقية العمل.

تشير الورقة البحثية إلى أن هذا النهج يعد تغييراً جذرياً في الكفاءة. فمن خلال إضافة "دليل مرجعي" يسمى المكافأة الجوهرية (intrinsic reward)، يحصل الكمبيوتر على دفعة صغيرة أثناء العملية للتحرك بشكل أسرع نحو صورة نظيفة، بدلاً من انتظار الدرجة النهائية. وقد وجد الباحثون أن هذه الطريقة يمكنها تقليل الوقت والطاقة اللازمين للتدريب بنسبة تصل إلى 66.7%، بينما تحسن فعلياً جودة تحسين التفضيل (preference optimization quality) (مدى قدرة الذكاء الاصطناعي على تعلم تلبية أهداف المكافأة المحددة) بنسبة تصل إلى 29.5%.

إليك كيف يعمل السحر، مقسماً إلى ثلاث حيل بسيطة:

1. "الصوت الداخلي" (المكافأة الجوهرية): عادةً ما يحصل الكمبيوتر على مكافأة في النهاية فقط. لكن PAST تمنح الكمبيوتر مكافأة "صوت داخلي" صغيرة على طول الطريق. الأمر يشبه قولك للنحات: "مهلاً، أنت تقترب من الشكل!" هذا يساعد الكمبيوتر على التعلم بشكل أسرع والتوقف عن ارتكاب الأخطاء السخيفة في وقت مبكر، حتى لا يضيع الوقت في إصلاح أشياء كان يمكن تجنبها.
2. "علامة التوقف" (الاستئناف التكيفي): لا تستغرق جميع الصور نفس القدر من الوقت لصنعها. "كرة حمراء" بسيطة أمر سهل؛ أما "شارع مزدحم في المدينة عند غروب الشمس" فهو صعب. تراقب PAST الصورة أثناء صنعها، وبمجرد اختفاء الضجيج ومطابقة الصورة للكلمات، تضغط على المككاب. إنها لا تجبر الكمبيوتر على الاستمرار في العمل على لوحة مكتملة. وهذا يعني أن المطالبات البسيطة تنتهي بسرعة فائقة، بينما تأخذ المطالبات المعقدة الوقت الذي تحتاجه.
3. "التحقق المزدوج" (التنسيق المزدوج): تستخدم PAST مستشعرين مختلفين لتقرير متى يجب التوقف. أحدهما يتحقق مما إذا كانت الصورة نظيفة (لا يوجد مزيد من الضجيج)، والآخر يتحقق مما إذا كانت الصورة تطابق الكلمات (المحاذاة الدلالية). وهي لا تتوقف إلا عندما يقول كلا المستشعرين: "نحن بخير!". هذا يضمن عدم توقف الكمبيوتر مبكراً جداً (مما يترك فوضى ضبابية) أو متأخراً جداً (مما يهدر الطاقة).

اختبر الباحثون هذا على أنواع مختلفة من مولدات الصور ووجدوا أن PAST تعمل في كل مكان، وليس في نموذج واحد فقط. وقد أظهروا أنه باستخدام هذه الطريقة، يمكن للكمبيوتر الوصول إلى نتائج عالية الجودة بشكل أسرع بكثير من ذي قبل. في الواقع، بالنسبة لبعض المهام، استغرق الأمر أقل من ثلث الوقت للحصول على نفس النتائج (أو نتائج أفضل).

تجادل الورقة البحثية ضد الطريقة القديمة التي تُتبع، حيث يتبع الكمبيوتر بشكل أعمى عدداً ثابتاً من الخطوات لكل مطالبة، بغض النظر عما إذا كانت تحتاج إليها أم لا. ويقترحون أن نهج "المقاس الواحد الذي يناسب الجميع" هذا هو هدر للطاقة. بدلاً من ذلك، من خلال السماح للكمبيوتر بتقرير متى ينتهي بناءً على ما يراه ويسمعه فعلياً، يمكننا جعل هؤلاء الفنانين من الذكاء الاصطناعي أكثر كفاءة.

إذاً، ما هي الخلاصة الكبرى؟ تقترح PAST أننا لسنا بحاجة لإجبار الذكاء الاصطناعي على العمل بجهد أكبر للحصول على نتائج أفضل، بل نحتاج فقط لتعليمه العمل بذكاء أكبر. فمن خلال منحه القليل من التوجيه على طول الطريق والسماح له بالتوقف عندما ينتهي، يمكننا توفير كميات هائلة من قدرة الحوسبة والحصول على صور أفضل بشكل أسرع. الأمر يشبه إدراك أنك لست بحاجة للقيادة حول المربع السكني بأكمله للوصول إلى المتجر إذا كان بإمكانك فقط الانعطاف يساراً عند الزاوية؛ تساعد PAST الذكاء الاصطناعي في العث de على ذلك الاختصار.