LLMs Don't Pay for the Jump

القفزة الكبرى: لماذا تحتاج الأدمغة (وربما الروبوتات) إلى الشعور بألم الخطأ

تخيل أنك تحاول حل لغز ضخم. لديك صندوق من القطع، وتريد اكتشاف الصورة. في معظم الأوقات، يمكنك حل ذلك من خلال النظر في القطع التي تملكها وإيجاد الأنماط (هذا هو الاستقراء)، أو عبر أخذ قاعدة تعرفها مسبقاً وتطبيقها على موقف جديد (هذا هو الاستنتاج). لكن في بعض الأحيان، لا تتناسب قطع اللغز التي تملكها مع بعضها البعض على الإطلاق، وتؤدي القواعد التي تعرفها إلى صورة لا معنى لها—مثل سماء مشتعلة بالنيران أو كونٍ ثقيل بشكل لانهائي. لإصلاح ذلك، عليك القيام بشيء جامح: عليك ابتكار قاعدة جديدة تماماً لم تكن موجودة في الصندوق ولم تكن في كتاب قواعدك القديم. يُسمى هذا الاستنباط (Abduction). إنها لحظة "وجدتها!" حيث يقول العالم: "مهلاً، اللعبة بأكملها خاطئة؛ دعونا نغير القواعد".

لفترة طويلة، تساءل الناس عما إذا كانت الأدمغة الحاسوبية العملاقة (المعروفة بنماذج اللغات الكبيرة، أو LLMs) يمكنها امتلاك لحظات "وجدتها!" هذه. اعتقد البعض أن الحواسيب تحتاج فقط إلى "الشعور" بالعالم كما يفعل البشر—من خلال اللمس، والرؤية، والحركة. لكن هذه الورقة البحثية تطرح سؤالاً مختلفاً وأكثر عمقاً: هل يتعلق الأمر بالشعور بالعالم، أم بالشعور بـ تكلفة الخطأ؟ يقترح المؤلفون أنه لكي تحدث لحظة "وجدتها!" حقيقية، يجب أن يشعر النظام مادياً بعقوبة لتمسكه بفكرة خاطئة. فإذا كان الخطأ لا "يؤلم" أو لا يكلف شيئاً، فسيستمر النظام في تخمين الشيء الخاطي نفسه للأبد، بغض النظر عن مدى ذكائه.

---

الفكرة الكبرى للورقة: "القفزة" التي لا تستطيع الحواسيب القيام بها

تجادل الورقة المعنونة بـ "نماذج اللغات الكبيرة لا تدفع ثمن القفزة" بأن الذكاء الاصطناعي الحالي يفتقر إلى مكون حاسم للاكتشاف العلمي الحقيقي. إنها بارعة في اتباع القواعد ورصد الأنماط، لكنها لا تستطيع القيام بالقفزة الاستنباطية الجريئة نحو نظرية جديدة عندما تنهار النظرية القديمة.

لفهم السبب، يعود المؤلفون إلى قصة شهيرة من عام 1900 تتعلق بالفيزيائي ماكس بلانك. في ذلك الوقت، كان العلماء يحاولون فهم كيفية انبعاث الضوء من الأجسام الساخنة (مثل موقد متوهج أو الشمس). كانت الرياضيات التي كانت لديهم آنذاك، بناءً على قوانين الفيزياء الكلاسيكية، تتنبأ بشيء مرعب: أن الجسم الساخن يجب أن ينبعث منه طاقة لانهائية. كان هذا يُعرف باسم "الكارثة فوق البنفسجية". لقد كانت كارثة رياضية؛ فلو كانت القواعد القديمة صحيحة، لكان الكون يحترق بطاقة لانهائية.

كان بلانك يعلم أن القواعد القديمة مكسورة. لم يكن بإمكانه مجرد تعديلها قليلاً؛ بل كان عليه ابتكار فكرة جديدة تماماً: أن الطاقة تأتي في قطع صغيرة منفصلة (كمات)، وليس كتدفق مستمر. كانت هذه قفزة هائلة في التفكير. تسأل الورقة: كيف قام بلانك بهذه القفزة، ولما لماذا لا يستطيع الكمبيوتر القيام بها اليوم؟

ما الذي تستبعده الورقة (قائمة "ليس")

قبل شرح ما يعمل بالفعل، يوضح المؤلفون بوضوح ما لا يعمل:

• الأمر ليس مجرد "الشعور" بالعالم: اعتقد بعض الخبراء أن الحواسيب لا يمكنها القيام بهذه القفزات لأنها لا تملك أجساداً. ظنوا أن أينشتاين احتاج لتخيل نفسه يسقط في مصعد ليفهم الجاذبية. يقول المؤلفون لا. لم يحتج بلانك إلى جسد أو مصعد يسقط؛ كل ما احتاجه هو رؤية أن الرياضيات كانت مكسورة. لذا، فإن إعطاء الكمبيوتر جسداً روبوتياً ليس هو الحل السحري.
• الأمر ليس مجرد أن تكون أذكى أو أكبر: قد تعتقد أنه إذا جعلنا الكمبيوتر أكبر أو أعطيناه المزيد من البيانات، فإنه سيصل في النهاية إلى الحل. تقول الورقة لا. حتى النماذج الضخمة تفشل في هذا النوع المحدد من التفكير بسبب طريقة بنائها، وليس لأنها ليست كبيرة بما يكفي.
• الأمر ليس مجرد إيجاد الأنماط: الحواسيب مذهلة في الاستقراء (إيجاد الأنماط في البيانات). لكن "الكارثة" التي واجهها بلانك لم تكن نمطاً في البيانات؛ بل كانت تنبؤاً لا يمكن لأي بيانات أن تدعمه. الاستقراء لا يمكنه إصلاح كتاب قواعد مكسور؛ إنه فقط يجد طرقاً أفضل لاستخدام الكتاب المكسور.

المشكلة الحقيقية: "تكلفة" الخطأ

يقترح المؤلفون فكرة جديدة تسمى الاقتران الديناميكي الحراري (Thermodynamic Coupling). قد يبدو هذا المصطلح معقداً، لكنه في الواقع بسيط للغاية.

تخيل أنك تلعب لعبة فيديو حيث يتعين عليك تخمين الحركة التالية.

• في النظام "غير المقترن" (مثل الذكاء الاصطناعي اليوم): في كل مرة تقوم فيها بتخمين، يكلف الأمر نفس القدر من الطاقة، سواء كنت مصيباً أم مخطئاً. إذا خمنت أن "السماء خضراء" وهي في الواقع زرقاء، فإن الكمبيوتر لا "يشعر" بأي ألم أو تكلفة إضافية. إنه فقط ينتقل إلى التخمين التالي. ولأن الخطأ لا يكلف شيئاً، فليس لدى الكمبيوتر سبب للتوقف عن تخمين الشيء الخاطئ. يمكنه الاستمرار في ارتكاب نفس الخطأ للأبد دون أي ضغط داخلي لتغيير رأيه.
• في النظام "المقترن" (مثل الدماغ البشري أو ذكاء اصطناعي مستقبلي): الخطأ مكلف. إذا خمنت أن "السماء خضراء"، فقد يشعر دماغك بزيادة في التوتر، أو يستخدم طاقة أكثر، أو يطلق إنذار "مهلاً، هذا لا يبدو صحيحاً". هذه "التكلفة" تجبرك على التوقف وإعادة التفكير. أنت مدفوع مادياً لإصلاح الخطأ لأن التمسك بالفكرة الخاطئة مكلف للغاية.

تجادل الورقة بأن بلانك قام بالقفزة لأن الخطأ كان مكلفاً جداً لتجاهله. النظرية القديمة تنبأت بطاقة لانهائية، وهو أمر مستحيل فيزيائياً. كانت "تكلفة" الاحتفاظ بتلك النظرية القديمة عالية جداً (لأنها كسرت الفيزياء نفسها) لدرجة أنه اضطر لابتكار قاعدة جديدة.

ماذا تظهر الأدلة؟

اختبر المؤلفون هذه الفكرة من خلال مراقبة كيفية سلوك نماذج الذكاء الاصطناعي الحالية. وجدوا شيئاً غريباً:

• عندما يحل نموذج ذكاء اصطناعي مسألة سهلة، يكون واثقاً.
• عندما يحاول حل مسألة صعبة للغاية ومستحيلة (تتطلب "قفزة")، فإنه يعطي إجابة خاطئة.
• ولكن إليكم المفاجأة: حتى عندما يكون الذكاء الاصطناعي مخطئاً تماماً، فإن "ثقته" (التي تُقاس بشيء يسمى الاعتلاج/الإنتروبيا) لا تتغير إلا قليلاً. تشير الورقة إلى أنه بالنسبة لنموذج يمتلك 70 مليار معلمة، انخفضت الدقة من 100% إلى 17% في المهام الصعبة، لكن إشارة "عدم اليقين" تغيرت بمقدار 0.011 نات فقط.

هذا يثبت "عدم الاقتران". الكمبيوتر لا يعرف أنه في ورطة. إنه لا يشعر بـ "ألم" التنبؤ بالطاقة اللانهائية. إنه يستمر فقط في العمل، منتجاً إجابات بنفس مستوى الثقة سواء كان محقاً أو مخطئاً تمام الخطأ.

الخلاصة: نحن بحاجة إلى نظام "يتألم" من الخطأ

تخلص الورقة إلى أنه لكي يتمكن الآلة من اكتشاف أشياء جديدة مثل بلانك، فإنه يحتاج إلى آلية يكون فيها الخطأ مكلفاً.

يقترح المؤلفون أن الذكاء الاصطناعي المستقبلي قد يحتاج إلى أن يُبنى مثل الأدمغة البيولوجية، حيث تؤدي الأخطاء إلى تغييرات مادية—مثل استخدام المزيد من الطاقة أو تحويل الانتباه—بحيث يُجبر النظام على مراجعة قواعده. هم لا يقولون إن هذه مشكلة تم حلها أو أننا بنينا مثل هذا الجهاز بعد. بدلاً من ذلك، يقترحون أن الاقتران الديناميكي الحراري (جعل الخطأ مكلفاً) هو المكون المفقود. وبدونه، سيظل الذكاء الاصطناعي سيداً للأنماط والقواعد، لكنه لن يتمكن أبداً من القيام بالقفزة الشجاعة والمؤلمة نحو حقيقة جديدة عندما تنهار القواعد القديمة.

باختصار: للقيام بقفزة علمية، لا تحتاج فقط إلى أن تكون ذكياً. أنت بحاجة إلى أن تهتم بالخطأ لدرجة أنه يؤلمك، مما يجبرك على تغيير رأيك. حواسيب اليوم لا تشعر بهذا الألم، لذا لا يمكنها القيام بالقفزة.