لقد أصبحت الذكاء الاصطناعي الحديث ماهرًا بشكل ملحوظ في توليد النصوص، وكتابة الأكواد البرمجية، وتخطيط المهام المعقدة. تعمل هذه الأنظمة من خلال التنبؤ بالكلمة أو الإجراء التالي بناءً على تاريخ واسع من الأمثلة السابقة، مما يخلق تدفقًا سلسًا للأفكار يبدو غالبًا كأنه تفكير بشري. ومع ذلك، تظل هناك مشكلة مستمرة: عندما ترتكب هذه الأنظمة خطأً في البداية، فإنها غالبًا ما تصر عليه وتضاعف منه. يمكنها نسج قصة مقنعة حول فرضية خاطئة، وتطوير منطقها الداخلي حتى يبدو الخطأ أكثر يقينًا، بينما تبتعد أكثر فأكثر عن الحقيقة. يحدث هذا لأن عملية توليد الإجابة وعملية التحقق من تلك الإجابة ليستا مرتبطتين ارتباطًا وثيقًا. فالنظام ينتج نتيجة، وفقط لاحقًا، غالبًا من خلال إشارة المستخدم إلى الخطأ، يدرك أن شيئًا ما خطأ. وبحلول ذلك الوقت، يكون الجهاز قد مضى قدمًا، بعد أن بنى سلسلة طويلة من الاستدلال على أساس مهتز.

يسأل الباحثون الآن عما إذا كان بإمكاننا بناء نوع مختلف من البنى لهذه الآلات، نوع يحاكي كيفية تعامل الكائنات الحية مع عدم اليقين والتصحيح. الفكرة الجوهرية هي فصل فعل التفكير عن فعل اتخاذ القرار بالكلام أو الفعل. في التجربة البشرية، هناك لحظة توقف حيث يمكننا النظر في أفكارنا، والتحقق منها مقابل الحقائق، وتقرير ما إذا كانت جاهزة للمشاركة. يقترح هذا البحث تصميم نظام يجلب تلك الوقفة إلى المنطق التشغيلي للآلة. ويقترح أنه لكي يكون الوكيل الاصطناعي موثوقًا حقًا، يجب عليه أن يعامل كل مهمة كحلقة زمنية محددة لها بداية واضحة، ومنتصف يتم فيه فحص عمله، وبوابة صارمة تمنع أي مخرج من الخروج حتى يجتاز اختبارًا محددًا للدقة.

يأتي المقترح، الذي يحمل عنوان TME LLM OS، من الباحث المستقل إيلان كاندر، ويحدد طريقة جديدة لتنظيم البرمجيات التي تشغل نماذج اللغات الكبيرة. الاسم يرمز إلى (النظري-الميكانيكي-التجريبي)، وهو إطار يميز بين المعالجة الخام للمعلومات والوعي بتلك المعلومات. يجادل المؤلف بأنه بينما تتفوق أنظمة الذكاء الاصطناعي الحالية في معالجة البيانات، إلا أنها تفتقر إلى آلية داخلية محددة للتوقف والمراجعة وتصحيح نفسها قبل أن يصبح الخطأ فعلًا نهائيًا. لا يدعي البحث أنه بنى آلة واعية أو أنه حل لغز الفكر البشري، بل يقدم مخططًا هندسيًا ملموسًا لنظام يمكنه رصد أخطائه في الوقت الفعلي، تمامًا مثل طيار يقوم بمراجعة قائمة التحقق قبل الإقلاع، لضمان عدم تخطي أي خطوة حاسمة.

الابتكار المركزي لهذا المقترح هو مفهوم "الحلقة الزمنية" (Episode). في الأنظمة الحالية، غالبًا ما تكون المحادثة أو المهمة مجرد تدفق مستمر من البيانات. إذا ارتكب النظام خطأ في الجملة الأولى، فقد يحاول إصلاحه في الجملة الثانية، لكنه غالبًا ما يفشل في العودة والتحقق من المصدر الأصلي للخطأ. يغير TME LLM OS ذلك من خلال إنشاء مساحة عمل مخصصة لكل مهمة. تحتفظ مساحة العمل هذه بالطلب الأصلي، ومصدر المعلومات، وتاريخ محاولات النظام لحل المشكلة. عندما يولد النظام إجابة مرشحة، فإنه لا يطلقها فورًا؛ بدلاً من ذلك، يدخل في "تأخير تأملي"، وهي وقفة مبرمجة حيث يعامل النظام مخرجاته ككائن يجب فحصه.

خلال هذه الوقفة، يقوم النظام بسلسلة من الفحوصات المفقودة حاليًا في معظم بنيات الذكاء الاصطناعي. فهو يفصل مصدر المعلومات عن تفسيره الخاص. يتساءل عما إذا كانت الأدلة تدعم الادعاء، وما هي المعلومات التي قد تكون مفقودة، وهل هناك طرق أخرى لفهم الموقف. تسمى هذه العملية "التجزئة الثانوية"، حيث يقوم النظام بتفكيك عملية تفكيره إلى أجزاء متميزة ليرى ما إذا كانت تتوافق منطقيًا. إذا وجد النظام عدم تطابق بين ما ولده وبين الحقائق التي يمتلكها، فإنه لا يمضي قدمًا ببساطة، بل يعود في حلقة مفرغة، ويجمع المزيد من المعلومات، ويحاول مرة أخرى. تستمر هذه الدورة حتى يصبح الفرق بين الإجابة المقترحة والحقائق المعروفة ضمن نطاق آمن ومقبول.

يؤكد البحث أن الأمر لا يتعلق بجعل الآلة أكثر ذكاءً بمعنى معرفة المزيد من الحقائق، فذكاء الآلة الأساسي يظل كما هو، بل التغيير يكمن في كيفية استخدام الآلة لذلك الذكاء. تعاني أنظمة الذكاء الاصطناعي حاليًا مما يسميه المؤلف "انحراف الإفراط في التفكير". يحدث هذا عندما يستمر النظام في توليد نص متسق داخليًا ولكنه خاطئ واقعيًا لأنه فقد الاتصال بالدليل الأصلي. من خلال إجبار النظام على التوقف ومقارنة أفكاره الداخلية مع العالم الخارجي، يهدف TME LLM OS إلى منع هذا الانحراف. تم تصميم النظام للحفاظ على "الاهتمام الحاكم" للمهمة في ذهنه، مما يضمن أن كل خطوة متخذة ذات صلة بالهدف الأصلي ومستندة إلى بيانات موثوقة.

جزء رئيسي من هذا التصميم هو التمييز بين نوعين من التصحيح. الأول يحدث فورًا، ضمن المهمة الحالية؛ فإذا كان النظام يكتب تقريرًا وأدرك أنه استخدم رقمًا خاطئًا، يمكنه إصلاحه فورًا دون تغيير برمجته الأساسية، وهذا هو "تصحيح وقت التشغيل". النوع الثاني من التصحيح يحدث على مدى فترة أطول؛ فإذا كان النظام يرتكب نوعًا معينًا من الأخطاء بشكل متكرر عبر مهام مختلفة عديدة، يتم حفظ هذه المعلومات واستخدامها لتحديث ذاكرة النظام طويلة المدى أو قواعده الأساسية. يضمن ذلك أن تتعلم الآلة من أخطائها دون أن تصبح غير مستقرة أو تغير سلوكها بطرق غير متوقعة خلال محادثة واحدة.

يتناول المقترح أيضًا مسألة السلامة والتحكم. في العديد من الأنظمة الحالية، يتعين على المستخدم التدخل يدويًا لإيقاف الآلة عن القيام بحركة خطيرة أو خاطئة. يبني TME LLM OS "بوابة إطلاق محكومة" في البنية. تعمل هذه البوابة كنقطة تفتيش نهائية؛ فقبل تنفيذ أي كود، أو اتخاذ أي إجراء مادي، أو نشر أي نص، يجب أن يجتاز النظام مراجعة نهائية. إذا لم يتمكن النظام من التحقق من أن الإجراء آمن وصحيح، فلن يطلق المخرج، بل سيقوم إما بطلب المزيد من المعلومات، أو إضافة تحذيرات لتوضيح إجابته، أو تسليم المهمة إلى مشغل بشري. هذا يخلق شبكة أمان مدمجة في عملية صنع القرار الخاصة بالآلة، بدلاً من الاعتماد على مراقب خارجي للإمساك بكل خطأ.

يحرص المؤلف على توضيح أن هذا النظام لا يدعي محاكاة الوعي البشري، إذ يفصل البحث صراحة بين التنظيم الوظيفي للآلة والتجربة المعاشة للإنسان. الآلة لا "تشعر" بالحاجة لتصحيح نفسها، بل تتبع ببساطة مجموعة من القواعد التي تتطلب منها فحص عملها. الهدف ليس خلق آلة حية، بل خلق آلة موثوقة. من خلال تنظيم عمليات الآلة في حلقة تتضمن التأمل والتصحيح، يصبح النظام أكثر قوة ضد أنواع الأخطاء التي تعاني منها أنظمة الذكاء الاصطناعي حاليًا.

يقارن البحث هذه البنية الجديدة بالأنظمة المستخدمة في شركات التكنولوجيا الكبرى ومختبرات الأبحاث. وبينما تمتلك تلك الأنظمة أدوات قوية للاستدلال والتخطيط، إلا أنها غالبًا ما تفتقر إلى الهيكل التنظيمي المحدد الذي يبقي مصدر المعلومات متميزًا عن تفسير الآلة. يقترح TME LLM OS أنه من خلال إضافة هذا الهيكل، يمكننا تحسين كيفية تعافي الآلات من المقدمات الخاطئة، وتقليل الحاجة إلى تصحيح المستخدمين لها باستمرار، وخفض التكلفة الإجمالية لإنجاز المهمة بشكل صحيح. ويقترح المؤلف أن المقياس الحقيقي للنجاح ليس فقط سرعة عمل الآلة، بل مدى تكرار حصولها على الإجابة الصحيحة من المحاولة الأولى ومدى أمان تعاملها مع المهام المعقدة.

في نهاية المطاف، يعد هذا المقترح فرضية حول كيفية بناء ذكاء اصطناعي أفضل. إنه يشير إلى أن الخطوة التالية في تطور الذكاء الاصطناعي ليست فقط جعل النماذج أكبر أو أقوى، بل جعل عملياتها الداخلية أكثر انضباطًا. من خلال إدخال وقفة للتأمل وبوابة صارمة للإطلاق، يهدف TME LLM OS إلى إنشاء وكلاء ليسوا قادرين فحسب، بل موثوقين أيضًا. ويخلص البحث إلى أنه بينما لا يحل النظام لغز الوعي، فإنه يقدم مسارًا عمليًا لبناء آلات يمكنها تصحيح أخطائها، والبقاء متجذرة في الواقع، والعمل بأمان في العالم الحقيقي. يظل العمل مقترحًا، ومجموعة من التعليمات لنوع جديد من بنية الآلات التي لم تُختبر وتُقارن بعد بالأنظمة الأكثر تقدمًا المستخدمة حاليًا.