⚡ electrical engineering

When control meets large language models: From words to dynamics

本文探讨了大型语言模型与控制理论之间的双向关系，考察了大型语言模型如何增强控制器设计与研究流程，同时控制原理如何被应用于优化、对齐和稳定作为动态系统的大型语言模型行为。

原作者： Komeil Nosrati, Aleksei Tepljakov, Juri Belikov, Eduard Petlenkov

发布于 2026-05-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Komeil Nosrati, Aleksei Tepljakov, Juri Belikov, Eduard Petlenkov

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《当控制遇见大语言模型：从文字到动力学》的通俗解读，采用类比方式用日常语言进行翻译。

全景：一条双向街道

想象一个繁忙的十字路口，两个截然不同的世界在此交汇：控制理论（让事物保持稳定的科学，如汽车里的巡航控制系统或家里的恒温器）和大语言模型（LLMs，即那些能写作、编程和聊天的 AI 聊天机器人）。

这篇论文认为，这不仅仅是一条单行道。这是一种双向关系：

LLMs 帮助控制：AI 充当超级聪明的助理工程师，帮助人类设计更好的控制器。
控制帮助 LLMs：工程控制的原则被用来“驾驭”AI，防止它脱轨或说出危险的话。

第一部分：LLMs 如何帮助工程师（“超级助理”）

把控制工程师想象成试图驾驶复杂飞机的飞行员。通常，他们必须自己计算所有数学题、查阅手册，并手动调整设置。LLMs 正在以两种方式介入提供帮助：

1. 间接助手（研究助理）
想象你在写一篇论文。你必须阅读数百篇论文、清理杂乱的数据，并撰写报告。

论文指出：LLMs 可以充当不知疲倦的研究助理。它们可以总结旧论文、整理杂乱的数据，甚至编写模拟代码。
类比：这就像拥有一个初级实习生，它能在一秒钟内读完图书馆里的书，并递给你一份整理完美的摘要，让资深工程师专注于宏大的构想。

2. 直接助手（副驾驶）
有时，AI 不仅仅是总结，它实际上还帮助设计系统。

论文指出：LLMs 可以建议控制器的具体数值（例如刹车应该有多强），或者帮助设计机器人的路径。它们甚至可以在计算机模拟中运行“如果……会怎样”的情景，看看设计在建造之前是否会崩溃。
类比：这就像一位副驾驶，它不仅仅拿着地图，而是真正握住控制杆，根据天气建议更平滑的路线或调整引擎设置。论文指出，虽然它们擅长于此，但仍需要人类进行双重检查，因为它们有时会做出“幻觉”（自信但错误的猜测）。

第二部分：控制理论如何帮助 LLMs（“方向盘”）

现在，换个角度。LLMs 很强大，但它们可能不可预测。它们可能会说出粗鲁的话、撒谎或偏离主题。控制理论提供了让它们在正轨上运行的工具。

论文描述了三种“驾驭”AI 的主要方式：

1. 编辑大脑（模型编辑）

类比：想象 AI 是一个人。如果它有一个坏习惯，你可以尝试重新连接它的大脑来停止这种行为。
论文指出：这涉及永久性地改变 AI 内部的“权重”（它的记忆）以修复特定错误。这就像进行永久性的手术，让 AI 在特定事实问题上讲真话。

2. 按下按钮（激活工程）

类比：想象 AI 是一辆车，而你有一个遥控器。你不需要改变引擎；你只需在车行驶时按下一个按钮，将车稍微向左或向右推一下。
论文指出：你不需要改变大脑，而是在 AI 思考的过程中微调它的内部思维。如果 AI 开始变得愤怒，你可以注入一个微小的“冷静”信号，将其推回礼貌的状态。这是暂时的，但非常快。

3. 编写更好的提示（输入优化）

类比：这就像在 AI 开始驾驶之前，给它一套非常具体的指令。“保持在车道内，不要超速，并注意停车标志。”
论文指出：通过精心设计我们给 AI 的问题或提示，我们可以在不接触其代码的情况下引导其行为。论文将此视为一种“前馈”控制系统——在旅程开始之前设定好路线。

新的"LiSeCo"方法：
论文强调了一种名为LiSeCo的新颖方法。将其想象为 AI 思维的智能巡航控制。它不断检查 AI 是否偏离到“不安全”的领域（如变得粗鲁或撒谎），并在 AI 生成文本的同时，自动施加微小的修正以保持其在安全路径上。

第三部分：AI 作为机器（“状态空间”视角）

这是论文中最具技术性的部分，简单解释如下：

核心思想：传统上，我们将 AI 仅仅视为文本生成器。但论文说：“等等，让我们把 AI 看作一个具有运动部件的机器。”
类比：想象 AI 不仅仅是一个吐出单词的魔法盒子。想象它是一个巨大而复杂的发条装置。它说的每一个词都会让内部的齿轮转动。
与 Mamba 的联系：论文讨论了一种名为Mamba的新型 AI 架构。将 Mamba 想象为这些时钟的一种更新、更高效的引擎。与旧引擎（Transformer）随着故事变长而变得缓慢和笨重不同，Mamba 就像一种轻量级、高速的引擎，它能像记住故事结尾一样记住故事的开头，而不会感到疲倦。
为何重要：因为我们现在可以将这些 AI 引擎视为“机器”，我们可以利用控制理论的数学（例如检查汽车是否稳定或桥梁是否坚固）来分析 AI。我们可以问：“这个 AI 的内部状态稳定吗？”或者“我们能控制它的去向吗？”

第四部分：挑战（“减速带”）

论文持乐观态度但也实事求是。它列出了几个障碍：

信任问题：如果 AI 为核电站或自动驾驶汽车设计控制器，而 AI 犯了错，那将是危险的。我们还不能盲目地信任它。
“黑箱”：即使有了这些新方法，仍然很难确切知道 AI 为何做出某个决定。这就像试图在不看到齿轮的情况下修理手表。
现实世界与模拟：大多数测试都在计算机模拟中发生（就像电子游戏）。论文警告说，现实世界的物理现象（风、摩擦力、损坏的传感器）比电子游戏更难处理。
“漂移”：AI 模型可能会随着时间推移逐渐改变其行为，或者因长对话而感到困惑。我们需要更好的“护栏”来防止它们偏离航线。

结论

论文总结道，控制理论与 AI 是最佳拍档。

AI 为工程师提供了一种超级强大的工具，以设计更好的系统。
控制理论 为工程师提供了数学和工具，以保持 AI 的安全、稳定和可信。

目标是构建像我们已将其生命托付给的那些机电机器（如电梯或飞机）一样可靠和安全的 AI 系统。我们正从一个 AI 仅仅“猜测”单词的时代，迈向一个我们可以从数学上保证其行为符合我们意愿的时代。

技术摘要：当控制遇见大语言模型：从文字到动力学

1. 问题陈述

大语言模型（LLMs）的快速发展已确立其为工程与决策支持领域的强大工具。然而，这一进展带来了双重挑战：LLMs 正越来越多地被用于设计和控制复杂系统，同时它们自身也作为复杂的动力学系统运行，其行为必须受到调节。目前，LLMs 与控制理论的交叉领域尚显碎片化，缺乏一个统一的框架来处理两者之间的互惠关系。具体而言，我们需要理解 LLMs 如何增强控制工程的工作流和设计流程，同时确定如何将控制理论原理应用于引导 LLM 行为、确保安全，并将其内部动力学作为状态空间系统进行分析。

2. 方法论

本文采用概念性和分析性框架，描绘 LLMs 与控制理论之间的双向连续体。方法论围绕三个主要范式构建：

用于控制的 LLM（LLM for Control）： 分析 LLMs 如何通过间接工作流增强（例如文献综合、代码脚手架）和直接技术干预（例如控制器综合、参数整定、符号推理）来辅助控制工程。本文根据提示策略（零样本、少样本、思维链）和架构角色（智能体、优化器）对这些交互进行了分类。
用于 LLM 的控制（Control for LLM）： 考察利用控制理论概念调节 LLM 输出的方法。这涉及将 LLMs 视为离散时间随机动力学系统，其中输入为控制信号。本文研究了三种引导策略：
- 模型编辑（Model Editing）： 修改参数（ $\theta$ ）以强制特定行为，同时保持局部性。
- 激活工程（Activation Engineering）： 在推理过程中向隐藏状态注入引导信号，以引导风格或情感，而不改变参数。
- 提示工程（输入优化）（Prompt Engineering / Input Optimization）： 将提示视为开环前馈控制输入，以塑造状态轨迹。
- 形式化控制（Formal Control）： 应用线性语义控制（LiSeCo）等概念，计算具有可证明保证的最优潜在空间干预。
利用 LLM 进行控制（动力学分析）（Control with LLM / Dynamics Analysis）： 将 LLMs 本身建模为动力学系统。本文对比了传统的 Transformer 架构与结构化状态空间模型（SSMs），特别是 Mamba 家族。文章通过可控性、可观性和稳定性的视角分析这些模型，并利用规范型（可控规范型、可观规范型）来解释内部状态动力学。

3. 主要贡献

本文做出了以下具体贡献：

历史综合： 追溯了 AI 与控制协同的演变，从早期的控制论和斯坦福小车（Stanford Cart）到现代的人类反馈强化学习（RLHF）及基于 Transformer 的架构，强调了两个领域中反馈回路的趋同。
交互分类： 作者提出了一张结构化地图（图 2），将 LLM-控制交叉领域划分为三个范式：
- 间接支持： LLMs 增强研究工作流（0–2 级自动化）。
- 直接支持： LLMs 参与控制器设计、整定（离线和在线）、优化（类 MPC 规划）以及符号推理（例如李雅普诺夫函数发现）。
- LLM 的控制： 利用控制概念通过参数编辑、激活工程和输入优化来引导 LLM 轨迹。
- 内部动力学： 将 LLMs 分析为 SSMs，以评估可控性和稳定性。
SSMs 与 Mamba 的分析： 本文详细阐述了 Mamba 和 Mamba-2 架构如何结合输入依赖的选择机制（S-SSMs），将线性时不变（LTI）系统转化为线性时变（LTV）系统。文章展示了如何通过施加可控性、可观性和稳定性约束（例如，通过对矩阵 $A$ 对角线元素进行负缩放），来提高这些模型的鲁棒性和可解释性。
挑战的识别： 作者系统地指出了当前研究的局限性，包括：
- 针对控制中的 LLM： 缺乏工作流改进的实证证据、依赖狭窄的基准测试、提示敏感性以及有限的物理 grounding。
- 针对 LLM 的控制： 校准干预强度的困难、长时程任务缺乏形式化安全保证，以及理论可控性与涌现行为之间的差距。
- 针对动力学分析： SSMs 中潜在动力学的复杂性，以及相较于基于注意力的模型缺乏可解释性。

4. 结果与发现

本文基于对现有文献的回顾和理论分析（而非生成新的实验数据）提出了以下发现：

工作流增强： LLMs 能够将研究任务从简单的论证构建（0 级）结构化到自主多步骤编排（2 级），尽管目前的应用大多具有说明性。
控制器设计： 像 ControlAgent 和 AgenticControl 这样的框架表明，LLMs 可以利用迭代、闭环反馈，在线性时不变（LTI）系统的 PID 控制器整定中实现近乎完美的成功率。然而，当应用于非线性或高维系统且缺乏明确的物理 grounding 时，性能会下降。
符号推理： LLMs 在发现全局李雅普诺夫函数以及将自然语言规范转化为控制律方面显示出前景，尽管它们在开放式组合问题上仍面临困难。
引导机制： 像 LiSeCo 这样的方法通过解决激活上的约束优化问题，为将 LLM 轨迹引导至安全语义区域提供了可证明的保证。然而，这些方法目前需要离线训练探针，并且仅限于预定义的属性区域。
SSM 动力学： 对 Mamba 架构的分析表明，其输入依赖的选择机制允许进行内容感知建模，有效地弥合了 RNN 的效率与 Transformer 的上下文捕捉能力之间的差距。在这些模型中强制实施规范型增强了其稳定性和可控性属性。

5. 意义与未来展望

本文认为，LLMs 与控制理论的融合对于开发可信、鲁棒且可解释的 AI 系统至关重要。其意义在于：

提供统一框架： 它超越了碎片化的应用，提供了一个结构化的“互连地图”，阐明了控制理论如何调节 LLMs，以及 LLMs 如何增强控制设计。
** bridging 理论与实践：** 通过将 LLMs 建模为动力学系统，本文表明可控性和可观性等概念不仅仅是理论抽象，而是分析和确保 AI 行为安全的实用工具。
指导未来研究： 作者概述了关键的未来方向，包括需要：
- 实证验证： 进行系统性研究，以量化 LLMs 对控制研究质量和现实部署的影响。
- 鲁棒性与安全性： 开发用于长时程规划、处理不确定性以及确保安全关键应用（例如机器人、电网）安全的方法。
- 可解释性： 为基于 SSM 的模型创建控制理论抽象，使其内部决策过程透明化。
- 重构控制： 质疑传统的永久调节是否是唯一路径，并建议对于日益自主的系统，“基于信任的对齐”和共同意图可能是必要的。

本文结论指出，尽管已取得显著进展，但该领域仍处于起步阶段。要构建与机电对应物一样可信和鲁棒的 AI 系统，需要跨学科的努力，将动力学建模、控制理论和 LLM 能力整合在一起。