← 最新论文
💻 computer science

Device Context Protocol: A Compact, Safety-First Architecture for LLM-Driven Control of Constrained Devices

本文介绍了设备上下文协议(DCP),这是一种轻量级、以安全为先的架构,通过在协议层实施严格的权限范围限定与验证,使大型语言模型能够安全地控制内存受限的微控制器,在保持固件占用空间低于 30 KB 的同时,实现了对权限提升攻击 100% 的拦截。

原作者: Dongxu Yang

发布于 2026-05-27
📖 1 分钟阅读☕ 轻松阅读

原作者: Dongxu Yang

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你有一个非常聪明、但偶尔会走神的机器人助手(即LLM)。你希望这个助手能控制你家里的实物,比如开灯、调节恒温器或解锁房门。

问题在于,机器人用来与大型计算机服务器(称为MCP)通信的“语言”,就像一套沉重而华丽的盔甲。对于你灯泡或传感器内部那些微小、廉价的微芯片来说,这套盔甲太大太重了。这些微小的芯片就像小蚂蚁;它们无法背负沉重的盔甲。

此外,由于机器人有时会走神(产生幻觉)或被恶意指令(提示注入)欺骗,让它直接与物理硬件通信是危险的。如果机器人认为“解锁房门”意味着“解锁核导弹发射井的房门”,你肯定不希望房门真的打开。

于是,DCP(设备上下文协议)登场了。

这篇论文的作者为这些微小芯片构建了一种全新的、超轻量级的“制服”,并内置了安全护栏。以下是其工作原理,使用简单的类比说明:

1. “小制服”( wire 格式)

把旧协议(MCP)想象成通过重型卡车发送的 180 页法律合同。它占用太多空间和时间。
DCP则像一张明信片

  • 它极其小巧(通常仅 19 字节,在计算机术语中极小)。
  • 它能轻松装进微小微芯片(如 5 美元智能灯泡中的芯片)的“背包”里。
  • 它使用一种特殊的速记语言(CBOR),就像用表情符号代替完整句子一样高效,以节省空间。

2. “保安”(桥接器)

这是最重要的部分。在旧方式中,机器人直接与灯泡对话。如果机器人困惑,灯泡可能会困惑并损坏。
DCP系统中,机器人与设备之间站着一位保安(称为桥接器)。

  • 机器人向保安发送请求。
  • 保安在允许消息通过之前检查三件事:
    1. 身份核查:“你有这份特定工作的门票吗?”(能力范围限定)。
    2. 现实核查:“你要求将温度设为 500 度?这不可能。停止。”(范围和类型检查)。
    3. 预演:“你想解锁房门?让我们先假装执行一次,看看会发生什么,以确保安全。”(预演评估)。
  • 设备(灯泡)很简单。它不需要聪明,也不需要保安。它只需相信,如果保安放行了消息,那就是安全的。

3. “单位翻译器”

有时机器人会对单位感到困惑。它可能会说“将亮度设为 50",但灯泡期望的是"50 百分比”,而机器人实际指的是"50 流明”。
DCP强制机器人明确说明它指的是什么单位(例如"50 百分比”)。如果机器人试图猜测或使用错误的单位,保安会立即将其拦截。

论文发现(结果)

作者用五种不同的“智能机器人”(来自阿里巴巴、DeepSeek 和 MiniMax 等公司的 AI 模型)测试了该系统,并给它们提供了棘手、混乱或恶意的指令。

  • “幻觉”测试:当机器人试图做它们未被允许的事情时(例如,当它们仅被授权“改变亮度”时,却试图“重启灯泡”),**DCP 保安拦截了 100%**的此类尝试。而旧系统(MCP)几乎放行了所有此类尝试。
  • “欺骗”测试:当机器人被“提示注入”(用户将秘密命令隐藏在正常句子中)所欺骗时,**DCP 拦截了 78%**的恶意命令。而旧系统仅拦截了约 1%。
  • 速度测试:你可能会认为增加所有这些安全检查会使系统变慢。作者对此进行了测试,发现 DCP 与旧的不安全系统一样快。安全检查发生得如此迅速,以至于延迟几乎不可察觉(少于一眨眼的时间)。

结论

该论文认为,我们需要一种将 AI 与物理设备连接的新方式。当前的方式对于小型设备来说过于沉重,且由于过度信任 AI 而过于危险。

DCP是一种全新、微小、快速且安全的协议,它在 AI 与你的设备之间设置了一位“保安”。它确保即使 AI 犯错或被欺骗,你的物理设备也能保持安全,同时不会降低速度或需要昂贵的硬件。

简而言之:它是一个微小、超高效的安全网,让智能 AI 能够控制你的物理世界而不破坏它。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →