← 最新论文
💬 NLP

Telegraph English: Semantic Prompt Compression via Structured Symbolic Rewriting

电报式英语(TE)是一种新颖的提示压缩协议,它将自然语言重写为富含符号、结构化的原子事实行方言,与现有的令牌删除方法(如 LLMLingua-2)相比,在各种模型中实现了更卓越的准确性和语义索引能力。

原作者: Mikhail L. Arbuzov, Sisong Bei, Ziwei Dong, Dmitri Kalaev, Alexey A. Shvets

发布于 2026-05-07
📖 1 分钟阅读☕ 轻松阅读

原作者: Mikhail L. Arbuzov, Sisong Bei, Ziwei Dong, Dmitri Kalaev, Alexey A. Shvets

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你收到朋友寄来的一封冗长、啰嗦的长信。你需要把它转寄给另一个人,但你想节省邮费(即“token"),同时确保收件人能理解最关键的部分,而不会被无关的废话淹没。

目前的标准做法(称为LLMLingua-2)就像一场“删改”游戏。你拿一支红笔划掉 50% 的单词,希望剩下的句子依然通顺。问题在于?你可能会不小心划掉“因为”或“因此”这类词,让读者去猜测观点之间的逻辑联系;或者你删掉了一个具体数字,而那恰恰是故事中最关键的部分。

本文介绍了一种名为**电报英语(Telegraph English, TE)**的新方法。TE 不像只是划掉单词,它更像一位精通翻译的大师,将整封信重写为一种超高效、类代码的语言。

以下是其工作原理,使用简单的类比说明:

1. “删改”与“重写”

  • 旧方法(Token 删除):想象你在编辑一本小说,每隔一个词就删掉一个。你可能会得到这样的结果:“猫坐在……地毯上。”虽然变短了,但行文流畅度被破坏了。如果你删掉了“不”,整个意思就会完全反转。
  • 新方法(电报英语):想象将同一本小说重写为一系列使用秘密缩写的要点。
    • 原文:“根据 Johnson 及其同事(2023)的研究,将机器学习技术应用于医疗诊断,与传统方法相比,早期检测率提高了 27.5%,同时假阳性率降低了约 12%。”
    • 电报英语ML→MEDICAL-DIAGNOSTICS: EARLY-DETECTION+27.5% ∧FALSE-POSITIVE-12% [JOHNSON:2023]
    • 结果:该句子从 68 个单词缩减为 14 个"token",但每一个事实、数字和关系都依然保留,且清晰标注。

2. “乐高积木”优势

论文声称,TE 拥有一种特殊超能力:压缩与组织同步进行

  • 旧方法:当你删改文本时,得到的是更小的一堆杂乱单词。如果之后想查找某个具体事实,你必须重新通读整堆杂乱的内容。
  • 新方法:TE 将文本拆解为“原子事实行”。这就像把一大块杂乱的黏土变成一个个带标签的乐高积木。
    • 每一行代表一个单一事实。
    • 每一行都有标签(例如 PAST:LIKELY:CITATION:)。
    • 由于每一行都是自包含的事实,你可以瞬间提取出仅包含“日期”或仅包含“数字”的部分,而无需重读整篇文档。这就像拥有一个图书馆,每本书的书脊上都已按主题分类。

3. 为何它对“更聪明”和“较笨”的计算机都更有效

研究人员在五种不同的 AI 模型(从非常聪明的到较小、较便宜的)上测试了该方法。

  • 对于智能模型:TE 的表现与旧方法相当,但成本减半。
  • 对于较小模型:这是 TE 大放异彩的地方。较小的 AI 模型有时难以在单词缺失时“填补空白”。
    • 类比:如果你给一个小孩子一个缺了一半拼图的拼图(Token 删除),他们可能会猜错图案。如果你给他们一个每块拼图都清晰标注且相互连接的拼图(电报英语),他们就能完美地拼好。
    • 论文发现,在处理棘手且细节丰富的问题时,TE 帮助较小模型获得正确答案的概率比旧方法高出多达11%

4. “一次性重写,永久可管理”原则

论文提出了一个概念,称为**“压缩一次,持续管理”**。

  • 旧方法:你压缩文本一次以便发送。如果 AI 生成了一个长答案,该答案会以巨大的、未压缩的文本墙形式返回。如果你需要将此答案发送给第三方,你必须再次压缩所有内容。
  • 新方法:由于 TE 将文本转化为结构化的“事实积木”,AI 的答案也可以用 TE 书写。这意味着整个对话始终保持压缩和有序。你无需重新压缩任何内容;结构是内置的。

局限(注意事项)

论文诚实地指出了缺点:

  1. 需要“翻译器”:要将文本转换为电报英语,你需要先运行一个 AI 模型。这需要前期的时间和资金投入。如果你发送的消息只会被阅读一次且不再使用,这一步可能得不偿失。
  2. 仅限英语:这种特定的“缩写”是专为英语设计的。对于结构截然不同的语言(如中文或阿拉伯语),若不进行重大重新设计,它无法立即适用。
  3. 规则严格:该系统非常僵化。它强制将事实纳入特定格式。如果输入本身已经非常简短且密集,该系统实际上可能会使其变长,因为它拒绝删除任何信息(保真度比简洁性更重要)。

结论

电报英语不仅仅是让文本变短;它是让文本更智能。它用一种干净、结构化且富含符号的格式,取代了人类语言中杂乱无章的自然流畅性,这种格式更易于计算机阅读、存储和记忆。它将文档的“降级副本”转化为事实的“结构化数据库”。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →