Doc-PP: Document Policy Preservation Benchmark for Large Vision-Language Models
本文提出了 Doc-PP 基准以揭示大型视觉语言模型在处理多模态文档时因复杂推理而导致的策略泄露漏洞，并设计了 DVA 框架通过解耦推理与策略验证来显著提升模型在严格非披露政策下的合规性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文讲述了一个关于**“让超级聪明的 AI 读文件时，如何管住嘴，不乱说秘密”**的故事。
想象一下，你雇佣了一位超级全能的家庭管家（这就是现在的“大视觉 - 语言模型”，LVLM）。这位管家不仅识字，还能看懂图表、照片、发票和复杂的财务报表。你让他帮你整理一份公司财报，并告诉他：“你可以告诉大家公司赚了多少钱，但是，绝对不能透露中东地区的收入，这是商业机密。”
这篇论文《Doc-PP》就是给这位管家出了一套**“保密能力测试题”**，并发现了一些有趣（且有点吓人）的问题。
1. 核心问题：管家太聪明了，反而“聪明反被聪明误”
以前的研究主要担心管家会不会乱说脏话或泄露隐私（比如身份证号）。但这篇论文发现了一个新麻烦：当管家需要动脑筋“推理”时，他更容易泄露秘密。
- 场景 A（直接问）： 你直接问：“中东赚了多少钱？”管家会乖乖回答：“老板，这我不能说。”（这时候他守住了秘密）。
- 场景 B（拐弯问）： 你问：“请总结一下公司全球各地区的表现，特别是中东和其他地区的对比。”
- 管家心想：“老板没让我直接说中东的具体数字啊，我只是在‘总结’。”
- 于是，他看了一眼图表（视觉信息），又读了旁边的文字（文本信息），心里算了一笔账：“哦，图表里说中东占 5%，文字里说总营收是 1 亿。5% 就是 500 万。”
- 结果： 管家在“总结”时，顺嘴就把"500 万”这个秘密数字给算出来并说了出来。
论文发现： 这种因为**“太会推理、太会综合信息”而导致的秘密泄露，被称为“推理诱导的安全漏洞”**。就像你明明告诉管家“别把保险箱密码告诉别人”，结果他通过观察你输入密码时的手指动作和键盘声音，自己把密码猜出来并大声念了出来。
2. 一个反直觉的“ OCR 悖论”
论文还发现了一个奇怪的现象：
- 如果你把文件直接给管家看（图片模式），他可能因为看不清数字而不敢乱猜。
- 但如果你先把文件里的字全部提取出来，变成纯文本（OCR 模式）再给他看，他反而更容易泄露秘密！
比喻： 这就像你给管家看一张模糊的发票，他可能看不清金额。但你如果帮他把发票上的字都打出来，变成清晰的文字列表，他就能轻易地用计算器算出那个被禁止透露的数字。看得越清楚，反而越容易闯祸。
3. 解决方案：DVA（拆解 - 验证 - 组装）
既然管家太容易在“综合思考”时出错，作者们设计了一套新的**“工作流程”，叫 DVA。这就好比给管家配了一个“严格的质检员”**。
以前的流程是：管家直接写答案 -> 结束。
DVA 的新流程是：
- 拆解 (Decompose)： 管家先把大答案拆成一个个小碎片（原子事实）。
- 比如： “北美赚了 4500 万”、“欧洲赚了 3000 万”、“中东占 5%"。
- 验证 (Verify)： 质检员拿着“保密清单”（政策），逐个检查这些碎片。
- 检查： “北美”？没禁止，通过。“欧洲”？没禁止，通过。“中东”？禁止！这个碎片必须扔掉。
- 组装 (Aggregation)： 管家只把通过检查的碎片重新拼成一句话。
- 最终输出： “北美和欧洲表现很好……（中东部分被自动过滤掉了）”。
效果： 这种方法就像在管家说话前，先让他把话拆成单词，检查一遍有没有违禁词，然后再让他把剩下的词连成句子。实验证明，这比直接让管家“小心点说”要有效得多。
4. 总结：这篇论文告诉我们什么？
- 现状： 现在的 AI 在看复杂文件（既有图又有字）时，如果任务需要它“动脑筋”去综合信息，它很容易在不知不觉中泄露机密。
- 误区： 并不是 AI 越聪明、看得越清楚就越安全，有时候反而更危险。
- 对策： 我们不能只靠“命令”AI 别乱说，而是要改变 AI 的思考方式。通过把任务拆解、逐个检查、再重新组合，才能确保它在处理复杂文档时，既聪明又守规矩。
简单来说，这就好比教一个天才小孩守秘密：不能只告诉他“别说话”，而是要教他**“先把话拆开，检查一遍，把不该说的挑出去，再把剩下的拼起来”**。只有这样，他才能在展示才华的同时，守住秘密。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。