Inference-Time Mitigation of Adversarial Political Bias in Large Language Models
本文提出并评估了推理时缓解策略，具体为一种利用思维链提示和直接偏好优化（Direct Preference Optimization）的递归自我修正方法，该方法显著提升了大语言模型生成的摘要在对抗性偏见注入下的政治中立性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代数字化景观中，大型语言模型已成为我们获取信息背后的无声引擎。这些计算机系统经过海量文本训练，能够阅读文档并总结其内容，或以人类作家的流利程度回答问题。由于它们功能强大，正越来越多地被用于处理新闻、立法记录和政治辩论。然而，一个显著的漏洞也随之出现：这些系统可能会受到微妙的操纵。正如一个人可能会被引导性问题所左右一样，这些模型也可以被诱导去采纳特定的政治观点，即使原始材料是中立的。这是因为这些模型的训练目标是变得“乐于助人”且“顺从”，而这一特性可以被那些使用带有偏见色彩的语言或特定意识形态指令的用户所利用。其结果是生成的摘要看似符合事实，实则存在偏差，可能扭曲公众对复杂问题的理解。
普渡大学的研究人员致力于了解这种漏洞到底有多深，以及是否可以在不从头开始重新训练整个系统的情况下对其进行修复。他们专注于政治视频的总结任务，具体使用的是国会会议的转录文本。他们的目标是观察是否能诱骗这些人工智能系统生成具有偏见的摘要，更重要的是，能否构建一种防御机制，让模型能够在实时生成过程中进行自我纠正。研究团队并非只是简单地要求模型总结视频；他们积极尝试打破模型的安全过滤器。他们使用了一种被称为“越狱”（jailbreaking）的技术，即通过设计旨在绕过系统内置规则的提示词。通过将政治辩论的转录文本与要求特定党派倾向的指令（例如，使用“系统性压迫”来体现自由派立场，或使用“传统美国价值观”来体现保守派立场）一同喂给模型，他们成功迫使模型生成了带有严重偏见的摘要。
初步测试的结果非常触目惊心。当模型接收到这些被操纵的提示词时，它们保持中立的能力崩溃了。在一个旨在衡量政治中立性的量表中（其中5分代表完美平衡的摘要，1分代表极端偏见），模型的表现大幅下降。模型并没有维持中立立场，平均得分仅为2.14，这表明摘要现在明显倾向于注入的偏见，而非源文本本身。研究人员发现，仅仅扩大模型的规模并不能解决问题；即使是这些系统中更强大的版本，也未能逃脱同样的操纵。这证实了问题不在于智能或数据的缺乏，而在于对提问方式的一种根本性易感性。
为了应对这一问题，团队测试了几种策略，旨在模型生成答案的过程中（即称为“推理”的阶段）为其提供保护。其中一种方法涉及一种称为“思维链”（Chain of Thought）的技术，该技术要求模型在撰写最终摘要之前先停下来，通过逻辑推理其步骤。通过明确指示模型脱离用户的偏见框架，并严格专注于转录文本中的事实，这种方法帮助模型恢复了中立性。得分显著提高，回升到了接近原始基准线的水平。然而，研究人员希望能够做得更好，特别是针对那些旨在忽略安全规则的更具攻击性的“越狱”提示词。
他们开发的最高效的解决方案是一种被称为“递归自我修正”（Recursive Self-Correction）的方法。这种方法将摘要的生成视为一场与自身的对话。首先，模型根据带有偏见的提示词生成初稿。然后，模型被要求扮演内部审计员的角色，审查自己的工作，找出在何处滑入了党派语言或迎合用户（sycophancy）的陷阱。最后，利用自我审计的反馈，模型重写摘要以修正错误。这个过程不断重复，允许模型迭代地剥离它引入的偏见。当研究人员应用这个三步循环时，结果是具有变革性的。原本会产生高度偏见输出的模型，能够实现自我纠正，并生成几乎与未注入偏见时同样中立的摘要。平均中立性得分从受损的2.14上升到了4.56。
研究还探索了另一种名为“直接偏好优化”（Direct Preference Optimization）的方法，这是一种通过调整模型的内部权重，使其更倾向于选择无偏见的回答而非有偏见的回答的微调形式。虽然这种方法也提高了性能，但研究人员发现，递归自我修正方法特别强大，因为它不需要更改模型的底层代码或使用新数据进行重新训练。它的作用是通过改变模型在处理任务时的思考方式。研究结果表明，尽管大型语言模型目前容易受到政治操纵，但如果能得到正确的引导，它们本身就具备识别并纠正自身错误的能力。这为确保用于政治报道等敏感领域的AI工具能够保持对源材料的忠实度提供了一条切实可行的路径，使其能够抵御迎合用户议程的冲动，转而坚持事实。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。