BLM-Guard: Explainable Multimodal Ad Moderation with Chain-of-Thought and Policy-Aligned Rewards

本文提出了 BLM-Guard，一种融合思维链推理、规则驱动政策对齐及多任务架构的可解释多模态广告审核框架，通过规则引导的 ICoT 数据合成与强化学习显著提升了短视频广告在准确性、一致性和泛化性上的审核表现。

要点

这篇文章介绍了一个名为 BLM-Guard 的“超级审核员”，专门用来给短视频里的商业广告“体检”。

想象一下，现在的短视频平台（像抖音、快手）上，广告多得像天上的星星。以前的审核员主要管“大坏蛋”，比如打打杀杀、裸露画面这些一眼就能看出来的违规内容。但现在的广告很“狡猾”，它们表面看着正常，实际上藏着很多小陷阱：

• 嘴硬心虚：画面里是普通手机，配音却吹牛说“免费领高端机”。
• 图文不符：字幕写着“健康养生”，画面里却暗示能“一夜暴富”。
• 夸大其词：把普通茶叶说成能治百病的“神药”。

这些“软性违规”很难用简单的规则（比如“只要出现‘免费’两个字就屏蔽”）来拦截，因为广告商很会钻空子。

BLM-Guard 就是为了解决这个难题而生的“智能侦探”。 我们可以用三个生动的比喻来理解它的核心功能：

1. 它的“大脑”：会写推理日记的侦探 (Chain-of-Thought)

普通的审核系统像个照相机，只负责拍下来，看到违规就报警。
BLM-Guard 则像个福尔摩斯。它不会直接下结论，而是会先写一本“推理日记”（Chain-of-Thought）：

• 第一步（观察）：“我看到视频里有人在推销茶叶，字幕写着‘补肾’。”
• 第二步（分析）：“但是，根据平台规定，普通食品不能宣传治疗功效。而且，画面里的茶叶包装看起来很普通，和配音里吹嘘的‘神效’对不上。”
• 第三步（结论）：“所以，这是一个违规广告，属于‘虚假宣传’。”

这种“先思考、后下结论”的方式，让它不仅能告诉你“违规了”，还能告诉你“为什么违规”，就像老师批改作业时的详细评语一样。

2. 它的“训练法”：先背规则书，再实战演练 (SFT + RL)

为了让这个侦探变强，作者给它设计了一套独特的“特训营”：

• 第一阶段：背规则书 (Rule-Guided SFT)
  就像新警察入职，先给它一本厚厚的《广告法》和《平台审核手册》。它通过阅读成千上万条带有“标准答案”和“推理过程”的案例，学会了如何把视频里的画面、声音和文字对应到具体的规则条款上。这步叫“冷启动”，让它先懂规矩。

• 第二阶段：实战演练与自我纠错 (Reinforcement Learning)
  光背书本不够，还得实战。系统会给它出一些特别刁钻的题目（比如那些模棱两可的广告）。

  • 如果它答对了，就给它发“小红花”（奖励）。
  • 如果它答错了，或者推理逻辑不通，系统里的“考官”（一个辅助模型）会立刻指出：“你刚才推理说这是‘暴力’，但其实是‘迷信’，你的逻辑链条断了。”
  • 通过这种不断的“试错 - 反馈 - 修正”，它学会了在规则模糊的时候，也能做出最符合平台精神的判断。

3. 它的“超能力”：火眼金睛看穿“障眼法” (Multimodal)

很多广告是“声画分离”的。

• 普通审核：可能只看画面，觉得“这茶挺绿的，没问题”；或者只听声音，觉得“这词挺好听，没问题”。
• BLM-Guard：它像是一个同时拥有眼睛和耳朵的侦探。它能发现：画面里是“普通水杯”，声音里却在喊“包治百病”。这种跨模态的矛盾（Cross-modal mismatch），正是它最擅长抓的“把柄”。

总结：它厉害在哪里？

在真实的测试中，BLM-Guard 的表现就像是一个经验丰富、逻辑严密且从不疲劳的金牌审核员：

1. 更准：它比现有的其他 AI 模型更能准确识别那些“擦边球”广告。
2. 更稳：不管广告怎么变着花样（比如今天用方言，明天用网络梗），它都能稳住阵脚，不轻易被忽悠。
3. 更透明：它不会冷冰冰地只给一个“封禁”指令，而是会给出详细的理由，让广告主知道哪里错了，也让平台管理者放心。

一句话概括：
BLM-Guard 就是一个读过法律书、受过特训、并且会写详细推理报告的 AI 审核员，它专门负责在短视频的海洋里，把那些披着羊皮、试图钻空子的“坏广告”给揪出来，还大家一个清清爽爽的网络环境。

技术摘要

BLM-Guard 技术总结：可解释的多模态广告审核框架

本文介绍了 BLM-Guard，这是一个专为短视频商业广告设计的可解释性多模态内容审核框架。针对生成式 AI 带来的广告内容爆发式增长，以及传统社区安全过滤器在细粒度、政策驱动型违规检测上的不足，BLM-Guard 通过融合思维链（Chain-of-Thought, CoT）推理、基于规则的监督微调以及策略对齐的强化学习，实现了对欺骗性视觉、语音和字幕的精准识别与解释。

以下是该论文的详细技术总结：

1. 问题背景与挑战

随着 TikTok、Instagram Reels 等短视频平台的兴起，多模态广告（结合视觉、语音、文本）的制作成本大幅降低，但这也给内容审核带来了新挑战：

• 细粒度合规需求：与社区安全（主要关注暴力、色情等粗粒度风险）不同，广告审核需要检测细微的违规行为，如夸大宣传、误导性暗示、规则规避等。
• 多模态错位：违规往往表现为模态间的不一致（例如：视觉真实但语音欺骗、 benign 字幕搭配挑衅性图像、字幕与语音不匹配）。
• 现有方法的局限：
  1. 缺乏跨模态的因果推理能力。
  2. 难以适应不断变化的平台政策（Policy Drift）。
  3. 缺乏针对商业风险的特定任务推理能力。

2. 核心方法论

BLM-Guard 采用两阶段训练管道，旨在解决合规性与可控性问题：

2.1 阶段一：规则引导的因果监督微调 (Rule-Guided SFT)

为了克服单阶段微调在政策覆盖和可解释性上的不足，作者提出了 ICoT (Interleaved-modal Chain-of-Thought) 数据合成流程：

• 关键帧与区域提取：利用 CLIP 计算视频帧与风险提示词（如“虚假营销”）的相似度，结合自适应关键帧选择（AKS）策略和 Patch 级显著性分析，提取最具风险信息的视觉线索。
• ICoT 数据生成：使用冻结的 InternVL 模型，基于提取的关键帧、ASR 转录文本和安全规则，生成结构化的推理链。推理过程分为四步：
  1. 观察 (Observation)：描述视觉内容，总结 ASR，评估模态一致性。
  2. 风险筛查 (Risk Screening)：识别潜在违规。
  3. 因果分析 (Causal Analysis)：分析违规的根本原因。
  4. 最终裁决 (Final Verdict)：结合推理得出合规结论。
• 规则锚定微调：在合成数据集上进行监督微调（SFT）。损失函数包含两部分：
  • 主损失：预测合规标签的交叉熵。
  • 辅助损失：KL 散度，强制模型的推理分布（<thought>）与基于规则构建的先验分布（关键词集合）对齐，确保推理过程符合政策逻辑。

2.2 阶段二：自适应性 GRPO 强化学习 (Self-Adaptive GRPO RL)

在冷启动模型基础上，通过在线强化学习进一步优化推理能力和政策对齐：

• 数据构建：通过拒绝采样（Rejection Sampling）获取模型难以处理的“硬样本”，并结合安全感知拼接（Safety-Aware Concatenation）增加多模态多样性。
• 混合奖励机制 (Hybrid Reward)：
  1. 基于规则的奖励 ($r_{rule}$)：根据预测的违规场景和类型是否匹配真值给予离散奖励。
  2. 格式感知奖励 ($r_{format}$)：确保输出包含 <thought> 和 <answer> 标签。
  3. SCA-R (Self-Consistency and Adaptive Reward)：引入一个引导模型（Guide Model）作为评分专家，根据动态构建的评分原则（如因果清晰度、风险归因）对推理过程进行逐步批判和打分，解决政策漂移导致的奖励不对齐问题。
• 策略优化：采用 GRPO (Group-wise Relative Policy Optimization) 算法。
  • Token 级归一化：缓解因输出长度不同导致的奖励偏差。
  • 组优势计算：对同一输入生成的 G 个响应计算相对优势。
  • 动态采样：跳过奖励方差为零的批次，防止梯度崩溃。

3. 关键贡献

1. BLM-Guard Benchmark (基准数据集)：

   • 发布了一个真实的短视频广告数据集，包含 7 种核心违规场景（如非法内容、虚假营销、封建迷信等）和细粒度的违规类型。
   • 采用三级风险分类体系：严重程度 (高/中/低)、场景、违规类型，支持可解释的监督和细粒度评估。
   • 包含结构化的推理轨迹，用于监督学习和奖励训练。

2. BLM-Guard 框架：

   • 提出了结合 ICoT 推理、一致性感知强化学习 和 多任务建模 的框架。
   • 能够同时处理模态内操纵（如夸张图像）和跨模态不匹配（如字幕 - 语音漂移），显著提升了鲁棒性。

3. 可解释性与政策对齐：

   • 通过规则锚定的 SFT 和 SCA-R 奖励，模型不仅能给出“是否违规”的结论，还能提供符合政策逻辑的推理过程，增强了审核的透明度和可控性。

4. 实验结果

在 BLM-Guard Benchmark 及多个公开数据集（LSPD, XD-Violence, FakeSV 等）上的实验表明：

• 性能超越基线：BLM-Guard 在严重程度分类、整体准确率（Strict Accuracy 达到 0.914）、二分类检测（F1 分数 0.969）以及推理一致性（Consistency Score 0.845）上均显著优于 SOTA 模型（如 Qwen2.5-VL, InternVL3, LLaVA-Guard 等）。
• 泛化能力强：在未见过政策领域的公开数据集上表现优异，特别是在检测虚假信息（FakeSV）和跨模态不一致方面。
• 消融实验：
  • Rule-SFT 比单阶段 SFT 在准确性和可解释性上均有提升。
  • RL 阶段 进一步增强了鲁棒性。
  • SCA-R 的引入使得模型在推理质量和政策对齐上达到最佳状态。

5. 意义与价值

• 解决商业审核痛点：填补了通用安全过滤器在商业广告细粒度、政策敏感型违规检测上的空白。
• 可解释性突破：通过思维链和规则引导，使黑盒模型的决策过程变得透明，便于人工复核和政策调整。
• 适应动态政策：通过自适应性奖励机制，模型能够灵活应对平台政策的快速变化，降低了重新标注和训练的成本。
• 行业应用潜力：为短视频平台提供了一套高效、精准且合规的自动化审核解决方案，有助于平衡商业变现与内容安全。

综上所述，BLM-Guard 通过创新的 ICoT 数据合成策略和策略对齐的强化学习框架，成功构建了一个既懂“规则”又懂“推理”的多模态广告审核系统，为下一代内容安全治理提供了重要的技术范式。