BLM-Guard: Explainable Multimodal Ad Moderation with Chain-of-Thought and Policy-Aligned Rewards

O artigo apresenta o BLM-Guard, um framework de moderação explicável para anúncios multimodais em vídeos curtos que combina raciocínio de cadeia de pensamento, princípios de políticas baseadas em regras e recompensas guiadas por críticos para detectar fraudes visuais e de áudio com maior precisão e generalização.

O essencial

Imagine que você é o dono de uma grande praça pública (como o TikTok ou o Instagram Reels) onde milhões de pessoas vendem produtos. O problema é que, com a ajuda da Inteligência Artificial, qualquer um pode criar anúncios falsos, exagerados ou enganosos em segundos.

Alguns dizem "compre meu remédio e fique rico", outros mostram um celular "grátis" que na verdade é uma armadilha. Os filtros antigos de segurança eram como guardas que só olhavam para coisas óbvias, como nudez ou violência. Eles não conseguiam perceber a "mentira sutil" de um anúncio comercial.

É aqui que entra o BLM-Guard, o novo "super guarda" criado pelos pesquisadores da Kuaishou. Vamos explicar como ele funciona usando analogias do dia a dia:

1. O Problema: O Anúncio que "Fala uma Coisa e Mostra Outra"

Pense em um vendedor de rua que segura um cartaz escrito "Grátis!" (o texto), mas a voz dele sussurra "pague primeiro" (o áudio), enquanto ele mostra uma foto de um carro de luxo (o vídeo).

• Os filtros antigos olhavam só para o cartaz e diziam: "Tudo bem, está escrito grátis".
• O BLM-Guard é um detetive que percebe a contradição: "Ei, o texto diz uma coisa, a voz diz outra e a imagem é impossível. Isso é uma armadilha!"

2. A Solução: O "Detetive que Pensa em Voz Alta"

O segredo do BLM-Guard não é apenas dar uma resposta (Sim/Não), mas explicar o raciocínio, como um professor que mostra os cálculos no quadro.

• Cadeia de Pensamento (Chain-of-Thought): Imagine que o modelo não é um robô que chuta a resposta. Ele é um detetive que escreve um diário antes de prender o suspeito.
  • Passo 1 (Observação): "Vejo um celular novo no vídeo."
  • Passo 2 (Análise): "O áudio diz que é grátis, mas o texto na tela pede um clique para 'resgatar'. Isso é contraditório."
  • Passo 3 (Conclusão): "Isso viola a regra de 'Marketing Falso'."
    Isso torna a decisão transparente e confiável.

3. Como ele Aprendeu? (O Treinamento em Duas Etapas)

O modelo não nasceu sabendo tudo. Ele passou por um treinamento especial, como um estagiário que vira especialista:

• Etapa 1: O "Manual de Regras" (SFT com ICoT)
  Antes de aprender sozinho, o modelo recebeu um "livro de regras" gigante. Os pesquisadores criaram milhares de exemplos onde o modelo teve que seguir um roteiro: "Olhe a imagem, ouça o áudio, compare com a regra X e explique por que é proibido".

  • Analogia: É como dar a um aluno um caderno de exercícios resolvidos passo a passo, para ele entender a lógica antes de fazer a prova.

• Etapa 2: O "Treinamento com Feedback" (Reforço Inteligente)
  Depois que ele aprendeu as regras, eles o colocaram em um "campo de batalha" com anúncios reais.

  • Se ele acertava e explicava bem, ganhava um ponto.
  • Se ele errava ou a explicação não fazia sentido, recebia uma "punição" (menos pontos).
  • O Diferencial (Recompensa SCA-R): O modelo tem um "crítico" (um segundo cérebro) que olha o trabalho dele e diz: "Sua explicação foi lógica? Você seguiu a política da empresa?". Isso ajusta o modelo para não ser apenas preciso, mas também justo e consistente.

4. O Que ele Detecta? (O "Banco de Dados de Crimes")

Os pesquisadores criaram um banco de dados chamado BLM-Guard Benchmark, que é como um arquivo de casos criminais organizado por gravidade:

• Nível Baixo: Um anúncio um pouco exagerado ("o melhor do mundo").
• Nível Médio: Promessas enganosas ("ganhe dinheiro fácil").
• Nível Alto: Golpes, superstições perigosas ou invasão de privacidade.
  O modelo aprendeu a diferenciar esses níveis, sabendo quando é apenas um exagero e quando é um crime.

5. Os Resultados: Por que é melhor?

Quando testaram o BLM-Guard contra outros modelos famosos (como o LLaVA ou Qwen), ele venceu em tudo:

• Precisão: Acertou mais os casos difíceis.
• Consistência: Não mudou de opinião do nada (hoje diz "sim", amanhã diz "não" para a mesma coisa).
• Generalização: Funcionou bem mesmo em vídeos que ele nunca viu antes, detectando mentiras sutis que outros modelos ignoravam.

Resumo em uma Frase

O BLM-Guard é como um inspetor de qualidade superinteligente que não apenas olha para o anúncio, mas lê a mente do vendedor, compara o que é dito com o que é mostrado, consulta o manual de leis da empresa e escreve um relatório detalhado explicando exatamente por que aquele anúncio é (ou não) seguro para você ver.

Isso garante que, quando você rolar o feed do seu celular, os anúncios sejam criativos, mas não enganosos.

Resumo técnico

Resumo Técnico: BLM-Guard

1. O Problema

Com o crescimento explosivo de plataformas de vídeos curtos (como TikTok e Instagram Reels) e a facilidade de criação de conteúdo impulsionada pela IA generativa, a moderação de anúncios comerciais tornou-se um desafio crítico. Diferente da moderação de conteúdo comunitário geral (que foca em riscos grosseiros como violência ou nudez), a moderação de anúncios exige:

• Verificação de conformidade de alta granularidade: Baseada em políticas específicas da plataforma.
• Detecção de violações sutis: Inclui alegações exageradas, enganos sutis, evasão de regras e, crucialmente, desalinhamentos multimodais (ex: áudio benigno com texto visual enganoso, ou legendas que contradizem o discurso).
• Limitações das abordagens atuais: Modelos de linguagem e visão (VLMs) genéricos e filtros baseados em regras estáticas falham em raciocínio causal cruzado, adaptabilidade a mudanças de políticas e na detecção de riscos comerciais nuances.

2. Metodologia

O BLM-Guard é um framework de auditoria de conteúdo projetado para anúncios de vídeos curtos, utilizando uma arquitetura de duas etapas que combina raciocínio estruturado e aprendizado por reforço.

A. Pipeline de Dados e Raciocínio (ICoT)
O sistema utiliza um pipeline de Cadeia de Pensamento Intercalada Multimodal (Interleaved-modal Chain-of-Thought - ICoT):

• Seleção de Quadros e Regiões Chave: Utiliza similaridade semântica (CLIP) e uma estratégia híbrida (BIN+TOP) para selecionar os quadros mais relevantes e regiões de interesse dentro do vídeo, focando em pistas de alto risco.
• Geração de Raciocínio Estruturado: Um modelo de visão-linguagem (InternVL) gera uma cadeia de raciocínio em quatro etapas:
  1. Observação: Descrição visual e resumo de transcrições de áudio (ASR).
  2. Triagem de Risco: Identificação de violações potenciais.
  3. Análise Causal: Investigação das causas subjacentes (ex: por que a alegação é enganosa?).
  4. Veredito Final: Decisão de conformidade baseada em regras.

B. Estratégia de Treinamento em Duas Etapas

1. Fase 1: Ajuste Fino Supervisionado (SFT) Ancorado em Regras:
   • Gera dados sintéticos estruturados (descrições, cadeias de raciocínio e rótulos) para reduzir custos de anotação.
   • Otimiza o modelo com uma função de perda que combina a precisão da resposta final e uma penalidade KL para alinhar a distribuição de raciocínio do modelo com um prior guiado por regras (palavras-chave de violação).
2. Fase 2: Otimização por Aprendizado por Reforço (RL) Adaptativo:
   • Utiliza o algoritmo GRPO (Group Relative Policy Optimization).
   • Introduz um mecanismo de recompensa híbrido (SCA-R - Self-Consistency and Adaptive Reward):
     • Recompensa Baseada em Regras: Verifica a correspondência exata com o cenário e tipo de violação.
     • Recompensa de Formato: Garante que a saída siga a estrutura exigida (tags <answer> e <thought>).
     • Recompensa de Auto-Consistência Adaptativa: Um modelo "crítico" avalia a coerência do raciocínio e a aderência aos princípios de moderação, ajustando dinamicamente as recompensas para lidar com a deriva de políticas.

C. Arquitetura Multitarefa
O modelo é treinado simultaneamente para detectar:

• Manipulações intra-modais: Exageros dentro de uma única modalidade (ex: imagens distorcidas).
• Incompatibilidades inter-modais: Desalinhamentos entre áudio, texto e vídeo (ex: legendas que não correspondem ao que é dito).

3. Contribuições Principais

1. BLM-Guard Benchmark: Um novo conjunto de dados real de anúncios de vídeos curtos, anotado com uma taxonomia de risco de três níveis:
   • Nível 1: Severidade (Alta, Média, Baixa).
   • Nível 2: Cenário de Risco (ex: conteúdo ilegal, marketing falso).
   • Nível 3: Tipo de Violação (ex: exagero de renda, exposição de privacidade, superstição feudal).
2. Framework BLM-Guard: Uma solução unificada que integra raciocínio ICoT guiado por regras, RL com recompensas adaptativas e modelagem multitarefa para decisões explicáveis e conformes.
3. Mecanismo de Recompensa SCA-R: Uma abordagem inovadora para RL que utiliza um crítico adaptativo para garantir que o raciocínio do modelo permaneça alinhado com políticas em evolução, superando a rigidez de recompensas estáticas.

4. Resultados Experimentais

Os experimentos foram conduzidos no BLM-Guard Benchmark e em cinco conjuntos de dados públicos (LSPD, XD-Violence, UCF-Crime, FakeSV, FVC).

• Desempenho Superior: O BLM-Guard superou significativamente modelos de ponta (SOTA), incluindo Qwen2.5-VL, InternVL, LlavaGuard e Kimi-VL.
  • Precisão Estrita (s-Acc): 91.4% (vs. ~79% do segundo melhor).
  • Consistência de Raciocínio (Con.): 0.845 (vs. ~0.70 dos baselines).
  • Classificação por Severidade: Alcançou 97.8% de precisão em casos de "Alta" severidade.
• Generalização: O modelo demonstrou robustez em cenários não vistos e em detecção de desinformação (FakeSV/FVC), onde modelos anteriores falhavam frequentemente.
• Estudo de Ablação: Confirmou que a combinação de Rule-SFT (ajuste fino ancorado em regras) e SCA-R (RL adaptativo) é essencial para o desempenho final, superando abordagens de ajuste único ou RL sem guia de princípios.

5. Significado e Impacto

O trabalho do BLM-Guard é significativo porque:

• Preenche uma Lacuna Crítica: Oferece a primeira solução robusta e explicável especificamente para a moderação de anúncios comerciais multimodais, um domínio onde as regras são complexas e as violações são frequentemente sutis.
• Explicabilidade e Transparência: Ao forçar o modelo a gerar cadeias de pensamento estruturadas antes da decisão, o sistema permite auditoria humana e compreensão do "porquê" de uma violação, algo vital para conformidade regulatória.
• Adaptabilidade Dinâmica: O uso de recompensas adaptativas (SCA-R) resolve o problema da "deriva de políticas", permitindo que o sistema se atualize continuamente sem necessidade de retreinamento massivo completo quando as regras da plataforma mudam.
• Eficiência de Dados: A síntese de dados via ICoT reduz a dependência de anotação manual extensiva, tornando a solução escalável para grandes plataformas de vídeo.

Em resumo, o BLM-Guard representa um avanço fundamental na segurança de conteúdo comercial, combinando raciocínio lógico profundo com aprendizado por reforço orientado a políticas para criar um moderador de anúncios mais inteligente, justo e adaptável.