💻 computer science

Adversarial Video Promotion Against Text-to-Video Retrieval

Este artigo apresenta o ViPro, o primeiro ataque adversarial projetado para promover vídeos na recuperação texto-vídeo (T2VR), introduzindo a técnica Modal Refinement (MoRe) para melhorar a transferibilidade e demonstrando, através de extensos experimentos, que essa abordagem explora uma vulnerabilidade negligenciada com eficácia superior aos métodos existentes em diversos cenários.

Autores originais: Qiwei Tian, Chenhao Lin, Zhengyu Zhao, Qian Li, Shuai Liu, Chao Shen

Publicado 2026-04-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Qiwei Tian, Chenhao Lin, Zhengyu Zhao, Qian Li, Shuai Liu, Chao Shen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que o YouTube ou o TikTok são como uma biblioteca gigante e muito inteligente. Quando você digita "receita de bolo de chocolate" na busca, a biblioteca usa um sistema especial (chamado de Recuperação de Vídeo por Texto) para pegar os vídeos mais parecidos com essa descrição e colocá-los no topo da lista para você ver.

Este artigo de pesquisa descobre que esse sistema tem uma "falha de segurança" muito perigosa, mas que ninguém tinha percebido antes.

Aqui está a explicação simples, usando analogias do dia a dia:

1. O Problema: O "Empurrão" vs. O "Puxão"

Até agora, os pesquisadores sabiam que hackers podiam fazer um vídeo sumir da busca. Imagine que você tem um vídeo de um gato, mas o hacker coloca uma "máscara invisível" nele. Quando alguém busca "gato", o sistema acha que o vídeo é sobre "carro" e o esconde. Isso é como empurrar um carro para fora da garagem.

Mas os autores deste trabalho descobriram algo novo e mais perigoso: como fazer um vídeo ruim aparecer no topo da lista.

A Analogia: Imagine que você tem um vídeo de um gato, mas na verdade é um vídeo de propaganda de um produto falso ou notícias falsas. O objetivo do hacker não é esconder o vídeo, é empurrá-lo para a frente da fila, fazendo com que ele apareça como o número 1 quando alguém busca "gato fofo".
Por que é perigoso? Se o vídeo sobe no topo, ele ganha milhões de visualizações, cliques e dinheiro. Pior ainda, se for desinformação, muita gente vai acreditar que aquilo é real.

2. A Solução (ou o Ataque): O "ViPro"

Os pesquisadores criaram um método chamado ViPro (Ataque de Promoção de Vídeo).

Como funciona? Eles criam uma "perturbação" (uma pequena alteração nos pixels do vídeo) que é quase invisível para o olho humano, mas que confunde o computador.
A Analogia: Pense em um camaleão. O hacker muda a cor da pele do vídeo (os pixels) de uma forma tão sutil que você não nota, mas para o "olho do robô" (o sistema de busca), o vídeo agora parece ser exatamente o que a pessoa está procurando. É como se o hacker dissesse ao robô: "Ei, olhe para este vídeo de propaganda, ele é o melhor vídeo de 'gato' que você já viu!".

3. O Desafio: Encontrar o "Círculo Perfeito"

O artigo explica que fazer um vídeo sumir é fácil (basta empurrá-lo para longe). Mas fazer um vídeo aparecer no topo é muito difícil.

A Analogia: Imagine que cada busca (ex: "gato", "cachorro", "pássaro") é um círculo mágico no chão.
- Para esconder um vídeo, você só precisa empurrá-lo para fora do círculo.
- Para promover um vídeo, você precisa empurrá-lo para dentro de vários círculos ao mesmo tempo, onde eles se sobrepõem. É como tentar acertar o centro de um alvo que está escondido atrás de várias outras paredes.
O sistema ViPro é inteligente o suficiente para encontrar esse "ponto de encontro" secreto onde o vídeo se encaixa perfeitamente em várias buscas diferentes ao mesmo tempo.

4. A Magia: O "MoRe" (Refinamento de Modalidade)

Para conseguir esse truque, eles usaram uma técnica chamada MoRe.

A Analogia: Imagine que o vídeo é um filme longo. O sistema de busca olha quadro por quadro. Às vezes, um quadro do filme não combina com a busca, e isso atrapalha. O MoRe funciona como um editor de cinema esperto. Ele olha para o filme, identifica quais cenas são estranhas ou não ajudam, e foca apenas nas cenas que realmente combinam com a busca. Ele "pula" as partes ruins e ajusta apenas as partes boas para enganar o robô de forma mais eficiente.

5. Os Resultados: O Hacker Venceu?

Os pesquisadores testaram isso em 3 modelos de inteligência artificial diferentes e em milhares de vídeos.

O Resultado: O método deles funcionou muito melhor do que qualquer outra técnica antiga. Em alguns casos, eles conseguiram aumentar a chance de um vídeo aparecer no topo em mais de 40%.
A Resistência: Eles também testaram se o sistema de defesa (como comprimir o vídeo ou embaralhar a ordem dos quadros) pararia o ataque. O ViPro continuou funcionando muito bem, provando que é uma ameaça real.

6. Por que isso importa?

O artigo conclui dizendo que precisamos ficar atentos.

O Perigo: Se alguém quiser espalhar notícias falsas, vender produtos fraudulentos ou apenas ganhar dinheiro com cliques, eles podem usar essa técnica para "hackear" a busca e colocar seus vídeos na frente de milhões de pessoas, mesmo que o conteúdo seja ruim ou falso.
O Futuro: Agora que sabemos que essa falha existe, os criadores desses sistemas de busca precisam criar "travas de segurança" melhores para impedir que vídeos sejam promovidos de forma desonesta.

Em resumo: Os pesquisadores descobriram como "pintar" um vídeo de forma invisível para enganar o robô do YouTube e fazê-lo acreditar que aquele vídeo é o melhor do mundo para qualquer busca, colocando-o no topo da lista. É como um truque de mágica digital que precisa ser desmascarado.

Título: Ataque Adversarial de Promoção de Vídeo contra Recuperação de Texto para Vídeo (ViPro)

1. O Problema

A recuperação de texto para vídeo (T2VR - Text-to-Video Retrieval) tem avançado rapidamente graças aos modelos de visão-linguagem (VLMs), permitindo que usuários busquem e descubram conteúdo de vídeo através de consultas textuais. No entanto, a robustez desses sistemas contra ataques adversariais permanece pouco explorada.

Estado da Arte Atual: Os ataques existentes contra T2VR focam quase exclusivamente em supressão (empurrar vídeos para fora dos resultados de busca, reduzindo seu ranking).
A Lacuna Identificada: Ataques que realizam promoção (empurrar vídeos para posições superiores nos resultados de busca) são negligenciados, mas representam uma ameaça mais perigosa. Um atacante pode promover vídeos para ganhar visualizações, cliques (benefício financeiro) ou disseminar desinformação.
Desafio Técnico: A promoção é matematicamente mais difícil que a supressão. Enquanto a supressão apenas exige que o vídeo saia de uma fronteira de recuperação, a promoção exige que o vídeo entre na interseção das fronteiras de recuperação de múltiplas consultas-alvo simultaneamente, exigindo uma otimização precisa em um espaço de embeddings complexo.

2. Metodologia

Os autores propõem o primeiro ataque adversarial focado na promoção de vídeos, denominado ViPro (Video Promotion attack), e introduzem uma nova técnica de refinamento chamada MoRe (Modality Refinement) para melhorar a transferabilidade do ataque (especialmente em cenários de "caixa-preta").

A. Modelo de Ameaça

Cenário: O atacante pode manipular apenas o vídeo carregado (não pode alterar as consultas de texto dos usuários).
Objetivo: Fazer com que um vídeo específico apareça no topo (Top-1) para múltiplas consultas de texto relevantes.
Configurações: Avaliado em cenários de Caixa-Branca (conhecimento total do modelo), Caixa-Cinza (conhecimento parcial) e Caixa-Preta (apenas categorias do vídeo).

B. Função de Perda (Loss Function)

Em vez de simplesmente maximizar a similaridade (o que gera gradientes idênticos e subótimos para múltiplos alvos), o ViPro utiliza uma perda exponencial ( $L_{exp} = \exp(-S)$ ).
Isso fornece gradientes adaptativos: gradientes maiores para consultas com baixa similaridade (alvos mais distantes) e menores para consultas já próximas, permitindo uma convergência mais estável para a interseção das fronteiras de recuperação.

C. Refinamento de Modalidade (MoRe)
Para lidar com a complexidade temporal e semântica dos vídeos, o MoRe introduz dois passos:

Corte Temporal (Temporal Clipping): Agrupa quadros temporalmente similares em clipes. Isso evita que quadros atípicos (outliers) causem conflitos de gradiente e prejudiquem a convergência, mantendo a coerência temporal.
Ponderação Semântica (Semantic Weighting): Calcula a similaridade entre quadros e tokens de texto (consultas). Quadros ou consultas com baixa relevância semântica recebem pesos menores durante a otimização, suprimindo ruídos e direcionando o ataque para as consultas-alvo mais relevantes.

O ataque é otimizado quadro a quadro dentro de cada clipe e depois concatenado para formar o vídeo adversarial final.

3. Principais Contribuições

ViPro (Primeiro Ataque de Promoção): É o primeiro trabalho a investigar e propor um ataque adversarial que promove vídeos em sistemas T2VR, explorando uma vulnerabilidade crítica ignorada.
MoRe (Refinamento de Modalidade): Propõe uma nova arquitetura para lidar com interações intra e inter-modalidades em vídeos, melhorando significativamente a transferabilidade do ataque em cenários de caixa-preta.
Análise Abrangente: Realiza uma avaliação empírica e teórica detalhada, incluindo análise de limites superiores (o que é teoricamente possível) e inferiores (generalização), além de testes de robustez contra defesas.

4. Resultados Experimentais

Os experimentos foram conduzidos em 3 conjuntos de dados (MSR-VTT, DiDeMo, ActivityNet) e 3 modelos líderes (Singularity, DRL, Cap4Video), totalizando mais de 10.000 vídeos.

Desempenho Geral: O ViPro superou consistentemente as bases de comparação (Co-Attack e SGA, adaptados de recuperação imagem-texto).
- Caixa-Branca: Melhoria média de 30% no R@1 em relação às bases.
- Caixa-Cinza: Melhoria média de 10%.
- Caixa-Preta: Melhoria média de 4%.
Transferabilidade: O uso do MoRe foi crucial. Sem ele, a performance em caixa-preta caía drasticamente. O ViPro + MoRe conseguiu promover vídeos mesmo quando o atacante não tinha acesso aos detalhes internos do modelo de defesa.
Robustez: O ataque manteve sua eficácia mesmo sob defesas comuns, como compressão JPEG e embaralhamento temporal (Temporal Shuffling).
Imperceptibilidade: Estudos com usuários humanos e métricas de qualidade de imagem (SSIM, PSNR, LPIPS) mostraram que o ViPro é tão discreto quanto as bases existentes, sem introduzir artefatos visíveis óbvios.
Análise de Limites:
- Limite Superior: A eficácia máxima do ataque é limitada pela distribuição dos embeddings do modelo e do conjunto de dados (ex: modelos com fronteiras de recuperação muito compactas são mais difíceis de atacar).
- Limite Inferior: A generalização depende da arquitetura do modelo; modelos com interações cruzadas mais complexas são mais resistentes a ataques de caixa-preta.

5. Significância e Impacto

Segurança de IA: O trabalho expõe uma vulnerabilidade crítica em sistemas de recomendação e busca de vídeo que, se explorada, pode ser usada para manipulação de tráfego e disseminação de desinformação em escala.
Mudança de Paradigma: Desloca o foco da pesquisa de segurança de "como esconder conteúdo" para "como promover conteúdo malicioso", um cenário mais realista para ataques motivados por lucro.
Diretrizes para Defesa: Sugere que a defesa eficaz contra T2VR não deve depender apenas de filtros de imagem, mas sim da fusão multimodal (incluindo áudio e metadados) e do uso de encoders pré-treinados mais robustos, já que a dependência exclusiva de características visuais é o ponto fraco explorado pelo ViPro.

Em resumo, o ViPro demonstra que os sistemas de recuperação de vídeo atuais são vulneráveis a manipulações que favorecem a visibilidade de conteúdos específicos, e propõe métodos sofisticados para entender e mitigar essa ameaça.