Detection of Hate and Threat in Digital Forensics: A Case-Driven Multimodal Approach

Resumo Técnico: Detecção de Ódio e Ameaça em Forense Digital

1. Problema e Motivação

As investigações forenses digitais lidam cada vez mais com evidências heterogêneas, incluindo imagens, documentos digitalizados, capturas de tela e relatórios narrativos. Esses artefatos podem conter expressões explícitas ou implícitas de ódio, ameaças, violência ou intimidação.

O problema central identificado pelos autores é que as abordagens automatizadas existentes frequentemente:

• Assumem a disponibilidade de texto limpo e estruturado (o que raramente ocorre em forense, onde o texto pode ser extraído via OCR ruidoso ou estar ausente).
• Aplicam modelos de visão ou fusão multimodal cega, sem justificação forense sobre a disponibilidade dos dados.
• Falham em distinguir entre texto embutido na imagem (OCR), texto contextual associado (relatórios/metadados) e evidências puramente visuais.

Essa falta de distinção leva a conclusões não confiáveis e reduz a "defensibilidade forense" (a capacidade de justificar legalmente uma decisão automatizada).

2. Metodologia Proposta

O artigo apresenta um pipeline de análise forense multimodal orientado a casos. A inovação central não é um novo modelo de aprendizado profundo, mas uma arquitetura de decisão que condiciona a inferência à disponibilidade real das evidências.

A. Triagem de Evidências e Cenários (Casos)
O sistema primeiro classifica a evidência em três cenários forenses distintos, que geram quatro "Situações de Dados" (DS):

• Caso 1: Imagem com Texto Embutido. Texto extraído via OCR (sujeito a ruído).
• Caso 2: Imagem com Texto Associado. Texto contextual de relatórios forenses, metadados ou transcrições (geralmente mais limpo e confiável).
• Caso 3: Evidência Apenas de Imagem. Sem texto disponível.
• Situações Derivadas (DS1-DS4): O sistema roteia a análise com base na combinação desses inputs (ex: DS1 = Imagem + OCR + Texto Associado; DS4 = Apenas Imagem).

B. Espaço de Rótulos Congelados (Frozen Label Space)
Para garantir consistência semântica e auditabilidade, o sistema utiliza um conjunto fixo de categorias forenses (ex: "Ameaça de Violência", "Assédio", "Conteúdo de Ódio", "Neutro").

• Análise de Imagem: Utiliza um modelo Vision-Language pré-treinado (CLIP com backbone ViT-L/14) para inferência zero-shot, comparando a imagem com prompts de texto das categorias.
• Análise de Texto: Utiliza um modelo de classificação zero-shot baseado em transformers (DeBERTa-v3-large) para analisar tanto o texto extraído por OCR quanto o texto contextual associado.

C. Fusão de Nível de Pontuação (Score-Level Fusion)
Em vez de treinar um modelo de fusão complexo, o sistema utiliza uma fusão ponderada explícita:

• As pontuações de confiança de cada modalidade (Imagem, OCR, Texto Associado) são combinadas.
• Pesos Fixos: O texto associado recebe um peso maior ($w_{assoc} = 1.2$) devido à sua maior confiabilidade semântica, enquanto OCR e Imagem recebem peso 1.0.
• Tratamento de Ausência: Se uma modalidade estiver ausente, ela é simplesmente excluída da soma, sem penalizar o sistema. Isso evita suposições injustificadas.

D. Lógica de Decisão
A decisão final é baseada na categoria com a maior pontuação de fusão. O sistema mantém e relata as pontuações individuais de cada modalidade, permitindo que um perito humano audite por que uma decisão foi tomada.

3. Contribuições Principais

1. Framework Orientado a Casos: Distingue explicitamente entre texto embutido, texto contextual e evidência visual antes da análise semântica, alinhando-se ao raciocínio forense humano.
2. Roteamento Consciente de Modalidade: A análise é condicionada à disponibilidade legítima dos dados, evitando inferências baseadas em dados faltantes.
3. Fusão Explicável e Auditável: Utiliza fusão de pontuação com pesos fixos e baseados na confiabilidade forense, em vez de fusão aprendida "end-to-end", garantindo transparência.
4. Avaliação em Cenários Heterogêneos: Demonstra desempenho consistente sem necessidade de treinamento específico para a tarefa (zero-shot), adaptando-se a diferentes configurações de evidência.

4. Resultados Experimentais

Os experimentos foram realizados em um conjunto de dados forenses estilo real, sem treinamento específico do modelo.

• Acurácia Geral: O sistema alcançou alta precisão em todas as situações de dados:
  • DS1 (Texto Embutido + Associado): 95,45% de precisão.
  • DS2 (Apenas Texto Embutido/OCR): 94,29% de precisão.
  • DS3 (Apenas Texto Associado): 98,50% de precisão (o texto contextual mostrou-se altamente eficaz).
  • DS4 (Apenas Imagem): 96,36% de precisão.
• Impacto da Fusão Multimodal:
  • A fusão de modalidades alterou as decisões em até 34,29% dos casos onde havia apenas texto embutido (OCR), corrigindo ambiguidades visuais.
  • Em casos com apenas imagem (DS4), não houve alteração, pois o sistema degradou-se graciosamente para análise visual, mantendo a conservadorismo forense.
• Interpretabilidade: A análise mostrou que a fusão atua como um mecanismo de refinamento baseado em evidências, permitindo rastrear a origem de divergências (ex: ruído de OCR vs. contexto claro).

5. Significado e Conclusão

O trabalho destaca que, em forense digital, a legitimidade da evidência é mais crítica do que a expressividade do modelo.

• Defensibilidade: Ao condicionar a inferência à disponibilidade de dados e manter registros de pontuações por modalidade, o sistema fornece uma trilha de auditoria clara, essencial para processos legais.
• Aplicabilidade Prática: O framework funciona como uma ferramenta de triagem e suporte à decisão, não substituindo o julgamento humano, mas aumentando a eficiência ao lidar com grandes volumes de dados heterogêneos.
• Futuro: O código é de código aberto, e trabalhos futuros visam melhorar a robustez do OCR e integrar o sistema diretamente em fluxos de trabalho de gerenciamento de evidências forenses.

Em suma, o artigo propõe uma mudança de paradigma: de modelos de IA que tentam adivinhar o contexto, para sistemas que respeitam a estrutura da evidência, garantindo que as decisões automatizadas sejam transparentes, auditáveis e juridicamente defensáveis.