BioGraph-SentiCOVID: Calibrated Adaptive Context Selection for Graph Neural Sentiment Analysis of COVID-19 Tweets

Resumo Técnico: BioGraph-SentiCOVID

Declaração do Problema
A análise de discussões sobre a COVID-19 no Twitter apresenta desafios únicos para a classificação de sentimento. Embora essas discussões ofereçam insights valiosos sobre a opinião pública, a classificação precisa é dificultada por três fatores cumulativos:

1. Dependência Contextual: Tweets frequentemente dependem do histórico conversacional para resolver ambiguidades, sarcasmo ou posicionamento (stance). Um tweet que parece neutro isoladamente pode ser fortemente negativo quando visualizado dentro de sua própria thread.
2. Ruído de Contexto: Expandir o vizinhança conversacional para capturar o contexto frequentemente introduz respostas fora do tópico, alegações repetitivas e ruído de classe majoritária. Uma profundidade de grafo fixa é suboptimal porque o contexto necessário varia por tweet.
3. Desbalanceamento de Classes e Sensibilidade a Hiperparâmetros: Os corpora do mundo real sobre a COVID-19 são dominados por expressões neutras e relacionadas ao medo, criando um severo desbalanceamento de classes. Além disso, Redes Neurais de Grafos (GNNs) são altamente sensíveis às escolhas de hiperparâmetros (ex: cabeças de atenção, dimensões ocultas, profundidade do grafo), que são difíceis de ajustar manualmente.

Metodologia
O artigo propõe o BioGraph-SentiCOVID, um framework unificado que modela conversas do Twitter como grafos multirelacionais direcionados e emprega um mecanismo de Seleção de Contexto Adaptativo Calibrado (C-ACS).

• Construção do Grafo: As conversas são modeladas como grafos direcionados onde os tweets são nós. Dois tipos de arestas são codificados: arestas de resposta (conectando um tweet ao seu pai direto) e arestas de raiz (conectando cada tweet que não é raiz à raiz da thread). As arestas de resposta são bidirecionais para permitir a passagem de mensagens entre pai e filho, enquanto as arestas de raiz são unidirecionais para evitar o inundamento (flooding).
• Embeddings de Nós: Os atributos iniciais dos nós são derivados de embeddings [CLS] do BERTweet (768 dimensões). Durante a busca de hiperparâmetros, esses embeddings são congelados para garantir a tratabilidade computacional. Na etapa final de treinamento, aplica-se uma estratégia de ajuste fino (fine-tuning) em duas etapas: 50 épocas com o BERTweet congelado, seguidas de 50 épocas onde as duas últimas camadas do transformer são descongeladas.
• Seleção de Contexto Adaptativo Calibrado (C-ACS): Esta é a principal contribuição metodológica. Em vez de forçar uma profundidade de grafo fixa, o C-ACS regula dinamicamente a passagem de mensagens para cada nó com base em:
  • Ambiguidade Calibrada: Um classificador local estima o sentimento do tweet. Para evitar que previsões excessivamente confiantes suprimam contextos úteis (especialmente para casos sarcásticos ou raros), os logits são calibrados usando escalonamento de temperatura (temperature scaling) em um split de calibração dedicado. A entropia preditiva resultante ($U^{cal}_i$) serve como um escore de ambiguidade.
  • Confiabilidade do Vizinho: A similaridade semântica (distância de cosseno) e a distância de saltos (hop distance) são computadas entre o nó alvo e seus vizinhos.
  • Portão Adaptativo (Adaptive Gating): Um portão treinável ($g_{ij}$) combina o escore de ambiguidade, a confiabilidade do vizinho e a distância de saltos para decidir quanto contexto um tweet específico deve explorar antes da agregação GATv2. Se um tweet é confiante isoladamente, o portão suprime vizinhos distantes ruidosos; se ambíguo, permite um contexto mais profundo.
• Arquitetura: O framework utiliza GATv2 (Graph Attention Network v2) para atenção dinâmica, que corrige a limitação de rank-1 das GATs originais. Conexões residuais são adicionadas a cada duas camadas para mitigar o sobre-suavizamento (over-smoothing).
• Aprendizado Consciente de Desbalanceamento: O sistema aborda o desvio de classe usando entropia cruzada ponderada por classe combinada com oversampling seletivo. Os nós submetidos ao oversampling recebem um jitter gaussiano em seus embeddings do BERTweet para evitar incoerência semântica.
• Otimização de Hiperparâmetros: Um Algoritmo Genético (GA) com seleção por torneio e inicialização por Amostragem de Hipercubo Latino pesquisa um espaço misto discreto-contínuo. O espaço de busca inclui camadas de GATv2, cabeças de atenção, dimensões ocultas, dropout, taxa de aprendizado, decaimento de peso, profundidade máxima do grafo, razão de balanceamento e o limiar do portão de contexto. A função de aptidão (fitness) inclui um termo de custo para penalizar modelos desnecessariamente grandes.

Principais Contribuições

1. Grafos Multirelacionais Direcionados: Uma estrutura de grafo que preserva a proveniência conversacional usando tipos distintos de arestas de resposta e de raiz sem complicar excessivamente os tipos de nós.
2. Seleção de Contexto Adaptativo Calibrado (C-ACS): Um mecanismo que transforma a profundidade do grafo de um hiperparâmetro global para uma decisão adaptativa por tweet, regulada pela ambiguidade com escalonamento de temperatura e confiabilidade do vizinho.
3. Estratégia de Aprendizado Consciente de Desbalanceamento: Uma combinação de ponderação de classe e oversampling com jitter aplicado exclusivamente ao split de treinamento.
4. Otimização de Hiperparâmetros Bio-inspirada: O uso de um Algoritmo Genético para otimizar um vetor de hiperparâmetros complexo e de tipo misto, superando a Busca Aleatória (Random Search) e a Otimização por Enxame de Partículas (PSO) neste espaço de busca específico.
5. Validação Rigorosa: Avaliação extensa incluindo 20 execuções independentes, testes estatísticos de postos sinalizados de Wilcoxon, estudos de ablação (comparando profundidade fixa vs. adaptativa, efeitos de calibração e componentes de grafo) e análise de sensibilidade em relação ao mapeamento emoção-sentimento.

Resultos
Avaliado no conjunto de dados COVID-Emo (benchmark primário) e no conjunto SemEval-2017 Task 4A (benchmark de adaptação), o BioGraph-SentiCOVID alcançou resultados competitivos:

• COVID-Emo: O modelo alcançou um macro-F1 de 0,829, superando a variante BioGraph de profundidade fixa (0,817) e a base não-adaptativa mais forte, GATv2-PSO (0,800). A melhoria de +0,012 no macro-F1 sobre a variante de profundidade fixa é atribuída diretamente ao mecanismo C-ACS.
• Desempenho por Classe: O modelo adaptativo mostrou ganhos significativos em classes minoritárias e ambíguas (ex: "Muito Negativo" e "Positivo"), onde modelos de profundidade fixa frequentemente sofrem com ruído.
• SemEval-2017: Sob um protocolo de adaptação supervisionada (inicializando a partir de checkpoints do COVID-Emo), o modelo alcançou um macro-F1 de 0,851.
• Significância Estatística: As melhorias foram estatisticamente significativas ($p < 0,01$) em comparação com as bases de profundidade fixa e busca aleatória em 20 execuções.
• Eficiência: Uma configuração de GA "leve" (300 avaliações) reteve 99,3% do desempenho do modelo completo (0,823 vs. 0,829 macro-F1) enquanto reduzia o tempo de otimização em aproximadamente metade.

Significância e Alegações
O artigo alega que a principal significância do BioGraph-SentiCOVID reside em sua capacidade de selecionar contexto em vez de apenas agregá-lo. Os autores argumentam que o contexto da conversa não é uniformemente útil; alguns tweets são autossuficientes, enquanto outros requerem o histórico da thread para resolver sarcasmo ou posicionamento. Ao calibrar o estimador de ambiguidade e controlar o portão de passagem de mensagens, o modelo evita o "sobre-suavizamento" e a injeção de ruído típicos de GNNs de profundidade fixa.

O estudo demonstra que:

• A Calibração é Crítica: O uso de escalonamento de temperatura para o estimador de ambiguidade melhora significativamente tanto as métricas de calibração (reduzindo o Erro de Calibração Esperado) quanto o desempenho downstream.
• Profundidade Adaptativa é Superior: Permitir que o modelo escolha dinamicamente a profundidade de contexto efetiva (profundidade ativa média de 1,74 vs. um candidato máximo de 3) produz melhores resultados do que forçar uma profundidade fixa.
• GA é Eficaz para Espaços Mistos: O Algoritmo Genético navegou com sucesso o espaço de hiperparâmetros misto discreto-contínuo melhor que o PSO ou a Busca Aleatória, particularmente devido à sua capacidade de lidar nativamente com restrições de inteiros (camadas, cabeças).

Os autores concluem que, embora o framework seja atualmente limitado ao inglês e dependente de reconstrução de grafo baseada em API, o mecanismo de seleção de contexto adaptativo oferece uma abordagem robusta para análise de sentimento em domínios conversacionais onde o contexto é variável e ruidoso.