From Noisy News Sentiment Scores to Interpretable Temporal Dynamics: A Bayesian State-Space Model

Resumo Técnico: De Pontuações de Sentimento de Notícias Ruidosas para Dinâmicas Temporais Interpretáveis

Definição do Problema
Indicadores de sentimento baseados em texto são amplamente utilizados para monitorar o humor público e de mercado; no entanto, séries temporais de sentimento agregadas semanalmente são inerentemente ruidosas. Uma fonte primária deste ruído é a variabilidade temporal e categórica no volume de notícias relevantes. Algumas médias semanais baseiam-se em centenas de artigos, enquanto outras baseiam-se em pouquíssimos. As abordagens existentes frequentemente falham em contabilizar explicitamente essas flutuações na disponibilidade de dados ao medir a incerteza. Consequentemente, os métodos de agregação padrão confundem mudanças genuínas no sentimento com mudanças na confiabilidade dos dados. Este problema é crítico porque utilizar variáveis geradas por IA como verdade fundamental (ground truth) em análises econométricas sem considerar o erro de medição pode levar a estimativas enviesadas e inferências inválidas. Além disso, a literatura recente enfatiza que a quantificação da incerteza é essencial para tornar os sinais de IA confiáveis para a tomada de decisão financeira.

Metodologia
O artigo propõe um modelo de espaço de estados bayesiano hierárquico projetado para transformar o sentimento de notícias agregadas em uma série temporal suavizada com quantificação de incerteza fundamentada.

• Processamento de Dados: Artigos de notícias são coletados e pontuados usando modelos de PLN pré-treinados. O FinBERT é utilizado para gerar pontuações de sentimento ($S_i \in [-1, 1]$), e um modelo de classificação zero-shot (bart-large-mnli) atribui pontuações de relevância ($C_{ij}$) a categorias temáticas predefinidas. Artigos com pontuações de relevância abaixo de um limiar de 0,25 são filtrados.
• Agregação: Para cada janela temporal $t$ e categoria $j$, uma pontuação de sentimento agregada ($y_{tj}$) é calculada como uma média ponderada das pontuações ao nível do artigo, onde os pesos são as pontuações de relevância da categoria.
• Dinâmica do Estado Latente: O modelo postula um processo de sentimento latente não observado ($x_{tj}$) que evolui ao longo do tempo. Este processo é modelado como um processo autorregressivo de ordem um (AR(1)) em torno de uma média de longo prazo ($\mu_j$), governado por um parâmetro de persistência ($\theta_j$) e uma escala de inovação latente ($\sigma_{\eta j}$).
• Modelo de Observação e Peso Efetivo: O sentimento observado $y_{tj}$ é tratado como uma medição ruidosa do estado latente $x_{tj}$. A inovação central reside no termo de ruído de observação, que é escalonado por um "peso de informação efetiva" ($n_{tj}$).
  • $n_{tj}$ é definido como a soma das pontuações de relevância da categoria para todos os artigos em uma determinada janela.
  • A variância da observação é modelada como $\sigma_j^2 / n_{tj}$.
  • Mecanismo: Quando $n_{tj}$ é alto (alta cobertura), o ruído de observação é pequeno e o estado latente é ancorado fortemente aos dados observados. Quando $n_{tj}$ é baixo (cobertura esparsa), a incerteza aumenta e o modelo depende mais fortemente das dinâmicas temporais latentes para inferir o estado.
• Estrutura Hierárquica: Para melhorar a robustez, particularmente para categorias com dados esparsos, o modelo emprega prioris hierárquicos. Isso permite parâmetros específicos da categoria (persistência, inovação e ruído de observação) enquanto compartilha informações entre categorias através de hiperprioris.
• Inferência: As distribuições posteriores são estimadas usando métodos de Cadeia de Markov via Monte Carlo (MCMC) implementados em JAGS.

Principais Contribuições

1. Ruído Escalonado pela Densidade de Informação: Os autores introduzem um modelo de espaço de estados bayesiano onde o ruído de observação é explicitamente escalonado por uma medida de densidade de informação observável e baseada em dados ($n_{tj}$). Isso vincula diretamente a disponibilidade de dados à incerteza de medição, evitando a necessidade de inferir volatilidade latente variável no tempo através de ruído genérico.
2. Robustez Hierárquica: O arcabouço utiliza uma estrutura hierárquica para compartilhar informações entre múltiplas categorias temáticas. Esta abordagem melhora a estabilidade da estimativa para categorias com menos mensagens, mantendo ainda a possibilidade de comportamentos específicos de cada categoria.
3. Estrutura Consciente da Incerteza: O modelo fornece distribuições posteriores completas para estados latentes e parâmetros, permitendo o relato de intervalos de credibilidade. Isso facilita uma abordagem fundamentada para o monitoramento de dinâmicas de sentimento, onde a incerteza é quantificada em vez de ignorada.

Resultos
A análise empírica foi conduzida em um conjunto de dados de aproximadamente 9.918 artigos de notícias abrangendo do final de 2023 ao final de 2025, categorizados em seis grupos temáticos.

• Inferência de Parâmetros: A análise posterior revela que o parâmetro de persistência ($\theta_j$) e a escala de inovação latente ($\sigma_{\eta j}$) são amplamente semelhantes entre as categorias. As diferenças entre um modelo totalmente agrupado (fully pooled) e o modelo hierárquico são relativamente pequenas para esses parâmetros, sugerindo que a persistência temporal e a volatilidade de curto prazo são características compartilhadas entre as categorias.
• Heterogeneidade do Ruído de Observação: Em contraste, o parâmetro de ruído de observação ($\sigma_j$) exibe variação significativa entre as categorias. Isso indica que a confiabilidade do sentimento agregado como um proxy para o estado latente varia conforme o tópico, provavelmente devido a diferenças na ambiguidade da categoria ou na variabilidade do conteúdo das notícias.
• Validação do Modelo: Uma comparação entre um modelo heterocedástico (onde a variância escala com $1/n_{tj}$) e um modelo homocedástico (variância constante) confirma o pressuposto central de modelagem. A especificação heterocedástica demonstra que a incerteza posterior (largura do intervalo) aumenta mecanicamente conforme a densidade de informação diminui, uma relação que é estatisticamente significativa e mais forte do que na variante homocedástica.
• Dinâmicas Latentes vs. Observadas: As estimativas do estado latente ($x_{tj}$) fornecem uma trajetória mais suave do que as pontuações agregadas brutas ($y_{tj}$). O modelo filtra eficazmente as flutuações de curto prazo, particularmente durante períodos de cobertura esparsa, distinguindo o sinal do ruído de medição.

Significância e Alegações
O artigo posiciona este arcabouço primariamente como uma ferramenta de monitoramento descritivo, e não de previsão. Os autores alegam que, ao modelar explicitamente a confiabilidade da medição com base na disponibilidade de informação, o arcabouço oferece uma representação mais interpretável e estável das dinâmicas de sentimento.

A significância do trabalho reside em sua capacidade de:

• Separar mudanças reais de sentimento de artefatos causados por variações no volume de dados.
• Fornecer intervalos de credibilidade que refletem a real densidade de informação das fontes de texto subjacentes.
• Oferecer uma abordagem generalizável para qualquer análise de sentimento baseada em texto onde a disponibilidade de informação flutua ao longo do tempo (ex: redes sociais, plataformas de mensagens ou feeds de notícias).

Os autores mantêm um escopo modesto, reconhecendo limitações como a natureza arbitrária do limiar de relevância, a dependência de modelos específicos de PLN e as dinâmicas AR(1) simplificadas escolhidas por parcimônia. Eles não reivindicam uma precisão de previsão superior, mas enfatizam o valor da quantificação da incerteza para análises subsequentes e tomada de decisão confiáveis.