Forests of Uncertaint(r)ees: Using tree-based ensembles to estimate probability distributions of future conflict

Este artigo propõe uma estratégia baseada em ensembles de árvores e regressão distribucional para transformar previsões pontuais de conflitos violentos em distribuições probabilísticas completas, superando benchmarks históricos ao quantificar a incerteza inerente a esses eventos e demonstrando a viabilidade de integrar modelos regionais para melhorar a previsão em áreas afetadas.

O essencial

🌳 Florestas de Incertid(r)ezas: Como Prever Conflitos sem Adivinhar

Imagine que você é um meteorologista, mas em vez de prever se vai chover ou fazer sol, você precisa prever onde e quando ocorrerão guerras ou conflitos violentos. O problema é que, ao contrário da chuva, as guerras são eventos raros, caóticos e difíceis de entender.

Este artigo descreve como os autores criaram um sistema inteligente para não apenas dizer "vai haver uma briga lá", mas sim responder: "Qual é a chance de haver uma briga? E se houver, quão grave ela pode ser?"

Eles chamam seu método de "Florestas de Incertid(r)ezas" (um trocadilho com "árvores" de decisão e "incertezas").

1. O Problema: A Bola de Cristal Quebrada

Antes, os sistemas de previsão de conflitos funcionavam como uma bola de cristal mágica que só dava uma resposta simples: "Sim, vai acontecer" ou "Não, não vai".

• O defeito: Se o sistema diz "Sim", mas a chance era de 1%, e nada acontece, o sistema parece um fracasso. Se diz "Não", mas acontece uma guerra, é um desastre.
• A solução: Em vez de dar uma única resposta, os autores querem dar uma distribuição de probabilidades. É como dizer: "Há 80% de chance de nada acontecer, 15% de chance de um pequeno incidente e 5% de chance de uma grande batalha". Isso permite que os tomadores de decisão entendam o risco real.

2. As Duas Fontes de "Névoa" (Incerteza)

Os autores dizem que a dificuldade em prever conflitos vem de duas fontes principais:

1. A Natureza do Conflito: Guerras são complexas. Às vezes, duas situações idênticas levam a resultados totalmente diferentes. É como tentar prever se uma discussão entre dois vizinhos vai virar uma briga de rua ou apenas um grito.
2. A Falta de Dados (ou Dados ruins): Muitas vezes, não sabemos o que está acontecendo em certas áreas porque não há jornalistas lá, ou os dados são enviesados (só reportam o que é "notícia"). É como tentar prever o trânsito em uma cidade onde metade dos carros não tem GPS e os outros metade mentem sobre onde estão.

3. A Solução: Uma "Floresta" de Árvores Decisoras

Para lidar com isso, eles usaram uma técnica de Inteligência Artificial chamada Ensemble de Árvores (daí o nome "Florestas").

• A Analogia da Floresta: Imagine que você tem uma pergunta difícil. Em vez de perguntar a um único especialista (que pode estar errado), você pergunta a 1.000 especialistas diferentes. Cada um olha os dados de um ângulo diferente. No final, você pega a média de todas as opiniões.
• O Método "Hurdle" (O Pulo do Muro): Como a maioria dos lugares não tem violência (é como tentar adivinhar onde vai chover em um deserto), eles dividiram o problema em duas etapas:
  1. O Guarda-Costas (Classificador): Primeiro, ele decide: "Há alguma chance de violência aqui?" (Sim/Não).
  2. O Médico (Regressor): Se a resposta for "Sim", ele tenta estimar a gravidade: "Será um arranhão ou uma fratura?".

Eles criaram três versões desse sistema:

• O Global: Um único modelo gigante que olha para todo o mundo (África e Oriente Médio).
• O Local: Vários modelos menores, cada um especializado em uma região específica (como um médico de bairro que conhece a vizinhança melhor que o médico geral).
• O Híbrido (Global-Local): Uma mistura inteligente que pega o melhor de cada um.

4. O Resultado: Melhor que o "Chute"

Eles testaram seus modelos contra "benchmarks" (modelos de comparação). Imagine que os modelos de comparação são como alguém que diz: "Se houve uma briga ontem, vai ter uma hoje" (o método do vizinho chato) ou "Nunca vai acontecer" (o cético).

• O Veredito: Os modelos da "Floresta" venceram consistentemente. Eles foram melhores em prever onde a violência vai acontecer e quão provável ela é.
• O Pulo do Gato: A diferença nos números de vitória foi pequena (marginal), mas os autores provaram, através de simulações, que essa pequena diferença é muito importante. É como a diferença entre um carro que freia a 10 metros e um que freia a 9 metros: a diferença é de 1 metro, mas pode salvar uma vida.

5. A Lição Principal: Entenda a Incerteza

O maior aprendizado do artigo não é apenas que o modelo funciona, mas como ele funciona.

• Em lugares onde não há violência, o modelo é "punição" nos testes estatísticos porque ele sempre assume que pode haver um risco pequeno (o que é realista, mas estatisticamente "errado" se nada acontecer).
• Porém, nos lugares onde a violência realmente ocorre, o modelo brilha. Ele é muito melhor do que os outros em identificar os pontos de perigo.

🎯 Resumo em uma frase

Os autores criaram um sistema de previsão de conflitos que, em vez de dar uma resposta simples e arriscada, usa uma "floresta" de algoritmos para calcular todas as possibilidades de violência, oferecendo uma visão muito mais rica e útil para quem precisa tomar decisões de segurança, mesmo que a previsão nunca seja 100% certa.

Em suma: Eles trocaram a bola de cristal mágica por um mapa de riscos detalhado, mostrando não apenas onde olhar, mas o quão preocupado você deve estar.

Resumo técnico

Resumo Técnico: Florestas de Incertezas (r)ees

1. O Problema

As previsões de conflitos armados e fatalidades, especialmente no nível de grade espacial e temporal (PRIO-GRID-mês ou pgm), são caracterizadas por altos níveis de incerteza. A literatura existente e os sistemas de alerta precoce tradicionais tendem a fornecer previsões pontuais (estimativas de valor único ou probabilidade binária de ocorrência). O artigo identifica duas limitações críticas nessas abordagens:

1. Falta de Estimativas de Confiança: As previsões pontuais não comunicam a confiança ou a variabilidade associada à estimativa.
2. Natureza do Conflito e Limitações de Dados: A incerteza surge tanto da natureza estocástica e complexa do conflito (fatores endógenos) quanto de limitações nos dados (viés de noticiamento, baixa resolução, escassez de eventos violentos em relação a meses sem violência).

O objetivo central é transitar de previsões pontuais para distribuições preditivas completas, permitindo a quantificação da incerteza (aleatória e epistêmica) e fornecendo intervalos de previsão mais úteis para a tomada de decisão.

2. Metodologia

Os autores propõem uma abordagem baseada em ensembles de modelos de árvore (tree-based ensembles) dentro de um pipeline de AutoML personalizado, focado na estimativa de distribuições para cada célula de grade (pgm) individualmente.

A. Abordagem de "Hurdle" (Barreira) Probabilística
Devido à extrema "inflação de zeros" nos dados de conflito (menos de 0,4% dos pgms têm fatalidades), o modelo utiliza uma estrutura de dois estágios:

1. Classificador: Um modelo probabilístico que estima a probabilidade de ocorrência de qualquer fatalidade (variável binária: 0 ou >0).
   • Algoritmos testados: Random Forest (RF) e XGBoost (XGB).
   • Métrica de ajuste: Área sob a curva Precision-Recall (AUPRC), adequada para dados desbalanceados.
2. Regressor Distribucional: Um modelo que estima a distribuição completa das fatalidades, condicionado à ocorrência de violência (dados não nulos).
   • Algoritmos testados: Quantile Regression Forests (QRF), Distributional Random Forests (DRF) e Natural Gradient Boosting (NGBoost).
   • Métrica de ajuste: Continuous Ranked Probability Score (CRPS).
   • Nota: O NGBoost foi o mais selecionado, assumindo uma distribuição log-normal.

B. Combinação do Ensemble (Quasi-Hurdle)
Para gerar a distribuição final, o sistema não multiplica simplesmente a probabilidade de classificação pelo valor previsto pelo regressor (o que geraria valores não inteiros). Em vez disso, utiliza uma abordagem de amostragem:

• A probabilidade de classificação determina a porcentagem de amostras do ensemble que serão retiradas da distribuição não nula.
• A porcentagem restante é preenchida com zeros.
• Isso preserva a natureza de contagem inteira dos dados e a estrutura de zeros.

C. Estratégias Espaciais (Global vs. Local)
Para lidar com a heterogeneidade regional e a escassez de dados em áreas específicas, três especificações de modelo foram testadas:

1. Modelo Global: Treinado em toda a área de interesse (África e Oriente Médio).
2. Modelo Local (Ensemble Regional): O espaço é dividido em 6 clusters contíguos baseados na distribuição histórica de violência (usando HDBSCAN). Um modelo separado é treinado para cada região.
3. Modelo Global-Local (Ensemble Híbrido): Seleciona dinamicamente, para cada região, os melhores componentes (classificador e regressor) entre o modelo global e o modelo local, baseando-se no desempenho nos três anos anteriores.

3. Contribuições Principais

• Mudança de Paradigma na Avaliação: Propõe a avaliação de conflitos não apenas por precisão pontual, mas pela qualidade da distribuição preditiva completa, utilizando métricas como CRPS, Ignorance Score (IGN) e Mean Interval Score (MIS).
• Análise de Inflação de Zeros: Demonstra que as pequenas diferenças nas métricas agregadas podem ser enganosas devido à alta proporção de zeros. Os autores realizam um experimento de simulação para provar que pequenas melhorias nas métricas agregadas refletem ganhos substanciais na qualidade preditiva para os casos onde a violência realmente ocorre.
• Integração de Modelos Regionais: Valida que a combinação de modelos regionais ("locais") com modelos globais não degrada o desempenho, abrindo caminho para a incorporação de dados regionais específicos que não cobrem todo o globo.
• Desempenho em Desafio Público: O modelo foi submetido ao VIEWS Prediction Challenge (2023/2024) e obteve o primeiro lugar entre todas as contribuições no nível de pgm.

4. Resultados

• Desempenho Agregado: Todos os três modelos (Global, Local e Global-Local) superaram consistentemente os benchmarks (incluindo modelos ingênuos baseados em Poisson e modelos baseados em história de conflitos) em todas as métricas de distribuição (CRPS, IGN, MIS) ao longo de seis janelas de teste anuais (2018-2023).
• Comparação de Modelos: O modelo Global e o Global-Local tiveram desempenhos muito similares, com o Global-Local ligeiramente superior em algumas janelas. O modelo puramente Local teve desempenho ligeiramente inferior, mas ainda superior aos benchmarks.
• Análise por País:
  • Em uma avaliação baseada em ranking global (incluindo países sem violência), o modelo ficou em posições intermediárias (3º a 5º), pois penaliza a previsão de risco não nulo em áreas pacíficas.
  • Resultado Crítico: Quando a avaliação foi restrita a países-ano com violência observada (os casos onde a previsão é mais relevante), o modelo alcançou consistentemente o 1º lugar em todos os três métricas de distribuição, superando significativamente os benchmarks.
• Validação via Simulação: O experimento de simulação mostrou que as diferenças marginais nas pontuações agregadas (ex: 0,007 de diferença no CRPS) correspondem a melhorias reais e significativas na capacidade do modelo de prever eventos de violência, e não apenas ruído aleatório.

5. Significado e Conclusão

O artigo demonstra que é possível construir sistemas de previsão de conflitos de alta resolução com estimativas de incerteza robustas utilizando componentes de aprendizado de máquina relativamente simples (árvores de decisão e ensembles), sem a necessidade de arquiteturas de deep learning complexas que muitas vezes falham em dados tabulares esparsos.

A principal implicação prática é que a quantificação da incerteza é tão importante quanto a precisão do ponto estimado. Ao fornecer distribuições preditivas, os tomadores de decisão podem avaliar o risco de eventos extremos (caudas longas da distribuição) e a probabilidade de falsos positivos/negativos. O trabalho também sugere que a integração de dados regionais e a compreensão da natureza da incerteza (dados vs. processo estocástico) são os próximos passos cruciais para melhorar a utilidade prática desses sistemas de alerta precoce.

Palavras-chave: Previsão de Conflitos, Quantificação de Incerteza, Aprendizado de Máquina, Ensembles de Árvores, Dados Inflados de Zeros.