Identifying the Geographic Foci of US Local News

Este artigo propõe um novo modelo baseado em aprendizado de máquina e em grandes modelos de linguagem para identificar com precisão os focos geográficos em artigos de notícias locais dos EUA, superando métodos tradicionais de desambiguação e permitindo uma melhor análise da cobertura midiática local.

O essencial

Imagine que você tem um monte de jornais locais dos Estados Unidos espalhados por toda a mesa. Alguns falam sobre a eleição do conselho escolar na sua cidade, outros sobre uma tempestade que atingiu todo o estado, e alguns até sobre uma guerra na Ásia. O problema é que, hoje em dia, muitos desses jornais locais estão tão apertados financeiramente que acabam falando mais sobre assuntos nacionais ou internacionais do que sobre o que realmente acontece no "quintal" da comunidade deles.

Os autores deste trabalho se perguntaram: "Será que esses jornais ainda estão contando as histórias do bairro?"

Para responder a isso, eles criaram um "detetive digital" chamado NLGF (News Lab Geo-Focus). Vamos explicar como ele funciona usando analogias simples:

1. O Problema: O "Paris" Confuso

Imagine que você lê uma notícia sobre "Paris". O computador, por si só, não sabe se está falando de Paris, na França (onde tem a Torre Eiffel), ou Paris, no Texas (uma cidadezinha nos EUA). Isso é chamado de ambiguidade.

• A Solução Antiga: Eles tentaram usar ferramentas antigas de geografia, mas era como tentar achar um endereço em um mapa desenhado à mão com giz: muitas vezes erravam, especialmente com lugares menos famosos.
• A Solução Nova (IA): Eles usaram uma Inteligência Artificial muito inteligente (chamada LLM, como o GPT-4) que funciona como um turista experiente. Se a notícia vem de um jornal de Nova York e fala sobre "Paris", a IA sabe, pelo contexto, que provavelmente é Paris, Texas, e não a França. Ela é muito melhor em resolver esses quebra-cabeças do que as ferramentas antigas.

2. O Detetive: Como o NLGF Decide o Foco

Depois que a IA resolve onde os lugares estão, o modelo NLGF precisa decidir: "Esta notícia é sobre a cidade, o estado, o país inteiro ou o mundo?"

Para fazer isso, o modelo não apenas conta quantas vezes um nome aparece (o que seria como contar quantas vezes alguém diz "pizza" em uma conversa). Ele olha para onde e como o nome é usado:

• A Regra do Título: Se o nome da cidade está no título da notícia, é como se alguém estivesse gritando o nome dela. Isso é um sinal forte de que a história é local.
• A Regra da Posição: Se o nome aparece logo no primeiro parágrafo, é como se fosse o protagonista do filme.
• A Regra da Diversidade: Se a notícia fala de 10 cidades diferentes, é provável que seja uma história nacional ou internacional, não local.

O modelo combina todas essas pistas (como um detetive juntando provas) para classificar a notícia em uma de cinco caixas:

1. Local: Sobre a cidade ou bairro.
2. Estadual: Sobre o estado inteiro.
3. Nacional: Sobre o país.
4. Internacional: Sobre outros países.
5. Nenhum: Sobre algo sem localização (como uma descoberta científica genérica).

3. O Resultado: Quem Ganhou?

Eles testaram o novo detetive (NLGF) contra dois outros "investigadores":

• GPT-4: Uma IA poderosa, mas que às vezes se perde sem ajuda de contexto geográfico específico.
• Cliff-Clavin: Um método antigo que basicamente conta quantas vezes um lugar é mencionado (como contar votos).

O Veredito: O NLGF venceu de lavada!

• Ele acertou 86% das classificações corretamente.
• O GPT-4 acertou cerca de 66%.
• O método antigo (Cliff-Clavin) acertou apenas 37%.

A principal vantagem do NLGF é que ele entende a hierarquia. Ele sabe que se um jornal de Virginia fala sobre "Washington D.C.", isso pode ser nacional, mas se fala sobre "Williamsburg", é local. As outras ferramentas confundiam muito essas fronteiras.

Por que isso importa?

Pense no NLGF como um termômetro da democracia local.
Se ele começar a mostrar que os jornais locais estão falando cada vez mais sobre política nacional e menos sobre a merenda escolar da cidade, isso é um sinal de alerta. Significa que a comunidade pode estar perdendo informações vitais sobre o seu próprio dia a dia.

Resumo da Ópera:
Os pesquisadores criaram um sistema inteligente que usa IA para ler notícias, descobrir exatamente onde a história acontece e classificar se é algo do bairro ou do mundo. Isso ajuda a monitorar se os jornais locais ainda estão prestando o serviço que a comunidade precisa, ou se eles viraram apenas repetidores de notícias globais. E o melhor: o código desse "detetive" é gratuito e aberto para qualquer pessoa usar!

Resumo técnico

Resumo Técnico: Identificando os Focos Geográficos das Notícias Locais dos EUA

1. Problema e Motivação

O jornalismo local é vital para a democracia, informando os cidadãos sobre questões comunitárias específicas (eleições escolares, saúde local, pequenos negócios). No entanto, pressões econômicas e a consolidação da propriedade de mídia têm levado à "nacionalização" das notícias locais, onde estações priorizam tópicos estaduais, nacionais ou internacionais em detrimento dos locais.
Isso levanta uma questão crítica: o jornalismo local ainda atende às necessidades informativas das comunidades que serve?
Para responder a isso, é necessário identificar com precisão os focos geográficos (geo-foci) das notícias. O desafio reside na ambiguidade dos toponímicos (ex: "Paris" pode ser no Texas ou na França) e na dificuldade de distinguir o escopo geográfico principal de um artigo (local, estadual, nacional ou internacional) quando múltiplas referências geográficas estão presentes.

2. Metodologia: O Modelo NLGF

Os autores propõem o News Lab Geo-Focus (NLGF), um modelo de código aberto que combina processamento de linguagem natural (NLP) e aprendizado de máquina para identificar tanto o nível do foco geográfico quanto os locais específicos mencionados. O pipeline segue quatro etapas principais:

A. Criação do Dataset e Anotação

• Foi criado um conjunto de dados de 1.250 artigos de notícias locais dos EUA, cobrindo todos os 50 estados.
• Os dados foram anotados manualmente por especialistas com duas etiquetas:
  1. Nível do Foco Geográfico (Geo-focus Level): Local, Estadual, Nacional, Internacional ou Nenhum (sem foco geográfico claro).
  2. Focos Geográficos (Geo-foci): Os nomes específicos das cidades, condados, estados ou países centrais ao tema.
• A confiabilidade da anotação foi validada com métricas de concordância interavaliadores (Cohen's $\kappa$ e Krippendorff's $\alpha$ > 0.80).

B. Reconhecimento e Desambiguação de Toponímicos (Geoparsing)

• Reconhecimento: Uso do spaCy para extrair entidades (GPEs, LOCs, FACs).
• Desambiguação: Comparação entre seis geoparsers tradicionais (ex: Mordecai3, Edinburgh Geoparser) e três Grandes Modelos de Linguagem (LLMs: GPT-4o, LLaMA2-7b, Phi-3).
  • Resultado: Os LLMs superaram significativamente os métodos tradicionais, especialmente na resolução de entidades ambíguas (ex: diferenciar "Paris, Texas" de "Paris, França"). O GPT-4o obteve o melhor desempenho (F1 > 0.90 para GPEs).
• Atribuição de Nível Inicial (IGL): Após a desambiguação, cada toponímico recebe um "Nível Inicial de Foco Geográfico" baseado na localização do editor da notícia e na hierarquia administrativa do local desambiguado.

C. Engenharia de Atributos (Feature Engineering)
Foram extraídos 15 atributos espaciais-semânticos para treinar o classificador, capturando a proeminência e distribuição das referências geográficas:

• Contagem de Toponímicos em Títulos: Indica ênfase espacial imediata.
• Distribuição de IGLs de GPEs: Contagem de entidades políticas por nível (local, estadual, etc.).
• Ênfase Posicional: Contagem de toponímicos que aparecem nas primeiras 5 menções do texto.
• Diversidade Toponímica: Número de identificadores geográficos únicos por nível.

D. Classificação e Identificação

• Classificação do Nível: Um classificador XGBoost foi treinado para prever o nível do foco geográfico do artigo inteiro com base nos atributos acima.
• Identificação dos Focos (Algoritmo 1): Após prever o nível, o modelo aplica uma heurística para selecionar os toponímicos específicos que compõem o foco. O score de foco é calculado somando: frequência no título + frequência no artigo + se foi um toponímico líder (início do texto) + se foi reconhecido como GPE. Os toponímicos com score acima de um limiar ($\alpha = 0.25$) são selecionados como o foco final.

3. Contribuições Principais

1. Dataset de Referência: Criação de um conjunto de dados anotado por especialistas com 1.250 artigos, servindo como benchmark para pesquisas futuras sobre foco geográfico.
2. Desambiguação com LLMs: Demonstração de que LLMs superam geoparsers tradicionais na desambiguação de toponímicos em contextos de notícias locais.
3. Atributos Espaciais-Semânticos: Desenvolvimento de um conjunto de características que capturam não apenas a presença, mas a proeminência e o contexto hierárquico das referências geográficas.
4. Modelo Híbrido (NLGF): Um sistema de código aberto que integra desambiguação via LLM com classificação via XGBoost e heurísticas, superando abordagens puramente baseadas em frequência ou apenas em LLMs.

4. Resultados

O modelo NLGF foi comparado com duas baselines: o GPT-4o (usado diretamente para classificação) e o Cliff-Clavin (um método heurístico baseado em frequência amplamente utilizado).

• Classificação do Nível de Foco Geográfico:

  • NLGF: F1 Macro = 0.89 (Precisão: 0.89, Recall: 0.89).
  • GPT-4o: F1 Macro = 0.75.
  • Cliff-Clavin: F1 Macro = 0.62.
  • Observação: O NLGF teve desempenho superior em todas as classes, especialmente na distinção entre níveis locais e estaduais, onde o GPT-4o falhou frequentemente por falta de "ancoragem espacial" explícita.

• Identificação dos Focos Geográficos (Geo-foci):

  • NLGF: F1 = 0.86 (Precisão: 0.86, Recall: 0.89).
  • GPT-4o: F1 = 0.66.
  • Cliff-Clavin: F1 = 0.37.
  • O modelo NLGF demonstrou capacidade superior em identificar múltiplos locais relevantes em um único artigo, superando a abordagem de "frequência bruta" do Cliff-Clavin.

5. Significado e Conclusão

O estudo valida que a combinação de desambiguação avançada (LLMs) com representação de características espaciais e semânticas é crucial para entender a cobertura de notícias locais.

• Impacto: O NLGF permite que pesquisadores quantifiquem a "nacionalização" das notícias locais, medindo se os meios de comunicação estão realmente atendendo às necessidades de suas comunidades locais ou se estão desviando para narrativas nacionais.
• Futuro: Os autores planejam expandir o modelo para classificação multirrótulo (artigos com múltiplos níveis de foco) e adaptar o framework para outros países além dos EUA.

Em suma, o NLGF oferece uma ferramenta robusta e precisa para a análise computacional do jornalismo, permitindo uma compreensão mais profunda da geografia da informação na mídia local dos EUA.