Can LLMs Understand the Impact of Trauma? Costs and Benefits of LLMs Coding the Interviews of Firearm Violence Survivors

1. O Problema

A violência armada é uma crise de saúde pública que afeta desproporcionalmente homens negros nos EUA. A pesquisa qualitativa (entrevistas em profundidade) é essencial para entender as experiências vividas desses sobreviventes e desenvolver intervenções eficazes. No entanto, a análise manual desses dados através de codificação temática indutiva é extremamente demorada e laboriosa, atrasando a implementação de soluções baseadas em evidências.

Embora os Grandes Modelos de Linguagem (LLMs) ofereçam a promessa de automatizar esse processo, existem preocupações críticas sobre:

• A capacidade dos modelos de capturar com precisão e ética as experiências de populações vulneráveis e marginalizadas.
• O viés dos modelos contra dialetos como o Inglês Africano-Americano (AAE).
• A falta de pesquisas que testem LLMs em dados de entrevistas longas e complexas sobre trauma, em contraste com estudos anteriores focados em textos curtos ou fóruns online.
• A barreira de custo computacional e financeiro de modelos proprietários de grande escala para comunidades de pesquisa com poucos recursos.

2. Metodologia

Os autores desenvolveram um pipeline de codificação automatizada utilizando modelos de código aberto (Open-Source) para comparar seu desempenho com a codificação humana (Ground Truth).

• Dados: 21 entrevistas semiestruturadas com homens negros sobreviventes de violência armada, coletadas entre 2013 e 2015 no Distrito de Columbia. As entrevistas foram transcritas manualmente e anonimizadas.
• Codificação Humana (HC): Realizada por pesquisadores humanos (mulheres negras) usando análise temática indutiva e teoria fundamentada. Foram gerados 41 códigos iniciais e 11 códigos formais.
• Pipeline de Codificação de Máquina (MC):
  • Modelos: Utilizaram modelos Llama de código aberto: Llama-3.2-1B-Instruct (1 bilhão de parâmetros) e Llama-3.1-8B-Instruct (8 bilhões de parâmetros), rodando em hardware acessível (GPUs de 16GB a 40GB).
  • Pré-processamento: As entrevistas foram divididas em "chunks" (pedaços) de texto para lidar com limitações de contexto. Foram testadas três estratégias: texto completo, "chunks pareados" (pergunta-resposta) e "chunks de pergunta".
  • Geração de Códigos: Os modelos foram instruídos a assumir a identidade de um "antropólogo de estudos afro-americanos" para gerar temas (códigos) a partir dos trechos das entrevistas (Zero-shot prompting).
  • Agregação: Os códigos iniciais gerados pela máquina foram agrupados usando o algoritmo BERTopic para criar "códigos formais" interpretáveis, reduzindo o ruído.
  • Avaliação: Foram definidas duas métricas principais:
    1. Percent Captured (% Capturado): A porcentagem dos códigos humanos formais que foram encontrados pelos códigos da máquina (Recall).
    2. Percent Relevant (% Relevante): A porcentagem dos códigos gerados pela máquina que correspondem a qualquer código humano (Precisão).
  • Similaridade Semântica: O alinhamento entre códigos humanos e de máquina foi medido usando a similaridade de cosseno de embeddings (modelo all-mpnet-base-v2).

3. Principais Contribuições

• Avaliação de LLMs de Baixo Custo: Demonstra a viabilidade e as limitações de usar modelos pequenos (1B e 8B parâmetros) para codificação qualitativa em dados sensíveis e longos, tornando a tecnologia acessível a comunidades com poucos recursos.
• Análise de Viés e "Narrative Erasure": Identifica como os guardrails (mecanismos de segurança) dos LLMs podem levar à "apagamento narrativo", recusando-se a processar descrições de trauma, violência e linguagem específica de comunidades negras (AAE).
• Pipeline Reprodutível: Oferece um pipeline completo de pré-processamento, geração e agrupamento de códigos, disponível publicamente no GitHub.
• Comparação Direta: Estabelece uma linha de base rigorosa comparando a automação total com a codificação humana em um contexto de saúde pública crítico.

4. Resultados Chave

• Desempenho Variável: Embora alguns modelos tenham capturado 100% dos códigos humanos formais em seus melhores resultados, a consistência foi baixa. A média de % Capturado foi de apenas 71% (com desvio padrão alto) e a % Relevante foi extremamente baixa, em média 10%.
• Impacto do Clustering: O agrupamento (clustering) reduziu drasticamente o número de códigos (de milhares para <60), mas paradoxalmente reduziu a qualidade do alinhamento com os códigos humanos. Códigos formais gerados por máquina tinham menor validade semântica do que os códigos iniciais.
• Viés e Recusas (Refusals): Uma descoberta crítica foi que, em média, 44% das solicitações foram recusadas pelos LLMs. As principais justificativas foram:
  • Conteúdo considerado "muito gráfico" (descrições de ferimentos de armas).
  • Medo de promover ou glorificar a violência.
  • Uso de linguagem AAE (incluindo a palavra "n*"), mesmo quando não era ofensiva no contexto.
  • Discussões sobre sexualidade e raça.
    Isso resultou na exclusão de até 65% das experiências de alguns sujeitos, ignorando tópicos centrais do estudo.
• Tamanho do Modelo: O modelo maior (8B) teve uma relevância ligeiramente melhor, mas não superou significativamente o modelo menor (1B) em todos os aspectos. O modelo menor foi mais propenso a focar em características linguísticas não padrão (gírias) em vez de temas substantivos.
• Novos Códigos: O pipeline de máquina gerou códigos novos que não estavam na codificação humana. Alguns eram válidos (ex: "Perfil racial e viés policial"), mas muitos eram "alucinações" ou justificativas fracas baseadas em inferências excessivas do texto.

5. Significado e Conclusão

O estudo conclui que, embora os LLMs tenham o potencial de acelerar a pesquisa qualitativa, eles não estão prontos para substituir a codificação humana em pesquisas envolvendo comunidades marginalizadas e traumas complexos.

• Riscos Éticos: O uso de LLMs sem supervisão rigorosa resulta em "apagamento narrativo" (narrative erasure), onde as vozes e experiências específicas de sobreviventes negros de violência armada são censuradas pelos próprios filtros de segurança da IA.
• Custo-Benefício: A economia de tempo prometida pela automação é anulada pelo tempo necessário para validar, corrigir e filtrar os erros, alucinações e recusas do modelo.
• Recomendação: A pesquisa enfatiza a necessidade de desenvolver ferramentas de IA de baixo recurso que sejam treinadas e validadas especificamente com e para comunidades marginalizadas. Até que os modelos melhorem significativamente em termos de sensibilidade cultural, compreensão de AAE e redução de viés nos guardrails, a automação total deve ser evitada em favor de abordagens híbridas onde humanos permanecem no ciclo de validação.

Em suma, a automação de codificação qualitativa para dados sensíveis e diversos ainda apresenta barreiras técnicas e éticas intransponíveis com a tecnologia atual, exigindo cautela extrema para não perpetuar o racismo sistêmico e a invisibilidade de populações vulneráveis.