AI as We Describe It: How Large Language Models and Their Applications in Health are Represented Across Channels of Public Discourse

Título: IA como a Descrevemos: Como os Grandes Modelos de Linguagem e suas Aplicações em Saúde são Representados nos Canais de Discurso Público

1. Problema e Motivação

Os Grandes Modelos de Linguagem (LLMs) foram rapidamente adotados em sistemas de informação e comunicação, especialmente no domínio da saúde (de assistência à comunicação a suporte à decisão). No entanto, existem riscos significativos, como alucinações, desinformação, viés algorítmico e a erosão do pensamento crítico.

O problema central identificado pelos autores é a lacuna entre o funcionamento técnico dos LLMs e os modelos mentais do público. Devido à natureza generativa probabilística dos LLMs (diferente das ferramentas de recuperação de informação tradicionais), os usuários frequentemente projetam intencionalidade ou compreensão humana sobre eles (antropomorfismo). O discurso público desempenha um papel crucial na formação dessas expectativas, mas não está claro se as narrativas atuais oferecem uma visão equilibrada dos potenciais e das limitações desses sistemas, especialmente em um domínio de alto risco como a saúde.

2. Metodologia

O estudo realizou uma análise quantitativa em larga escala do discurso público sobre LLMs na saúde, cobrindo um período de dois anos (dezembro de 2022 a dezembro de 2024), logo após o lançamento do ChatGPT.

• Fontes de Dados: Foram analisados cinco canais distintos de discurso:
  1. Notícias (Artigos jornalísticos).
  2. Imprensa de Pesquisa (Comunicados de imprensa de instituições científicas).
  3. YouTube (Vídeos).
  4. TikTok (Vídeos curtos).
  5. Reddit (Postagens de comunidade).
• Coleta e Filtragem:
  • Inicialmente, foram coletados 62.783 itens usando combinações de palavras-chave que exigiam pelo menos um termo relacionado a LLMs (ex: "ChatGPT", "language model") e um termo relacionado à saúde (ex: "bem-estar", "medicamento").
  • Um filtro assistido por LLM (GPT-4o-mini) foi aplicado para garantir que o conteúdo discutisse especificamente a adoção de LLMs para fins de saúde, removendo contextos irrelevantes. O conjunto final consistiu em 21.773 itens.
• Dimensões de Análise: Baseando-se na teoria do Agenda-Setting, a análise focou em três dimensões:
  1. Estilo Lexical: Tom emocional (positivo/negativo) e estilo de escrita (analítico, influência/clout, autenticidade) usando o dicionário LIWC.
  2. Conteúdo Informativo:
     • Enquadramento (Framing): Episódico (casos isolados) vs. Temático (contexto sistêmico).
     • Subdomínios de Saúde: Categorização em 6 áreas principais (ex: suporte a decisões clínicas, saúde do consumidor).
     • Divulgação de Riscos e Mecanismos: Presença de discussões sobre riscos (alucinações, viés, responsabilidade) e explicações sobre a natureza generativa dos LLMs.
  3. Representação Simbólica: Medição do antropomorfismo implícito (probabilidade de a entidade LLM ser descrita como humana vs. não humana) usando modelos de linguagem mascarados.
• Validação: A precisão das anotações automatizadas foi validada através de amostragem humana e validação cruzada entre modelos (GPT-4o-mini vs. Gemini-2.5), alcançando altos índices de concordância (F1-macro > 0.74).

3. Principais Contribuições

1. Análise Comparativa Multicanal: Primeiro estudo de grande escala a examinar simultaneamente conteúdo "top-down" (profissional: notícias, imprensa de pesquisa) e "bottom-up" (público: TikTok, Reddit, YouTube) sobre LLMs na saúde.
2. Taxonomia de Subdomínios de Saúde: Categorização de 20 subcategorias organizadas em 6 grupos amplos, mapeando onde os LLMs estão sendo aplicados no discurso público.
3. Evidência Empírica de Lacunas: Identificação de lacunas críticas na alfabetização e governança, demonstrando como o discurso público pode servir como ferramenta diagnóstica para entender a percepção pública e orientar estratégias de comunicação.

4. Resultados Chave

• Tom e Estilo Lexical:

  • O discurso geral é predominantemente positivo e tornou-se mais otimista ao longo do tempo.
  • TikTok e YouTube exibem o tom mais positivo e um estilo de escrita mais "confiante" (alto clout) e menos analítico.
  • Notícias tendem a ser mais neutras e analíticas, refletindo normas jornalísticas.

• Conteúdo Informativo e Enquadramento:

  • Enquadramento Episódico: A maioria das discussões foca em casos isolados ou exemplos específicos, em vez de implicações sistêmicas ou políticas (enquadramento temático). As notícias são a exceção, com maior enquadramento temático.
  • Divulgação de Riscos Insuficiente: Há uma falta generalizada de explicações sobre a natureza generativa dos LLMs (probabilística, sem compreensão real). Quando os riscos são mencionados, são quase exclusivamente reduzidos a problemas de qualidade da informação (alucinações, fatos errados).
  • Assimetria por Canal: Plataformas lideradas por leigos (TikTok, Reddit) raramente mencionam riscos ou explicam os mecanismos técnicos. Fontes profissionais (Notícias, Imprensa de Pesquisa) discutem mais riscos e contextos sistêmicos.

• Subdomínios de Saúde:

  • TikTok e Reddit: Focam fortemente em suporte à saúde do consumidor, especialmente saúde mental (companhia emocional, suporte terapêutico) e estilo de vida.
  • Notícias e Imprensa de Pesquisa: Focam em suporte a decisões clínicas (diagnóstico, planejamento de tratamento) e aplicações de pesquisa (descoberta de drogas, análise de dados).
  • YouTube: Atua como um meio-termo, com conteúdo educacional abrangendo tanto aplicações clínicas quanto de pesquisa.

• Representação Simbólica (Antropomorfismo):

  • O nível geral de antropomorfismo é neutro a baixo na maioria dos canais.
  • No entanto, TikTok e Reddit apresentam uma variação maior, com exemplos extremos de antropomorfização (ex: tratar o chatbot como terapeuta, amigo ou parceiro romântico).
  • A Imprensa de Pesquisa mostra o menor nível de antropomorfismo, mantendo descrições técnicas.

5. Significado e Implicações

• Ferramenta Diagnóstica: O discurso público revela onde a atenção do público se concentra (ex: saúde mental) e onde há lacunas na comunicação profissional (ex: falta de discussão sobre riscos em plataformas populares).
• Riscos de Alfabetização e Governança: A ausência de explicações sobre a natureza generativa dos LLMs e a predominância de narrativas positivas e episódicas podem levar os usuários a desenvolver modelos mentais flawed (defeituosos), tratando a IA como humana ou infalível. Isso é perigoso em contextos de saúde, onde erros podem ter consequências graves.
• Estratégias de Comunicação e Design: Os autores sugerem que a transparência não deve ser apenas sobre "avisar que é uma IA", mas sobre educar o público sobre como a IA funciona (mecanismos probabilísticos) e por que isso gera riscos específicos. É necessário desenvolver "andaimes" de alfabetização in situ para ajudar os usuários a avaliar criticamente as saídas da IA.
• Políticas Públicas: A discrepância entre a alta demanda pública por suporte emocional via IA (especialmente entre jovens) e a falta de regulamentação clara exige que governos e profissionais priorizem a segurança e a validação científica nessas áreas de uso emergente.

Em resumo, o estudo alerta que, embora a adoção de LLMs na saúde seja vista com otimismo, o discurso público falha em comunicar adequadamente os riscos e a natureza fundamentalmente diferente desses sistemas, criando um terreno fértil para más interpretações e potenciais danos reais.