The Moral Foundations Reddit Corpus

Este artigo apresenta o Moral Foundations Reddit Corpus, um conjunto de dados anotado manualmente com 16.123 comentários do Reddit baseados na Teoria das Fundações Morais atualizada, e demonstra que, apesar dos avanços, os grandes modelos de linguagem ainda ficam atrás dos modelos codificadores ajustados para tarefas subjetivas de detecção de sentimento moral, reforçando a necessidade contínua de corpora anotados por humanos para avaliação de alinhamento de IA.

O essencial

Imagine que a internet é uma enorme praça pública onde milhões de pessoas conversam, discutem e compartilham ideias. Às vezes, essas conversas são sobre o clima ou receitas de bolo, mas muitas vezes são sobre coisas profundas: o que é justo, o que é certo, o que nos machuca e o que nos une.

Os cientistas de computador (especialistas em Inteligência Artificial) querem ensinar seus robôs a entenderem essas conversas profundas. Eles querem que a IA saiba quando alguém está falando sobre "cuidado com os outros", "justiça" ou "lealdade". Mas há um problema: ensinar uma máquina a entender sentimentos morais é como tentar ensinar um gato a fazer xadrez. É muito subjetivo e difícil.

Aqui está a história do Corpus Reddit das Fundações Morais (MFRC), explicada de forma simples:

1. O Problema: O Mapa Antigo e o Novo Terreno

Antigamente, os cientistas tinham um "mapa" muito bom para entender a moralidade na internet, feito com tweets do Twitter. Esse mapa se chamava Moral Foundations Twitter Corpus.

• O problema: O Twitter é como um balde de água: as pessoas só podem escrever 280 caracteres. As conversas são curtas, rápidas e muitas vezes superficiais.
• A solução: O Reddit é como um grande lago. As pessoas podem escrever textos longos, contar histórias completas e discutir em comunidades específicas (chamadas "subreddits"). O comportamento moral lá é diferente. Além disso, o "mapa" antigo precisava de uma atualização porque a ciência da moralidade evoluiu.

2. A Nova Ferramenta: O MFRC

Os autores criaram um novo conjunto de dados, o MFRC.

• O que é: É uma coleção de 16.123 comentários do Reddit.
• De onde vieram: Eles escolheram 12 comunidades diferentes, desde política americana e francesa até conselhos de relacionamento e confissões pessoais.
• O "Mapa" Atualizado: Eles não usaram o mapa antigo. Usaram uma versão atualizada da teoria. Antes, a "Justiça" era um único conceito. Agora, a ciência diz que existem dois tipos diferentes de justiça:
  1. Igualdade: Todos devem ter o mesmo resultado (ex: todos ganham o mesmo salário).
  2. Proporcionalidade: O resultado deve ser baseado no esforço (ex: quem trabalha mais ganha mais).
  • Eles também adicionaram categorias como "Moralidade Fina" (quando alguém diz apenas "isso é errado" sem explicar o porquê) e "Moralidade Implícita" (quando o sentimento moral está escondido nas entrelinhas).

3. O Trabalho Humano: Os "Juízes"

Para criar esse mapa, eles não usaram robôs. Eles usaram humanos.

• Eles contrataram 5 pessoas treinadas (como juízes de um tribunal) para ler cada um dos 16 mil comentários.
• Cada comentário foi lido por pelo menos 3 juízes. Eles tinham que marcar: "Isso fala sobre cuidado?", "Isso fala sobre lealdade?", "Isso é moral ou não?".
• Eles também anotaram o quanto estavam confiantes em suas escolhas. Isso é importante porque, às vezes, a moralidade é cinzenta e difícil de definir.

4. O Teste: Robôs vs. Humanos

Depois de criar o mapa, eles quiseram ver se os robôs (Inteligências Artificiais modernas) conseguiam usá-lo.

• Os Participantes: Eles testaram modelos gigantes de IA (como o Llama e o Ministral) e modelos mais antigos e focados (como o BERT).
• O Cenário: Eles deram aos robôs os textos e perguntaram: "Qual é o sentimento moral aqui?".
• O Resultado Surpreendente: Mesmo com toda a tecnologia avançada, os robôs ainda estão atrás dos humanos.
  • Os modelos que foram "ensinados" especificamente com esses dados (fine-tuning) funcionaram melhor do que os robôs gigantes que apenas "adivinham" a resposta sem treino.
  • A lição: Para tarefas tão subjetivas quanto moralidade, ter um grande conjunto de dados feito por humanos é essencial. A IA ainda precisa de um "professor humano" para aprender a nuances.

5. Por que isso importa?

Imagine que você quer construir um carro autônomo. Você não quer que ele dirija apenas em pistas de corrida (o Twitter); você quer que ele dirija em estradas de terra, chuva e tráfego caótico (o Reddit e a vida real).

Este trabalho é como um manual de instruções atualizado para a IA. Ele ajuda a:

1. Entender a polarização: Por que as pessoas brigam tanto online?
2. Melhorar a IA: Criar robôs que entendem não apenas palavras, mas os valores por trás delas.
3. Detectar viés: Mostrar que os dados que usamos para treinar a IA têm limitações (por exemplo, os "juízes" eram estudantes universitários, o que pode influenciar como eles veem o mundo).

Resumo em uma Analogia

Pense no MFRC como um dicionário de sentimentos morais que foi atualizado para a era moderna.

• O Twitter era como um dicionário de gírias de 140 caracteres.
• O Reddit é como um livro de contos completos.
• Os Humanos foram os tradutores que escreveram as definições.
• Os Robôs são os alunos que estão tentando aprender a língua. O estudo mostrou que, mesmo com os melhores livros didáticos, os alunos robôs ainda precisam de muito mais prática e supervisão humana para não cometerem erros graves ao julgar o que é "certo" ou "errado".

Em suma, este papel nos diz que, para a Inteligência Artificial ser realmente ética e entender o ser humano, ela precisa de mais dados humanos, mais nuances e um mapa moral que reflita a complexidade do mundo real, não apenas a velocidade dos tweets.

Resumo técnico

Resumo Técnico: The Moral Foundations Reddit Corpus (MFRC)

1. Problema e Motivação

A retórica moral e o enquadramento (framing) influenciam comportamentos online e offline, como doações, ativismo político e polarização. Embora existam métodos computacionais em Processamento de Linguagem Natural (PLN) para detectar sentimentos morais, tarefas subjetivas como essa exigem grandes conjuntos de dados anotados manualmente para alto desempenho.
O principal obstáculo identificado pelos autores é a limitação dos corpora existentes, especificamente o Moral Foundations Twitter Corpus (MFTC), que:

• Está restrito à plataforma Twitter, ignorando as variações linguísticas e estruturais de outras redes sociais (como o Reddit, que permite textos mais longos e possui comunidades distintas).
• Baseia-se na versão original da Teoria das Fundações Morais (MFT), que tratava a "Justiça" como um único fundamento. Novas revisões teóricas (Atari et al., 2023) dividiram a Justiça em Igualdade (resultado igualitário) e Proporcionalidade (mérito/recompensa baseada no esforço), exigindo um corpus atualizado para capturar essas nuances.
• Carece de metadados detalhados sobre os anotadores, o que é crucial para entender vieses em tarefas subjetivas.

2. Metodologia

A. Construção do Corpus (MFRC)

• Dados: Coleta de 16.123 comentários em inglês do Reddit.
• Seleção: Os dados foram curados de 12 subreddits distintos, organizados em três categorias:
  1. Política dos EUA (r/politics, r/conservative, r/antiwork).
  2. Política Francesa (r/europe, r/worldnews, r/neoliberal, r/geopolitics, r/Conservative, focando na eleição presidencial de 2017).
  3. Vida Moral Cotidiana (r/AmItheAsshole, r/confession, r/relationshipadvice, r/nostalgia).
• Amostragem: Utilizou-se um método semi-supervisionado para "up-sample" (superamostrar) posts com alto carregamento moral, garantindo um equilíbrio entre posts altamente morais e menos morais dentro de cada categoria.

B. Anotação e Esquema de Classificação

• Anotadores: 5 assistentes de pesquisa treinados (selecionados de um grupo de 27) com familiaridade expert na MFT. Cada post foi anotado por pelo menos 3 pessoas.
• Esquema de 8 Categorias (Baseado na MFT Revisada):
  1. Cuidado/Harm (Care/Harm)
  2. Igualdade/Desigualdade (Equality/Inequality) – Novo fundamento separado.
  3. Proporcionalidade/Desproporcionalidade (Proportionality/Disproportionality) – Novo fundamento separado.
  4. Lealdade/Traição (Loyalty/Betrayal)
  5. Autoridade/Subversão (Authority/Subversion)
  6. Pureza/Degradação (Purity/Degradation)
  7. Moralidade Fina (Thin Morality): Julgamentos morais genéricos (ex: "certo/errado") sem vínculo claro a uma das 6 fundações específicas.
  8. Moralidade Implícita/Explícita: Classificação de como o sentimento foi expresso.
• Metadados: Coleta de dados demográficos e psicológicos dos anotadores (ideologia política, valores morais via MFQ-2, etc.) para análise de viés.

C. Avaliação de Modelos (Baselines)
Os autores avaliaram o desempenho de vários modelos para prever a votação majoritária dos anotadores:

• LLMs (Zero-shot e Few-shot): Llama3-8B e Ministral-8B.
• Fine-tuning de LLMs: Ajuste eficiente de parâmetros (PEFT/LoRA) no Llama.
• Modelos Codificadores (Encoders): BERT totalmente ajustado (Full Fine-Tuning) para tarefas de classificação de rótulo único e múltiplo.
• Métricas: F1-score, Precisão e Recall, utilizando validação cruzada estratificada.

3. Principais Contribuições

1. Novo Dataset (MFRC): Disponibilização de 16.123 comentários do Reddit anotados manualmente, cobrindo tanto contextos políticos quanto do cotidiano, com uma taxonomia atualizada da MFT (separando Igualdade e Proporcionalidade).
2. Transparência e Viés: Fornecimento de metadados psicológicos e demográficos dos anotadores, permitindo pesquisas futuras sobre como o viés humano impacta a anotação de valores morais.
3. Benchmark para Alinhamento de IA: Estabelecimento de baselines rigorosos para avaliação de modelos de linguagem (LLMs) em tarefas de detecção de fundamentos morais, servindo como recurso para alinhamento ético de IA.

4. Resultados

• Desempenho dos Modelos:
  • Modelos codificadores totalmente ajustados (BERT) superaram consistentemente os LLMs (Llama e Ministral) em todas as categorias morais, tanto em configurações zero-shot quanto few-shot.
  • O BERT ajustado obteve os melhores resultados de F1 (ex: ~0.62 para Cuidado, ~0.58 para Igualdade).
  • Os LLMs, mesmo com fine-tuning (PEFT), ficaram atrás dos modelos BERT, indicando que, para tarefas subjetivas de classificação moral densa, a supervisão específica de domínio ainda é superior à capacidade generalista de LLMs.
• Variação entre Subreddits: O desempenho do modelo variou significativamente dependendo do subreddit (ex: melhor desempenho em "Vida Cotidiana" para algumas fundações e em "Política dos EUA" para outras), sugerindo que o contexto da comunidade influencia a linguagem moral.
• Transferência Cross-Corpus: Ao treinar no MFTC (Twitter) e testar no MFRC (Reddit) (e vice-versa), os modelos mostraram desempenho moderado, mas com limitações devido à mudança na taxonomia (Justiça vs. Igualdade/Proporcionalidade) e às diferenças de plataforma.

5. Significado e Impacto

O MFRC representa um avanço crucial para a pesquisa em PLN e ciências sociais por:

• Superar Limitações do Twitter: Oferecer dados de plataformas com maior profundidade textual e comunidades estruturadas, permitindo análises mais ricas de dinâmicas de grupo e retórica moral.
• Atualização Teórica: Fornecer a primeira grande base de dados alinhada à versão revisada da Teoria das Fundações Morais, permitindo estudos mais granulares sobre desigualdade versus mérito.
• Avaliação de Alinhamento: Servir como um recurso essencial para testar se os LLMs conseguem alinhar-se com julgamentos morais humanos complexos e subjetivos, destacando que, atualmente, os LLMs ainda precisam de dados humanos anotados para atingir desempenho confiável nessas tarefas.
• Reprodutibilidade e Ética: Ao incluir metadados de anotadores e diretrizes éticas rigorosas, o corpus promove a transparência na avaliação de viés em modelos de IA.

Em suma, o MFRC não é apenas um novo conjunto de dados, mas uma infraestrutura metodológica que conecta a psicologia moral evolutiva com o estado da arte em modelos de linguagem, facilitando a compreensão de como a moralidade é expressa, modelada e avaliada no discurso online contemporâneo.