Forgetting Our Way to Shared Meaning: Effects of Forgetting on Conceptual Alignment in a Non-Partnership Coordination Game

Resumo Técnico: Esquecendo o Caminho para o Significado Compartilhado

Declaração do Problema

A emergência e a evolução do significado compartilhado na linguagem dependem de agentes aprendendo e concordando com categorias conceituais. Embora os modelos existentes de semântica conceitual frequentemente utilizem jogos de coordenação, eles predominantemente assumem um cenário de "parceria" onde os jogadores compartilham recompensas idênticas. Essa premissa falha em capturar as nuances das comunidades linguísticas do mundo real, onde os agentes possuem informações assimétricas e arquiteturas cognitivas distintas. Além disso, os Grandes Modelos de Linguagem (LLMs) atuais enfrentam desafios teóricos em relação ao "problema do aterramento de símbolos" (symbol grounding problem) e à ineficiência informacional de seu treinamento em comparação com o aprendizado humano.

Este artigo aborda a lacuna na compreensão de como características específicas da memória semântica — especificamente as taxas de esquecimento, os níveis de entranhamento e a plasticidade — afetam a qualidade, a estabilidade e a velocidade dos acordos compartilhados. Os autores investigam como a adaptabilidade da memória influencia tanto a convergência real de regiões conceituais quanto a convergência percebida (a crença dos agentes de que se alinharam), particularmente em configurações de não-parceria onde as recompensas não são estritamente compartilhadas.

Metodologia

Os autores propõem um novo jogo de coordenação de não-parceria para modelar o alinhamento conceitual. O framework utiliza modelagem baseada em agentes com os seguintes componentes principais:

• Representação Conceitual: Seguindo Gärdenfors (2014), o significado é representado como "regiões conceituais" dentro de um espaço euclidiano ($R^n$). Essas regiões são subespaços convexos formados por tesselações de Voronoi em torno de protótipos conceituais (centroides).
• Mecânica do Jogo:
  • Dois agentes ($p_1, p_2$) começam com memórias geradas aleatoriamente consistindo em conjuntos de protótipos.
  • Em cada rodada, um objeto (um vetor em $R^n$) é apresentado.
  • Os agentes classificam o objeto anunciando o sinal correspondente ao protótipo mais próximo.
  • Estrutura de Recompensa: Diferente dos jogos de parceria, as recompensas não são compartilhadas. Se os sinais coincidirem, os agentes recebem uma recompensa alta. Se os sinais divergirem, a recompensa de um agente é determinada pela distância entre o objeto e a fronteira do conceito sinalizado pelo outro jogador dentro do seu próprio espaço de memória.
• Estratégias de Atualização de Memória:
  • Jogadores Adaptativos: Atualizam seus protótipos movendo-os uma porcentagem fixa ($a$) em direção ao objeto sempre que ocorre uma divergência.
  • Jogadores Não-Adaptativos: Possuem um parâmetro de degradação ($d$). Seu nível de adaptabilidade diminui ao longo do tempo ($a' = a \times (1-d)$), simulando a degradação da memória ou redução da plasticidade.
• Métricas de Convergência:
  • Convergência Real: Medida pela distância euclidiana média entre os protótipos correspondentes dos dois agentes caindo abaixo de um limiar de tolerância ($\delta$).
  • Convergência Percebida: Medida pelos agentes produzindo sinais correspondentes por um número consecutivo de rodadas ($\alpha$), independentemente da distância real entre seus protótipos.

Simulações foram executadas com variando o número de protótipos (3, 5, 10), níveis de adaptabilidade (1%, 5%, 10%) e taxas de degradação para agentes não-adaptativos.

Principais Contribuições

1. Modelo de Jogo de Não-Parceria: O artigo introduz um framework de teoria dos jogos onde os agentes não compartilham recompensas, permitindo uma representação mais realista do acesso epistêmico e da divergência entre o alinhamento real e o percebido.
2. Distinção Entre Convergência Real e Percebida: O estudo separa explicitamente o estado objetivo de alinhamento conceitual do belief subjetivo de alinhamento, demonstrando que essas duas métricas podem divergir significamente com base em estratégias de memória.
3. Análise de Adaptabilidade de Memória: Os autores modelam os trade-offs entre alta adaptabilidade (atualização rápida) e não-adaptabilidade (estabilidade com degradação), fornecendo uma base teórica de como as características da memória influenciam a evolução da linguagem sem depender de compartilhamento complexo de meta-informação.

Resultados

Simulações contrafactuais produziram os seguintes achados:

• Jogadores Adaptativos:
  • Alcançaram a convergência real mais rápido do que os jogadores não-adaptativos.
  • Terminaram com regiões conceituais finais mais próximas (menor distância média entre protótipos).
  • Subestimaram seu alinhamento; foram menos propensos a perceber a convergência precocemente, muitas vezes confundindo a instabilidade de seu próprio processo de atualização com uma falta de alinhamento com seu parceiro.
• Jogadores Não-Adaptativos:
  • Alcançaram a convergência real mais tarde e com maior distância final entre os protótipos em comparação aos agentes adaptativos.
  • Superestimaram seu alinhamento; foram mais propensos a perceber a convergência mais cedo.
  • Suas estratégias individuais de aprendizado eram mais estáveis, levando-os a interpretar a correspondência de sinais como um alinhamento bem-sucedido, mesmo quando as distâncias conceituais reais permaneciam maiores.
• Impacto do Nível de Adaptabilidade: Uma adaptabilidade mais alta (ex: 10%) resultou em regiões conceituais finais mais estreitas comparadas a uma adaptabilidade menor (ex: 1%).
• Impacto da Degradação: Nos agentes não-adaptativos, a taxa de degradação da memória teve um efeito negligenciável no tempo de convergência, mas influenciou a distância final entre os protótipos. Uma degradação menor permitiu um alinhamento final ligeiramente melhor, mas uma vez que a adaptação se tornava insignificante, os agentes não conseguiam mais se ajustar efetivamente à posição de seu parceiro.

Significância e Alegações

O artigo afirma que a adaptabilidade da memória semântica é um fator crítico na emergência e evolução do significado compartilhado. Os autores argumentam que:

• Raízes Cognitivas do Desalinhamento: As diferenças de significado e a percepção dessas diferenças em comunidades linguísticas podem advir de características cognitivas (adaptabilidade da memória) em vez de apenas fatores sociais ou estruturais.
• Implicações para LLMs: Os achados sugerem que estratégias de treinamento para LLMs que tratam novas informações com o mesmo peso que as antigas (agregação não-adaptativa) podem produzir modelos cada vez mais não-adaptativos. Isso contrasta com o aprendizado humano, que mostra uma preferência por novas informações. O artigo postula que a escolha entre estratégias de atualização de memória adaptativas e não-adaptativas tem consequências significativas para a estabilidade e o alinhamento de agentes artificiais.
• Percepção vs. Realidade: O estudo destaca um paradoxo onde agentes que são objetivamente mais alinhados (adaptativos) podem se sentir menos confiantes em seu significado compartilhado, enquanto agentes que são objetivamente menos alinhados (não-adaptativos) podem se sentir mais confiantes devido à estabilidade de suas estratégias internas.

Os autores concluem que compreender essas dinâmicas de memória é essencial para modelar como os humanos aprendem o significado e para abordar questões sociais como polarização e desinformação, onde a interação entre a adaptação da memória e a conectividade social determina a velocidade e a qualidade do entendimento compartilhado.