Chronology of Multi-Agent Interactions for Provenance of Evolving Information

1. Declaração do Problema

À medida que a Inteligência Artificial avança em direção a sistemas multi-agente autônomos, o conteúdo é cada vez mais gerado por meio de cadeias colaborativas onde agentes interagem, revisam, estendem ou sobrescrevem as contribuições uns dos outros. Um desafio crítico surge no rastreamento de proveniência: determinar a história cronológica de qual agente específico contribuiu para uma peça de conteúdo em cada etapa.

• A Questão Central: Em uma cadeia generativa, agentes subsequentes frequentemente sobrescrevem conteúdo anterior para manter o fluxo narrativo ou a consistência. Esse processo apaga vestígios de contribuições anteriores, deixando a saída final sem um registro inerente de sua história evolutiva.
• Limitações dos Métodos Existentes:
  • Metadados/Registros: Logs externos (cadeia de custódia) são frágeis; podem ser desvinculados do conteúdo durante a transferência ou corrompidos.
  • Fingerprinting: O hashing criptográfico é excessivamente sensível a alterações de conteúdo (falhando sob edições mínimas), enquanto o hashing perceptual carece de unicidade.
  • Marcação Digital (Watermarking): A marcação digital padrão de zero bits atribui o conteúdo a uma única fonte e luta para determinar a ordem temporal de múltiplos agentes em uma cadeia colaborativa.

O artigo busca um método para incorporar um registro assinado e carimbado com data das interações dos agentes diretamente no texto gerado em si, sem depender de metadados externos ou estados de memória internos.

2. Metodologia: O Sistema Cronológico

Os autores propõem um sistema baseado em Crônicas Simbólicas, que funcionam como uma "cadeia de custódia" esteganográfica embutida no texto via amostragem de tokens enviesada.

A. Conceitos Centrais

• Crônica ($x$): Uma sequência simbólica de comprimento $T$ (número de etapas de geração), onde cada símbolo $x_t \in \{0, 1, \dots, n\}$ representa a identidade do agente ativo no instante $t$ (0 denota um agente nulo/não atribuído).
• Livro de Códigos ($C$): Um mapeamento onde cada crônica válida $x$ está associada a uma palavra-código binária única $c(x)$ de comprimento $|V|$ (o tamanho do vocabulário).
  • A palavra-código marca um subconjunto esparsos do vocabulário (por exemplo, 50% dos tokens são "marcados" com um 1).
  • O sistema utiliza uma estratégia de construção escalável: gerando palavras-código base únicas em uma dimensão reduzida $d$ e expandindo-as para o tamanho completo do vocabulário via repetição e preenchimento.

B. O Loop de Feedback

O sistema opera através de um loop de feedback recursivo envolvendo três componentes:

1. Codificador (Geração):
   • No instante $t$, o sistema recupera a palavra-código $c(x^{(t)})$ correspondente ao estado atual da crônica.
   • O agente (LLM) gera texto com base em um prompt.
   • Envio (Biasing): O codificador modifica os logits do modelo. Para cada token $v$ no vocabulário, se o bit correspondente na palavra-código for 1, um viés $\delta$ é adicionado ao logit ($\tilde{\ell}_v = \ell_v + \delta$).
   • Isso envies a probabilidade de amostragem em direção aos tokens associados à crônica atual, incorporando a identidade do agente e a história de interações anteriores na distribuição do texto.
2. Decodificador (Recuperação):
   • Dado o texto gerado, o decodificador o tokeniza.
   • Calcula a frequência de tokens "marcados" para cada crônica válida possível no livro de códigos.
   • A crônica com a maior frequência de tokens correspondentes é selecionada como a história reconstruída ($\hat{x} = \arg \max_x f(x)$).
3. Mecanismo de Atualização:
   • Após a geração, a crônica é atualizada para incluir a identidade do agente atual na posição $t$, deslocando o slot "ativo" para a próxima etapa. Isso permite que o sistema rastreie a sequência completa $x^{(1)}, x^{(2)}, \dots, x^{(T)}$.

3. Contribuições Principais

1. Proveniência no Texto: Um método inovador para incorporar o histórico de interações multi-agente diretamente no conteúdo semântico do texto gerado, eliminando a dependência de metadados externos frágeis.
2. Formalismo de Crônicas: A definição de "crônicas" como cadeias simbólicas assinadas e carimbadas com data que evoluem junto com o processo de geração.
3. Construção Escalável de Livro de Códigos: Uma estratégia combinatória para gerar palavras-código únicas para um vasto espaço de possíveis sequências de agentes sem exigir armazenamento de memória proibitivo.
4. Atribuição Post Hoc: A capacidade de reconstruir todo o histórico generativo (quem escreveu o quê e quando) exclusivamente a partir da saída final de texto usando análise estatística.

4. Resultados Experimentais

O sistema foi avaliado usando Llama (1 bilhão de parâmetros) em uma tarefa de escrita contínua com 2–4 agentes ao longo de 3–6 instantes.

• Precisão Cronológica:
  • Com uma força de viés ($\delta$) de 3, o sistema alcançou precisão quase perfeita (99–100%) em várias configurações.
  • A precisão degrada naturalmente ao longo do tempo (propagação de erro) e com populações maiores de agentes, mas uma força de viés mais alta mitiga efetivamente isso.
• Qualidade Generativa (Perplexidade):
  • Existe uma compensação: aumentar a força do viés melhora a precisão de atribuição, mas aumenta a perplexidade (reduzindo a fluência/naturalidade do texto).
  • No entanto, o impacto na perplexidade estabiliza após a primeira etapa de geração e não depende fortemente do número de agentes.
• Robustez Adversarial:
  • O sistema foi testado contra substituição lexical (substituindo palavras por sinônimos, até 70%).
  • Baixo Viés ($\delta=1$): A precisão caiu rapidamente, aproximando-se de um palpite aleatório.
  • Alto Viés ($\delta=3$): O sistema permaneceu robusto. Para 2 agentes, a precisão manteve-se acima de 90% mesmo com 60% de substituição de palavras. Um viés mais alto concentra a distribuição de amostragem em tokens específicos, tornando o sinal estatístico resiliente a ruído semântico.

5. Significado e Direções Futuras

• Confiança e Responsabilidade: Esta pesquisa fornece um mecanismo fundamental para IA responsável. Garante que, em ecossistemas de IA colaborativos, a origem e a evolução do conteúdo possam ser rastreadas, fomentando transparência e confiança.
• Aplicação Forense: O método atua como uma "cadeia de custódia digital" para IA, permitindo análise forense de conteúdo sintético para determinar se foi teoricamente raciocinado, empiricamente testado ou criticamente desafiado por agentes específicos.
• Limitações e Trabalho Futuro:
  • Escalabilidade: O espaço de busca cresce exponencialmente com a contagem de agentes e o comprimento da crônica ($|X| = (n+1)^T$), exigindo decodificação eficiente ou priores estruturais para sistemas em grande escala.
  • Homogeneidade: Experimentos atuais usam modelos idênticos; trabalhos futuros devem abordar agentes heterogêneos com vocabulários diferentes.
  • Compensações: A tensão entre precisão de atribuição e qualidade do texto (perplexidade) requer ajuste baseado em necessidades específicas da aplicação.
  • Robustez: Pesquisas futuras devem explorar a robustez contra perturbações mais complexas, como reestruturação sintática, tradução ou truncamento.

Em conclusão, o artigo apresenta uma estrutura viável e matematicamente fundamentada para incorporar proveniência multi-agente em IA generativa, transformando o próprio texto em um registro histórico autocontido de sua criação.