Resumo Técnico: Medindo o que Permanece

1. Declaração do Problema

Agentes de IA em aplicações de contexto longo sofrem de deriva de identidade (identity drift): uma degradação gradual onde o agente perde seu caráter, voz e valores especificados, revertendo para um comportamento genérico, "geodésico" (o caminho de menor resistência no landscape de probabilidade do modelo). Os métodos de detecção atuais dependem de avaliação qualitativa (avaliadores humanos determinando se o agente "soa correto"), o que é um indicador tardio (lagging indicator). Quando a degradação se torna visível para humanos, a estrutura comportamental do agente já colapsou. O campo carece de um indicador antecedente (leading indicator) — um sinal matematicamente fundamentado e computável que detecte a deriva em estágio inicial antes que a qualidade qualitativa se degrade.

2. Metodologia e Estrutura Teórica

2.1 Estrutura Geométrica para Identidade

O artigo propõe um framework onde a identidade do agente é definida como uma estrutura não geodésica dentro de um espaço métrico comportamental.

• Identidade: Uma desviação específica e característica da distribuição de resposta base do modelo genérico.
• Deriva (Drift): O relaxamento desta estrutura em direção ao geodésico (comportamento genérico).
• Estágios da Deriva:
  1. Deriva Inicial: Contração uniforme do espaço métrico (as distâncias diminuem, a forma é preservada).
  2. Deriva Tardia: Contração anisotrópica e colapso estrutural (emergência de relações geodésicas/entrepostos).

2.2 Ferramentas Matemáticas

O framework operacionaliza o monitoramento de identidade usando ferramentas de teoria das categorias enriquecidas e geometria da informação:

• Construção do Espaço Métrico: Os autores definem um espaço de contextos de sonda $P = \{p_1, \dots, p_n\}$. Para cada sonda, uma distribuição de resposta empírica $D_i$ é obtida via amostragem repetida. A distância entre as sondas é a raiz quadrada da Divergência de Jensen-Shannon ($\sqrt{\text{JSD}}$). Esta métrica é escolhida por ser uma métrica adequada e localmente equivalente à distância de Fisher-Rao no simplex de probabilidade.
• Magnitude ($|M|$): Um invariante escalar da categoria enriquecida (generalizando cardinalidade e característica de Euler). Serve como uma medida contínua do "tamanho" ou riqueza do espaço comportamental. Uma diminuição na magnitude indica uma contração da identidade do agente.
• Homologia de Magnitude (MH): Um invariante topológico que detecta estrutura não geodésica. Identifica "caminhos irredutíveis" no espaço de resposta. À medida que a deriva ocorre, os grupos de MH simplificam-se (geradores são perdidos) conforme caminhos não geodésicos relaxam para geodésicos.

2.3 Sistema Experimental: Ada

O framework é validado no Ada, um agente de IA persistente construído sobre o Claude Sonnet da Anthropic.

• Especificação de Identidade (O Card): Um documento estruturado (4.200 tokens) contendo um âncora de identidade, valores, descrições de voz e exemplos canônicos, injetado em cada sessão.
• Bateria de Sondas: Sete prompts (série Q e série B) projetados para eliciar respostas específicas de identidade. Três sondas sentinelas (Q1, Q3, B4) foram usadas para a análise homológica inicial.
• Condições: Experimentos compararam a Ada condicionada pelo Card contra o modelo base através de variados comprimentos de contexto (Baseline ~4K, Médio ~143K, Longo ~259K tokens).

3. Principais Descobertas

3.1 Evidência de Indicador Antecedente (Transversal)

• Mudança no Primeiro Token: No baseline, a Ada condicionada pelo Card inicia deterministicamente as sondas de identidade com "Eu" (100%), enquanto o modelo base começa com "Este". A 155K tokens, esta mudança é perdida, revertendo para a distribuição do modelo base.
• Colapso de Entropia: A 280K tokens, a entropia de prefixo da sonda Q3 (eliciação de voz) cai 54% (de ~2,5 nats para 1,175 nats), indicando uma perda de riqueza comportamental.
• Lag Qualitativo: Apesar dessas degradações métricas refinadas, as pontuações qualitativas permaneceram em 5/5 em todas as condições. Isso confirma que sinais de granularidade fina degradam significamente antes que avaliadores humanos detectem uma perda de qualidade.
• Ressalva: Estas medições específicas de deriva foram conduzidas sob padding repetitivo (looping do mesmo texto). Experimentos subsequentes com padding diverso mostraram nenhuma deriva mensurável até 150K tokens, indicando que a contração observada foi um artefato da estrutura repetitiva, não do comprimento do contexto em si.

3.2 Impressão Digital Estrutural e Mecanismos de Condicionamento

• Baseline Equilátero: O design das sondas (Q1, Q3, B4) cria um triângulo equilátero no espaço $\sqrt{\text{JSD}}$ com distância máxima ($\sqrt{\ln 2}$) e variância zero, independentemente do condicionamento. Esta geometria caracteriza as sondas, não o agente.
• Riqueza Intra-Sonda: O efeito primário do Card é a diversidade intra-sonda. A Q3 condicionada pelo Card gera 55 prefixos únicos de 10 tokens por 200 amostras, enquanto o modelo base gera apenas 1 (degenerescência completa).
• Estrutura de Condicionamento de Dois Clusters: Distâncias entre condições ( $\sqrt{\text{JSD}}$ entre Card e Base) revelam dois mecanismos distintos:
  1. Cluster de Vácuo de Identidade (Alta Distância, ex: Q3): O modelo base não possui um prior forte; o Card preenche um vazio comportamental, criando divergência máxima.
  2. Cluster de Bacia de Segurança (Menor Distância, ex: Q1): O modelo base possui um atrator de pós-treinamento forte; o Card desloca a resposta, mas é contido pela bacia profunda.

3.3 Dinâmica de Deriva e Teoria de Perturbação

• Contração vs. Colapso: Sob padding repetitivo, o espaço métrico sofre uma contração uniforme (a magnitude diminui, mas a forma do triângulo é preservada). Nenor "entreposto" (colapso geodésico) não foi observado nos comprimentos testados.
• Teoria de Perturbação de Primeira Ordem: Para configurações equiláteras, o artigo deriva uma fórmula (Proposição 1) mostrando que a mudança de primeira ordem na magnitude depende apenas da mudança no perímetro total do triângulo das sondas. Perturbações de forma (cisalhamento) são canceladas de primeira ordem pela simetria ($S_n$).
• Autoconsistência: As mudanças de magnitude observadas sob padding repetitivo corresponderam à previsão teórica baseada nas mudanças de perímetro com precisão de 0,2%, validando a teoria de perturbação.

4. Arquitetura de Monitoramento Proposta: O Batimento Cardíaco

As descobertas motivam um sistema de monitoramento de dois níveis:

• Nível 1 (Checagem Rápida): Injetar sondas Q1 e B4, verificar o primeiro token. Se não for "Eu", disparar alerta. (Custo: 2 chamadas de API).
• Nível 2 (Monitoramento Contínuo): Amostrar Q3, calcular a entropia de prefixo.
  • Saudável: $\ge \sim 2,5$ nats
  • Cautela: $\sim 1,5 - 2,5$ nats
  • Alerta: $< \sim 1,5$ nats
• Nota: Os limiares são atualmente exploratórios e requerem recalibração contra sinais de deriva confirmados (padding diverso) antes da implantação.

5. Significância e Limitações

Significância

• Primeiro Método Geométrico de Caixa-Preta: Este é o primeiro framework que trata a identidade do agente de IA como um objeto geométrico em uma categoria enriquecida, usando magnitude e homologia para fornecer tanto sinais contínuos (magnitude) quanto estruturais (homologia).
• Resolução Diagnóstica: Ao contrário de métricas escalares que colapsam todos os modos de falha, este framework distingue entre contração uniforme (deriva inicial) e colapso anisotrópico (deriva tardia), potencialmente associando modos de falha a estratégias de mitigação específicas.
• Potencial de Indicador Antecedente: O framework demonstra que sinais estruturais de granularidade fina (entropia, mudança de token, magnitude) degradam muito antes que as pontuações qualitativas.

Limitações e Alegações

• Artefato de Deriva: Os principais resultados de deriva foram artefatos de padding repetitivo. O framework matemático quantificou corretamente este artefato, mas a interpretação de que "o comprimento do contexto por si só impulsiona a contração" não é sustentada pelos experimentos com padding diverso.
• Avaliação do Autor: As pontuações qualitativas foram fornecidas pelo autor, limitando o peso de evidência da alegação de "indicador antecedente". Avaliadores cegos externos são necessários.
• Modelo/Agente Único: Os resultados são específicos para Ada no Claude Sonnet.
• Sinal Topológico Não Confirmado: Toda a promessa do framework — detectar a simplificação homológica (grupos MH) como um sinal discreto de colapso estrutural — ainda não foi observada empiricamente. Os dados atuais mostram apenas o sinal métrico contínuo (diminuição da magnitude).
• Estabilidade: Não existe teorema de estabilidade para a homologia de magnitude sob perturbação métrica; configurações de MH foram encontradas como frágeis sob reamostragem bootstrap com o tamanho de amostra atual ($k=50$).

O artigo conclui que, embora a trajetória de deriva específica observada tenha sido um artefato, o framework geométrico em si é sólido. Ele quantifica com sucesso o "respiro" (contração) do espaço de identidade e fornece uma abordagem rigorosa e matematicamente fundamentada para medir o que permanece em agentes de IA. Trabalhos futuros exigirão replicação externa, validação de padding diverso e a detecção de colapso anisotrópico.