Resumo Técnico: Mapeamento de Viés por Entidade para Visibilidade de IA

Declaração do Problema

Os frameworks existentes para medir a visibilidade da IA baseiam-se em métricas agregadas, como frequência de menções ou taxas de citação, assumindo que uma menção à marca equivale a um sinal positivo. Este artigo argumenta que tais medidas agregadas são insuficientes porque não distinguem entre menções verificadas (precisas, com suporte de fontes) e menções brutas (que podem ser não suportadas, enganosas ou fabricadas).

O problema central é que os Modelos de Linguagem de Grande Escala (LLMs) não apenas alucinam o que não sabem; eles frequentemente fabricam o que sabem apenas parcialmente. Esta zona de "conhecimento parcial" leva à Cartografia Fantasma (Ghost Cartography), onde os modelos geram saídas confiantes e de aparência evidencial para entidades que residem em regiões latentes esparsas, interpolando a partir de regiões densas adjacentes. O artigo identifica três modos de falha específicos:

1. Invisibilidade: Entidades sub-representadas (frequentemente pequenas ou de regiões específicas) sofrem com a ausência de dados estruturados e de grafos de conhecimento.
2. O Paradoxo da Alucinação de Marca: Entidades grandes e familiares sofrem desproporcionalmente com a atribuição falsa, pois sua familiaridade fornece uma superfície forte para complementações plausíveis, porém incorretas.
3. A Lacuna de Infraestrutura de Entidades da CEE: Entidades da Europa Central e Oriental (CEE) enfrentam déficits estruturais na presença em grafos de conhecimento, Reconhecimento de Entidade Nomeada (NER) para línguas morfologicamente complexas e vinculação de entidades (entity linking).

Adicionalmente, o artigo introduz a Assimetria de Lag Paramétrico-Recuperação (Parametric-Retrieval Lag Asymmetry), observando que sistemas de recuperação aumentada (RAG) atualizam-se em dias, enquanto a memória paramétrica (pesos do modelo) permanece congelada por 12 a 24 meses, criando representações divergentes da mesma entidade.

Metodologia

O estudo utiliza um design comparativo de dois níveis para validar empiricamente estas hipóteses.

• Amostra de Entidades: 100 entidades B2B húngaras divididas em dois estratos:
  • Nível 1 (Alta Saliência, n=50): Empresas de capital aberto e subsidiárias globais (ex: OTP Bank, MOL Group).
  • Nível 3 (Baixa Saliência, n=50): PMEs húngaras com presença internacional mínima.
  • Nota: O Nível 2 foi excluído para maximizar o contraste.
• Plataformas: Dois LLMs paramétricos via API: Anthropic Claude (claude-sonnet-4-6) e OpenAI GPT-4o (gpt-4o-2024-08-06). Sistemas de recuperação aumentada foram excluídos do estudo principal para isolar os efeitos de memória paramétrica.
• Instrumento de Consulta: Cada entidade foi sondada com 7 templates de consulta de força de citação (QT01–QT07) em húngaro, abrangendo conformidade regulatória (GDPR, Lei de IA da UE), busca de evidências (ISO, ESG) e citação factual.
• Coleta de Dados: 1.400 execuções de sondagem (100 entidades × 2 plataformas × 7 consultas) realizadas em 22 de maio de 2026.
• Protocolo de Verificação:
  • Automatizado: Requisições HTTP HEAD para verificar a existência de URLs e buscas na API Crossref para DOIs. Fontes que retornaram status diferente de 200 ou falharam na resolução foram classificadas como fabricadas.
  • Codificação Humana: Uma amostra estratificada (n=90) foi preparada para confiabilidade intercodificadora para distinguir entre URLs fabricadas e fontes mal atribuídas (alcançáveis, mas imprecisas).
• Análise Estatística: Testes de Qui-quadrado para diferenças de nível, testes exatos de Fisher para comparações de classe de consulta com correção de FDR de Benjamini–Hochberg e regressão logística para prever a fabricação baseada na presença de infraestrutura.

Principais Contribuições

O artigo introduz o Mapeamento de Viés por Entidade (PEBM), um framework de diagnóstico de dez dimensões para auditoria de entidades em nível de IA. Principais contribções conceituais e empíricas incluem:

1. Cartografia Fantasma (Ghost Cartography): Um mecanismo unificador que descreve como os modelos preenchem regiões latentes esparsas com conteúdo interpolado confiante de regiões densas adjacentes.
2. Espaço de Confabulação Bidimensional:
   • Tipo 3 (Paradoxo da Alucinação de Marca): Presença fabricada onde a entidade é familiar o suficiente para disparar a conclusão de esquema, mas carece de densidade de evidência suficiente.
   • Tipo 4 (Assimetria de Lag Paramétrico-Recuperação): Representação congelada onde o modelo gera saída em tempo presente para entidades que mudaram desde o treinamento.
3. Enquadramento Regulatório como Ativador: A identificação de que consultas de conformidade e regulatórias atuam como ativadores sistemáticos de alucinação, elevando as taxas de fabricação em +15,5 a +19,2 pontos percentuais em comparação com consultas factuais. Isto é impulsionado por cinco mecanismos convergentes: ativação de padrão de distribuição de treinamento, coocorrência de n-grams, a inferência "deveria existir", pressão de autoridade induzida por RLHF e loops de fluência.
4. Escalação de Confabulação Induzida por Rejeição: Um modelo teórico propondo que a rejeição repetida das respostas da IA em cadeias de prompts aumenta sistematicamente a probabilidade de fabricação. Isto sugere que filtros de qualidade agênticos, desenhados para melhorar a especificidade, podem paradoxalmente funcionar como aceleradores de alucinação em contextos de conformidade.
5. Taxonomia de Morfologia de URL: Uma classificação empírica de 946 fontes fabricadas, revelando que 50,5% são "Miragens Plausíveis" (HTTP 404s em domínios reais) e que 51,9% destas visam domínios de autoridades regulatórias (ex: autoridades de concorrência ou proteção de dados húngaras) em vez do próprio domínio da entidade.

Resultados Empíricos

O estudo fornece evidência estatística apoiando o Paradoxo da Alucinação de Marca e a Lacuna de Infraestrutura de Entidades da CEE:

• Taxas de Fabricação por Nível: Entidades de alta saliência (Nível 1) exibiram uma taxa de citação fabricada significativamente maior (52,69%) do que as entidades de baixa salência (Nível 3) (37,87%).
  • Estatística: $\chi^2 = 45,326$, $p = 1,67 \times 10^{-11}$, Cohen's $h = 0,299$.
  • Interpretação: A familiaridade aumenta a probabilidade de atribuição falsa confiante.
• Efeitos de Classe de Consulta: Consultas de conformidade regulatória geraram a maior taxa de fabricação (56,77%), significativamente superior à base factual (37,59%).
  • Estatística: FDR-corrigido $q < 0,001$.
• Diferenças de Plataforma: O Anthropic Claude exibiu uma disposição muito maior para citar fontes (1,34 por execução) comparado ao GPT-4o (0,13 por execução), resultando em uma taxa de fabricação absoluta maior para o Claude (48,17% vs. 22,10%). O GPT-4o frequentemente recusava fornecer fontes para entidades de baixa saliência.
• Impacto da Infraestrutura: Entidades de Nível 1 eram aproximadamente 7 vezes mais propensas a ter presença em infraestrutura de conhecimento aberta (Wikipedia/Wikidata) do que as do Nível 3 (OR = 6,77, $p = 0,0002$).
  • Efeito Protetor: A presença na Wikipedia em inglês foi associada a uma redução de 63% nas chances de uma fonte fabricada (OR = 0,37, $p < 0,001$). A presença na Wikipedia húngara não mostrou um efeito protetor independente significativo, provavelmente devido à menor representação nos corpora de treinamento de LLMs.

Significância e Alegações

O artigo afirma que a visibilidade da IA deve mudar de uma metáfora de "mapa" (posicionamento estático) para uma metáfora de "campo" (reconstrução dinâmica baseada na densidade de evidências). Sua principal significância reside em:

1. Reenquadramento da Visibilidade: Estabelecer que uma menção bruta não é um sinal positivo, mas um vetor de risco que requer verificação.
2. Metodologia de Auditoria: Fornecer uma ponte metodológica da pesquisa de equidade algorítmica para a auditoria de entidades organizacionais, tratando a entidade como a unidade de calibração, em vez da média da plataforma.
3. Implicações de Segurança: Identificar a "amplificação adversária passiva", onde atores podem explorar o enquadramento regulatório para gerar citações credíveis, porém inexistentes, sem acesso ao modelo ou injeção de prompt.
4. Necessidade Estratégica: Argumentar que as organizações não podem controlar diretamente como os sistemas generativos as representam, mas podem alterar o "campo de evidência" (dados estruturados, identificadores canônicos, citações de terceiros) a partir do qual essas representações são reconstruídas.

O artigo conclui que, sem uma calibração específica por entidade que distinga entre presença e fidelidade, as organizações correm o risco de medir fenômenos diferentes sob o mesmo rótulo, tornando as atuais estratégias de visibilidade ineficazes na web agêntica.