Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows

Resumo Técnico: Lacunas de Evidência Operacional para LLMs em Fluxos de Trabalho de Detecção de Fraude e Segurança e Confiança (Trust-and-Safety)

Declaração do Problema
Modelos de Linguagem de Grande Escala (LLMs) são cada vez mais propostos para fluxos de trabalho críticos de segurança e confiança (T&S), incluindo detecção de fraude, investigação de golpes e moderação de conteúdo. No entanto, existe um descompasso significativo entre a avaliação de LLMs como modelos isolados e seu comportamento como componentes dentro de pipelines operacionais. A literatura pública foca predominantamente nas capacidades do modelo (ex: precisão, alinhamento) em vez de restrições operacionais, tais como orçamentos de latência, custo por decisão, lógica de escalonamento, integração com revisão humana e robustez adversarial. Isso cria uma lacuna de evidência prática: há justificativa insuficiente para inserir LLMs em fluxos de trabalho de T&S ao vivo, onde confiabilidade, custo e desempenho em tempo real são primordiais. Pesquisas existentes abordam a segurança de LLMs, metodologias de detecção de fraude ou arquiteturas de moderação de forma isolada, mas nenhuma sintetiza os papéis operacionais específicos que os LLMs desempenham em fluxos de trabalho focados em fraude junto com a evidência de implantação necessária para suportar esses papéis.

Metodologia
O artigo apresenta uma pesquisa narrativa estruturada fundamentada em uma perspectiva "focada em fraude" (fraud-first), onde a detecção de fraude serve como o domínio âncora, suplementada por investigação, moderação de conteúdo e estudos transversais de robustez.

• Construção do Corpus: Os autores codificaram 49 fontes operacionalmente relevantes (18 de fraude/investigação, 14 de moderação/abuso, 17 de robustez transversal) a partir de uma bibliografia de 69 itens. As fontes foram extraídas do arXiv, ACL, IEEE, ACM e Google Scholar, cobrindo o período de 2023–2026 (com um corte de maio de 2026 para a matriz primária).
• Estrutura de Codificação: A pesquisa utiliza um vocabulário fixo de sete papéis de LLM (classificador, interface de recuperação, gerador de explicação, assistente de revisor, agente, extrator de características, componente de escalonamento) e quatro padrões de posicionamento operacional (automação limitada, suporte baseado em recuperação, escalonamento híbrido, investigação de múltiplas etapas).
• Auditoria de Evidências: O estudo distingue explicitamente entre "desempenho de tarefa offline" (ex: precisão, ganhos de recuperação) e "evidência de implantação" (ex: latência por decisão, custo em dólares, calibração, testes adversariais). Relatórios da indústria e relatos de incidentes foram incluídos apenas como referências contextuais de delimitação, não como reivindicações de novidade primária.

Principais Contribuições

1. Framework FORTE: O artigo introduz o FORTE, um quadro organizador para categorizar o uso de LLMs em fluxos de trabalho de T&S:
   • Fraud-first anchoring (Ancoragem focada em fraude).
   • Operational deployment patterns (Padrões de implantação operacional).
   • Roles (Os sete papéis específicos).
   • Trust axes (Eixos de confiança: robustez, integridade da explicação, predição seletiva).
   • Evaluation gap analysis (Análise de lacuna de avaliação).
2. Identificação de Desequilíbrio de Evidências: A pesquisa revela uma assimetria acentuada na literatura. Embora a detecção de fraude constitua a maior categoria específica de tarefa, ela carece de evidências públicas de implantação. Por outro lado, artigos de moderação de conteúdo fornecem dados mais explícitos sobre latência, custo, governança e equidade, apesar de serem uma categoria de tarefa menor no corpus.
3. Checklist de Evidência Mínima de Implantação: Os autores propõem um checklist de cinco pontos necessário para justificar a implantação de LLMs em fluxos de trabalho de alto risco:
   • Orçamento de latência (ponta a ponta e por decisão).
   • Custo por decisão (economia baseada em dinheiro ou tokens).
   • Limiar de decisão explícito (lógica de escalonamento).
   • Piso de integridade da explicação (fidelidade dos racionalés).
   • Teste de pressão adversarial (injeção de prompt indireta, envenenamento de recuperação).

Resultados e Descobertas

• Distribuição de Papéis: Nas 18 fontes de fraude e investigação, os LLMs são usados principalmente como classificadores, suporte de decisão aumentado por recuperação (RAG), extratores de características para modelos de grafos ou agentes de investigação. No entanto, nenhuma das 18 fontes relata latência limpa por decisão, custo em dólares por decisão ou evidência de calibração. A maioria depende de métricas offline, precisão de estudo de caso ou contagens de uso de tokens.
• Moderação vs. Fraude: Artigos de moderação são mais propensos a relatar métricas de eficiência, auditorias de equidade e estratégias de adaptação de política. Por exemplo, alguns estudos de moderação relatam resultados de testes A/B ou orçamentos de streaming de tokens, enquanto estudos de fraude raramente relatam latência ou custo.
• Padrões Operacionais:
  • Automação Limitada (10 artigos): LLMs atuam como classificadores diretos ou componentes de pontuação, majoritariamente em cenários offline ou de segunda etapa.
  • Suporte Baseado em Recuperação (3 artigos): LLMs sintetizam evidências recuperadas (ex: FinFRE-RAG), introduzindo riscos de envenenamento de recuperação.
  • Escalonamento Híbrido (3 artigos): Modelos mais rápidos lidam com casos rotineiros, invocando LLMs ou humanos para casos de borda (edge cases).
  • Investigação de Múltiplas Etapas (3 artigos): Sistemas como Co-Investigator AI e o Framework FAA atuam como agentes coletando evidências, embora suas avaliações frequentemente careçam de testes de robustez adversarial.
• Confiança e Robustência: A pesquisa destaca que a integridade da explicação é uma lacuna crítica; autoexplicações de LLMs frequentemente divergem de atribuições post-hoc. Além disso, o teste de robustez (ex: contra injeção de prompt indireta) está amplamente ausente de estudos de implantação específicos de fraude, apesar de ser um risco conhecido em domínios adjacentes de T&S.

Significância e Alegações
O artigo alega que tratar LLMs como componentes de sistema, em vez de apenas modelos, muda fundamentalmente os critérios de avaliação para sua adoção. Argumenta-se que a literatura atual apoia arquiteturas seletivas e híbridas como a abordagem mais defensável a curto prazo, onde modelos convencionais lidam com decisões rotineiras e LLMs são reservados para explicação, escalonamento ou investigação complexa.

Os autores afirmam modestamente que o corpus não estabelece se um LLM pode substituir um motor de fraude em tempo real existente, pois a evidência necessária (latência, custo, calibração, impacto de escalonamento) está ausente. Em vez disso, o artigo serve como uma "auditoria de evidência" e uma "taxonomia" para guiar pesquisas futuras. Identifica três áreas subdesenvolvidas que requerem atenção: monitoramento de deriva de conceito (concept drift), processos de justiça procedimental e recursos (appeals), e transferência de métodos entre domínios. A agenda de pesquisa proposta convoca estudos que vão além de benchmarks offline para incluir métricas de realismo de implantação, red-teaming adversarial e avaliações de impacto humano para apoiar alegações operacionais de trabalho de fraude e segurança e confiança baseados em LLM.