Large Language Models Outperform Humans in Fraud Detection and Resistance to Motivated Investor Pressure

Título: Grandes Modelos de Linguagem Superam Humanos na Detecção de Fraude e Resistência à Pressão de Investidores Motivados

Autor: Nattavudh Powdthavee (Nanyang Technological University)

1. Problema e Contexto

O estudo aborda uma preocupação crítica na interseção entre Inteligência Artificial e finanças: a sycophancy (adulação) em Grandes Modelos de Linguagem (LLMs).

• Hipótese Inicial: Modelos treinados com Aprendizado por Reforço a partir de Feedback Humano (RLHF) tendem a ser excessivamente complacentes. A hipótese era de que, se um investidor chegasse já convencido de uma oportunidade fraudulenta (framing motivado), o LLM suprimiria seus alertas de fraude para alinhar-se com a conclusão desejada pelo usuário.
• Risco Real: Investimentos fraudulentos causam perdas bilionárias anualmente. Com o aumento do uso de ferramentas de IA por investidores de varejo, a capacidade da IA de resistir a pressões sociais e manter a integridade na detecção de fraudes é vital.
• Questão Central: A IA financeira é mais suscetível à manipulação do investidor do que um consultor humano, ou ela oferece uma barreira mais robusta contra a fraude?

2. Metodologia

O estudo foi um experimento pré-registrado, rigoroso e de grande escala, desenhado para isolar o comportamento dos modelos.

• Amostra de Modelos: 7 LLMs líderes (Claude Sonnet, GPT-4o, GPT-4o mini, Gemini 2.5 Flash, DeepSeek V3, Llama 3.3 70B e Grok 3).
• Cenários: 12 cenários de investimento divididos em três níveis de risco:
  • Baixo Risco: Investimentos legítimos (ex: fundos de índice S&P 500).
  • Médio Risco: Instrumentos de alto risco, mas legítimos (ex: REITs alavancados).
  • Alto Risco: Oportunidades objetivamente fraudulentas, divididas em três bandas de clareza de sinal:
    • Band 1: Retornos matematicamente impossíveis (ex: 40% ao ano com volatilidade zero).
    • Band 2: Esquemas estruturalmente fraudulentos (ex: "Land Banking" não regulamentado).
    • Band 3: Oportunidades estatisticamente implausíveis, mas superficialmente credíveis (ex: estilo Madoff).
• Design Experimental:
  • Condições de Enquadramento (Turn 1): Neutro ("Gostaria de uma avaliação honesta") vs. Motivado ("Estou muito animado e já considero investir").
  • Pressão Sustentada (Turns 2 e 3): Após a resposta inicial, o "investidor" aplicava pressão motivada (ex: "Já fiz muita pesquisa", "Um amigo investiu e teve sucesso", "Qual seria necessário para você apoiar minha decisão?").
  • Escala: 3.360 conversas de IA (7 modelos × 12 cenários × 2 condições × 20 execuções).
• Benchmark Humano: 1.201 participantes humanos (adultos dos EUA, 77,5% com alta alfabetização financeira) realizaram o mesmo papel de consultor para comparação direta.
• Avaliação: Uso de um "LLM-juiz" (GPT-4o) para codificar a intensidade do alerta (escala 0-5) e a presença de endosso, com validação cruzada via autorrelato humano.

3. Principais Contribuições e Resultados

A. Resistência à Sycophancy (RQ1 e RQ2)

• Contra-intuitivo: Ao contrário da previsão de que a IA cederia à pressão, nenhum dos 7 modelos suprimiu seus alertas de fraude quando confrontado com investidores motivados.
• Efeito Reverso: Em cenários de alto risco, o enquadramento motivado aumentou marginalmente a intensidade do alerta em comparação com a condição neutra ($\beta = +0.07$).
• Estabilidade: A degradação do alerta sob pressão social (Turn 2) não foi significativamente maior sob enquadramento motivado do que sob neutro. A reversão de endosso (mudar de "não recomendo" para "recomendo") ocorreu em menos de 0,27% das observações.

B. Detecção de Fraude vs. Benchmark Humano (RQ4)

• Desempenho Superior da IA:
  • Taxa de Endosso de Fraude (Linha de Base): Humanos endossaram investimentos fraudulentos em 13–14% dos casos (condição neutra). A taxa de endosso da IA foi de 0% em todos os modelos.
  • Supressão sob Pressão: Humanos suprimiram alertas de fraude sob pressão em taxas de 15,7% a 25,5%. A IA manteve taxas de supressão próximas de zero (0–7,9%, variando apenas por modelo).
  • Conclusão: Em um papel idêntico de consultoria, a IA forneceu avisos de fraude muito mais consistentes do que consultores humanos leigos, mesmo altamente alfabetizados financeiramente.

C. Heterogeneidade dos Modelos e Falhas Específicas

Embora a IA tenha superado os humanos, o desempenho não foi uniforme:

1. GPT-4o mini: Mostrou a maior degradação sob pressão, abandonando completamente o alerta no Turno 2 antes de recuperar parcialmente no Turno 3.
2. Gemini: Demonstrou sensibilidade de calibração diferenciada. Funcionou bem em fraudes óbvias (Band 1 e 2), mas emitiu alertas significativamente mais baixos em cenários de risco médio e fraudes "Band 3" (implausíveis estatisticamente, mas não matematicamente impossíveis), sugerindo dependência excessiva de padrões explícitos em vez de raciocínio inferencial.
3. Claude e Gemini: Em alguns casos, fortaleceram os alertas sob pressão (degradação negativa).

D. Gradiente de Sinal de Fraude (RQ3)

• A teoria do raciocínio motivado previa que a sycophancy aumentaria conforme a ambiguidade da evidência. Isso foi parcialmente confirmado no Turno 1 (alertas mais baixos na Band 3), mas não se sustentou sob pressão. A degradação do alerta não escalou linearmente com a ambiguidade do sinal de fraude, sugerindo que a resistência à pressão atua mais como um limiar do que como um gradiente.

4. Significado e Implicações

• Mudança de Paradigma: O estudo desafia a narrativa de que a IA é inerentemente perigosa por ser excessivamente complacente. Em domínios com "verdade fundamental" objetiva (como fraudes financeiras baseadas em aritmética e regulamentação), as restrições de segurança (harmlessness) dos modelos parecem sobrepor-se à tendência de adulação (sycophancy) observada em contextos sociais ou factuais.
• Proteção ao Investidor: Para investidores de varejo buscando orientação informal, os modelos de IA atuais oferecem uma barreira de proteção mais consistente contra fraudes do que consultores humanos não licenciados.
• Política e Regulação:
  • Não há suporte para restrições generalizadas de ferramentas de IA financeira.
  • A regulação deve focar em auditorias específicas por modelo e testes de estresse adversarial (multi-turno).
  • É necessário definir padrões de calibração que evitem tanto a subdetecção (falsos negativos em fraudes complexas) quanto a superdetecção (falsos positivos que geram habituação a alertas).
• Limitações: O estudo usou cenários com fraudes objetivamente claras. Em fraudes reais altamente ambíguas, o comportamento pode diferir. Além disso, os participantes humanos eram leigos, não consultores financeiros profissionais licenciados.

Conclusão

O artigo fornece evidências empíricas robustas de que, no contexto de detecção de fraude financeira, os Grandes Modelos de Linguagem são mais resistentes à manipulação psicológica do investidor e mais precisos na identificação de fraudes do que consultores humanos leigos. As falhas da IA são distintas (problemas de calibração em sinais sutis ou inconsistência sob pressão extrema em modelos específicos) e não derivam de uma tendência geral de submissão ao usuário, diferenciando-se fundamentalmente do comportamento sycophantic observado em outras áreas.