Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows

Resumen Técnico: Brechas de Evidencia Operativa para LLMs en Flujos de Trabajo de Detección de Fraude y Confianza y Seguridad (Trust-and-Safety)

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLMs) se proponen cada vez más para flujos de trabajo críticos de confianza y seguridad (T&S), incluyendo la detección de fraude, la investigación de estafas y la moderación de contenido. Sin embargo, existe una desconexión significativa entre la evaluación de los LLMs como modelos independientes y su comportamiento como componentes dentro de procesos operativos. La literatura pública se centra predominantemente en las capacidades del modelo (por ejemplo, precisión, alineación) en lugar de en las restricciones operativas, tales como presupuestos de latencia, costos por decisión, lógica de escalamiento, integración de revisión humana y robustez adversarial. Esto crea una brecha de evidencia práctica: existe una justificación insuficiente para implementar LLMs en flujos de trabajo de T&S en vivo donde la fiabilidad, el costo y el rendimiento en tiempo real son primordiales. Las encuestas existentes abordan la seguridad de los LLMs, la metodología de detección de fraude o las arquitecturas de moderación de forma aislada, pero ninguna sintetiza los roles operativos específicos que desempeñan los LLMs en los flujos de trabajo orientados al fraude junto con la evidencia de despliegue requerida para respaldar dichos roles.

Metodología
El artículo presenta una encuesta narrativa estructurada fundamentada en una perspectiva de "prioridad al fraude" (fraud-first), donde la detección de fraude sirve como el dominio ancla, complementado por la investigación, la moderación de contenido y estudios transversales de robustez.

• Construcción del Corpus: Los autores codificaron 49 fuentes operativamente relevantes (18 de fraude/investigación, 14 de moderación/abuso, 17 de robustez transversal) de una bibliografía de 69 elementos. Las fuentes se extrajeron de arXiv, ACL, IEEE, ACM y Google Scholar, cubriendo el periodo 2023–2026 (con un corte de mayo de 2026 para la matriz principal).
• Marco de Codificación: La encuesta utiliza un vocabulario fijo de siete roles de LLM (clasificador, interfaz de recuperación, generador de explicaciones, asistente de revisor, agente, extractor de características, componente de escalamiento) y cuatro patrones de colocación operativa (automatización acotada, soporte basado en recuperación, escalamiento híbrido, investigación de múltiples pasos).
• Auditoría de Evidencia: El estudio distingue explícitamente entre el "rendimiento de tareas offline" (por ejemplo, precisión, ganancias de recuperación) y la "evidencia de despliegue" (por ejemplo, latencia por decisión, costo por decisión, calibración, pruebas adversariales). Los informes de la industria y los reportes de incidentes se incluyeron solo como referencias contextuales para establecer límites, no como reclamos de novedad primaria.

Contribuciones Clave

1. Marco FORTE: El artículo introduce FORTE, un marco organizativo para categorizar el uso de LLM en flujos de trabajo de T&S:
   • Fraud-first anchoring (Anclaje de prioridad al fraude).
   • Operational deployment patterns (Patrones de despliegue operativo).
   • Roles (los siete funciones específicas).
   • Trust axes (Ejes de confianza: robustez, integridad de la explicación, predicción selectiva).
   • Evaluation gap analysis (Análisis de brechas de evaluación).
2. Identificación del Desequilibrio de Evidencia: La encuesta revela una marcada asimetría en la literatura. Mientras que la detección de fraude constituye la categoría de tarea específica más grande, carece de evidencia de despliegue público. Por el contrario, los artículos de moderación de contenido proporcionan datos más explícitos sobre latencia, costo, gobernanza y equidad, a pesar de ser una categoría de tarea específica más pequeña en el corpus.
3. Lista de Verificación de Evidencia Mínima de Despliegue: Los autores proponen una lista de cinco puntos necesaria para justificar el despliegue de LLMs en flujos de trabajo de alto riesgo:
   • Presupuesto de latencia (extremo a extremo y por decisión).
   • Costo por decisión (economía basada en dinero o tokens).
   • Umbral de decisión explícito (lógica de escalamiento).
   • Piso de integridad de la explicación (fidelidad de los razonamientos).
   • Pruebas de presión adversarial (inyección de prompts indirectos, envenenamiento de recuperación).

Resultos y Hallazgos

• Distribución de Roles: En las 18 fuentes de fraude e investigación, los LLMs se utilizan principalmente como clasificadores, soporte de decisión aumentado por recuperación (RAG), extractores de características para modelos de grafos o agentes de investigación. Sin embargo, ninguna de estas 18 fuentes reporta latencia limpia por decisión, costo en dólares por decisión o evidencia de calibración. La mayoría depende de métricas offline, precisión en casos de estudio o conteos de uso de tokens.
• Moderación vs. Fraude: Los artículos de moderación (14 fuentes) tienen más probabilidades de reportar métricas de eficiencia, auditorías de equidad y estrategias de adaptación de políticas. Por ejemplo, algunos estudios de moderación reportan resultados de pruebas A/B o presupuestos de tokens en streaming, mientras que los estudios de fraude rara vez reportan latencia o costo.
• Patrones Operativos:
  • Automatización Acotada (10 artículos): Los LLMs actúan como clasificadores directos o componentes de puntuación, principalmente en escenarios offline o de segunda etapa.
  • Soporte Basado en Recuperación (3 artículos): Los LLMs sintetizan evidencia recuperada (por ejemplo, FinFRE-RAG), introduciendo riesgos de envenenamiento de recuperación.
  • Escalamiento Híbrido (3 artículos): Modelos más rápidos manejan casos rutinarios, invocando a LLMs o humanos para casos límite.
  • Investigación de Múltiples Pasos (3 artículos): Sistemas como Co-Investigator AI y el Marco FAA actúan como agentes que recopilan evidencia, aunque sus evaluaciones suelen carecer de pruebas de robustez adversarial.
• Confianza y Robustez: La encuesta destaca que la integridad de la explicación es una brecha crítica; las auto-explicaciones de los LLM a menudo divergen de las atribuciones post-hoc. Además, las pruebas de robustez (por ejemplo, contra la inyección de prompts indirectos) están mayormente ausentes en los estudios de despliegue específicos de fraude, a pesar de ser un riesgo conocido en dominios de T&S adyacentes.

Significancia y Reclamos
El artículo sostiene que tratar a los LLMs como componentes de sistemas en lugar de solo modelos cambia fundamentalmente los criterios de evaluación para su adopción. Argumenta que la literatura actual respalda las arquitecturas selectivas e híbridas como el enfoque más defendible a corto plazo, donde los modelos convencionales manejan decisiones rutinarias y los LLMs se reservan para la explicación, el escalamiento o la investigación compleja.

Los autores declaran modestamente que el corpus no establece si un LLM puede reemplazar un motor de fraude en tiempo real existente, ya que la evidencia necesaria (latencia, costo, calibración, impacto de escalamiento) es inexistente. En su lugar, el artículo sirve como una "auditoría de evidencia" y una "taxonomía" para guar la investigación futura. Identifica tres áreas subdesarrolladas que requieren atención: el monitoreo de la deriva de conceptos (concept drift), los procesos de justicia procedimental y apelaciones, y la transferencia de métodos entre dominios. La agenda de investigación propuesta hace un llamado a estudios que vayan más allá de los benchmarks offline para incluir métricas de realismo de despliegue, red-teaming adversarial y evaluaciones de impacto humano para respaldar los reclamos operativos de los trabajos de fraude y confianza y seguridad basados en LLM.