The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter

Resumo Técnico: O Hiato de Resiliência da IA

Definição do Problema
O artigo identifica uma lacuna estrutural regulatória e operacional na adoção de inteligência artificial (IA) em serviços financeiros regulados. Embora tenha emergido um robusto conjunto regulatório de "IA confiável" — composto pelo AI Act da UE, ISO/IEC 42001 e o NIST AI Risk Management Framework — este arcabouço foca exclusivamente na qualidade do sistema (segurança, justiça, transparência e risco de modelo). Ele não aborda a resiliência operacional: a continuidade de serviços de negócios importantes sob interrupções severas, porém plausíveis.

O problema central é que uma empresa pode implementar um sistema de IA que seja totalmente "confiável" (preciso, justo e governado), mas que simultaneamente constitua um grave passivo de resiliência. Isso ocorre quando um serviço de negócio crítico depende de uma dependência insubstituível de um único provedor de modelos externo, sem um caminho ensaiado para continuar as operações caso esse provedor sofra degradação, altere seu modelo ou se torne indisponível. As estruturas de governança atuais frequentemente isolam a ética de IA e o risco de modelo das equipes de resiliência operacional, deixando as dependências de IA não mapeadas em relação às tolerâncias de impacto e avaliações de substitutibilidade.

Metodologia
O artigo utiliza uma análise regulatória comparativa e uma abordagem de design de arcabouço conceitual:

1. Mapeamento da Lógica Regulatória: O autor contrasta duas lógicas regulatórias distintas: o Stack de IA Confiável (focado no modelo/sistema como unidade de análise e na falha como dano/viés) e o Stack de Resiliência Operacional (focado no serviço de negócio como unidade de análise e na falha como indisponibilidade/interrupção intolerável).
2. Análise de Modos de Falha: O artigo analisa modos de falha de IA distintos que escapam aos controles de resiliência tradicionais, especificamente a degradação silenciosa (onde um modelo permanece disponível, mas os outputs sofrem deriva de precisão) e o não-determinismo.
3. Construção do Arcabouço: Com base na lacuna identificada, o artigo propõe o AI Resilience Framework (ARF). Trata-se de um método agnóstico a regimes, projetado para integrar as dependências de IA aos perímetros de resiliência operacional existentes sem criar silos de risco paralelos.

Principais Contribuições
O artigo apresenta quatro contribuições primárias:

1. Distinção de Lógicas Regulatórias: Demonstra, por meio de comparação estruturada, que satisfazer as obrigações de IA confiável não desonera as obrigações de resiliência operacional. Os dois stacks operam em diferentes unidades de análise (modelo vs. serviço) e diferentes conceitos de falha.
2. Caracterização de Modos de Falha de IA: Identifica a "degradação silenciosa" e a "falha cinzenta" (onde um componente não está totalmente funcional, nem totalmente falho) como riscos críticos específicos de IA que as tolerâncias de impacto baseadas em duração não conseguem detectar. Também enquadra a concentração de provedores de modelos de fundação como o análogo da IA ao risco de concentração de nuvem.
3. O AI Resilience Framework (ARF): O artigo introduz uma metodologia de cinco etapas para trazer a IA para dentro do perímetro de resiliência:
   • Etapa 1: Mapeamento de Dependências: Mapear cada componente de IA para os "serviços de negócios importantes" específicos que ele suporta.
   • Etapa 2: Matriz de Criticidade-Substitutibilidade (CSM): Classificar as dependências com base em sua criticidade para o serviço e sua substitutibilidade (Substituível, Degradável ou Irredutível). Isso gera quatro níveis de tratamento de resiliência.
   • Etapa 3: Tolerâncias de Impacto Estendidas: Expandir as tolerâncias de impacto além da disponibilidade para incluir a correção, definindo limiares onde o desempenho "degradado" constitui uma falha.
   • Etapa 4: A Doutrina de Fallback: Exigir que os mecanismos de contingência (fallbacks manuais ou caminhos alternativos) sejam dotados de recursos, pessoal e exercitados, distinguindo fallbacks "reais" de "fictícios".
   • Etapa 5: Gestão de Concentração ao Nível do Provedor: Avaliar a exposição agregada a provedores específicos através de múltiplos serviços para identificar fragilidade sistêmica.
4. Orientação para Profissionais: O artigo traduz o arcabouço em orientações acionáveis para CISOs, arquitetos de segurança, funções de risco de modelo e conselhos de administração, mapeando os outputs do ARF para as obrigações existentes sob o regime de resiliência operacional do Reino Unido, DORA e o regime de Terceiros Críticos.

Resultos e Aplicação
O artigo aplica o ARF a três dependências ilustrativas encontradas nos serviços financeiros do Reino Unido:

• Atendimento ao Cliente via IA Generativa: Classificado como Nível 2 (Alta Criticidade, Degradável). O resultado é a exigência de definir tolerâncias de impacto para o serviço operando sem a IA e de ensaiar a reversão para agentes humanos.
• Monitoramento de Transações por IA: Classificado como Nível 1 (Alta Criticidade, Irredutível) se o mecanismo de regras legado tiver sido desativado. Isso coloca a empresa na "zona de perigo", exigindo planejamento de saída, garantia do provedor e a retenção de um conjunto de regras de fallback.
• Provedor de Modelo de Fronteira Compartilhado: Identificado como uma Exposição de Concentração. Mesmo que os usos individuais sejam de baixa criticidade, a dependência agregada de um único provedor através de múltiplos serviços cria um risco sistêmico que a governança de modelo ao nível da empresa não consegue enxergar, necessitando de gestão de concentração ao nível do provedor.

Significância
O artigo afirma que o "Hiato de Resiliência da IA" é onde reside o risco material da adoção de IA atualmente. Sua significância reside em mudar a perspectiva do setor de ver a IA apenas como uma questão de risco de modelo ou ética para reconhecê-la como um problema fundamental de resiliência operacional.

Os autores argumentam que as autoridades do Reino Unido já estão fechando esse hiato através da análise sistêmica do Financial Policy Committee, do regime de Terceiros Críticos e da declaração conjunta de maio de 2026 sobre IA de fronteira e resiliência cibernética. Consequentmente, as empresas não podem esperar por regras específicas de IA prescritivas; elas devem cumprir suas obrigações de resiliência através dos marcos existentes. O ARF fornece o mecanismo para isso, oferecendo uma rota da política de governança de IA para uma resiliência demonstrável, tratando as dependências de IA como desafios arquitetônicos e de modelo operacional, em vez de meramente problemas de documentos de política. O trabalho estende as análises anteriores do stack regulatório de resiliência cibernética do Reino Unido para a dimensão da IA, defendendo uma "convergência" dos esforços de conformidade para evitar duplicidade e pontos cegos.