The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding

Resumo Técnico: A Dinâmica Evolutiva da IA, Politização, Contestação e Confiança no Financiamento Científico

Problema Central
As sociedades democráticas modernas dependem do financiamento público para a pesquisa científica, um sistema baseado nos dois pilares da capacidade operacional (processamento de propostas) e da legitimidade institucional (confiança pública na imparcialidade). Este sistema enfrenta uma ameação dupla: a percepção de interferência política nas decisões de financiamento e a potencial substituição de revisores pares humanos por Inteligência Artificial (IA). O artigo aborda uma lacuna crítica na compreensão de como esses fatores interagem. Especificamente, investiga se a eficiência operacional ganha com a adoção de IA pode compensar a erosão da legitimidade institucional causada pela percepção de viés político e pelo deslocamento da expertise humana. A questão central é se a capacidade e a legitimidade são dinâmicas acopladas ou independentes, e como elas evoluem quando os cientistas resistem ao sistema (via recusa em revisar ou inundação de propostas) e o público reage à adoção da IA.

Metodologia
Os autores empregam um modelo de teoria dos jogos evolutivos para simular a dinâmica coevolutiva de três populações que interagem:

1. Cientistas: Uma população que escolhe entre quatro estratégias: participação normal ($N$), recusa em revisar ($R$), intensificação/inundação de propostas ($P$), ou uma combinação de ambas ($B$).
2. O Público: Uma população que escolhe aceitar a revisão assistida por IA ($A$), rejeitá-la publicamente ($J$) ou litigar ($S$).
3. A Agência de Financiamento: Modelada não como uma população estratégica em evolução, mas como um controlador adaptativo. Ela ajusta duas alavancas de política em resposta às outras populações: o nível de adoção de IA ($\phi$) e a remuneração financeira para revisores humanos ($\rho$), sob restrição de um orçamento finito.

O sistema é impulsionado pela dinâmica de imitação por comparação de pares (dinâmica de Fermi), onde agentes adotam estratégias com base em payoffs relativos. A Agência atua como um controlador responsivo à capacidade, aumentando o emprego de IA para fechar a lacuna entre a carga de propostas e a capacidade de revisão humana, enquanto ajusta o pagamento dos revisores para incentivar a participação. O modelo distingue entre capacidade operacional (capacidade de processar propostas) e legitimidade institucional (confiança pública), tratando-as como variáveis de estado distintas que podem falhar independentemente.

As simulações foram conduzidas utilizando trajetórias determinísticas e processos estocásticos de população finita (reamostragem de Wright–Fisher e comparação de pares ao nível individual). O estudo utilizou varreduras de parâmetros, amostragem de Latin-hypercube e análise de componentes principais (PCA) para mapear o panorama de regimes e identificar atratores.

Principais Contribções e Resultados

1. Desacoplamento de Capacidade e Legitimidade:
   O modelo demonstra que a capacidade operacional e a legitimidade institucional obedecem a dinâmicas separadas e podem falhar independentemente.

• Falha de Capacidade: Mesmo com a adoção máxima de IA, o sistema pode falhar em eliminar os atrasos (backlogs) se os cientistas praticarem a "intensificação de propostas" (inundar o sistema com propostas enquanto se recusam a revisar). A restrição limitante é frequentemente o orçamento compartilhado: a resistência eleva o custo dos revisores, o que drena o orçamento, reduzindo assim a capacidade da Agência de financiar operações de IA, independentemente da capacidade técnica da IA.
• Falha de Legitimidade: Por outro lado, o sistema pode alcançar a recuperação operacional total (eliminação de atrasos) enquanto a confiança pública colapsa completamente, resultando em uma instituição "zumbi" que funciona tecnicamente, mas carece de autoridade.

2. O Mecanismo de "Inundação de Propostas":
   Ao contrário da intuição de que os cientistas resistiriam principalmente recusando-se a revisar, o modelo descobre que a intensificação de propostas é a estratégia de retaliação dominante. Os cientistas podem continuar revisando (evitando sanções de carreira diretas), mas inundam a agência com propostas. Esta estratégia sobrecarrega o sistema mais rápido do que a IA consegue escalar, levando a uma congestão persistente mesmo quando as taxas de recusa humana são baixas.

3. O Efeito "Suborno-Sinal" do Pagamento de Emergência:
   O modelo identifica uma dinâmica contraintuitiva onde aumentar o pagamento dos revisores para garantir a cooperação durante uma crise pode ser contraproducente. Se o público perceber o pagamento de emergência como um "suborno" para conter a resistência, isso acelera a erosão da legitimidade institucional. Este efeito é ativo primariamente em regimes de alta resistência onde o pagamento permanece elevado; em regimes de baixa resistência, o pagamento retorna ao nível basal, tornando o sinal de suborno inativo.

4. Biestabilidade e Sensibilidade às Condições Iniciais:
   O sistema exibe biestabilidade em relação à legitimidade. O estado final (recuperação vs. colapso) é determinado não pela velocidade do reparo institucional ou pela extensão da adoção de IA, mas pelas dinâmicas de aceitação do público e pelas condições iniciais (ex: sementes iniciais de resistência).

• Resultados Estocásticos: Em populações finitas, instituições idênticas podem atingir destinos marcadamente diferentes (ex: sobrevivência conjunta, falha conjunta ou recuperação de legitimidade sem capacidade) com base no drift estocástico.
• Dependência de Algoritmo: A frequência de resultados específicos (como o estado "zumbi") depende fortemente do processo de ruído assumido. Sob uma camada de reamostragem de Wright–Fisher, estados "zumbis" ocorrem frequentemente; sob um processo de comparação de pares ao nível individual (Fermi), eles estão ausentes, com o sistema bifurcando apenas entre "legitimidade de recuperação sem capacidade" e "falha conjunta".

5. Limiares e Transições de Fase:

• Limiar de Resistência: Cascata de resistência incendeia quando os níveis de politização excedem um limiar crítico em relação ao custo de carreira da recusa.
• Limiar de Legitimidade: A legitimidade da revisão por IA segue uma transição binária aguda. Ela sobrevive apenas se a taxa de ganho de aceitação pública exceder a erosão combinada da rejeição, litígio e resistência.
• Limiar de Capacidade: A recuperação operacional total requer que o produto da produtividade da IA e o teto de implementação exceda o multiplicador de carga de propostas ($\beta_{AI} \cdot \phi_{max} > \chi$).

Significância e Alegações
O artigo afirma fornecer um arcabouço quantitativo rigoroso para compreender as vulnerabilidades estruturais dos sistemas de financiamento científico na era da IA e da polarização política. Sua principal significância reside em identificar que automação não é igual a confiança. O modelo sugere que formuladores de políticas não podem confiar na IA para resolver crises de capacidade sem simultaneamente abordar a crise de legitimidade, pois as duas são governadas por mecanismos distintos.

O trabalho destaca que:

• Correções operacionais (IA) não resolvem problemas de legitimidade: Restaurar o fluxo de processamento não restaura automaticamente a confiança pública.
• Correções de legitimidade não resolvem problemas de capacidade: Aumentar a aceitação pública pode restaurar a confiança mesmo enquanto o sistema permanece operacionalmente obstruído.
• Intervenção precoce é crítica: Como o sistema é sensível às condições iniciais e ao drift estocástico, ações precoces que alterem a aceitação pública ou a resistência dos cientistas podem determinar o destino de longo prazo da instituição.
• Alavancas de Política: As alavancas mais eficazes para a política não são necessariamente a velocidade de adoção da IA ou o nível de pagamento dos revisores, mas sim a gestão da politização, a redução dos custos de carreira para a resistência e o desenho de implementações de IA transparentes que maximizem os ganhos de aceitação pública.

Os autores concluem que a "revolução da IA" apresenta um teste de estresse para o contrato social do financiamento científico. Sem uma renegociação dos mecanismos de confiança, a substituição da expertise humana por sistemas automatizados corre o risco de desvendar a legitimidade institucional de todo o empreendimento de financiamento, potencialmente levando a um estado onde o pipeline continua a funcionar enquanto a autoridade pública da ciência colapsa. O artigo chama explicitamente para a calibração empírica futura de seus parâmetros (ex: sensibilidade de preço de especialistas, taxas de recuperação de confiança) para refinar estas previsões teóricas.