Position: AI Must Become Planet-Centered, Not Just Human-Centered

Resumo Técnico: Posição: A IA Deve Tornar-se Centrada no Planeta, Não Apenas Centrada no Humano

Declaração do Problema
O artigo argumenta que os paradigmas contemporâneos de IA, incluindo a IA Centrada no Humano (HCAI), a IA Responsável e a IA para o Bem Social, são insuficientes para enfrentar os desafios complexos e sistêmicos do Antropoceno. Os frameworks atuais focam primordialmente na proteção de indivíduos humanos contra danos, na otimização de métricas de desempenho estreitas e na operação dentro de espaços de problemas bem definidos e estáveis ("problemas mansos"). No entanto, os desafios planetários — como as mudanças climáticas, a perda de biodiversidade e a exaustão de recursos — são "problemas perversos" (wicked problems) caracterizados por não-estacionariedade, incerteza profunda, loops de feedback e objetivos contestados.

O descompasso técnico central identificado é que as suposições padrão da IA (estacionariedade, independência de amostras, formulações de mundo fechado e funções de objetivo fixas) violam estruturalmente a dinâmica dos sistemas socioecológicos. Quando a IA é implementada nesses contextos "perversos" sem uma perspectiva de sistemas, ela corre o risco de amplificar a instabilidade sistêmica através de mecanismos como:

• Desalinhamento Técnico: Modelos otimizados para eficiência local falham ao não considerar mudanças endógenas no sistema e mudanças de regime.
• Enquadramento de Valor Estreito: O progresso é equacionado com otimização e expansão, frequentemente ignorando a equidade distributiva, a resiliência e os limites ecológicos.
• Pontos Cegos de Impacto: A avaliação é limitada a métricas de nível de tarefa, perdendo efeitos indiretos, cumulativos e de longo horizonte (ex: efeitos rebote, onde ganhos de eficiência levam ao aumento do consumo total).
• Amplificação de Risco: A IA pode acelerar loops de feedback, prender as sociedades em trajetórias insustentáveis e propagar falhas através de infraestruturas acopladas.

Metodologia e Framework
Este é um artigo de posição que propõe uma nova filosofia de design e uma agenda de pesquisa chamada IA Centrada no Planeta (PCAI). Em vez de apresentar novos resultados experimentais, o artigo emprega uma metodologia diagnóstica e conceitual:

1. Diagnóstico da Perversidade: Os autores adaptam frameworks da ciência de sistemas (ex: Rittel & Webber, 1973; Hisschemöller & Hoppe, 2018) para classificar problemas com base na "certeza do conhecimento" (compreensão das dinâmicas causais) e no "consenso de valores" (acordo sobre objetivos). Este diagnóstico mapeia mecanismos específicos de falha da IA para as propriedades de sistemas perversos.
2. Remodelagem do Ciclo de Vida: A PCAI é definida não como um algoritmo único, mas como um reorientação de todo o ciclo de vida da IA. O artigo descreve como essa filosofia transforma quatro estágios principais:
   • Configuração do Problema: Mover da formulação de tarefas isoladas para o "mapeamento de sistemas" e "teorias de mudança" que definem explicitamente os limites do sistema, feedbacks e caminhos de intervenção antes do início da modelagem.
   • Design do Modelo: Mudar da predição e controle para "prospecção" (foresight) e "infraestrutura epistêmica". Isso envolve priorizar a robustez sob incerteza profunda, não-estacionariedade e mudanças de regime. Defende a IA como uma ferramenta para a construção de sentido coletivo (ex: análise de cenários, modelagem exploratória) em vez de tomada de decisão automatizada.
   • Avaliação: Substituir o benchmarking de pontuação única por "avaliação orientada à trajetória". Isso inclui análise de fronteira de Pareto para evidenciar trade-offs, sondagens de risco sistêmico (testando para efeitos rebote) e baselines contrafatuais (comparando com intervenções de no-IA ou heurísticas simples).
   • Implementação: Tratar a implementação como uma intervenção provisória e revisável. Isso requer monitoramento de nível de sistema (além do data drift) para detectar adaptação comportamental e sinais de alerta precoce, com caminhos predefinidos para reversão ou modificação.

Principais Contribuições

• Framework Conceitual (PCAI): O artigo introduz a IA Centrada no Planeta como um paradigma distinto que trata a integridade, a resiliência e os limites dos sistemas ecológicos como restrições de design de primeira classe, e não como externalidades inferidas através de resultados humanos.
• Mapeamento Diagnóstico: Fornece um mapeamento estruturado de como propriedades específicas de sistemas perversos (ex: não-estacionariedade, dependência de trajetória, comportamento emergente) conflitam com as suposições padrão da IA, oferecendo uma taxonomia para identificar quando os métodos padrão provavelmente falharão.
• Diretrizes Operacionais: O artigo oferece ações concretas para pesquisadores, financiadores e instituições (resumidas na Tabela 1), tais como exigir o mapeamento de sistemas, exigir baselines comparativas e redefinir a contribuição científica para incluir testes de estresse de nível de sistema.
• Alegação Falseável: O artigo avança uma hipótese específica e testável: Em domínios governados por dinâmicas perversas, sistemas de IA otimizados para eficiência ou objetivos estreitos sem consideração explícita de feedbacks sistêmicos são mais propensos a exacerbar a instabilidade sistêmica do que a mitigá-la.

Resultados e Alegações
Como um artigo de posição, o trabalho não relata resultados empíricos de novos experimentos. Em vez disso, seus "resultados" são a síntese lógica da literatura existente e de estudos de caso (ex: veículos autônomos, agricultura de precisão, monitoramento de conservação) que demonstram as limitações das abordagens atuais.

• Evidência de Falha: O artigo sintetiza evidências mostrando que a eficiência impulsionada pela IA frequentemente desencadeia efeitos rebote (ex: veículos autônomos aumentando a demanda total de viagens) e que métricas de avaliação estreitas falham em capturar riscos sistêmicos como a perda de biodiversidade ou a erosão da legitimidade social.
• Necessidade Teórica: O artigo argumenta que a pesquisa atual de segurança de IA (focada em alinhamento interno e controle) é necessária, mas insuficiente, porque não aborda como sistemas bem alinhados remodelam as dinâmicas socioecológicas externas.

Significância
O artigo afirma que a significância da PCAI reside em seu potencial de alinhar o desenvolvimento da IA com os desafios definidores do Antropoceno. Ao mudar a unidade de análise do usuário individual para o sistema socioecológico acoplado, a PCAI visa:

1. Impedir que a IA reforce inadvertidamente "armadilhas do Antropoceno" (trajetórias de instabilidade autorreforçadas).
2. Transformar a IA de uma ferramenta de otimização em uma ferramenta para "inteligência coletiva" e "prospecção", permitindo que as sociedades naveguem pela incerteza profunda e valores contestados.
3. Fornecer um framework rigoroso e falseável para avaliar se a IA contribui para a estabilidade planetária ou exacerba o risco sistêmico.

Os autores posicionam a PCAI não como um substituto para a IA Centrada no Humano, mas como uma extensão necessária que aborda os horizontes temporais e os limites sistêmicos que a HCAI frequentemente negligencia. O objetivo final é equipar as sociedades com ferramentas de IA capazes de apoiar intervenções responsáveis em desafios planetários complexos e de alto risco.