Whose Good, Whose Place? The Moral Geography of Agentic AI for Social Good

Resumo Técnico: "De Quem é o Bem, De Quem é o Lugar? A Geografia Moral da IA Agêntica para o Bem Social"

Declaração do Problema
O artigo aborda uma lacuna crítica na literatura emergente sobre IA agêntica para o bem social. Embora pesquisadores proponham cada vez mais sistemas autônomos (planejamento, coordenação, alocação de recursos, persuasão) para promover os Objetivos de Desenvolvimento Sustentável (ODS) das Nações Unidas, a invocação do "bem social" não estabelece inerentemente a prestação de contas às comunidades específicas que esses sistemas afirmam servir. Os autores argumentam que o campo sofre de subespecificação contextual, particularmente no que diz respeito ao foco geográfico. Essa falta de especificidade não é uniforme; concentra-se em domínios onde os contextos políticos, legais e culturais locais são mais críticos para a viabilidade e a legitimidade. Além disso, há uma desconexão significativa entre propostas conceituais e implementação no mundo real, com a maioria da literatura permanecendo no nível de simulação ou teoria, sem validação empírica em ambientes implantados.

Metodologia
Os autores conduziram uma pesquisa estruturada de 112 artigos publicados entre 2015 e 2026 (91% a partir de 2020). O corpus foi construído utilizando uma revisão sistemática no estilo PRISMA em quatro plataformas acadêmicas (Google Scholar, ACL Anthology, Semantic Scholar, Elicit), empregando consultas organizadas em torno de todos os 17 ODS para minimizar o viés de recuperação.

• Procedimento de Anotação: Para gerenciar a escala da anotação em oito dimensões, os autores empregaram um procedimento de anotação com dupla LLM utilizando GPT-4o e Llama-3.3-70B com prompts de vocabulário controlado idênticos.
• Validação Humana: Uma subamostra estratificada de 50 artigos foi codificada manualmente por um anotador humano para validar as saídas das LLM. Rótulos de consenso foram construídos priorizando os rótulos humanos para a subamostra e selecionando a LLM com maior concordância humano-LLM (κ de Cohen) para o restante.
• Dimensões de Codificação: Cada artigo foi codificado para:
  1. Domínio
  2. Alinhamento com ODS (1–17)
  3. Tipo de Agente (ex.: agentes LLM, sistemas multiagente)
  4. Nível de Autonomia
  5. Status de Implantação no Mundo Real
  6. Tipo de Avaliação
  7. Objetivo do Agente
  8. Foco Geográfico (codificado como "Não especificado", "Global/Ampla" ou "Concreto")
• Análise Estatística: O estudo utilizou estatísticas descritivas e testes inferenciais (testes de qui-quadrado de independência, testes exatos de Fisher) para examinar relações entre clusters de ODS e especificação geográfica. Análises de sensibilidade foram realizadas usando atribuições alternativas de clusters de ODS e definições estritas versus amplas de codificação geográfica.

Principais Contribuições

1. Mapeamento Estruturado: O artigo fornece a primeira taxonomia sistemática de IA agêntica para o bem social, mapeando o campo através de domínios, arquiteturas, níveis de autonomia e tipos de avaliação.
2. Identificação de Assimetria Moral-Geográfica: Os autores identificam um padrão não uniforme de abstração contextual. Enquanto domínios de saúde e ecológicos frequentemente especificam um contexto geográfico, domínios institucionais e de política social (especificamente aqueles alinhados com o ODS 16: Paz, Justiça e Instituições Eficazes) falham em fazê-lo de forma esmagadora.
3. Agenda de Prestação de Contas: O artigo propõe um padrão mínimo de relatórios e identifica cinco lacunas específicas de prestação de contas que limitam a maturidade do campo, argumentando por uma mudança de "possibilidade" para "intervenção sociotécnica responsável".

Resultados

• Subespecificação Geográfica: 73% (82/112) dos artigos não especificam nenhum contexto geográfico. Essa ausência é marcadamente desigual.
  • Artigos alinhados com ODS de saúde ou físicos/ecológicos especificam uma geografia 37–40% das vezes.
  • Artigos alinhados com ODS institucionais e de política social especificam uma geografia apenas 13% das vezes (codificação ampla) e 0% sob codificação estrita (que exclui alegações "globais").
  • O ODS 16 é o objetivo mais coberto no corpus (39 artigos), mas possui a menor taxa de especificação geográfica (13% ampla; 2,6% estrita).
  • A análise estatística confirma que essa assimetria é significativa ($\chi^2(2) = 8,78, p = 0,012$) e robusta em sete de oito configurações de sensibilidade.
• Lacuna entre Proposta e Prática: Apenas 25% (28/112) dos artigos relatam qualquer implantação no mundo real ou teste em pequena escala. Os 75% restantes são conceituais ou apenas de simulação.
  • Essa lacuna é transversal ao campo, não localizada em arquiteturas ou eras específicas. Artigos que nomeiam uma geografia não são implantados em taxas mais altas do que aqueles que não o fazem. Artigos de agentes LLM pós-2023 não são implantados em taxas mais baixas do que trabalhos anteriores de multiagentes.
• Déficits de Avaliação: As práticas de avaliação espelham a lacuna de implantação. 36 artigos são estudos conceituais e 30 são simulações. Apenas 5 relatam estudos de campo.
• Ambiguidade de Autonomia: A concordância entre LLMs sobre "Nível de Autonomia" foi baixa ($\kappa = 0,56$), indicando que o campo carece de definições precisas para a fronteira entre ação iniciada pelo sistema e ação autorizada por humanos.

Significado e Alegações
O artigo afirma que a trajetória atual do campo trata o bem institucional como universal de uma forma que não trata o bem de saúde ou ecológico. Essa "abstração moral" é eticamente problemática porque intervenções institucionais (governança, justiça, política) dependem altamente de contextos políticos e legais locais. Ao falhar em nomear as comunidades ou lugares que esses sistemas servem, a literatura obscurece as dinâmicas de poder e a prestação de contas.

Os autores argumentam que o campo deve ir além de perguntar "o que os agentes podem fazer" para perguntar "o que a IA agêntica para o bem social deve às pessoas e lugares em cujo nome ela é construída". Eles propõem que trabalhos futuros devem:

1. Especificar contextos-alvo (comunidades, instituições, cenários).
2. Correlacionar evidências com alegações (ex.: estudos de campo para alegações de benefício comunitário).
3. Envolver partes interessadas afetadas cedo no processo de design.
4. Justificar explicitamente a complexidade arquitetônica e os níveis de autonomia.
5. Documentar falhas e não implantações para permitir a aprendizagem coletiva.

O artigo conclui que a expansão no número de propostas não equivale a maturidade; a verdadeira maturidade requer sistemas específicos de contexto, participativos e responsáveis.