AI and the Transformation of Accountability and Discretion in Urban Governance

Este artigo analisa conceitualmente como a Inteligência Artificial transforma a governança urbana ao redistribuir o poder discricionário e reconfigurar os mecanismos de responsabilidade, propondo o conceito de "discricionariedade responsável" e princípios orientadores para mitigar riscos como o viés de dados e a opacidade algorítmica.

O essencial

O Novo "Co-piloto" da Cidade: Como a IA Muda a Responsabilidade e a Liberdade dos Gestores

Imagine que a administração de uma cidade é como dirigir um ônibus gigante. Antigamente, o motorista (o funcionário público) tinha que decidir sozinho para onde ir, quando parar e quem deixar subir, baseado apenas na sua experiência e nas regras do manual. Se ele errasse, era ele quem levava a culpa. Se ele fosse muito rígido, o ônibus não atendia ninguém; se fosse muito livre, poderia sair da rota.

Agora, imagine que esse ônibus ganhou um sistema de navegação superinteligente (a IA). Esse sistema não dirige o ônibus no lugar do motorista, mas ele sugere rotas, avisa sobre buracos na estrada e diz quantos passageiros estão esperando em cada parada.

Este artigo, escrito por Stephen Goldsmith e Juncheng Yang, discute exatamente isso: como essa "navegação" muda a relação entre a liberdade do motorista (discricionariedade) e a responsabilidade dele (prestação de contas).

1. O Mito: A IA vai tirar o trabalho do humano?

Muitas pessoas acham que a IA vai transformar os funcionários públicos em robôs que só apertam botões, sem poder de decisão.

• A Analogia: É como se o GPS dissesse: "Vire à direita" e o motorista fosse obrigado a virar, sem poder pensar se há um cachorro na rua.
• O que o artigo diz: Não é bem assim. A IA não tira a liberdade; ela muda onde ela está. Ela pega as tarefas chatas e repetitivas (como preencher planilhas ou verificar se um documento está completo) e faz sozinha. Isso libera o funcionário para focar no que realmente importa: tomar decisões difíceis que exigem coração e experiência humana, como ajudar uma família em situação de vulnerabilidade que não se encaixa nas regras padrão.

2. O Novo Equilíbrio: Mais Liberdade, Mas com "Olhos" em Você

O artigo introduz um conceito chamado "Discricionariedade Responsável".

• A Analogia: Pense em um treinador de futebol. Antes, ele tinha que vigiar cada jogador o tempo todo. Com a IA, o treinador tem câmeras e estatísticas em tempo real. Ele pode deixar o jogador mais livre para fazer uma jogada criativa (mais liberdade), mas sabe exatamente o que está acontecendo e pode intervir se necessário (mais responsabilidade).
• Na prática:
  • Para o funcionário de base: A IA dá mais informações para ele tomar decisões melhores e mais rápidas.
  • Para o chefe: A IA permite ver padrões. Se um funcionário está tomando decisões estranhas, o sistema avisa. Isso não é para punir, mas para garantir que ninguém esteja agindo de má-fé ou cometendo erros graves.

3. Os Três Tipos de "Prestação de Contas" (Quem responde pelo quê?)

O artigo explica que a responsabilidade agora se divide em três camadas, e a IA afeta cada uma delas:

• A) Responsabilidade Política (O Chefe olhando o Funcionário):
  • Antes: O chefe tinha que confiar no relatório mensal do funcionário.
  • Com IA: O chefe tem um painel de controle em tempo real. É como ter um "GPS de desempenho". Isso torna tudo mais transparente, mas pode fazer o funcionário sentir que está sendo vigiado demais, perdendo a confiança.
• B) Responsabilidade Profissional (O Colega olhando o Colega):
  • Antes: O funcionário usava seu conhecimento para decidir.
  • Com IA: A IA sugere o caminho padrão. O desafio é não seguir cegamente a sugestão da máquina. O profissional precisa usar seu "olho clínico" para dizer: "A IA diz X, mas neste caso específico, Y é melhor". A IA ajuda a evitar preconceitos pessoais, mas o humano deve ser o juiz final.
• C) Responsabilidade Participativa (O Passageiro olhando o Motorista):
  • Antes: O cidadão tinha que ir à prefeitura ou ligar para reclamar.
  • Com IA: Chatbots e assistentes virtuais permitem que o cidadão converse com o governo 24 horas por dia. O cidadão pode entender melhor as regras e questionar decisões. A IA pode democratizar o acesso à informação, mas cuidado: se o cidadão não souber usar a tecnologia, pode ficar ainda mais excluído.

4. Os Riscos: Quando o GPS Falha

O artigo alerta que, se não formos cuidadosos, a IA pode criar problemas:

• A Caixa Preta: Às vezes, nem os criadores da IA sabem exatamente por que ela tomou uma decisão. Se o sistema negar um benefício para alguém, e ninguém souber explicar o porquê, é injusto.
• O Viés (Preconceito): Se a IA for treinada com dados antigos que tinham preconceito, ela vai repetir esses preconceitos. É como um GPS que foi programado com mapas antigos e continua mandando você para ruas que já foram fechadas.
• A Desigualdade: Se apenas os ricos ou os mais instruídos souberem usar essas ferramentas, eles terão mais poder do que os pobres.

5. As 5 Regras de Ouro para uma Cidade Inteligente

Para que a IA funcione bem e não vire um monstro, os autores sugerem 5 princípios simples:

1. Treinar Todos (Equidade): Não pode ser só o "gênio da TI" que usa a IA. Todos os funcionários, do porteiro ao diretor, precisam saber como usar e entender as ferramentas.
2. Regras Flexíveis (Adaptabilidade): As leis de trabalho e os cargos públicos precisam mudar. Não adianta ter um carro novo (IA) se as estradas (leis antigas) não permitem que ele circule.
3. Dados Limpos e Protegidos (Governança de Dados): A IA só é boa se os dados forem bons e seguros. É como cozinhar: se você usa ingredientes estragados, a comida fica ruim, não importa o quanto você seja um chef famoso.
4. O Humano no Comando (Julgamento Proativo): A IA é o copiloto, mas o humano é o piloto. O funcionário deve sempre ter o poder de dizer "não" para a máquina se algo parecer errado.
5. Ouvir o Cidadão (Fiscalização Participativa): A cidade é dos cidadãos. Eles precisam entender como a IA funciona e ter voz para dizer se está tudo bem ou não.

Conclusão em uma Frase

A Inteligência Artificial não vai substituir os gestores públicos, mas vai transformá-los em pilotos mais bem informados. O segredo não é deixar a máquina dirigir sozinha, mas usar a tecnologia para dar mais liberdade ao humano, desde que ele continue sendo o responsável final e mantenha os olhos abertos para garantir que a cidade seja justa para todos.

Resumo técnico

Resumo Técnico

Título: IA e a Transformação da Prestação de Contas e Discricionariedade na Governança Urbana
Autores: Stephen Goldsmith e Juncheng Yang (Harvard University)
Publicação: Urban Governance (Artigo em pré-impressão, 2026)

1. Problema de Pesquisa

O artigo aborda a tensão clássica na administração pública entre discricionariedade (a autoridade dos burocratas para tomar decisões baseadas em julgamento) e prestação de contas (accountability). Tradicionalmente, existe um trade-off (compromisso): maior discricionariedade tende a reduzir a uniformidade e dificultar a supervisão, enquanto maior controle burocrático limita a flexibilidade necessária para lidar com problemas complexos ("wicked problems") urbanos.

O problema central investigado é como a Inteligência Artificial (IA), especialmente os modelos generativos (GenAI) e sistemas de aprendizado de máquina, reconfigura essa relação. A literatura existente foca frequentemente na IA como uma ferramenta que apenas restringe a discricionariedade (automatizando tarefas) ou a expande (fornecendo dados). O artigo identifica uma lacuna teórica: falta uma compreensão de como a IA redistribui a discricionariedade entre diferentes níveis institucionais, papéis profissionais e interações com cidadãos, e como isso impacta as formas de prestação de contas (política, profissional e participativa).

2. Metodologia

O estudo adota uma abordagem conceitual e analítica, fundamentada na teoria da administração pública e na pesquisa emergente sobre governança algorítmica.

• Abordagem: Análise teórica crítica que revisita conceitos clássicos (como a burocracia de "nível de rua" de Lipsky e a definição de discricionariedade de Davis) à luz das novas capacidades da IA.
• Uso de Casos Ilustrativos: Embora seja um artigo conceitual, ele utiliza exemplos empíricos e estudos de caso selecionados para ilustrar seus argumentos. Estes incluem:
  • O sistema SALER na Espanha (detecção de irregularidades financeiras).
  • Serviços de emprego apoiados por IA na Dinamarca.
  • Gestão automatizada de assistência social na Suécia (Mölndal e Malmö).
  • Policiamento baseado em dados no Brasil.
  • Chatbots municipais na Noruega e outros contextos globais (Singapura, Barcelona, Boston).
• Estrutura: O artigo organiza-se em uma revisão da literatura sobre o trade-off discricionariedade-accountability, seguida por uma exploração conceitual dos impactos da IA, e finaliza com a proposição de princípios orientadores.

3. Contribuições Chave e Resultados Principais

A. Redistribuição da Discricionariedade (e não apenas restrição)
O principal achado teórico é que a IA não elimina a discricionariedade humana, mas a relocaliza.

• Automatização do Rotineiro: A IA assume tarefas repetitivas e baseadas em regras, liberando burocratas de nível de rua para focarem em casos complexos que exigem julgamento ético e contextual.
• Mudança de Foco: A discricionariedade deixa de ser apenas sobre "escolher entre ações" em cada interação individual e passa a ser exercida em momentos de supervisão, interpretação de outputs algorítmicos e intervenção em exceções.
• Novo Modelo: Surge um modelo de "discricionariedade híbrida", onde o julgamento humano e a análise de dados operam em conjunto.

B. Reconfiguração das Formas de Prestação de Contas
O artigo detalha como a IA afeta três dimensões da accountability:

1. Accountability Política (Vertical): Aumenta a visibilidade das ações de linha de frente através de rastros de dados auditáveis e monitoramento em tempo real. Isso pode fortalecer o controle gerencial, mas também gerar resistência se percebido como vigilância excessiva ("screen policing").
2. Accountability Profissional (Horizontal): A IA pode padronizar processos e reduzir vieses pessoais, apoiando a consistência. No entanto, exige que os profissionais desenvolvam novas competências para interpretar e validar sugestões algorítmicas, mantendo-se como guardiões da qualidade ética.
3. Accountability Participativa (Cidadã): Ferramentas conversacionais (chatbots) e acesso a dados abertos permitem que cidadãos compreendam melhor as políticas e forneçam feedback. Contudo, há riscos de exclusão digital e sobrecarga de informação.

C. O Conceito de "Discricionariedade Responsável" (Accountable Discretion)
Os autores propõem este novo conceito para descrever um estado onde a flexibilidade na tomada de decisão é mantida, mas exercida dentro de estruturas de transparência e supervisão reforçadas pela tecnologia. A IA permite que a discricionariedade seja mais informada, rastreável e reflexiva, sem sacrificar os princípios democráticos.

D. Riscos Identificados

• Opacidade Algorítmica: Dificuldade em entender como as decisões são tomadas ("caixas pretas").
• Viés de Dados: Perpetuação de desigualdades existentes nos dados de treinamento.
• Deslocamento de Responsabilidade: Tendência de atribuir erros ao sistema ou, inversamente, de burocratas seguirem cegamente as recomendações da IA (viés de automação).
• Fragmentação da Cadeia de Suprimentos: A complexidade da cadeia de fornecedores de IA (empresas privadas, desenvolvedores, governo) dificulta a atribuição clara de responsabilidade.

4. Princípios Orientadores Propostos

Para mitigar riscos e maximizar benefícios, o artigo propõe cinco princípios para a governança urbana com IA:

1. Implantação Equitativa de IA: Garantir que todos os funcionários (de gestores a linha de frente) e cidadãos tenham acesso e literacia em IA para evitar disparidades de poder e exclusão.
2. Estruturas Administrativas Adaptativas: Reformar classificações de cargos e acordos sindicais para permitir flexibilidade, criação de "squads" de inovação e experimentação segura (sandboxes).
3. Gestão de Dados Robusta: Estabelecer governança de dados que priorize privacidade, integridade, interoperabilidade e auditoria contínua.
4. Julgamento Humano Proativo e Mecanismos Institucionais: Manter o ser humano "no loop" ou "no comando", com canais claros para contestar, anular ou escalar decisões algorítmicas.
5. Supervisão Participativa Cidadã: Envolver cidadãos no desenho, monitoramento e avaliação dos sistemas de IA, utilizando ferramentas acessíveis para aumentar a transparência e a confiança.

5. Significância e Implicações

• Teórica: O artigo desafia a visão binária de que a tecnologia é apenas restritiva ou habilitadora. Ele propõe uma visão dinâmica onde a IA transforma a própria natureza da burocracia, deslocando a discricionariedade para novos espaços (supervisão, interpretação) e criando novas formas de accountability.
• Prática: Oferece um roteiro para gestores públicos e formuladores de políticas de cidades inteligentes. Em vez de focar apenas na eficiência técnica, o artigo enfatiza a necessidade de redesenhar estruturas institucionais, capacitação de pessoal e mecanismos de controle ético.
• Futuro: O estudo destaca a necessidade de pesquisas empíricas futuras para validar o conceito de "discricionariedade responsável", sugerindo o uso de dados de sistemas administrativos digitais (rastros de decisão) combinados com métodos qualitativos para entender como a IA altera a autonomia e a legitimidade na prática governamental.

Em suma, o artigo argumenta que a IA na governança urbana não deve ser vista apenas como uma ferramenta de automação, mas como um projeto de governança que exige novos designs institucionais para equilibrar a eficiência algorítmica com a responsabilidade ética e democrática.