Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

Título: DIAL E FOR ETHICAL ENFORCEMENT: INSTITUTIONAL VETO POWER AS A GOVERNANCE PRIMITIVE

Autores: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary.
Contexto: ICLR 2026 (Workshop de IA para a Paz).

1. O Problema: A Paradoxo da Governança e a Militarização

O artigo identifica um paradoxo fundamental na governança atual de Inteligência Artificial (IA): existe uma ampla consciência ética e mecanismos de avaliação de risco (como model cards e declarações de IA responsável), mas há uma incapacidade quase total de prevenir usos downstream prejudiciais, especificamente a militarização e o uso abusivo para vigilância.

• Diagnóstico: Os mecanismos atuais operam como sinais reputacionais desconectados da arquitetura de tomada de decisão. Isso cria uma "irresponsabilidade organizada", onde cada ator (pesquisador, universidade, financiador) pode negar controle enquanto os danos prosseguem.
• Causa Raiz: A militarização não é uma consequência técnica inevitável, mas o resultado de escolhas institucionais discricionárias (aceitação de financiamento militar, licenciamento, parcerias) que ocorrem em "pontos de veto" desprotegidos.
• Falha Ética: A ética sem poder de execução (veto) falha porque permite a "lavagem ética" (ethics laundering), onde a documentação de consideração substitui a mudança real de decisão, e cria seleção adversa onde instituições que se restringem perdem competitividade para aquelas que aceitam financiamento militar sem restrições.

2. Metodologia e Abordagem Teórica

O artigo não propõe uma nova arquitetura de modelo de IA, mas sim uma reestruturação da governança institucional. A metodologia combina:

1. Análise Comparativa de Domínios de Alto Risco: O trabalho traça paralelos com regimes de não proliferação nuclear, comitês de revisão institucional (IRBs) em bioética e regimes de controle de exportação. Demonstra-se que a autoridade de veto é um "primitivo de governança" já estabelecido e funcional nesses campos.
2. Modelagem Teórica (Toy Model): Os autores apresentam um modelo matemático simplificado (Apêndice A) para demonstrar formalmente por que a ética sem veto falha:
   • Difusão de Responsabilidade: À medida que a cadeia de governança aumenta ($n$), a responsabilidade executável por ator individual ($\rho(n)$) tende a zero.
   • Seleção Adversa: Sem mecanismos de execução, o equilíbrio de Nash favorece a baixa restrição ($r^*_{noveto}$) devido aos benefícios de financiamento militar ($\beta$).
   • Veto como Solução: A introdução de um ponto de veto vinculante ($\rho_{veto} = 1$) e um nível de restrição enforced ($\bar{R}$) estabiliza o sistema em um equilíbrio de alta restrição, reduzindo drasticamente a probabilidade de militarização ($P(M|V) \ll P(M|\neg V)$).
3. Análise de Casos Históricos: Estudo de casos de reconhecimento facial, financiamento da DARPA e parcerias universidade-contratistas de defesa para mapear onde os pontos de veto poderiam ter sido aplicados.

3. Contribuições Principais

A. O Conceito de "Poder de Veto Institucional"

O artigo define o poder de veto não como uma recusa arbitrária, mas como uma autoridade formal e protegida para interromper o uso ou distribuição subsequente de pesquisas quando riscos credíveis de weaponização (armamento) são identificados.

• Escopo: O veto aplica-se ao transfer (licenciamento, financiamento) e deployment (implementação), não à investigação ou publicação em si.
• Gatilhos: Baseado em critérios pré-definidos (ex.: integração em armas autônomas sem controle humano significativo, vigilância de grupos marginalizados, violação do direito internacional).

B. Liderança Comunitária e Justiça Epistêmica

Uma contribuição central é a exigência de que as comunidades mais vulneráveis aos usos militares da IA liderem o design da governança.

• O artigo argumenta que a exclusão dessas comunidades não é apenas uma questão de justiça, mas uma limitação epistêmica: elas possuem conhecimento situado sobre os danos reais que os especialistas técnicos não possuem.
• Propõe-se que os corpos de veto tenham autoridade de decisão igualitária para representantes comunitários, especialistas técnicos e éticos.

C. Caminhos de Implementação Prática (Sem Novos Tratados)

O artigo detalha cinco caminhos para operacionalizar o veto usando estruturas existentes:

1. Modificação de Contratos Universitários: Inclusão de cláusulas de veto em acordos de transferência de tecnologia e licenciamento.
2. Governança em Conferências: Exigência de divulgação de uso dual e condições de uso vinculantes para publicações.
3. Condições de Financiamento: Agências de fomento condicionam subsídios à existência de estruturas de governança de veto nas instituições.
4. Governança de Repositórios: Implementação de restrições de uso legíveis por máquina (metadados) e auditoria de artefatos (códigos/modelos).
5. Normas Profissionais: Códigos de conduta vinculantes que protegem pesquisadores que exercem o veto e penalizam a participação em projetos militarizados.

4. Resultados e Evidências

• Eficácia do Modelo: A modelagem mostra que, sem veto, a "responsabilidade executável" cai exponencialmente com o número de atores. Com o veto, a responsabilidade é consolidada, tornando a restrição individualmente viável e coletivamente racional.
• Análise de Casos: A revisão de casos históricos (como o desenvolvimento de reconhecimento facial e parcerias com a Lockheed Martin) demonstra que a militarização ocorreu devido à ausência de pontos de veto institucionais, não à falta de conhecimento ético dos pesquisadores.
• Comparação Histórica: O regime de não proliferação nuclear e os IRBs bioéticos provaram que a autoridade de veto, quando vinculada a consequências materiais (sanções, perda de financiamento), é eficaz para conter tecnologias de alto risco.

5. Significado e Implicações

Este trabalho representa uma mudança de paradigma na discussão sobre segurança de IA:

• De Ética para Governança: Desloca o foco de "como encorajar a restrição voluntária" (que falha sistemicamente) para "como tornar a restrição estruturalmente racional e executável".
• Pré-requisito para o Desarmamento: Argumenta que o poder de veto institucional é um pré-requisito para transformar salvaguardas simbólicas em responsabilidade executável e alcançar um desarmamento significativo de modelos.
• Justiça Social na IA: Estabelece que a governança de IA militarizada não pode ser separada da justiça social; a autoridade de veto deve ser exercida por e para as comunidades que sofrem os impactos desproporcionais da militarização.
• Viabilidade Técnica: O artigo refuta a ideia de que o veto é utópico, mostrando mecanismos concretos de implementação (cláusulas contratuais, metadados de repositórios, condições de subsídio) que não exigem novos tratados internacionais, mas sim a reconfiguração de estruturas existentes.

Conclusão

O artigo conclui que a comunidade de pesquisa enfrenta uma escolha: continuar com uma ética performativa que permite a acumulação de danos, ou mover-se para uma restrição vinculante e coletiva. O "Poder de Veto Institucional" é apresentado como o caminho estrutural para essa transição, garantindo que a responsabilidade pela prevenção da militarização seja compartilhada, executável e liderada por aqueles mais afetados.