Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems

Resumo Técnico: Ética da Possibilidade

Problema
Sistemas sociotécnicos (incluindo IA, plataformas digitais e fluxos de trabalho institucionais) moldam cada vez mais não apenas os resultados imediatos, mas todo o espectro de futuros viáveis disponíveis para indivíduos e comunidades. Embora os marcos éticos existentes articulem princípios como autonomia, justiça e capacidade, eles geralmente carecem de um método computacional transparente para comparar designs de sistemas alternativos com base em como preservam ou expandem as oportunidades futuras eticamente aceitáveis. As abordagens atuais frequentemente falham em operacionalizar esses princípios em um pipeline de auditoria rotineiro que considere a viabilidade, o dano, a equidade distributiva e a natureza estrutural de "futuros alcançáveis".

Metodologia: O Framework de Ética da Possibilidade
O artigo introduz a Ética da Possibilidade, um framework conceitual-computacional projetado para avaliar sistemas sociotécnicos ao medir seu efeito sobre distintas, viáveis e eticamente admissíveis classes de opções futuras. A metodologia é implementada no toolkit de software Omega-PE e segue um pipeline de auditoria determinístico:

1. Definições Formais:

   • Viabilidade: Uma trajetória é viável se atender a pré-requisitos rígidos e se uma pontuação de viabilidade ($F$) exceder um limiar ($\tau$). Isso filtra opções nominais que são praticamente impossíveis (ex: devido ao custo ou falta de suporte).
   • Salvaguarda de Dano (Harm Guardrail): Uma trajetória é eticamente admissível apenas se seu risco previsto ($R$) para o agente, terceiros ou bens coletivos permanecer abaixo de uma tolerância ($\gamma$).
   • Agrupamento Determinístico: Trajetórias admissíveis são mapeadas para classes de resultados usando uma regra de similaridade e um limiar ($\theta$). Isso evita a "inflação de menu", tratando resultados duplicados ou quase idênticos como uma única classe de opção.
   • Entropia de Opção ($\Omega$): A métrica central é um índice de oportunidade logarítmico definido como:
     $$\Omega^d_i = \log(\kappa + K^d_i) - \log \kappa = \log\left(1 + \frac{K^d_i}{\kappa}\right)$$
     Onde $K^d_i$ é a contagem de classes de resultados distintas e admissíveis para o coorte $i$ sob o design $d$, e $\kappa$ é um parâmetro de suavização. Esta forma logarítmica garante retornos marginais decrescentes (o valor da 101ª opção é menor que o da 2ª) e comprime a escala para comparação entre domínios.

2. Agregação e Salvaguardas:

   • Agregação Sensível à Vulnerabilidade: Os designs são pontuados usando uma soma ponderada ($L(d)$) onde coortes vulneráveis recebem pesos maiores ($V_i$).
   • Pisos de Grupo (Group Floors): Um limiar mínimo ($\phi_g$) é estabelecido para grupos protegidos para garantir que ganhos agregados não mascarem perdas severas para os menos favorecidos.
   • Não-Regressão de Coorte: Um design não deve reduzir a entropia de opção de um coorte abaixo de uma linha de base menos uma tolerância ($\epsilon_i$). Violações disparam o Reparo de Opção (Option Repair), um requisito procedural para identificar barreiras e avaliar restauração ou compensação.

3. Propriedades Matemáticas:
   O framework estabelece monotonicidade guardada (adicionar uma nova classe admissível sempre aumenta a pontuação), invariância de duplicação (adicionar uma classe duplicada não altera a pontuação) e contribuição marginal decrescente. Um teorema de caracterização prova que, sob um axioma de composição independente, a forma logarítmica é a medida única, contínua e estritamente crescente de multiplicidade de oportunidade efetiva.

Principais Contribuições

• Integração de Sete Elementos: O artigo integra de forma única a medição computável de oportunidade, filtragem de viabilidade/viabilidade, salvaguardas de dano, agrupamento determinístico, agregação sensível à vulnerabilidade, salvaguardas de não-regressão e um mecanismo procedural de reparo em um único pipeline de auditoria.
• Caracterização Formal: Fornece uma base matemática rigorosa para a "Entropia de Opção", distinguindo-a da entropia de Shannon ao focar no tamanho combinatório do espaço de estados em vez de distribuições probabilísticas.
• Implementação Reproduzível: O framework é lançado como o artefato de software Omega-PE, incluindo scripts para benchmarks sintéticos e auditorias de dados reais, garantindo a total reprodutibilidade dos resultados.

Resultados e Avaliação
O framework foi avaliado utilizando duas abordagens distintas:

1. Benchmark Sintético: Uma comparação controlada de três designs (Baseline, Exit/Offline, Assistente Personalizado) através de quatro coortes.

   • Descoberta: O design "Exit/Offline" obteve a classificação mais alta porque criou caminhos admissíveis distintos para coortes com menos opções de base. O "Assistente Personalizado" classificou-se inferiormente, por vezes reduzindo as opções para grupos vulneráveis específicos, apesar das melhorias agregadas.
   • Análise de Sensibilidade: O design preferido permaneceu em primeiro lugar através de uma grade de limiares de viabilidade ($\tau$) e dano ($\gamma$), demonstrando a utilidade diagnóstica do framework para identificar resultados dependentes de suposições.

2. Auditoria de Dados Reais (OULAD): Uma auditoria observacional do Open University Learning Analytics Dataset (7.909 registros de estudantes através de quatro apresentações).

   • Descoberta: A apresentação 2014J mostrou o nível de oportunidade agregada mais alto ($L(d) = 7.773$). No entanto, o framework detectou regressão de nível de coorte: o coorte de "deficiência" experimentou uma queda na entropia de opção em 2014J, e o coorte de "tentativa de repetição" regrediu em 2014B.
   • Implicação: Essas regressões acionaram o protocolo de Reparo de Opção, ilustrando que melhorias agregadas podem ocultar perdas específicas para grupos vulneráveis — uma nuance escondida por métricas agregadas padrão.

Significância e Alegações
O artigo posiciona a Ética da Possibilidade não como um substituto para a teoria moral, o raciocínio político ou estruturas abrangentes de justiça, mas como uma ferramenta de suporte à decisão transparente, reprodutível e auditável.

• Escopo: Aborda uma questão específica, muitas vezes implícita: "Dado dois designs sociotécnicos candidatos, qual deles preserva ou expande as oportunidades futuras genuínas das pessoas de forma mais eficaz, respeitando a segurança e as restrições distributivas?"
• Limitações: O autor reconhece explicitamente que o framework não mede felicidade, dignidade ou virtude. Ele depende de suposições declaradas sobre viabilidade, dano e similaridade, que exigem governança participativa e justificativa pública para serem legítimas.
• Valor: Sua principal contribuição é tornar a expansão e a contração das estruturas de oportunidade visíveis, comparáveis, contestáveis e reparáveis dentro da governança sociotécnica, movendo a prática ética de IA de princípios abstratos para auditorias operacionais.