Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship

Resumo Técnico: Além da Conformidade Abstrata: Operacionalizando a confiança na IA como uma relação moral

Problema
As abordagens dominantes atuais para a "IA Confiável", como o quadro da UE, tratam a confiança como uma propriedade estática de um sistema que pode ser engenheirada, medida e certificada através da conformidade com critérios normativos e técnicos (ex: transparência, justiça, responsabilidade). Os autores argumentam que essas abordagens orientadas pela conformidade, apoiadas por ferramentas como o AI Fairness 360, model cards e técnicas de explicabilidade (SHAP, LIME), falham em abordar como a confiança é subjetivamente cultivada, culturalmente enraizada e inerentemente relacional. Ao priorizar a conformidade regulatória em detrimento da experiência vivida, esses frameworks correm o risco de "ethics washing" (lavagem ética), onde organizações reivindicam legitimidade ética sem alterar as relações de poder ou abordar injustiças estruturais. Além disso, a literatura existente frequentemente carece de princípios acionáveis que traduzam a ética relacional para a prática da engenharia, deixando uma lacuna entre a teoria ética e o ciclo de vida ágil de desenvolvimento.

Metodologia
O artigo emprega uma análise conceitual e teórica fundamentada na ética relacional, especificamente baseando-se em filosofias comunitárias africanas, com foco central no Ubuntu. Os autores sintetizam críticas ao individualismo liberal ocidental na ética da IA com perspectivas indígenas para propor um novo framework.

• Estrutura Teórica: Os autores redefinem a confiança não como uma avaliação unidirecional da confiabilidade do sistema, mas como uma relação moral bidirecional, dinâmica e temporal que envolve vulnerabilidade mútua, reciprocidade e cuidado contínuo entre usuários, desenvolvedores e comunidades.
• Estratégia de Operacionalização: Para preencher a lacuna entre teoria e prática, os autores mapeiam quatro princípios propostos no ciclo de vida padrão de desenvolvimento de software ágil (Elicitação de Requisitos, Coleta de Dados, Design/Desenvolvimento, Avaliação e Implantação).
• Ilustrações de Casos: O framework é ilustrado através de dois casos de uso contextualizados: suporte à decisão baseado em IA para prescrição de antibióticos na saúde e tutores de IA na educação. Esses cenários demonstram como os princípios propostos podem ser aplicados a desafios sociotécnicos específicos, como deveres fiduciários na medicina e justiça epistêmica na educação.

Principais Contribuições
O artigo propõe quatro princípios expandidos para "Confiança por Design" que deslocam o foco da conformidade abstrata para o engajamento relacional:

1. Comunitarismo: Ir além dos direitos individuais para priorizar o bem coletivo, o cuidado mútuo e a solidariedade. Isso envolve envolver as comunidades como co-criadoras em vez de usuários finais passivos, garantindo que os sistemas de IA abordem necessidades comunitárias e desequilíbrios de poder.
2. Respeito pelo Outro: Substituir o princípio bioético do "respeito à autonomia" pelo "respeito pelas pessoas". Isso reconhece a pessoa como relacional e inserida na comunidade, exigindo que os sistemas de IA preservem a dignidade e o valor moral independentemente da capacidade racional, e busquem o consentimento informado coletivo onde apropriado.
3. Integridade: Definir integridade não meramente como conformidade legal, mas como consistência moral, honestidade e coerência entre palavras e ações. Isso exige que os desenvolvedores ajam eticamente mesmo quando não legalmente mandatados, mantendo trilhas de auditoria e garantindo a responsabilidade por danos.
4. Publicidade de Design: Estender além da explicabilidade post-hoc (XAI) para a "explicação por design". Isso envolve comunicar proativamente as justificativas normativas, os valores codificados e as racionalidades de design do sistema. Determina que a transparência inclua o compartilhamento de atribuições de características e racionalidades de design sensíveis a valores, e que as comunidades sejam capacitadas para revisar e questionar essas justificativas.

Resultos e Operacionalização
O artigo não apresenta resultados experimentais empíricos, mas oferece um guia estruturado para operacionalizar esses princípios dentro de um ciclo de vida ágil:

• Elicitação de Requisitos: As partes interessadas (incluindo comunidades) devem ser envolvidas precocemente para definir os objetivos do sistema e os requisitos éticos, garantindo o equilíbrio de poder e a responsabilidade compartilhada.
• Coleta de Dados: Mudar de direitos de dados individualistas para uma governança de dados democrática onde as comunidades co-decidem sobre o uso de dados, garantindo que os conjuntos de dados sejam diversos, representativos e verificados quanto à dignidade.
• Design e Desenvolvimento: Utilizar sessões de co-design e co-criação (ex: storyboarding, mecanismos de interação) para garantir que os sistemas reflitam valores locais e soberania cultural.
• Avaliação: Ir além de benchmarks quantitativos para critérios de sucesso co-definidos que incluam transparência, respeito mútuo e engajamento de longo prazo. Isso inclui "red-teaming" inclusivo onde as partes interessadas simulam ameaças às dinâmicas relacionais, não apenas falhas técnicas.
• Implantação: Estabelecer mecanismos transparentes de reporte de falhas, controle de versão para capacidades de rollback e comitês de supervisão multidisciplinares para garantir a responsabilidade compartilhada.

No cenário da saúde, esses princípios orientam a criação de ferramentas de suporte à decisão de antibióticos que mantêm o dever fiduciário do clínico através de explicações co-projetadas e governança de dados transparente. Na educação, eles orientam o desenvolvimento de tutores de IA que reforçam a coesão social e os sistemas de conhecimento indígena, em vez de substituir professores ou reforçar vieses epistêmicos ocidentais.

Significância e Alegações
Os autores alegam que seu trabalho oferece uma reorientação necessária da ética da IA de um modelo baseado em conformidade para um modelo relacional e moral. Ao integrar a ética relacional africana (especificamente o Ubuntu) no ciclo de desenvolvimento técnico, o artigo argumenta que a confiança não pode ser "projetada para dentro" como um recurso, mas deve ser cultivada como um relacionamento contínuo.

• Mudança Teórica: O artigo desafia a visão unidirecional da confiança (onde o usuário avalia o sistema) ao propor um modelo bidirecional onde tanto o trustor (quem confia) quanto o trustee (quem é confiado) compartilham vulnerabilidade e responsabilidade.
• Utilidade Prática: Fornece um caminho concreto, embora teórico, para desenvolvedores operacionalizarem conceitos éticos abstratos dentro das metodologias ágeis existentes, evitando a necessidade de substituir ferramentas inteiras.
• Inclusividade: O trabalho visa descolonizar a ética da IA ao centrar perspectivas do Sul Global, argumentando que a verdadeira confiabilidade requer abordar injustiças epistêmicas e fomentar sistemas equitativos e sensíveis ao contexto.

Os autores reconhecem modestamente as limitações, observando que o trabalho apresenta um modelo teórico sem métricas operacionais específicas para avaliar a confiança relacional. Eles convocam pesquisas futuras para desenvolver ferramentas que avaliem a confiança além da precisão e segurança, incorporando dimensões relacionais e experienciais através de diversos contextos culturais.