Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Each language version is independently generated for its own context, not a direct translation.

Imagine que você está em uma praça pública muito movimentada. Antigamente, se alguém quisesse fazer uma afirmação séria sobre o que estava acontecendo (como "o prefeito roubou dinheiro" ou "esta ponte é segura"), essa pessoa precisava mostrar suas provas: documentos, testemunhas, fotos. Se não tivesse provas, a pessoa sabia que não podia gritar a acusação, senão estaria mentindo ou espalhando boatos.

Agora, imagine que entramos nessa praça "robôs falantes" (a Inteligência Artificial Generativa). Esses robôs são incrivelmente eloquentes. Eles falam com tanta confiança, fluência e autoridade que parece que eles sabem a verdade absoluta. O problema é que, muitas vezes, eles estão apenas "adivinhando" com base em padrões estatísticos, sem ter provas reais. Eles podem inventar fatos ("alucinar") e fazê-los soar como verdades inquestionáveis.

O Problema:
Quando esses robôs começam a dar vereditos definitivos em assuntos importantes (como saúde, justiça, eleições ou segurança), nós, os humanos, perdemos nossa capacidade de julgar. Paramos de pensar: "Isso é verdade?" e passamos a apenas aceitar: "O robô disse, então é verdade". Isso é perigoso para a democracia, porque nos torna passivos, como ouvintes que apenas recebem ordens, em vez de cidadãos que participam do debate.

A Solução Proposta (O "Robô Brouweriano"):
O autor deste artigo, Michael Jülich, propõe uma regra simples, mas revolucionária, baseada em uma ideia matemática antiga (do matemático L.E.J. Brouwer). A regra é: "Sem certificado, sem veredito."

Vamos usar uma analogia para entender como isso funcionaria na prática:

A Analogia do "Guarda de Trânsito com Lanterna"

Imagine que a IA é um guarda de trânsito que precisa decidir se um carro pode passar (Veredito: Sim) ou se deve parar (Veredito: Não).

O Modelo Atual (O Guarda Cego):
O guarda olha para o carro e diz: "Eu sinto que 95% de chance de que você pode passar". Ele não tem uma lanterna para ver o chão, nem um manual de regras. Ele apenas "sente". Se ele estiver errado, o acidente acontece, e ninguém sabe por que ele tomou aquela decisão. Ele dá um veredito sem provas.
O Novo Modelo (O Guarda com Lanterna e Certificado):
Agora, imagine que esse guarda é obrigado a seguir uma nova regra. Antes de dizer "Pode passar" ou "Pare", ele precisa acender uma lanterna e mostrar um certificado que prove sua decisão.
- O Certificado: É como uma "caixa de ferramentas" que ele deve abrir. Dentro dela, ele precisa mostrar: "Olhe aqui, os documentos oficiais dizem X, e meu cálculo matemático prova que o limite de velocidade foi respeitado".
- A Regra de Ouro: Se a lanterna não conseguir iluminar o suficiente para provar a decisão (se as provas estiverem confusas, faltando ou não forem fortes o suficiente), o guarda NÃO PODE dizer "Sim" ou "Não".

O Que Acontece Quando Não Há Provas?
Aqui está a parte mais importante. Se o guarda não tiver o certificado, ele não inventa uma resposta. Ele levanta a mão e diz: "Indeterminado".

E ele não diz apenas "Indeterminado". Ele entrega um bilhete (o "código de motivo") explicando por que não pode decidir:

"Indeterminado porque faltam documentos públicos."
"Indeterminado porque os números estão muito próximos para ter certeza."
"Indeterminado porque o caso está fora da minha jurisdição."

Por que isso é bom para nós?

Protege nossa inteligência: Ao dizer "Indeterminado", o robô está dizendo: "Eu não sei o suficiente para decidir por você. Você precisa olhar as provas, discutir e decidir". Isso nos força a continuar pensando e participando, em vez de apenas aceitar o que a máquina diz.
Evita mentiras confiantes: Impede que a IA invente fatos e os apresente como verdades absolutas. Se ela não tem o "certificado", ela fica em silêncio (ou diz "não sei").
Transparência: Quando ela diz "Sim" ou "Não", ela entrega o "certificado" junto. Você pode olhar, verificar e contestar se achar que o cálculo está errado.

O Resumo em uma Frase

A ideia é transformar a Inteligência Artificial de um "oráculo que sabe tudo" em um "funcionário responsável" que só fala quando tem provas em mãos. Se não tiver provas, ele deve admitir que não sabe, protegendo a nossa capacidade de julgar e decidir por nós mesmos.

É como dizer: "Não me diga o que é verdade apenas porque você soa convincente. Mostre-me o certificado, ou eu não vou aceitar sua palavra."

Each language version is independently generated for its own context, not a direct translation.

Título: Sustentar a Agência Epistêmica: Uma Restrição de Assertibilidade Brouweriana para IA Responsável

1. O Problema

O artigo identifica uma crise na agência epistêmica (a capacidade dos indivíduos de reconhecer, avaliar e agir com base no conhecimento) causada pela ascensão de sistemas de IA generativa.

A Natureza do Problema: Sistemas de IA modernos convertem incertezas probabilísticas em vereditos autoritários e fluentes. Isso desloca o trabalho de justificação que é fundamental para a democracia.
Riscos: A "fluência" da IA pode mascarar alucinações como conhecimento, corroer a deliberação pública, facilitar a desinformação e desqualificar cidadãos ao reduzir a necessidade de prática crítica.
Limitação das Abordagens Atuais: Métodos existentes de quantificação de incerteza (como previsão conformal ou entropia semântica) fornecem intervalos ou conjuntos de rejeição, mas não estabelecem uma norma pública que distinga entre uma afirmação categórica justificada e uma "fluência injustificada". O problema não é apenas técnico, mas filosófico e político: como determinar quando uma máquina tem o direito de falar com certeza em domínios de alto risco?

2. Metodologia e Fundamentação Teórica

O autor propõe uma solução baseada na Intuicionismo Matemático de L.E.J. Brouwer, adaptando seus princípios para a arquitetura de sistemas de IA.

Princípio Central (Restrição de Assertibilidade Brouweriana): Em domínios de alto risco, um sistema de IA só pode afirmar ou negar uma proposição se puder apresentar um certificado de direito (entitlement) publicamente inspecionável e contestável. Caso contrário, o sistema deve se abster e retornar o status "Indeterminado" (Undetermined).
Conceitos Chave Adaptados:
- Construção vs. Verdade: A verdade não é um estado pré-existente, mas o resultado de uma construção verificável. Uma afirmação só é assertível se houver uma "construção" (evidência) que a sustente.
- Rejeição da Lei do Terceiro Excluído: Diferente da lógica clássica (onde uma afirmação é verdadeira ou falsa), a lógica intuicionista aceita um terceiro estado: quando não há prova nem refutação disponível.
- Sequências de Escolha: Modela o conhecimento como um processo aberto e temporalmente indexado, onde o direito de afirmar evolui conforme novos dados e certificados surgem.
Abordagem Híbrida: O artigo não exige que toda a IA seja construtiva, mas propõe uma camada de decisão construtiva (um "wrapper") sobre modelos clássicos (como LLMs) que atua como um portão de atos de fala.

3. Arquitetura Técnica e Semântica da Interface

O cerne da proposta é uma nova semântica de interface de três estados, governada por um contrato de saída.

3.1. Dimensões de Direito (Entitlement)

O sistema distingue dois regimes paralelos:

Regime Interno ( $\langle R, t_{int} \rangle$ ): Foca em "testemunhas" computacionais verificáveis (ex: limites de intervalos, margens de separação, artefatos de verificação formal) que provam uma afirmação sobre os cálculos internos do modelo.
Regime Público ( $\langle S, \tau, t \rangle$ ): Foca em "direitos discursivos" baseados em evidências públicas, padrões institucionais, proveniência e contestabilidade.

3.2. Os Três Estados da Interface

A saída do sistema não é um valor de verdade, mas um status de direito de afirmar ( $W$ ):

A (Asserted): O sistema é direito de afirmar $\phi$ . Requer um certificado que force a afirmação (ex: limite inferior de um intervalo $\ge$ limiar $\tau$ ).
D (Denied): O sistema é direito de negar $\phi$ . Requer um certificado que force a negação (ex: limite superior $<$ limiar $\tau$ ).
U (Undetermined): O sistema não tem direito de afirmar nem negar. Isso ocorre quando:
- Não há testemunha interna que force a decisão (os limites do intervalo cruzam o limiar).
- As condições de direito público (proveniência, escopo) não são atendidas.
- O orçamento computacional para encontrar uma testemunha foi excedido.
- Importante: "U" não é uma opção de rejeição sintonizável baseada em confiança; é uma obrigação mandatória quando não há certificado.

3.3. O Certificado como Objeto de Fronteira

O certificado ( $\kappa$ ) atua como um objeto de fronteira que conecta a matemática interna à norma social. Ele é uma tupla contendo:

Tipo, reivindicação, testemunha (ex: intervalo $[l, u]$ ).
Assunções, escopo, tempo, e proveniência.
Deve ser verificável por um auditor externo ( $Check_C(\kappa)$ ).

4. Contribuições Principais

Restrição de Assertibilidade Brouweriana: Formaliza a regra "sem certificado, nenhum ato de fala categórico". Transforma a incerteza de um problema estatístico em uma obrigação normativa de abstenção.
Semântica de Interface A/D/U: Define rigorosamente que os estados A e D aplicam-se a reivindicações de garantia (warrant-claims), não à verdade do mundo. O estado U é um mecanismo de segurança deliberativa, não um erro.
Lema de Design (Proposição 1): O autor prova que qualquer interface binária (A/D) total e sonora (baseada em certificados) implica, por definição, que o predicado implantado é decidível no seu escopo.
- Consequência: Se o sistema não consegue decidir com um certificado, ele não pode forçar uma saída binária sem mentir epistemicamente. Portanto, o estado U é matematicamente obrigatório quando não há testemunha.
Implementação Híbrida Proposta: Sugere uma arquitetura onde um núcleo clássico (LLM) gera fluência, mas uma "camada de wrapper construtiva" avalia se as alegações podem ser forçadas por limites de intervalo ou verificação formal antes de serem emitidas. Se não houver forçamento, o sistema retorna "U" com um código de razão (ex: U-MODEL, U-EVIDENCE, U-SCOPE).

5. Resultados e Estudo de Caso

O artigo utiliza um estudo de caso fictício ("Tooth Social", um assistente político) para ilustrar a aplicação:

Cenário: Um escândalo de corrupção ministerial.
Estágio 1 (Indeterminado): Com evidências iniciais (alegações anônimas), o intervalo certificado do sistema é $[0.42, 0.81]$ . Como o limiar de decisão é $0.7$, o intervalo cruza o limiar. O sistema retorna U e explica que não há direito de afirmar corrupção, incentivando a busca por mais evidências.
Estágio 2 (Assertido): Com um relatório do Congresso (nova evidência pública), o intervalo se torna $[0.76, 0.84]$ . Agora, o limite inferior é $\ge 0.7$ . O sistema retorna A com um certificado anexado, legitimando a afirmação de corrupção.
Resultado: O sistema evita emitir vereditos prematuros, mantendo a agência epistêmica dos cidadãos ao exigir que a afirmação seja acompanhada de um certificado contestável.

6. Significado e Implicações

Ética e Democracia: A proposta visa proteger a democracia contra a "desqualificação" cognitiva causada pela IA. Ao forçar a abstenção quando a evidência é insuficiente, o sistema obriga os usuários a participarem da justificação pública em vez de aceitarem passivamente vereditos.
Responsabilidade Técnica: Transforma a "confiança" (confidence) em "direito de afirmar" (entitlement). A precisão numérica não é suficiente; é necessária uma justificativa estrutural e verificável.
Limitações e Trade-offs: O autor reconhece que essa abordagem aumenta o custo computacional e pode levar a taxas mais altas de abstenção (U). No entanto, argumenta que em domínios de alto risco (saúde, justiça, eleições), a precisão epistêmica e a responsabilidade devem superar a eficiência e a velocidade.
Visão Futura: O artigo propõe uma "educação para adultos" (citando Cavell), onde tanto as máquinas quanto os cidadãos aprendem a lidar com a incerteza de forma responsável, transformando a interação com a IA em um processo de co-evolução e verificação mútua.

Conclusão

O artigo oferece uma estrutura rigorosa para alinhar a IA com os princípios da democracia deliberativa. Ao substituir a lógica binária clássica por uma lógica intuicionista baseada em certificados, ele estabelece que a autoridade de uma máquina não deve derivar de sua fluência estatística, mas de sua capacidade de exibir fundamentos verificáveis. A abstenção (U) deixa de ser uma falha e torna-se um mecanismo de integridade epistêmica.