Can machines be uncertain?

O artigo investiga a capacidade de sistemas de IA realizarem estados de incerteza, distinguindo entre incerteza epistêmica e subjetiva, bem como suas realizações distribuídas e discretas, propondo que certas formas de incerteza funcionam como atitudes interrogativas cujo conteúdo é uma questão em vez de uma proposição.

O essencial

🤖 A Máquina que Dá de Ombros: Quando a IA Sabe que Não Sabe

Imagine que você está perguntando a um robô: "Vai chover amanhã?".
Um robô "burro" ou mal programado diria: "Sim" ou "Não", sem pensar. Ele sempre tem uma resposta pronta, mesmo que esteja errado.
Mas um robô inteligente deveria saber quando não sabe. Ele deveria dizer: "Hmm, os dados estão confusos. Talvez chova, talvez não. Estou em dúvida".

O artigo do Luis Rosa pergunta: As máquinas realmente conseguem ter essa "dúvida" interna? Ou elas apenas simulam?

Para responder, o autor divide o problema em três partes: o que é dúvida, como diferentes tipos de IA lidam com ela e se a dúvida "de dentro" importa se o comportamento "de fora" não mostra.

---

1. O Que é "Dúvida" de Verdade? (A Diferença entre Dados e Opinião)

O autor faz uma distinção importante, como se fosse a diferença entre ter um mapa borrado e ter um motorista confuso.

• Incerteza Epistêmica (O Mapa): É quando as informações que a máquina tem são ruins. Imagine que você recebe um relatório meteorológico que diz "50% de chance de chuva". O dado é incerto.
• Incerteza Subjetiva (O Motorista): É quando a própria mente da máquina está em dúvida. É a atitude dela.

A Analogia do Marinheiro:
Imagine um marinheiro (a IA) com um mapa (os dados).

• Se o mapa está rasgado (dados incertos), mas o marinheiro diz: "Eu tenho certeza absoluta que a ilha está aqui!", ele tem incerteza nos dados, mas nenhuma dúvida na mente. Ele é teimoso.
• Se o mapa está perfeito, mas o marinheiro diz: "Não tenho certeza se devo seguir para o norte ou para o sul", ele tem dúvida subjetiva.

O autor quer saber se as IAs podem ser como o segundo marinheiro: capazes de ter uma "opinião" de dúvida, e não apenas processar dados confusos.

---

2. Como Diferentes "Cérebros" de IA Sentem Dúvida?

O autor divide as IAs em dois grandes grupos (e um misto) e explica como cada um "pensa" a dúvida.

A. IAs Simbólicas (Os "Contadores de Regras")

Imagine um detetive clássico que segue um manual de regras escrito em papel.

• Dúvida Probabilística: O detetive tem uma regra: "Se chover, 90% de chance de o chão ficar molhado". Ele escreve no caderno: "Chuva: 90% de certeza". Ele sabe que não é 100%. Essa dúvida é escrita explicitamente.
• Dúvida Categórica (Interrogativa): O detetive recebe uma pergunta: "O suspeito está no quarto?". Ele olha no manual, não acha a resposta e escreve no caderno: "PERGUNTA: O suspeito está no quarto?". Ele não tem uma resposta, ele apenas segura a pergunta. Isso é uma dúvida pura, sem números.

B. IAs Conectivistas (As "Redes Neurais" ou Redes de Neurônios)

Imagine uma grande sala cheia de pessoas (neurônios) conversando ao mesmo tempo, sem um chefe central. A resposta sai da "vibração" geral da sala.

• Dúvida Distribuída: A dúvida não está em uma frase escrita, mas na força dos laços entre as pessoas. Se a rede não sabe se um urso é mamífero, é porque os "fios" que conectam a palavra "urso" à palavra "mamífero" estão frouxos. A dúvida está na estrutura física da rede, não em uma frase.
• Dúvida Pontual (Saída): Às vezes, a rede sai com um número: "Tenho 60% de certeza". Isso é como a IA simbólica, mas gerado pela "vibração" da rede.

---

3. O Grande Problema: A Dúvida Interna vs. O Comportamento Externo

Aqui entra o ponto mais interessante e confuso do artigo. O autor chama isso de "Fissura de Nível" (Level Split).

A Analogia do Ator de Teatro:
Imagine um ator (a sub-máquina) que está no palco.

• Cenário 1: O ator está tremendo, suando frio e dizendo: "Não sei se devo entrar naquela sala, estou com medo". Ele está incerto.
• Cenário 2: O diretor (o sistema maior) grita: "Aja como se tivesse certeza! Entre na sala!" O ator obedece, entra na sala com passos firmes e diz: "Estou certo de que não há monstros".

A pergunta é: O sistema todo é incerto ou não?

• Opção A (A Dúvida Existe): O ator (sub-sistema) está realmente inseguro. O sistema tem dúvida, mas o diretor (o resto do programa) ignora essa dúvida e força uma resposta certa. O sistema é "defeituoso" porque não respeita sua própria dúvida.
• Opção B (A Dúvida Não Existe): O ator pode estar tremendo, mas se o resultado final é "entrar na sala com certeza", então o sistema não é incerto. A dúvida interna foi apagada pelo comportamento externo.

A Conclusão do Autor:
O autor prefere a Opção B.
Ele diz que, para dizer que uma máquina é "incerta", ela precisa agir como incerta. Se a máquina calcula 60% de chance, mas depois age como se tivesse 100% de certeza (tomando decisões arriscadas sem hesitar), então ela não é incerta.

A dúvida não é apenas um estado interno secreto; é algo que precisa mudar o comportamento. Se a máquina não hesita, não pede mais informações e não diz "talvez", então ela não é incerta, não importa o que esteja acontecendo "por dentro".

---

🎯 Resumo Final em uma Frase

Uma máquina só é verdadeiramente "incerta" se ela não apenas tiver dados confusos ou números intermediários, mas se comportar como alguém que não sabe a resposta: hesitando, pedindo mais informações ou dizendo "não sei". Se ela age com certeza absoluta mesmo com dados duvidosos, ela não é uma máquina inteligente e cautelosa; é apenas uma máquina teimosa.

Resumo técnico

Título: Can machines be uncertain? (Os sistemas podem ser incertos?)

Autor: Luis Rosa (Washington University in St. Louis)
Área: Inteligência Artificial (cs.AI) / Filosofia da Mente

---

1. O Problema

O artigo investiga se e como os sistemas de Inteligência Artificial (IA) podem ser considerados "incertos". O autor distingue entre duas formas de incerteza:

• Incerteza Epistêmica: Refere-se à incerteza inerente aos dados ou informações armazenados no sistema (ex: dados de treinamento ambíguos).
• Incerteza Subjetiva (ou do Sistema): Refere-se ao estado de atitude do próprio sistema cognitivo. O sistema deve "sentir" ou processar a dúvida, não apenas conter dados inconclusivos.

O problema central é determinar se as IAs podem realizar estados de incerteza subjetiva (ter uma atitude de dúvida) e, se sim, como essa realização ocorre funcionalmente em diferentes arquiteturas. O autor busca evitar pressupostos sobre consciência ou mentes "completas", focando em funcionalismo e comportamento.

Um ponto crucial é que a incerteza não é apenas uma questão de graus de crença (probabilidades), mas pode ser uma atitude interrogativa fundamental (estar na posição de "não saber a resposta" ou "estar questionando"), irreduzível a proposições afirmativas.

2. Metodologia

A abordagem do autor é analítica e taxonômica, baseada em filosofia da mente (funcionalismo) e ciência da computação. O método consiste em:

1. Definição Conceitual: Estabelecer a distinção entre incerteza epistêmica e subjetiva, e entre atitudes proposicionais (crenças) e atitudes interrogativas.
2. Taxonomia de Arquiteturas: Classificar os sistemas de IA em três categorias principais para análise individual:
   • Sistemas Simbólicos: Baseados em regras explícitas e manipulação de símbolos (ex: lógica, probabilidades simbólicas).
   • Sistemas Conexionistas: Baseados em Redes Neurais Artificiais (ANNs), onde o conhecimento é distribuído em pesos e ativações.
   • Sistemas Híbridos: Combinações das duas abordagens.
3. Análise Funcional: Investigar como a incerteza é "realizada" (implementada) em cada arquitetura, verificando se os estados internos têm o "perfil causal" adequado (ou seja, se causam comportamentos ou processamentos internos característicos da dúvida, como hesitação ou falta de decisão).
4. Análise de Níveis de Interpretação: Examinar o fenômeno de "fissura de nível" (level split), onde um subsistema parece incerto, mas o sistema maior age com certeza.

3. Contribuições Chave e Resultados

A. Realização da Incerteza em Sistemas Simbólicos

O autor identifica dois tipos de realização da incerteza subjetiva:

1. Incerteza Probabilística: O sistema atribui graus de confiança não extremos (ex: 0.9) a proposições. Isso pode ser explícito (armazenar pares <proposição, probabilidade>) ou implícito (inferido a partir de regras comparativas).
2. Incerteza Categórica (Interrogativa): O sistema armazena ou processa fórmulas interrogativas (ex: ?D(a) - "O paciente tem a doença D?"). Aqui, a incerteza não é um grau de crença, mas a presença de uma questão não resolvida no modelo do sistema.
   • Resultado: A incerteza simbólica pode ser explícita (o estado já foi tokenizado) ou implícita (o sistema está em posição de tokenizá-lo sem nova informação).

B. Realização da Incerteza em Sistemas Conexionistas (Redes Neurais)

A análise das ANNs revela nuances importantes:

1. Incerteza de Dados vs. Incerteza do Modelo:
   • Incerteza de Dados: Ambiguidade nos dados de treinamento. O autor argumenta que isso é puramente epistêmico e não implica que a rede seja subjetivamente incerta (a rede pode "pular para conclusões" apesar dos dados ambíguos).
   • Incerteza do Modelo: Falta de conhecimento distribuído nos pesos da rede. O autor argumenta que, em ANNs, a incerteza do modelo é intrinsecamente subjetiva. Se a rede não consegue classificar um padrão (ex: não decide se um urso é mamífero nem se não é), ela está subjetivamente incerta.
2. Tipos de Realização:
   • Distribuída: A incerteza está codificada na estrutura global dos pesos e limiares de ativação (ex: a rede não tem um padrão de ativação definido para uma categoria).
   • Pontual (Point-wise): A incerteza é codificada em vetores de saída específicos (ex: um vetor de saída <0.5> indicando 50% de confiança, ou vetores que não mapeiam para nenhuma classe definida).
3. Requisito Arquitetural: Para que a incerteza pontual seja válida, a rede deve ter capacidade de saída "neutra" (nem 0 nem 1, ou vetores de múltiplas unidades que não ativam classes definidas).

C. O Problema das Fissuras de Nível (Level Splits)

O autor aborda um cenário crítico: um subsistema (ex: uma rede neural ou um módulo simbólico) gera um estado de incerteza (ex: 85% de confiança), mas o sistema maior (o algoritmo de controle) ignora essa incerteza e age com certeza absoluta (ex: trata 85% como 100% de verdade).

• Solução 1 (Defendida pelo Autor): O sistema maior não é incerto. Se o estado de incerteza do subsistema não tem reverberações causais no comportamento do sistema maior (não causa hesitação, não altera a tomada de decisão global), então a incerteza não foi realizada no sistema como um todo.
• Solução 2 (Rejeitada): O sistema é incerto, mas ignora sua própria incerteza. O autor rejeita isso por ser problemático e levar a contradições em sistemas complexos com múltiplos subsistemas.
• Conclusão: A atribuição de incerteza deve ser feita no nível do sistema cognitivo completo e seu comportamento observável, não apenas em subsistemas internos.

4. Significância e Implicações

• Para o Desenvolvimento de IA: O artigo sugere que criar IAs "inteligentes" e seguras exige não apenas lidar com dados incertos (incerteza epistêmica), mas projetar arquiteturas que realizem a incerteza subjetiva. Isso significa que o sistema deve ser capaz de hesitar, não tomar decisões definitivas quando a evidência é insuficiente e expressar dúvida de forma funcional.
• Para a Filosofia da Mente: O trabalho avança a discussão sobre atitudes proposicionais em máquinas, demonstrando que a incerteza pode ser uma atitude fundamentalmente interrogativa, não apenas uma crença probabilística. Isso permite atribuir estados mentais a IAs sem necessitar de consciência.
• Para a Segurança e Alinhamento: Sistemas que "pulam para conclusões" (falta de incerteza subjetiva) são propensos a erros catastróficos. Reconhecer e implementar a incerteza subjetiva é vital para sistemas que operam em ambientes de alta incerteza (ex: medicina, direção autônoma).
• Sistemas Híbridos: O autor conclui que sistemas híbridos (como LLMs modernos) podem realizar incerteza de todas as formas discutidas (simbólica, distribuída, pontual), mas a análise final depende de como o sistema integrado processa essas saídas.

Em suma, o artigo estabelece que a incerteza em máquinas é possível e realizável funcionalmente, mas sua atribuição correta depende de que o estado de dúvida tenha consequências causais reais no comportamento e na tomada de decisão do sistema como um todo.