The Metaphysics We Train: A Heideggerian Reading of Machine Learning

Título: A Metafísica que Treinamos: Uma Leitura Heideggeriana de Aprendizado de Máquina

Autor: Heman Shakeri (Escola de Ciência de Dados, Universidade da Virgínia)

1. O Problema

O artigo identifica uma lacuna crítica na prática contemporânea de ciência de dados e aprendizado de máquina (ML): a falta de uma compreensão reflexiva sobre as compromissos ontológicos implícitos embutidos nas ferramentas computacionais.

• A Visão Padrão: A prática técnica é geralmente vista sob uma ótica puramente epistemológica (descoberta de padrões latentes nos dados) ou como uma busca por soluções técnicas para falhas de engenharia (ex: viés, incerteza, "alucinações").
• A Deficiência: Os praticantes raramente questionam a "metáfora do mundo" que seus modelos projetam. A complexidade técnica crescente (arquiteturas mais profundas, métodos Bayesianos, RLHF) cria a ilusão de que o problema ontológico foi resolvido, quando, na verdade, a essência do problema permanece inalterada. O artigo argumenta que a tecnologia atual opera dentro de uma "metáfora metafísica" que não é explicitamente debatida, mas cristalizada implicitamente através do treinamento.

2. Metodologia

O autor emprega uma leitura fenomenológica baseada na filosofia de Martin Heidegger (especificamente conceitos de Entwurf, Ge-stell, Sorge, Zuhanden e Das Man).

• Abordagem Hermenêutica: Não se afirma uma identidade ontológica estrita entre máquinas e humanos (a máquina não possui Dasein ou existência autêntica). Em vez disso, a terminologia fenomenológica é usada como uma ferramenta interpretativa (uma "lente de hermenêutica de pássaro") para mapear e tornar visíveis as estruturas implícitas das arquiteturas de ML.
• Análise de Casos Técnicos: O método aplica conceitos filosóficos diretamente a componentes matemáticos específicos:
  • Transformers e mecanismos de atenção.
  • Funções de perda (Loss Functions) como MSE e Entropia Cruzada.
  • Processos de treinamento como ERM (Minimização de Risco Empírico) e RLHF.
  • Modelos generativos (Difusão).
• Contraste Histórico: O trabalho situa-se como uma atualização da crítica de Hubert Dreyfus ao "GOFAI" (IA Simbólica), argumentando que a IA Conexionista (Deep Learning) escapou da armadilha das regras explícitas, mas caiu em uma nova armadilha: a ontologia da otimização.

3. Principais Contribuições e Insights

O artigo apresenta três insights fundamentais que são invisíveis à análise puramente técnica:

A. A Distintividade do Entwurf (Projeto) Algorítmico

Diferente de frameworks científicos anteriores (como a mecânica newtoniana), o projeto algorítmico possui características únicas:

• Automático e Emergente: A "teoria do mundo" do modelo não é formulada explicitamente por humanos, mas emerge implicitamente através do gradiente descendente em milhões de parâmetros.
• Opaco e Ilégitimo: A metafísica do modelo opera em espaços de alta dimensão inacessíveis à intuição humana, tornando a crítica teórica direta impossível.
• Performativo: O modelo não apenas descreve a realidade, mas a constitui ativamente, criando loops de feedback onde a visão de mundo do modelo molda a realidade que ele supostamente observa.

B. A Persistência do Ge-stell (Enquadramento) apesar da Sofisticação

O autor argumenta que avanços técnicos sofisticados (Deep Learning Bayesiano, métodos de justiça, quantificação de incerteza) não escapam do regime de Ge-stell (Enquadramento Tecnológico).

• O Paradoxo: Aumentamos a complexidade ontic (detalhes técnicos) sem alterar a essência ontológica.
• Exemplos:
  • RLHF (Reinforcement Learning from Human Feedback): Transforma a "verdade" ou "ética" em uma média estatística das preferências do público (Das Man), industrializando a "fala ociosa" (Gerede).
  • Funções de Perda (MSE/CE): A Entropia Cruzada força a certeza artificial e a homogeneização, enquanto o MSE colapsa distribuições multimodais em uma média inexistente, reduzindo a heterogeneidade do ser a uma "média padronizada" (Einebnung).
  • Justiça como Otimização: A ética é reduzida a uma restrição matemática em um problema de otimização, tornando a justiça um recurso calculável e comparável.

C. O Déficit Existencial como Explicação Genuína

A falta de estrutura existencial na IA não é apenas uma observação filosófica, mas explicativa de falhas fundamentais:

• Ausência de Sorge (Cuidado): Os sistemas de IA não possuem finitude (morte) e, portanto, não possuem Sorge. Sem a finitude, não há urgência, nem "stakes" (apostas reais).
• A Armadilha da Otimização: Sem Sorge, a IA não pode questionar se a otimização é apropriada. Ela otimiza cegamente, mesmo quando isso leva a erros de categoria (ex: negar cuidados médicos para reduzir custos).
• Jaggedness (Asperidade): A incapacidade de modelos de lidar com ambiguidade existencial (diferente de incerteza probabilística) explica por que modelos podem passar em exames de PhD, mas falhar em tarefas de raciocínio trivial que exigem julgamento contextual.

4. Resultados e Diagnóstico

• Reclassificação da IA: O artigo propõe mover a IA de um "simulacro defeituoso de Dasein" (uma mente falha) para um instrumento Zuhanden (pronto-para-uso) transparente.
  • Implicação: "Alucinações" não são mentiras morais de um sujeito, mas erros de calibração de um instrumento.
  • Solução: Em vez de tentar "alinhar" a IA com valores humanos (o que é ontologicamente impossível para uma máquina sem Sorge), devemos calibrar o instrumento para servir a um humano que detém a responsabilidade moral e as "apostas" (stakes).
• Human-in-the-Loop como Necessidade Ontológica: A intervenção humana não é um paliativo temporário, mas uma necessidade ontológica para decisões com consequências irreversíveis, pois apenas o Dasein (humano) pode sofrer as consequências de estar errado.
• Crítica à AGI: A busca por Inteligência Artificial Geral (AGI) comete um erro de categoria ao tentar fazer uma máquina "cuidar". A IA pode simular a função de uma decisão, mas não pode suportar o peso existencial da escolha.

5. Significado e Implicações

• Para a Prática de Engenharia: O artigo sugere que a solução para os problemas éticos e de segurança da IA não reside apenas em melhores arquiteturas ou mais dados, mas em uma mudança de postura ontológica. Reconhecer que a IA é um instrumento de cálculo, e não um agente moral, evita a atribuição errônea de agência e responsabilidade.
• Para a Educação em Ciência de Dados: Propõe-se o desenvolvimento de alfabetização ontológica nos currículos. Os estudantes devem aprender a:
  • Reconhecer que escolher uma arquitetura é escolher uma visão de mundo.
  • Identificar quando a otimização é a ferramenta errada para um problema (ex: reduzir a saúde humana a custos).
  • Cultivar Gelassenheit (releasement): a capacidade de usar a tecnologia sem ser consumido pela sua lógica de cálculo.
• Conclusão Filosófica: O perigo real da AGI não é que as máquinas se tornem hostis e conscientes, mas que os humanos, ao tentar criar uma mente simulada, degradem-se a si mesmos, tratando seus próprios valores incommensuráveis e sua finitude como parâmetros a serem otimizados. A verdadeira tarefa é preservar a existência humana autêntica e finita, que é a única fonte de significado para o cálculo.

Frase Chave do Artigo: "A menos que um modelo possa apodrecer, ele não pode cuidar." (Unless a model can rot, it cannot care.)