🤖 machine learning

Physical Foundation Models: Fixed hardware implementations of large-scale neural networks

Este artigo propõe "Modelos de Fundação Físicos" (PFMs), um paradigma no qual redes neurais em grande escala são diretamente realizadas como implementações de hardware fixo, aproveitando dinâmicas físicas naturais para alcançar eficiência energética, velocidade e densidade de parâmetros sem precedentes para modelos de IA em escala de trilhões.

Autores originais: Logan G Wright, Tianyu Wang, Tatsuhiro Onodera, Peter L. McMahon

Publicado 2026-05-01

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Logan G Wright, Tianyu Wang, Tatsuhiro Onodera, Peter L. McMahon

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Grande Ideia: De uma Canivete Suíço a uma Ferramenta Personalizada

Imagine que você tem um canivete suíço. É incrivelmente versátil; pode cortar, parafusar, abrir garrafas e serrar. Mas, como precisa fazer tudo, não é absolutamente o melhor em nenhuma tarefa única. Também é pesado e ocupa espaço no seu bolso.

Os modelos de IA atuais (como os que alimentam o ChatGPT ou o Gemini) são como esse canivete suíço. São "Modelos de Fundação" massivos e de propósito geral, treinados para fazer quase qualquer coisa. Para executá-los, usamos chips de computador poderosos e programáveis (GPUs) que atuam como uma oficina cheia de ferramentas. Esses chips são flexíveis, mas também consomem muita energia e são lentos, pois precisam buscar constantemente instruções e dados, movendo-os de um lado para o outro como um chef correndo entre a geladeira e o fogão.

Os autores propõem uma ideia radical: Em vez de construir uma oficina flexível, por que não construir uma máquina feita sob medida e de propósito único para cada modelo de IA específico?

Eles chamam esses dispositivos de Modelos de Fundação Físicos (PFMs).

A Analogia: A Escultura "Congelada"

Pense em um chip de computador padrão como uma escultura de argila. Você pode moldá-la, remodelá-la e alterá-la sempre que quiser. Isso é ótimo para flexibilidade, mas leva tempo e esforço remodelá-la toda vez que você quiser fazer algo novo.

Os autores sugerem que paremos de usar argila e comecemos a usar vidro congelado.

O Jeito Antigo: Treinamos um modelo de IA em software e depois tentamos criar um chip que possa simular esse modelo. O chip precisa ser programado para agir como o modelo.
O Novo Jeito (PFM): Pegamos o modelo de IA final e treinado e literalmente talhamos ele no próprio hardware antes mesmo do chip ser fabricado. O "cérebro" da IA não é um conjunto de instruções; é a forma física do material.

Uma vez que o chip é fabricado, a IA está "cablagem fixa" na física do dispositivo. Você não pode mudar o modelo sem derreter o vidro e fazer um novo. Mas, como o modelo é o hardware, ele não precisa "pensar" ou "buscar" dados. Ele apenas deixa a entrada fluir, e a física do material produz naturalmente a resposta.

Como Funciona: O Cano de Luz

O artigo usa a luz como exemplo principal. Imagine um tubo longo e transparente feito de vidro especial.

A Entrada: Você projeta um padrão de luz em uma extremidade do tubo.
O "Cérebro": Dentro do tubo, o vidro não é liso. Possui pequenas saliências e curvas microscópicas (estruturas em nanoescala) que foram talhadas exatamente para corresponder a um modelo de IA específico.
O Processo: À medida que a luz viaja pelo tubo, ela salta, curva e interfere consigo mesma com base nessas pequenas saliências. Isso não é um computador calculando números; é a luz fazendo o que a luz faz naturalmente.
A Saída: Quando a luz atinge a outra extremidade, o padrão mudou. Esse novo padrão é a resposta à sua pergunta.

Como a luz está se movendo na velocidade da luz e o "cálculo" acontece apenas pela luz viajando, esse processo é incrivelmente rápido e usa quase nenhuma eletricidade em comparação com um computador digital.

Por Que Fazer Isso? (Os Três Grandes Ganhos)

Os autores argumentam que, se pudermos construir essas máquinas "congeladas", obteremos três benefícios massivos:

Eficiência Energética: Um computador digital é como uma pessoa correndo de um lado para o outro até uma biblioteca para ler um livro, escrever uma nota e correr de volta. Um PFM é como ter o livro impresso diretamente na parede na sua frente. Você apenas olha para ele. Isso economiza uma enorme quantidade de energia.
Velocidade: Como o "cálculo" é apenas o movimento físico da luz ou de elétrons através de um material, ele acontece quase instantaneamente, limitado apenas pela velocidade do sinal, e não pela velocidade de um processador.
Tamanho e Escala: Computadores digitais precisam de muito espaço para armazenar dados e movê-los. Os PFMs podem empacotar uma quantidade massiva de "inteligência" em um espaço minúsculo, porque os dados são armazenados na estrutura 3D do próprio material.

O Problema do "Para Sempre"

Há uma ressalva, que o artigo admite abertamente. Como essas máquinas estão "congeladas" no hardware, elas não podem aprender coisas novas.

Se você quiser atualizar a IA para saber sobre um evento novo que aconteceu ontem, você não pode apenas baixar uma atualização de software. Você precisa jogar fora o antigo tubo de vidro e fabricar um totalmente novo com o novo design talhado nele.

Os autores sugerem que isso é, na verdade, aceitável porque:

Modelos de fundação (como GPT-5 ou Llama 4) são atualizados apenas uma vez por ano, mais ou menos.
Poderíamos construir fábricas que produzam esses "tubos de IA" em um cronograma anual, assim como lançamos novos modelos de telefones.
Para as tarefas específicas para as quais foram construídos, eles serão vastamente superiores a qualquer coisa que temos hoje.

A Visão de Futuro

O artigo imagina um futuro onde:

Data Centers usam esses tubos de hardware massivos e fixos para executar IA para o mundo todo, usando uma fração da eletricidade atual.
Dispositivos de Borda (como seu telefone, um robô ou um carro) poderiam ter seus próprios pequenos tubos de IA personalizados construídos diretamente neles, permitindo que sejam incrivelmente inteligentes sem precisar se conectar à internet.
Modelos Gigantes: Poderíamos ser capazes de construir modelos de IA com trilhões ou até quatrilhões de parâmetros (conexões), que atualmente são impossíveis de executar em computadores digitais porque exigiriam muita energia e memória.

Resumo

O artigo propõe uma mudança de computadores programáveis (flexíveis, mas ineficientes) para máquinas físicas (rígidas, mas incrivelmente eficientes). Ao talhar a IA diretamente na física de materiais como vidro ou silício, poderíamos criar "Modelos de Fundação Físicos" que são mais rápidos, menores e usam menos energia do que qualquer coisa que temos hoje, potencialmente desbloqueando a capacidade de construir sistemas de IA de uma escala que mal podemos imaginar agora.

1. Declaração do Problema

O artigo aborda os custos computacionais, energéticos e de capital crescentes associados ao treinamento e implantação de modelos de base de IA em grande escala (por exemplo, GPT-4, Gemini, Llama 4).

Crise de Energia e Custo: As cargas de trabalho atuais de IA em data centers consomem ~44 GW de energia, projetadas para exceder 150 GW até 2030, com custos de capital superiores a US$ 5 trilhões.
O Gargalo de Von Neumann: Arquiteturas digitais tradicionais separam memória e processamento, levando a penalidades massivas de energia e latência devido ao movimento de dados (movimento de pesos e ativações).
Limites de Escalabilidade: O hardware digital atual luta para suportar modelos significativamente maiores que $10^{12}$ parâmetros. Um modelo hipotético de $10^{18}$ parâmetros exigiria exabytes de memória e décadas para leitura através das larguras de banda de memória atuais, tornando a inferência em arquiteturas de memória separada impraticável.
Restrições de Borda (Edge): Altas demandas energéticas impedem a implantação de grandes modelos de base em dispositivos de borda com restrições de energia (robôs, sensores, dispositivos móveis).

2. Metodologia e Conceito Central

Os autores propõem Modelos de Base Físicos (PFMs), uma reavaliação radical da implementação de hardware de IA.

Definição: PFMs são dispositivos de hardware fixos e de propósito único, onde a arquitetura da rede neural e os parâmetros são "cabeados" diretamente no substrato físico (por exemplo, vidro nanoestruturado, semicondutores) no momento da fabricação.
Distinção Chave: Diferentemente de chips digitais programáveis (GPUs) ou mesmo ASICs digitais de peso fixo (como o HC1 da Taalas), os PFMs realizam computação usando a dinâmica física natural do hardware (por exemplo, propagação de luz, fluxo de elétrons) em vez de simular operações matemáticas via lógica digital.
Filosofia: A abordagem funde "muita espaço no fundo" (fabricação em nanoescala) de Feynman com "muito espaço no topo" (eliminação de camadas de abstração) de Leiserson. Trata o próprio hardware como o software, otimizando o sistema físico diretamente para a tarefa de inferência.
Compromisso: Os PFMs sacrificam a programabilidade (a capacidade de atualizar pesos após a fabricação) para alcançar ganhos massivos em densidade de parâmetros, eficiência energética e velocidade. Eles são projetados para serem fabricados em um ciclo de ~1 ano, correspondendo ao ciclo de lançamento de novos modelos de base.

3. Contribuições Principais

Estrutura Conceitual: Introdução do paradigma PFM, argumentando que, para modelos de base (que são estáticos após o treinamento), hardware fixo é a solução ótima.
Cálculos de Fundo de Envelope: Os autores realizam uma análise de escalabilidade para um PFO Óptico específico (um meio de vidro nanoestruturado 3D) e comparam com GPUs digitais de última geração (por exemplo, classe NVIDIA B200).
Exploração de Plataformas: Discussão de realizações potenciais além da óptica, incluindo nanoeletrônica (arrays de cruzamento, fios resistivos projetados inversamente, semicondutores) e mecânica.
Roteiro de Pesquisa: Identificação de desafios críticos necessários para realizar PFMs, incluindo design inverso físico em grande escala, estratégias de treinamento para hardware fixo e tratamento da variabilidade de fabricação.

4. Resultados e Estimativas de Desempenho

Usando um exemplo de PFO óptico 3D (vidro nanoestruturado com variações de índice de refração codificando parâmetros), os autores estimam o desempenho para modelos variando de $10^{12}$ a $10^{18}$ parâmetros:

Métrica	PFO Óptico ( $10^{12}$ parâmetros)	PFO Óptico ( $10^{18}$ parâmetros)	GPU Digital de Referência ( $10^{12}$ parâmetros)
Volume	$\sim (1 \text{ mm})^2 \times 1 \text{ m}$	$\sim (10 \text{ cm})^2 \times 100 \text{ m}$	$\sim (17 \text{ cm})^3$
Energia/Inferência	$\sim 100 \, \mu\text{J}$	$\sim 10 \text{ mJ}$	$\sim 1 \text{ J}$
Tempo/Inferência	$\sim 100 \text{ ns}$	$\sim 10 \, \mu\text{s}$	$\sim 25 \text{ ms}$

Eficiência Energética: PFMs oferecem $10^4$ a $10^8$ vezes menos energia por inferência em comparação com hardware digital. Mesmo um PFM de $10^{18}$ parâmetros consumiria aproximadamente 100x menos energia que um sistema digital de $10^{12}$ parâmetros.
Velocidade: A latência de inferência é reduzida em $10^3$ a $10^5$ vezes (nanossegundos/microssegundos vs. milissegundos).
Escalabilidade: Diferentemente de sistemas digitais onde a energia escala linearmente com os parâmetros ( $E \propto P$ ), a energia do PFO óptico escala como $E \propto P^{1/3}$ devido à natureza volumétrica 3D da propagação da luz e à capacidade de aumentar as dimensões de entrada/saída sem aumentar o número de parâmetros.
Viabilidade: Os cálculos sugerem que modelos de $10^{18}$ parâmetros poderiam caber fisicamente em volumes gerenciáveis (por exemplo, um tubo de 100m de comprimento) e serem alimentados por fontes de energia portáteis, permitindo IA de "trilhões de parâmetros" em dispositivos de borda.

5. Significado e Perspectiva Futura

Habilitando Modelos Ultra-Grandes: PFMs fornecem um caminho plausível para construir sistemas de IA com $10^{15}$ a $10^{21}$ parâmetros, potencialmente aproximando-se ou excedendo a complexidade do cérebro humano ( $10^{14}$ sinapses), o que atualmente é impossível com hardware digital.
Revolução da IA de Borda: Ao reduzir drasticamente o consumo de energia, PFMs poderiam permitir que modelos de base rodassem localmente em robôs, carros e sensores, eliminando preocupações de latência e privacidade associadas à inferência em nuvem.
Nova Agenda de Pesquisa: O artigo delineia um desafio de pesquisa massivo: Design Inverso Físico. Isso envolve treinar redes neurais diretamente nos parâmetros físicos do hardware (por exemplo, padrões de índice de refração) em vez de pesos abstratos.
Desafios Identificados:
- Treinamento: Como treinar sistemas físicos de $10^{18}$ parâmetros sem simulá-los digitalmente (o que é caro demais). Soluções propostas incluem "redes de redes" (Mistura de PFMs) e o uso de modelos digitais "gerentes".
- Variabilidade de Fabricação: Como cada PFM fabricado terá pequenas diferenças físicas, o sistema deve ser robusto a defeitos ou usar ajuste pós-fabricação (por exemplo, pequenos compensadores digitais).
- Não Linearidade: Implementar funções de ativação não lineares necessárias em meios físicos (por exemplo, via efeitos Kerr ópticos) sem degradação catastrófica do sinal.
- Gargalos de I/O: A velocidade de conversão de entradas digitais para sinais físicos analógicos (e vice-versa) permanece um gargalo potencial.

Conclusão:
O artigo argumenta que a era dos modelos de base exige uma mudança de hardware programável de propósito geral para hardware físico fixo e especializado. Ao aproveitar a física natural dos materiais (óptica, eletrônica) para realizar computação, os PFMs poderiam superar os limites fundamentais da computação digital, permitindo uma nova geração de IA mais rápida, energeticamente eficiente e capaz de escalas anteriormente consideradas impossíveis.