🤖 machine learning

Physical Foundation Models: Fixed hardware implementations of large-scale neural networks

Este artículo propone "Modelos Fundacionales Físicos" (PFM), un paradigma en el que las redes neuronales a gran escala se materializan directamente como implementaciones de hardware fijas que aprovechan la dinámica física natural para lograr una eficiencia energética, velocidad y densidad de parámetros sin precedentes para modelos de IA a escala de billones.

Autores originales: Logan G Wright, Tianyu Wang, Tatsuhiro Onodera, Peter L. McMahon

Publicado 2026-05-01

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Logan G Wright, Tianyu Wang, Tatsuhiro Onodera, Peter L. McMahon

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La Gran Idea: De un Navaja Suiza a una Herramienta Personalizada

Imagina que tienes una navaja suiza. Es increíblemente versátil; puede cortar, atornillar, abrir botellas y aserrar. Pero como tiene que hacer todo, no es absolutamente la mejor en ninguna tarea individual. Además, es pesada y ocupa espacio en tu bolsillo.

Los modelos de IA actuales (como los que impulsan ChatGPT o Gemini) son como esa navaja suiza. Son masivos, modelos "Fundacionales" de propósito general entrenados para hacer casi cualquier cosa. Para ejecutarlos, utilizamos potentes chips de computadora programables (GPUs) que actúan como un taller lleno de herramientas. Estos chips son flexibles, pero también consumen mucha energía y son lentos porque deben buscar constantemente instrucciones y datos, moviéndolos de un lado a otro como un chef que corre entre la nevera y la estufa.

Los autores proponen una idea radical: En lugar de construir un taller flexible, ¿por qué no construir una máquina hecha a medida y de un solo propósito para cada modelo de IA específico?

A esto lo llaman Modelos Fundacionales Físicos (PFM).

La Analogía: La Escultura "Congelada"

Piensa en un chip de computadora estándar como una escultura de arcilla. Puedes moldearla, remodelarla y cambiarla cuando quieras. Esto es genial para la flexibilidad, pero requiere tiempo y esfuerzo remodelarla cada vez que quieres hacer algo nuevo.

Los autores sugieren que dejemos de usar arcilla y empecemos a usar vidrio congelado.

La Vieja Forma: Entrenamos un modelo de IA en software y luego intentamos fabricar un chip que pueda simular ese modelo. El chip debe programarse para actuar como el modelo.
La Nueva Forma (PFM): Tomamos el modelo de IA final y entrenado y literalmente lo tallamos dentro del propio hardware antes de que el chip sea fabricado. El "cerebro" de la IA no es un conjunto de instrucciones; es la forma física del material.

Una vez que el chip se fabrica, la IA está "cableada" en la física del dispositivo. No puedes cambiar el modelo sin derretir el vidrio y hacer uno nuevo. Pero como el modelo es el hardware, no necesita "pensar" ni "buscar" datos. Simplemente deja que la entrada fluya a través, y la física del material produce naturalmente la respuesta.

Cómo Funciona: El Tubo de Luz

El artículo utiliza la luz como ejemplo principal. Imagina un tubo largo y transparente hecho de vidrio especial.

La Entrada: Iluminas un patrón de luz en un extremo del tubo.
El "Cerebro": Dentro del tubo, el vidrio no es liso. Tiene pequeñas protuberancias y curvas microscópicas (estructuras a nanoescala) que fueron talladas exactamente para coincidir con un modelo de IA específico.
El Proceso: A medida que la luz viaja a través del tubo, rebota, se dobla e interfiere consigo misma basándose en esas pequeñas protuberancias. Esto no es una computadora calculando números; es la luz haciendo lo que la luz hace naturalmente.
La Salida: Cuando la luz llega al otro extremo, el patrón ha cambiado. Ese nuevo patrón es la respuesta a tu pregunta.

Dado que la luz se mueve a la velocidad de la luz y el "cálculo" ocurre simplemente porque la luz viaja, este proceso es increíblemente rápido y utiliza casi ninguna electricidad en comparación con una computadora digital.

¿Por Qué Hacer Esto? (Las Tres Grandes Ventajas)

Los autores argumentan que si podemos construir estas máquinas "congeladas", obtenemos tres beneficios masivos:

Eficiencia Energética: Una computadora digital es como una persona corriendo de un lado a otro a una biblioteca para leer un libro, escribir una nota y volver a correr. Un PFM es como tener el libro impreso directamente en la pared frente a ti. Solo tienes que mirarlo. Esto ahorra una enorme cantidad de energía.
Velocidad: Dado que la "computación" es simplemente el movimiento físico de la luz o los electrones a través de un material, ocurre casi instantáneamente, limitado solo por la velocidad de la señal, no por la velocidad de un procesador.
Tamaño y Escala: Las computadoras digitales necesitan mucho espacio para almacenar datos y moverlos. Los PFM pueden empaquetar una cantidad masiva de "inteligencia" en un espacio diminuto porque los datos se almacenan en la estructura tridimensional del material mismo.

El Problema "Eterno"

Hay una trampa, que el artículo admite abiertamente. Dado que estas máquinas están "congeladas" en el hardware, no pueden aprender cosas nuevas.

Si quieres actualizar la IA para que sepa sobre un evento nuevo que ocurrió ayer, no puedes simplemente descargar una actualización de software. Tienes que tirar el viejo tubo de vidrio y fabricar uno completamente nuevo con el nuevo diseño tallado en él.

Los autores sugieren que esto es realmente aceptable porque:

Los modelos fundacionales (como GPT-5 o Llama 4) se actualizan solo una vez al año o así.
Podríamos construir fábricas que produzcan estos "tubos de IA" en un calendario anual, igual que lanzamos nuevos modelos de teléfonos.
Para las tareas específicas para las que están construidos, serán vastamente superiores a cualquier cosa que tengamos hoy.

La Visión del Futuro

El artículo imagina un futuro donde:

Los Centros de Datos utilicen estos tubos de hardware masivos y fijos para ejecutar IA para todo el mundo, usando una fracción de la electricidad actual.
Los Dispositivos de Borde (como tu teléfono, un robot o un automóvil) podrían tener sus propios pequeños tubos de IA personalizados integrados directamente, permitiéndoles ser increíblemente inteligentes sin necesidad de conectarse a internet.
Modelos Gigantes: Podríamos ser capaces de construir modelos de IA con billones o incluso cuatrillones de parámetros (conexiones), que actualmente es imposible ejecutar en computadoras digitales porque requerirían demasiada energía y memoria.

Resumen

El artículo propone un cambio de las computadoras programables (flexibles pero ineficientes) a las máquinas físicas (rígidas pero increíblemente eficientes). Al tallar la IA directamente en la física de materiales como el vidrio o el silicio, podríamos crear "Modelos Fundacionales Físicos" que sean más rápidos, más pequeños y usen menos energía que cualquier cosa que tengamos hoy, desbloqueando potencialmente la capacidad de construir sistemas de IA de una escala que apenas podemos imaginar en este momento.

A continuación se presenta un resumen técnico detallado del artículo "Fundamentos Físicos de Modelos: Implementaciones de hardware fijo de redes neuronales a gran escala" de Wright et al.

1. Planteamiento del Problema

El artículo aborda los costos computacionales, energéticos y de capital en aumento asociados con el entrenamiento y despliegue de modelos fundamentales de IA a gran escala (por ejemplo, GPT-4, Gemini, Llama 4).

Crisis Energética y de Costos: Las cargas de trabajo actuales de IA en centros de datos consumen ~44 GW de potencia, proyectándose que superen los 150 GW para 2030, con costos de capital que exceden los 5 billones de dólares.
El Cuello de Botella de Von Neumann: Las arquitecturas digitales tradicionales separan la memoria y el procesamiento, lo que genera penalizaciones masivas de energía y latencia debido al movimiento de datos (movimiento de pesos y activaciones).
Límites de Escalabilidad: El hardware digital actual lucha por soportar modelos significativamente más grandes que $10^{12}$ parámetros. Un modelo hipotético de $10^{18}$ parámetros requeriría exabytes de memoria y décadas para leerse mediante los anchos de banda de memoria actuales, haciendo impráctico el inferencia en arquitecturas de memoria separada.
Restricciones en el Borde: Las altas demandas energéticas impiden desplegar modelos fundamentales grandes en dispositivos de borde con restricciones de energía (robots, sensores, móviles).

2. Metodología y Concepto Central

Los autores proponen Modelos Fundamentales Físicos (PFM), una redefinición radical de la implementación de hardware de IA.

Definición: Los PFM son dispositivos de hardware fijos y de un solo propósito donde la arquitectura de la red neuronal y los parámetros están "cableados" directamente en el sustrato físico (por ejemplo, vidrio nanoestructurado, semiconductores) en el momento de la fabricación.
Distinción Clave: A diferencia de los chips digitales programables (GPUs) o incluso los ASIC digitales de pesos fijos (como el HC1 de Taalas), los PFM realizan el cálculo utilizando la dinámica física natural del hardware (por ejemplo, propagación de luz, flujo de electrones) en lugar de simular operaciones matemáticas mediante lógica digital.
Filosofía: El enfoque fusiona la "abundancia de espacio en el fondo" de Feynman (fabricación a nanoescala) con la "abundancia de espacio en la cima" de Leiserson (eliminación de capas de abstracción). Trata al propio hardware como el software, optimizando el sistema físico directamente para la tarea de inferencia.
Compensación: Los PFM sacrifican la programabilidad (la capacidad de actualizar pesos post-fabricación) para lograr ganancias masivas en densidad de parámetros, eficiencia energética y velocidad. Están diseñados para fabricarse en un ciclo de ~1 año, coincidiendo con el ciclo de lanzamiento de nuevos modelos fundamentales.

3. Contribuciones Clave

Marco Conceptual: Introducción del paradigma PFM, argumentando que para los modelos fundamentales (que son estáticos después del entrenamiento), el hardware fijo es la solución óptima.
Cálculos de Broma: Los autores realizan un análisis de escalado para un PFO Óptico específico (un medio de vidrio nanoestructurado 3D) y lo comparan con las GPUs digitales más avanzadas (por ejemplo, clase NVIDIA B200).
Exploración de Plataformas: Discusión de realizaciones potenciales más allá de la óptica, incluyendo nanoelectrónica (matrices de cruce, alambres resistivos de diseño inverso, semiconductores) y mecánica.
Hoja de Ruta de Investigación: Identificación de desafíos críticos necesarios para realizar los PFM, incluido el diseño inverso físico a gran escala, estrategias de entrenamiento para hardware fijo y manejo de la variabilidad de fabricación.

4. Resultados y Estimaciones de Rendimiento

Utilizando un ejemplo de PFM óptico 3D (vidrio nanoestructurado con variaciones del índice de refracción que codifican parámetros), los autores estiman el rendimiento para modelos que van desde $10^{12}$ hasta $10^{18}$ parámetros:

Métrica	PFM Óptico ( $10^{12}$ parámetros)	PFM Óptico ( $10^{18}$ parámetros)	Línea Base GPU Digital ( $10^{12}$ parámetros)
Volumen	$\sim (1 \text{ mm})^2 \times 1 \text{ m}$	$\sim (10 \text{ cm})^2 \times 100 \text{ m}$	$\sim (17 \text{ cm})^3$
Energía/Inferencia	$\sim 100 \, \mu\text{J}$	$\sim 10 \text{ mJ}$	$\sim 1 \text{ J}$
Tiempo/Inferencia	$\sim 100 \text{ ns}$	$\sim 10 \, \mu\text{s}$	$\sim 25 \text{ ms}$

Eficiencia Energética: Los PFM ofrecen $10^4$ a $10^8$ veces menos energía por inferencia en comparación con el hardware digital. Incluso un PFM de $10^{18}$ parámetros consumiría aproximadamente 100 veces menos energía que un sistema digital de $10^{12}$ parámetros.
Velocidad: La latencia de inferencia se reduce en $10^3$ a $10^5$ veces (nanosegundos/microsegundos frente a milisegundos).
Escalado: A diferencia de los sistemas digitales donde la energía escala linealmente con los parámetros ( $E \propto P$ ), la energía del PFM óptico escala como $E \propto P^{1/3}$ debido a la naturaleza volumétrica 3D de la propagación de la luz y la capacidad de aumentar las dimensiones de entrada/salida sin aumentar el número de parámetros.
Factibilidad: Los cálculos sugieren que los modelos de $10^{18}$ parámetros podrían caber físicamente en volúmenes manejables (por ejemplo, un tubo de 100 m de largo) y ser alimentados por fuentes de energía portátiles, habilitando IA de "billones de parámetros" en dispositivos de borde.

5. Significado y Perspectiva Futura

Habilitación de Modelos Ultra Grandes: Los PFM proporcionan una vía plausible para construir sistemas de IA con $10^{15}$ a $10^{21}$ parámetros, acercándose potencialmente a la complejidad del cerebro humano ( $10^{14}$ sinapsis) o superándola, lo cual es actualmente imposible con hardware digital.
Revolución de la IA en el Borde: Al reducir drásticamente el consumo de energía, los PFM podrían permitir que los modelos fundamentales se ejecuten localmente en robots, automóviles y sensores, eliminando las preocupaciones de latencia y privacidad asociadas con la inferencia en la nube.
Nueva Agenda de Investigación: El artículo describe un desafío de investigación masivo: Diseño Inverso Físico. Esto implica entrenar redes neuronales directamente sobre los parámetros físicos del hardware (por ejemplo, patrones de índice de refracción) en lugar de pesos abstractos.
Desafíos Identificados:
- Entrenamiento: Cómo entrenar sistemas físicos de $10^{18}$ parámetros sin simularlos digitalmente (lo cual es demasiado costoso). Las soluciones propuestas incluyen "redes de redes" (Mezcla de PFM) y el uso de modelos digitales "gestores".
- Variabilidad de Fabricación: Dado que cada PFM fabricado tendrá ligeras diferencias físicas, el sistema debe ser robusto ante defectos o utilizar ajuste post-fabricación (por ejemplo, pequeños compensadores digitales).
- No Linealidad: Implementar funciones de activación no lineales necesarias en medios físicos (por ejemplo, mediante efectos Kerr ópticos) sin degradación catastrófica de la señal.
- Cuellos de Botella de E/S: La velocidad de conversión de entradas digitales a señales físicas analógicas (y viceversa) sigue siendo un cuello de botella potencial.

Conclusión:
El artículo argumenta que la era de los modelos fundamentales requiere un cambio del hardware programable de propósito general al hardware físico fijo y especializado. Al aprovechar la física natural de los materiales (óptica, electrónica) para realizar el cálculo, los PFM podrían superar los límites fundamentales de la computación digital, habilitando una nueva generación de IA que sea más rápida, más eficiente energéticamente y capaz de escalas previamente consideradas imposibles.