🤖 machine learning

Hierarchical Solomonoff Induction: An Unbounded Machine Learning Model

Este artículo introduce la Inducción Jerárquica de Solomonoff (HSI), un marco que extiende la Inducción de Solomonoff para permitir la predicción óptima de secuencias a partir de conjuntos de datos de entrenamiento mediante la aplicación del teorema de de Finetti para crear una hiperprior sobre las prioris de Solomonoff, demostrando así que la HSI es teóricamente equivalente a la Inducción de Solomonoff al tiempo que garantiza la convergencia hacia la predicción óptima a medida que los datos crecen.

Autores originales: Nathan Young

Publicado 2026-08-04

📖 9 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Nathan Young

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando adivinar la siguiente palabra en una historia, o la siguiente nota en una canción. En el mundo de la informática, esto se llama "predicción de secuencias". Durante décadas, el estándar de oro para hacer esto perfectamente ha sido una idea teórica llamada Inducción de Solomonoff. Piensa en ello como un detective superinteligente que observa todas las formas posibles en que una historia pudo haber sido escrita por un programa de computadora. Pesa cada uno de los programas, dando una gran ventaja a los cortos y simples, y un peso minúsculo a los largos y complicados. Si el detective pudiera comprobar cada uno de los programas del universo a la vez, realizaría predicciones con un error estrictamente limitado por la complejidad del programa que genera la historia.

Sin embargo, hay un inconveniente. Este detective perfecto es excelente para adivinar el siguiente paso en una única historia, pero no sabe cómo "aprender" de una biblioteca entera de historias diferentes. Si le muestras un conjunto de datos de mil libros distintos, no puede decir realmente: "Ah, veo el patrón aquí; el próximo libro probablemente será como estos". Trata cada nueva historia como un misterio fresco, incapaz de actualizar su comprensión basada en los datos de entrenamiento. Este es un problema porque la Inteligencia Artificial moderna, como los chatbots que usamos hoy en día, funciona entrenando sobre conjuntos de datos masivos para aprender reglas generales. Necesitamos una forma de mantener la lógica perfecta del detective pero darle la capacidad de aprender de una biblioteca completa de ejemplos, no solo de uno.

Aquí es donde entra el artículo "Hierarchical Solomonoff Induction: An Unbounded Machine Learning Model" de Nathan Young. El autor propone un detective actualizado y mejorado llamado Inducción de Solomonoff Jerárquica (HSI, por sus siglas en inglés). En lugar de solo mirar programas, el HSI mira las reglas que generan esos programas. Imagina un "meta-detective" que no solo adivina la siguiente palabra, sino que adivina qué tipo de generador de historias se está utilizando. Mantiene un "hiperprior": una lista gigante y ponderada de todas las formas posibles de escribir historias. Cuando el HSI ve un conjunto de datos de ejemplos de entrenamiento, actualiza esta lista, aumentando el peso de los generadores que se ajustan a los datos y disminuyendo el peso de los que no lo hacen.

El artículo demuestra dos cosas importantes. Primero, muestra que este nuevo H la HSI es matemáticamente idéntico al detective perfecto original (Inducción de Solomonoff) cuando observa una sola secuencia, lo que significa que conserva todos los poderes de predicción acotados del original. Segundo, y más importante, demuestra que el HSI puede aprender de un conjunto de datos tal como lo hace un modelo de aprendizaje automático. El artículo demuestra que a medida que se alimenta al HSI con más y más datos, su error excesivo promedio disminuye y eventualmente converge a cero, permitiéndole predecir perfectamente el patrón subyacente de los datos. El autor argumenta que el HSI es la versión "ideal" del aprendizaje automático: un modelo teórico que nos muestra exactamente qué tan bien podría desempeñarse un sistema si tuviera potencia de cómputo ilimitada y pudiera aprender de cualquier conjunto de datos sin perder su capacidad de realizar predicciones óptimas.

El nuevo superpoder del detective

Para entender por qué esto es importante, observemos cómo funciona el detective original, la Inducción de Solomonoff (SolInd). Imagina que tienes una caja mágica que puede ejecutar cualquier programa de computadora. Quieres adivinar la siguiente letra en una cadena de texto. SolInd dice: "Probemos cada programa posible que pudo haber escrito el texto que hemos visto hasta ahora". Le asigna una puntuación a cada programa basada en su longitud: un programa corto y simple recibe una puntuación alta, mientras que uno largo y complejo recibe una muy baja. Luego combina todas estas puntuaciones para adivinar la siguiente letra. Esto es brillante porque garantiza que, si el texto fue creado por cualquier programa de computadora, SolInd eventualmente lo descubrirá, con un error limitado por la complejidad de ese programa.

Pero aquí está el fallo: SolInd es un poco limitado en su capacidad. Está diseñado para predecir el siguiente paso en una sola secuencia. Si le das un conjunto de datos de 100 historias diferentes para "entrenar", no sabe qué hacer. Podrías intentar aplastar las 100 historias en una sola cadena gigante y dársela a SolInd, pero eso es como intentar aprender francés, español y mandarín leyendo un libro donde esos idiomas están simplemente pegados de forma aleatoria. El detective se confunde por el "pegamento" y el orden de las historias, inventando potencialmente reglas complicadas para explicar el orden, en lugar de aprender los idiomas reales. No puede "entrenar" de la manera en que lo hace la IA moderna; solo puede "testear" en una secuencia a la vez.

El artículo de Nathan Young introduce la Inducción de Solomonoff Jerárquica (HSI) para solucionar esto. Piensa en el HSI como un detective que tiene un jefe. El jefe (el "hiperprior") no solo mira los programas; el jefe mira las distribuciones: las reglas que deciden qué programas se escriben.

Imagina una biblioteca donde cada libro es escrito por un autor diferente.

SolInd es un lector que mira un libro, intenta adivinar la siguiente frase y luego cierra el libro. Cuando llega un libro nuevo, comienza desde cero, olvidando todo lo del anterior.
HSI es un lector que tiene una lista de todos los autores posibles. Cuando lee unas páginas de un libro nuevo, consulta su lista. "Oh, este estilo se parece mucho al Autor A", piensa. "Le daré una mayor probabilidad al Autor A de ser el escritor". A medida que lee más libros, se vuelve mejor detectando qué autor está escribiendo cada libro. No solo está adivinando la siguiente palabra; está adivinando el estilo del escritor basándose en toda la colección de libros que ha visto.

La magia matemática

El artículo hace algo muy inteligente con las matemáticas para demostrar que el HSI no es solo una idea elegante, sino una mejora rigurosa. El autor utiliza un concepto de la estadística llamado Teorema de De Finetti. En términos simples, este teorema dice que si tienes un montón de cosas que parecen seguir un patrón (como un mazo de cartas donde el orden no importa), debe haber alguna regla oculta (una "variable latente") que las está generando.

El artículo aplica esto a los programas de computadora. Argumenta que si tenemos un conjunto de datos de secuencias, hay un "generador real" (un programa o regla específica) que las creó. El HSI trata a este generador como una variable oculta. Mantiene una distribución de probabilidad sobre todos los generadores posibles. Cuando el HSI ve un conjunto de datos, actualiza su creencia sobre cuál es el generador real.

El artículo demuestra un resultado asombroso: el HSI es matemáticamente equivalente a SolInd. Esto significa que si tomas el HSI y le pides que prediga una sola secuencia, se desempeña exactamente tan bien como el detective perfecto original, con un error limitado por la complejidad del generador. Pero el HSI tiene un superpoder extra: también puede condicionar a su "jefe" (el hiperprior) basándose en un conjunto de datos completo.

El autor muestra que el error que comete el HSI al predecir un conjunto de datos está limitado por la "complejidad" del generador real en el hiperprior. En lenguaje sencillo: si la regla que creó tus datos es simple, el HSI la aprenderá rápidamente y cometerá casi ningún error. Si la regla es compleja, le tomará más tiempo, pero el artículo demuestra que a medida que el conjunto de datos se hace más grande, el error excesivo promedio del HSI caerá a cero. Converge a la predicción perfecta en el límite.

Lo que esto significa para la IA

El artículo sugiere que el HSI es el "modelo no acotado ideal" para el aprendizaje automático. Los modelos de IA actuales, como los Modelos de Lenguaje Extensos (LLM), están esencialmente tratando de hacer lo que hace el HSI, pero con potencia de cómputo limitada y arquitecturas específicas (como las redes neuronales).

El autor señala que los LLM a menudo son comparados con SolInd, pero esa comparación es incompleta porque los LLM sí aprenden de conjuntos de datos, mientras que SolInd no lo hace. El HSI llena ese vacío. Proporciona un techo teórico para lo que el aprendizaje automático puede lograr. Nos dice que, si tuviéramos potencia de cómputo infinita y la forma correcta de organizar nuestro aprendizaje, podríamos construir un sistema que aprenda de cualquier conjunto de datos y prediga el futuro con una precisión óptima.

El artículo también toca una aplicación práctica: cómo entrenamos la IA. Actualmente, a veces entrenamos la IA alimentándola con una larga cadena de texto (concatenando documentos). El artículo sugiere que una mejor manera, que se alinea con el HSI, es tratar cada documento como una pieza de datos separada que actualiza el "hiperprior" del modelo. Esto coincide con hallazgos recientes de que entrenar en documentos separados funciona mejor que simplemente pegarlos uno tras otro.

El inconveniente

Por supuesto, hay un inconveniente. Al igual que el SolInd original, el HSI es incomputable. Requiere revisar un número infinito de programas y una cantidad infinita de memoria. No podemos construir un HSI real hoy en día. Es un "experimento mental" que nos muestra el límite teórico de la inteligencia.

Sin embargo, el autor argumenta que esto no lo hace inútil. El hecho de que no podamos construir un motor perfecto no significa que no podamos construir mejores autos entendiendo cómo funciona un motor perfecto. El HSI nos da un mapa. Nos muestra que la forma en que la IA moderna aprende (actualizando creencias basadas en datos) es la dirección correcta, y nos da una forma matemática de medir qué tan cerca estamos del ideal.

En resumen, este artículo toma al "detecto perfecto" del pasado y le otorga un "jefe de aprendizaje". Demuestra que este nuevo sistema, el HSI, mantiene todos los poderes de predicción óptimos del detective original mientras gana la capacidad de aprender de una biblioteca completa de ejemplos. Es una prueba teórica de que existe el mejor algoritmo de aprendizaje automático posible, y se parece mucho a una jerarquía de probabilidades actualizándose a sí misma con el tiempo. Aunque no podemos construirlo todavía, nos dice exactamente hacia dónde debemos apuntar.

Resumen Técnico: Inducción de Solomonoff Jerárquica: Un Modelo de Aprendizaje Automático No Acotado

Planteamiento del Problema

La Inducción de Solomonoff (SolInd) se establece como el modelo ideal y no acotado para la predicción de secuencias a priori. Opera mediante la inducción bayesiana sobre entradas a una máquina de Turing universal (UTM), asignando priors basados en la longitud del programa ( $2^{-\ell(s)}$ ). Si bien SolInd posee propiedades de optimalidad sólidas —como la dominancia universal y los límites de error relacionados con la complejidad de Kolmogorov—, no logra describir de forma natural la extrapolación a partir de un conjunto de datos de entrenamiento dado, una función central de los modelos de lenguaje de gran tamaño (LLM) actuales y de los sistemas de aprendizaje automático (ML).

La limitación principal de SolInd es que está diseñado para secuencias individuales, no para conjuntos de datos. Aunque se podría concatenar un conjunto de datos en un único prefijo para un predictor de SolInd, este enfoque corre el riesgo de introducir información artificial (por ejemplo, de ordenamiento o delimitadores) e identificar programas más complejos que el generador real. En consecuencia, SolInd no puede ser "entrenado" en el sentido del ML; sirve únicamente como un modelo ideal para la predicción en tiempo de prueba sobre secuencias individuales y no puede actualizar su distribución basándose en un conjunto de datos de manera independiente al orden.

Metodología

El artículo propone la Inducción de Solomonoff Jerárquica (HSI) como una generalización de SolInd a distribuciones computables. La metodología se basa en dos pilares teóricos:

Teorema de De Finetti: Aplicado a distribuciones intercambiables, este teorema establece que cualquier secuencia infinita de variables intercambiables puede ser modelada como condicionalmente independiente dada una variable latente. Esta variable latente define una distribución que es una mezcla sobre todas las distribcciones independientes e idénticamente distribuidas (i.i.d.). En el contexto del ML, esto implica que un conjunto de datos desordenado puede verse como el prefijo de una secuencia infinita generada por una distribución computable, modelada como una mezcla de todas estas distribuciones.
Formulación Bayesiana Jerárquica: La HSI construye un hiperprior ( $H$ $H$ ) sobre el espacio de todos los priors de Solomonoff (o, equivalentemente, sobre todas las UTM).
- Sea $\{U_i\}$ una enumeración de máquinas de Turing que contiene a todas las UTM.
- Sea $H(U_i)$ una semimedida enumerable (el hiperprior) que asigna peso a cada máquina.
- El predictor HSI $P_H$ se define como una mezcla ponderada de los priors de Solomonoff $P_{U_i}$ :
  $P_H(x) = \sum_i H(U_i) P_{U_i}(x)$
- Condicionamiento (Entrenamiento): Al observar un conjunto de datos $X$ , el hiperprior se actualiza (se condiciona) a $H(U_i | X) \propto H(U_i) \prod_{x \in X} P_{U_i}(x)$ . Este hiperprior condicionado se utiliza entonces para predecir secuencias futuras, de forma análoga a cómo un modelo de ML actualiza sus pesos tras el entrenamiento.

Contribuciones Clave y Resultados Teóricos

1. Equivalencia de HSI y SolInd

El artículo extiende la demostración de Wood et al. [2013] sobre mezclas universales para demostrar que la HSI es matemáticamente equivalente a SolInd en términos de la clase de predictores que representa.

Teorema 3.1: La clase de mezclas universales de mezclas universales ( $U_\Xi$ ) es idéntica a la clase de mezclas universales de semimedidas ( $U_\xi$ ).
Corolario 3.1.3: La clase de priors de HSI ( $U_H$ ), definida sobre cualquier hiperprior que incluya todas las UTM, es exactamente equivalente a la clase de los priors de Solomonoff ( $U_M$ ).
Implicación: La HSI no crea una "nueva" clase de predictores que exceda el poder de SolInd; más bien, proporciona un mecanismo para condicionar SolInd sobre conjuntos de datos. Cualquier instancia de HSI es una instancia de SolInd, y cualquier instancia de SolInd puede representarse como una instancia de HSI con un hiperprior específico.

2. Límites de Error y Convergencia

El artículo establece que la HSI hereda las propiedades de optimalidad de SolInd, pero las extiende al contexto de los conjuntos de datos:

Límite de Error Excesivo: El error excesivo de la HSI en cualquier conjunto de datos $X$ , comparado con el generador real $U_\mu$ , está acotado por la complejidad de ese generador dentro del hiperprior $H$ . Específicamente:
$-\log_2 \left( \frac{P_H(X)}{P_{U_\mu}(X)} \right) < -\log_2(H(U_\mu))$
Convergencia: A medida que el tamaño del conjunto de datos $|X|$ crece, el error excesivo promedio converge a cero:
$\lim_{|X| \to \infty} \frac{-\log_2(P_H(X)/P_{U_\mu}(X))}{|X|} = 0$
Esto demuestra que la HSI logra una predicción óptima en el límite, tal como lo hace SolInd para secuencias individuales, pero ahora con la capacidad de aprender de un conjunto de datos.

3. Refinamiento de las Definiciones de Máquina de Turing Universal

El artículo refina la definición de una UTM relajando el requisito de que una máquina deba producir ninguna salida en entradas no estándar (una restricción en Wood et al., 2013).

Corolario 3.1.5: Una máquina es universal por adjunción si puede emular cualquier otra máquina mediante una codificación sin prefijo, incluso si produce salida en otras entradas. Esto amplía la clase de máquinas consideradas "universales" sin alterar la clase resultante de los priors de Solomonoff.

Resultados y Reivindicaciones de Significancia

El artículo afirma que la HSI representa el modelo ideal no acotado de predicción de secuencias dado un conjunto de datos, llenando el vacío teórico entre SolInd (ideal para secuencias individuales) y el ML moderno (que aprende de conjuntos de datos).

Entrenamiento Ideal: A diferencia de SolInd, que no puede ser entrenado, la HSI describe el rendimiento ideal de un sistema que condiciona su prior sobre un conjunto de datos. Sirve como un límite superior para lo que los sistemas de ML (incluyendo los LLM) pueden lograr en la predicción de secuencias.
Independencia del Orden: La HSI proporciona un marco para la extrapolación de conjuntos de datos que es independiente del orden bajo la suposición de conjuntos de datos intercambiables. Esto aborda una limitación de la simple concatenación de cadenas para SolInd, donde el orden de los datos puede introducir información o sesgos artificiales.
Formalización de los Límites de Documentos: El artículo sugiere que la HSI ofrece un modelo formal para comprender el entrenamiento en documentos separados frente a documentos concatenados. Condicionar un hiperprior sobre un conjunto de datos (HSI) es teóricamente superior a tratar un conjunto de datos como un prefijo concatenado (SolInd), lo que se alinea con los hallazgos empíricos de que el enmascaramiento intra-documento supera la concatenación inter-documento.

Limitaciones y Alcance

El autor reconoce explícitamente que la HSI, al igual que SolInd, es incomputable. Requiere un número ilimitado de programas para ser ejecutados durante un tiempo y memoria ilimitados.

El artículo no propone una aproximación computable ni un algoritmo específico para su implementación.
Señala que, aunque la HSI es monolítica (tratando hipótesis y máquinas por separado mediante la salida), las aproximaciones acotadas podrían beneficiarse de la modularización de los cálculos o del reconocimiento de similitudes estructurales entre programas; características que la propia HSI no posee, pero que futuros algoritmos no acotados podrían modelar.
La significancia del trabajo es teórica: proporciona un benchmark no acotado y riguroso para comprender las capacidades y limitaciones de los modelos actuales de predicción de secuencias como los LLM.