The Computational Boundary of Inference: Capability Internalization, Training, and the Turing Jump

Sintesi Tecnica: Il Confine Computazionale dell'Inferenza

Enunciato del Problema
Il documento affronta un'ambiguità concettuale prevalente nelle discussioni sul miglioramento ricorsivo di sé nell'Intelligenza Artificiale. Le narrazioni informali spesso confondono tre processi distinti: (1) la revisione interna ripetuta all'interno di un sistema fisso (ad esempio, prompting, riflessione, uso di strumenti), (2) i processi di revisione che si stabilizzano nel tempo (approssimazione convergente) e (3) l'ascesa qualitativa genuina a un regime di capacità computazionale strettamente superiore. Il problema centrale è che queste narrazioni spesso assumono che un'accumulazione sufficiente di aggiornamenti interni produca automaticamente un livello di capacità più elevato. Il documento mira a fornire un test formale, a livello di teorema, di questa assunzione utilizzando la teoria classica della calcolabilità per determinare se l'iterazione interna finita possa giustificare matematicamente una transizione a un grado relativo strettamente più forte.

Metodologia e Quadro di Modellazione
Il documento impiega la teoria classica della calcolabilità tramite oracolo (riducibilità di Turing) come idealizzazione strutturale piuttosto che come modello letterale delle pipeline moderne di machine learning. Il quadro fondamentale si basa sulle seguenti definizioni:

• Livello Computazionale ($C(A)$): Per un oracolo fisso $A$, il livello è definito come $C(A) = \{B : B \le_T A\}$, rappresentando tutti i compiti calcolabili relativamente ad $A$.
• Revisione Interna Finita: Modellata come una sequenza di indici $e_{s+1} = F(e_s)$ dove $F$ è una funzione $A$-calcolabile. Questo rappresenta l'automodificazione strettamente all'interno del regime effettivo esistente.
• Revisione Stabilizzata: Modellata come un'approssimazione $A$-calcolabile $g(x, s)$ che converge puntualmente a un limite. Questo rappresenta la correzione iterativa che alla fine si assesta su un output.
• Internalizzazione della Capacità: Definita strutturalmente come il processo in cui un "sistema distribuito assestato" (una famiglia fissa di procedure) incorpora "guida esternamente essenziale" (compiti non risolvibili all'interno del livello corrente) in un nuovo sistema successore più forte.

La metodologia distingue tra attività al momento dell'inferenza (composizione finita di procedure esistenti) e addestramento/internalizzazione (la trasformazione della guida esterna nei parametri di un sistema successore).

Contributi e Risultati Chiave
Il documento stabilisce una serie di teoremi di separazione che delimitano i confini tra questi regimi:

1. Chiusura Locale vs. Fuga (Teorema 3): Il livello computazionale $C(A)$ è localmente chiuso sotto la computazione tramite oracolo (la composizione di funzioni $A$-calcolabili rimane in $C(A)$), ma possiede un confine canonico: il salto di Turing $A'$. $A'$ non è risolvibile all'interno di $C(A)$.
2. Limitazione per Grado della Revisione Finita (Teorema 4 e Proposizione 1): L'automodificazione interna finita (applicazione ripetuta di una regola di aggiornamento $A$-calcolabile) rimane strettamente all'interno di $C(A)$. Nessuno stadio finito di tale processo può calcolare $A'$ o qualsiasi insieme strettamente più forte di $A$. Pertanto, l'iterazione finita da sola non costituisce ascesa.
3. La Revisione Stabilizzata Corrisponde al Salto (Teorema 5): Se la revisione è modellata come un'approssimazione $A$-calcolabile convergente, il limite stabilizzato è calcolabile in $A'$ (e viceversa, ogni insieme $A'$-calcolabile nasce da tale processo). Questo stabilisce che la revisione stabilizzata appartiene a un livello diverso di teoria della ricorsione (il salto) rispetto all'iterazione interna finita.
4. Revisione Annidata e Salti Superiori (Teorema 6): La revisione stabile annidata a due livelli corrisponde esattamente al secondo salto $A''$. Ciò suggerisce una corrispondenza strutturale in cui la profondità della stabilizzazione annidata traccia la profondità della gerarchia dei salti di Turing.
5. L'Internalizzazione della Capacità Forza l'Ascesa (Proposizione 4 e 5): Se un sistema successore internalizza un compito che è "esternamente essenziale" (risolvibile con guida esterna ma non all'interno del livello originale $A$), il sistema successore deve operare a un grado strettamente più forte ($A <_T B$).

Significato e Affermazioni
Il documento afferma di fornire una "separazione formale pulita" che vincola la logica delle narrazioni di miglioramento ricorsivo. Il suo significato risiede nei seguenti punti:

• Confutazione della Semplice Accumulazione: Il documento dimostra che "più aggiornamenti" (iterazione interna finita) non è matematicamente equivalente all'"ascesa qualitativa". Un sistema può subire una raffinamento interno infinito rimanendo all'interno dello stesso grado computazionale.
• Ruolo Strutturale dell'Addestramento: Il documento chiarisce che il significato dell'addestramento di machine learning in questo contesto non risiede nel fatto che sia "apprendimento" in sé, ma nel fatto che sia il meccanismo empirico per l'internalizzazione della capacità. L'addestramento è il processo mediante il quale la guida esternamente essenziale (che potrebbe richiedere un oracolo di livello salto per essere risolta) viene incorporata in un nuovo sistema distribuito, consentendo così al sistema di operare a un grado relativo più elevato.
• Chiarimento del Discorso sull'IA: I risultati sostengono che le affermazioni sul miglioramento di sé a ciclo aperto devono specificare quale regime viene invocato. Se una narrazione si affida alla revisione interna finita per spiegare l'emergere di una capacità più forte, è matematicamente insufficiente. L'ascesa genuina richiede l'internalizzazione di una guida che era precedentemente esterna al livello assestato.

Il documento afferma esplicitamente di non sostenere che i sistemi di IA attuali calcolino letteralmente salti di Turing o che le pipeline di addestramento istanzino macchine oracolo. Piuttosto, offre un linguaggio strutturale per distinguere tra processi che rimangono all'interno di un livello effettivo fisso e quelli che necessitano di una transizione a un livello relativo più forte. Il contributo è un "risultato di limitazione strutturale" che costringe le affermazioni di miglioramento ricorsivo a essere formulate con maggiore precisione matematica.