LaTeX Compilation: Challenges in the Era of LLMs

Questo articolo evidenzia i limiti di TeX nell'era dei modelli linguistici su larga scala e propone Mogan STEM, un editor strutturato WYSIWYG che supera TeX in efficienza di compilazione, localizzazione degli errori e ottimizzazione per l'addestramento di LLM grazie al suo formato .tmu a bassa entropia.

L'essenziale

Immagina di dover scrivere un libro o una tesi. Oggi, molti scienziati usano un vecchio sistema chiamato LaTeX (basato su una tecnologia ancora più vecchia di nome TeX). Questo paper sostiene che, nell'era dell'Intelligenza Artificiale (i famosi "LLM" o modelli linguistici), questo vecchio sistema è come un'automobile degli anni '70: funziona, ma è lenta, difficile da guidare e fa fatica a parlare con le nuove tecnologie.

Gli autori propongono un'alternativa moderna chiamata Mogan STEM.

Ecco i punti chiave spiegati con delle metafore:

1. Il Problema: La "Fotocopia a Scatti" (Il vecchio sistema)

Immagina che LaTeX sia come una fotocopiaatrice vecchia e lenta.

• Come funziona: Scrivi una pagina, poi premi "Copia". La macchina legge tutto da capo, calcola dove vanno le immagini, i numeri delle pagine e le note a piè di pagina. Se cambi anche solo una virgola all'inizio del libro, la macchina deve ricominciare a copiare tutto il libro da capo per vedere se i numeri delle pagine sono cambiati.
• Il problema: Se fai un errore di battitura, la macchina si blocca e ti dice: "Qualcosa è andato storto", ma non ti dice dove o perché. Devi guardare un registro di errori lunghissimo (il file .log) per capire che hai dimenticato una parentesi tre righe prima.
• Con l'IA: Se chiedi a un'intelligenza artificiale di leggere questo libro per aiutarti a scriverlo, l'IA deve "immaginare" come apparirà il libro finale solo leggendo il codice grezzo. È come chiedere a qualcuno di indovinare il finale di un film leggendo solo la lista degli ingredienti della sceneggiatura: è confuso e costoso (in termini di tempo e risorse).

2. La Soluzione: Il "Cantiere Intelligente" (Mogan STEM)

Mogan STEM è come un cantiere edile moderno e intelligente.

• Come funziona: Non è una lista di istruzioni scritte su un foglio, ma è una struttura ad albero (come un organigramma o un albero genealogico). Ogni paragrafo, ogni formula matematica e ogni immagine è un "ramo" dell'albero.
• Il vantaggio: Se cambi una finestra nella cucina (un paragrafo), il sistema aggiorna solo quella stanza. Non deve rifare tutto l'edificio. Se sbagli un mattoncino, il sistema ti dice subito: "Ehi, qui manca un pezzo", senza bloccare tutto il cantiere.
• Con l'IA: Per l'Intelligenza Artificiale, leggere Mogan è come leggere un libro già impaginato e strutturato. L'IA vede subito la struttura logica (questo è un titolo, questo è un'equazione) senza dover fare calcoli complessi. È molto più facile per l'IA imparare a scrivere in questo formato.

3. Gli Esperimenti: Chi vince?

Gli autori hanno fatto delle prove per confrontare i due sistemi:

• Velocità: Mogan è molto più veloce. Mentre LaTeX deve "ricominciare da capo" ogni volta che cambi qualcosa, Mogan aggiorna istantaneamente solo la parte modificata. È la differenza tra dover rifare un puzzle intero perché hai spostato un pezzo, e avere un puzzle magnetico che si riadatta da solo.
• L'IA e gli errori: Quando hanno chiesto a diverse intelligenze artificiali di correggere errori o unire due documenti, l'IA ha fatto molto meglio con Mogan. Con LaTeX, l'IA si confondeva perché il codice era pieno di "rumore" (comandi ridondanti) e errori nascosti. Con Mogan, gli errori erano chiari e l'IA li risolveva in un attimo.
• Imparare a scrivere (Fine-tuning): Hanno provato ad "addestrare" un'IA a scrivere formule matematiche. L'IA ha imparato molto più velocemente con Mogan perché la struttura è più logica e meno caotica. È come insegnare a un bambino a leggere: è più facile con un libro ben impaginato che con un foglio pieno di scarabocchi e note a margine.

4. Perché dovremmo cambiare?

Il paper conclude dicendo che, anche se LaTeX è stato un grande eroe nel passato (come un cavallo da corsa che ha vinto molte gare), oggi abbiamo bisogno di un'auto elettrica.

• La situazione attuale: Usare LaTeX oggi significa pagare un "costo" enorme in termini di tempo, energia e frustrazione, specialmente quando si collabora con l'Intelligenza Artificiale.
• Il futuro: Passare a Mogan (o sistemi simili) significa scrivere documenti che sono più facili da leggere, più veloci da correggere e, soprattutto, molto più "amici" delle Intelligenze Artificiali che ci aiuteranno a scrivere in futuro.

In sintesi:
Il paper dice: "Smettiamo di usare il vecchio sistema che ci fa perdere tempo e confonde le macchine. Passiamo a un sistema nuovo che è come un'interfaccia moderna: veloce, intelligente e che parla la stessa lingua delle Intelligenze Artificiali."

Sommario tecnico

Titolo: Compilazione LATEX: Sfide nell'Era dei Modelli Linguistici (LLM)

1. Il Problema

Il paper identifica limitazioni fondamentali nel sistema di composizione tipografica TEX (e nel suo derivato più diffuso, LATEX) che sono diventate critiche nell'era dell'intelligenza artificiale e dei modelli linguistici (LLM). Nonostante LATEX sia lo standard de facto per la scrittura scientifica, la sua architettura presenta difetti intrinseci:

• Modello di Compilazione Batch: LATEX utilizza un flusso di elaborazione unidirezionale e irreversibile (lettura lineare → espansione macro → calcolo tipografico). Non mantiene una rappresentazione intermedia dello stato del documento, rendendo impossibile l'aggiornamento incrementale efficiente. Qualsiasi modifica locale richiede la ricompilazione dell'intero documento.
• Feedback Ritardato e Errori Ambigui: Gli errori vengono rilevati solo dopo l'esecuzione completa o il blocco del processo. I messaggi di errore spesso indicano il punto in cui il sistema si è "bloccato" (spesso lontano dalla causa reale) piuttosto che l'origine del problema, rendendo il debug difficile.
• Accoppiamento Semantica/Layout: La sintassi di LATEX mescola la definizione strutturale (semantica) con i comandi di layout. Le macro agiscono sia come modelli semantici che come istruzioni di formattazione, impedendo l'analisi statica affidabile della struttura del documento.
• Frammentazione dell'Ecosistema: La necessità di motori di compilazione multipli (pdfLaTeX, XeLaTeX, LuaLaTeX) e strumenti esterni (BibTeX, Biber) per gestire codifiche, font e bibliografie crea un carico cognitivo elevato e problemi di compatibilità.
• Impatto sugli LLM: La natura lineare, rumorosa e ad alta entropia dei file .tex rende difficile per gli LLM comprendere la struttura del documento, unire file con stili diversi o correggere errori in modo efficiente.

2. Metodologia

Gli autori analizzano criticamente l'architettura di TEX/LATEX confrontandola con i principi dei sistemi di editing strutturati moderni. Per validare le loro tesi, introducono Mogan STEM, un editor strutturato WYSIWYG (What You See Is What You Get) basato su GNU TeXmacs, e conducono esperimenti empirici:

• Analisi Architetturale: Confronto tra il modello a flusso lineare di LATEX e il modello ad albero strutturato di Mogan.
• Benchmark di Prestazioni: Misurazione dei tempi di compilazione e rendering su documenti reali (prelevati da arXiv) sia per compilazioni complete che per aggiornamenti incrementali.
• Valutazione delle Attività LLM: Test su quattro modelli linguistici avanzati (Deepseek-v3.2, Claude-Sonnet-4.5, Gemini-3-pro, ChatGPT-5.2) per valutare:
  1. La capacità di localizzare la struttura del documento.
  2. L'efficienza nel fondere file con stili documentali diversi.
  3. La capacità di debuggare documenti errati basandosi sui messaggi di errore.
• Fine-tuning (SFT): Un esperimento di adattamento supervisionato (LoRA) su un modello (Qwen2.5-7B) per valutare la convergenza della perdita (loss) durante l'addestramento su formule matematiche in formato LATEX vs. formato Mogan (.tmu).

3. Contributi Chiave

• Introduzione di Mogan STEM: Presentazione di un editor che utilizza una rappresentazione ad albero (basata su S-espressioni Scheme) per documenti e formule matematiche, invece del flusso di token lineare di LATEX.
  • Struttura Ad Albero: Ogni elemento (formula, sezione, immagine) è un nodo strutturato. Le modifiche sono locali e non influenzano l'intero layout.
  • Rendering Istantaneo e WYSIWYG: Il rendering avviene in parallelo e gli errori sono isolati localmente senza bloccare la visualizzazione del resto del documento.
  • Caricamento Plugin On-Demand: A differenza di TeX Live che richiede installazioni massive (5-6 GB), Mogan è leggero (~100 MB) e carica le funzionalità solo quando necessarie.
• Formato .tmu: Proposta di un formato di documento strutturato a bassa entropia, che elimina il "rumore" sintattico presente in LATEX, rendendo i dati più densi e prevedibili per le macchine.
• Dimostrazione dell'Inadeguatezza di LATEX per gli LLM: Analisi che mostra come la struttura di LATEX ostacoli l'efficienza degli LLM a causa della necessità di simulare l'esecuzione per comprendere la struttura e la mancanza di confini semantici chiari.

4. Risultati

Gli esperimenti hanno dimostrato vantaggi significativi di Mogan STEM rispetto a LATEX:

• Tempi di Compilazione/Rendering: Mogan è significativamente più veloce nella maggior parte dei documenti, specialmente negli aggiornamenti incrementali. Mentre LATEX deve ricompilare tutto, Mogan aggiorna solo i nodi interessati.
• Performance negli LLM:
  • Localizzazione Strutturale: Gli LLM hanno localizzato le strutture nei file .tmu molto più velocemente e con meno token rispetto ai file .tex.
  • Fusione di File: Nel compito di unire file con stili diversi, Mogan ha ottenuto punteggi di utilità superiori (fino al 98% vs 77% per LATEX) grazie alla coerenza grammaticale e all'assenza di conflitti di macro.
  • Debug: Gli LLM hanno corretto errori nei file Mogan quasi istantaneamente, mentre su LATEX hanno richiesto molti più token e tempo a causa della confusione nei log e nella localizzazione degli errori.
• Efficienza nel Fine-tuning: Durante l'addestramento LoRA, il modello addestrato su dati Mogan ha mostrato una convergenza della loss più rapida e stabile (0.4 vs 0.7 per LATEX). Questo è attribuito alla minore entropia informativa e alla maggiore coerenza grammaticale del formato strutturato, che riduce l'incertezza nella previsione del token successivo.

5. Significato e Implicazioni

Il paper conclude che l'architettura di LATEX, sebbene storicamente rivoluzionaria, è obsoleta per le esigenze moderne di scrittura interattiva e per l'integrazione con l'IA.

• Transizione Necessaria: L'uso di formati strutturati come .tmu non è solo un miglioramento UX, ma una necessità tecnica per sfruttare appieno le capacità degli LLM nella scrittura scientifica.
• Riduzione del Debito Tecnico: Mogan risolve i problemi di "debito tecnico" di LATEX (compilazioni multiple, gestione degli stati, errori ambigui) attraverso una progettazione architetturale moderna.
• Chiamata all'Azione: Gli autori lanciano un appello per condurre esperimenti su larga scala sull'addestramento di LLM utilizzando il formato .tmu, suggerendo che questo potrebbe portare a modelli più efficienti, precisi e capaci di gestire la complessità della scrittura scientifica.

In sintesi, il paper sostiene che il futuro della scrittura scientifica non risiede nell'ottimizzazione di un sistema batch del XX secolo, ma nell'adozione di editor strutturati che separino chiaramente la semantica dal layout, facilitando sia l'interazione umana che quella artificiale.