CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

Each language version is independently generated for its own context, not a direct translation.

🌿 CORE-Acu: Il "Doppio Controllo" per l'Agopuntura Intelligente

Immagina di avere un assistente medico super intelligente, un Cervello Digitale (basato sull'Intelligenza Artificiale) che ha letto milioni di libri di medicina cinese. Questo cervello è bravissimo a parlare, a scrivere testi fluidi e a sembrare un esperto. Tuttavia, c'è un grosso problema: a volte inventa le cose (allucinazioni) e, peggio ancora, non spiega come è arrivato alla sua conclusione.

Nel mondo dell'agopuntura, questo è pericoloso. Se un medico sbaglia un punto da pungere su una donna incinta, le conseguenze possono essere gravi. L'Intelligenza Artificiale "classica" è come un attore che recita una parte: sembra vero, ma non ha un vero ragionamento logico dietro.

Gli autori di questo studio hanno creato CORE-Acu, un sistema che trasforma questo "attore" in un medico-verificatore sicuro e trasparente. Ecco come funziona, diviso in tre parti magiche:

1. La "Mappa del Tesoro" (Tracce di Ragionamento Strutturate)

Immagina che l'IA classica salti direttamente dalla domanda ("Ho mal di testa") alla risposta ("Pungi questo punto"). È come se un cuoco ti desse il piatto finito senza dirti gli ingredienti o la ricetta.

CORE-Acu costringe l'IA a seguire una mappa del tesoro obbligatoria prima di dare la risposta. Deve scrivere, passo dopo passo:

Diagnosi: Qual è il problema? (Es. "Il vento sta colpendo il canale del fegato").
Patologia: Perché succede? (Es. "Il flusso di energia è bloccato qui").
Principio: Cosa dobbiamo fare? (Es. "Sbloccare il flusso").
Scelta dei punti: Solo ora, basandosi sui tre passi precedenti, sceglie gli aghi.

L'analogia: È come se, invece di darti solo la soluzione di un compito di matematica, l'IA fosse obbligata a scrivere tutto il procedimento. Se sbaglia un passaggio intermedio, il sistema lo vede subito. Questo rende il "pensiero" dell'IA visibile e controllabile, non più una scatola nera misteriosa.

2. Il "Guardiano con la Lista Rossa" (Verifica tramite Grafico della Conoscenza)

Anche se l'IA segue la mappa, potrebbe ancora sbagliare un punto pericoloso per sbaglio. Per questo, CORE-Acu ha un secondo cervello, ma questo non è fatto di parole, è fatto di regole rigide.

Immagina un Guardiano che tiene in mano una "Lista Rossa" di divieti (es. "Non pungere il punto LI4 se la paziente è incinta").

L'IA (il primo cervello) scrive la ricetta.
Il Guardiano (il secondo cervello) controlla la ricetta contro la sua lista di regole matematiche.
Se trova un errore (es. "Oh, hai scritto un punto vietato per la gravidanza!"), blocca tutto immediatamente.

Il ciclo magico: Il sistema non si limita a dire "No". Dice all'IA: "Ehi, hai sbagliato qui perché è vietato. Riprova e correggi". L'IA riscrive la ricetta, il Guardiano ricontrolla, e se è tutto ok, solo allora rilascia la risposta. Se non riesce a correggere dopo 5 tentativi, dice: "Fermati, serve un medico umano".

3. L'"Ingranditore di Precisione" (LMERL)

C'è un ultimo problema. Quando un'IA impara, tende a dare più importanza alle parole comuni (come "il", "e", "di") perché le vede spesso, e meno importanza alle parole rare ma vitali (come i nomi specifici degli aghi o delle malattie). È come se un insegnante desse più voti a chi scrive bene la grammatica che a chi usa i termini medici corretti.

CORE-Acu usa una tecnica speciale chiamata LMERL. Immagina di avere un microfono super sensibile che si accende solo quando l'IA pronuncia un termine medico importante (come "Hegu" o "Taiyuan"). Se l'IA sbaglia quel termine, il sistema la "sgrida" molto più forte che se sbaglia una parola comune. Questo la costringe a imparare con precisione chirurgica i nomi degli aghi, evitando confusione tra punti che suonano simili ma sono diversi.

🏆 I Risultati: Perché è un gioco da ragazzi?

Gli autori hanno messo alla prova il loro sistema contro i migliori modelli di intelligenza artificiale esistenti (come GPT-4o).

I modelli normali: Hanno fatto errori di sicurezza nell'8,5% dei casi (hanno suggerito aghi pericolosi).
CORE-Acu: Ha fatto 0 errori su 1.000 casi. Zero.

Inoltre, mentre gli altri modelli spesso davano risposte che sembravano belle ma avevano un ragionamento interno confuso, CORE-Acu ha dimostrato di avere un ragionamento logico coerente, proprio come un vero esperto di medicina cinese.

In sintesi

CORE-Acu è come un doppio controllo di sicurezza per l'agopuntura:

Costringe l'IA a pensare ad alta voce (spiegando il perché).
Ha un guardiano robotico che controlla le regole di sicurezza e blocca gli errori prima che accadano.
Insegna all'IA a non sbagliare mai i nomi importanti.

È un passo enorme per rendere l'Intelligenza Artificiale non solo "intelligente", ma anche sicura e affidabile quando si tratta della salute delle persone.

Each language version is independently generated for its own context, not a direct translation.

1. Il Problema

L'integrazione dei Modelli Linguistici su Grande Scala (LLM) nel supporto alle decisioni cliniche (CDS), in particolare nella Medicina Tradizionale Cinese (MTC) e nell'agopuntura, presenta sfide critiche che ne limitano l'adozione sicura:

Natura "Black-Box" e Hallucinations: Gli LLM operano tramite previsioni probabilistiche di token successivi, generando spesso ragionamenti non tracciabili e "allucinazioni" (raccomandazioni linguisticamente plausibili ma clinicamente errate).
Mancanza di Ragionamento Strutturato: La pratica clinica dell'agopuntura richiede un processo complesso di Bianzheng Lunzhi (diagnosi differenziale e trattamento), che include l'identificazione della sindrome, l'analisi della patogenesi e la formulazione dei principi terapeutici. Gli LLM tendono a saltare questi passaggi intermedi, mappando direttamente i sintomi alle prescrizione, rendendo il processo inaudibile e inaffidabile.
Rischi di Sicurezza: A differenza delle erbe medicinali, l'agopuntura è un intervento fisico invasivo. Errori nella selezione dei punti (es. punti controindicati in gravidanza come Hegu/LI4) possono causare danni gravi. Gli LLM standard mancano di meccanismi rigidi per imporre vincoli di sicurezza non negoziabili.
Disallineamento Frequenza-Importanza: Durante l'addestramento, le funzioni di perdita standard (es. Cross-Entropy) penalizzano allo stesso modo la previsione errata di una parola comune e di un'entità critica per la sicurezza (es. il nome di un punto agopunturale), portando a una deriva terminologica pericolosa.

2. Metodologia: Il Framework CORE-Acu

Gli autori propongono CORE-Acu (Constrained Ontology Reasoning Engine for Acupuncture), un framework neuro-simbolico che integra ragionamento strutturato e verifica basata su Grafi della Conoscenza (KG). L'architettura si articola in quattro componenti principali:

A. Costruzione di Tracce di Ragionamento Strutturate (S-CoT)

Dataset Acu-Reasoning: È stato creato il primo dataset su larga scala (42.512 campioni) di tracce di ragionamento strutturate per l'agopuntura.
Schema Causale: Invece di una mappatura diretta, il modello è addestrato a seguire una catena causale esplicita:
1. Bian Zheng (Diagnosi/Sindrome)
2. Bing Ji (Patogenesi)
3. Zhi Ze (Principio Terapeutico)
4. Xuan Xue (Selezione dei Punti)
Questo trasforma il ragionamento implicito della MTC in un output osservabile e verificabile.

B. Costruzione di un Grafo della Conoscenza (KG) per la Sicurezza

È stato costruito un KG specifico per la MTC contenente 4.628 nodi e 12.500 relazioni, standardizzato secondo le terminologie internazionali (WHO) e nazionali (GB/T).
Il KG codifica vincoli rigidi, come:
- Divieti Condizionali: Relazioni dirette che vietano punti specifici in certi stati (es. LI4 ProhibitedFor Pregnancy).
- Rischi Anatomici: Metadati sui rischi fisici (es. organi vitali vicini).
Questo KG funge da "verità di base" simbolica per il controllo di sicurezza.

C. Adattamento Ottimizzato: LMERL (Lexicon-Matched Entity-Reweighted Loss)

Per risolvere il problema della frequenza-importanza, è stata introdotta una nuova funzione di perdita.
LMERL: Assegna pesi dinamici ( $\alpha > 1$ ) ai gradienti delle entità critiche (nomi di punti, sindromi) durante il fine-tuning (LoRA), amplificando il segnale di apprendimento per questi termini rari ma vitali, riducendo così la deriva terminologica.

D. Ciclo di Ragionamento Neuro-Simbolico Chiuso (Generate-Verify-Revise)

Il sistema non si limita a generare una risposta, ma implementa un ciclo iterativo:
1. Generate: L'LLM genera una prescrizione preliminare basata sullo schema S-CoT.
2. Verify: Un modulo simbolico controlla l'output contro il KG per rilevare violazioni (es. combinazioni incompatibili o controindicazioni).
3. Revise: Se vengono rilevate violazioni, il sistema inietta un segnale di feedback negativo specifico (es. "Errore: LI4 è controindicato in gravidanza") e chiede al modello di rivedere la prescrizione.
4. Fallback: Se dopo un numero massimo di iterazioni ( $T_{max}$ ) le violazioni persistono, il sistema blocca l'output e richiede la conferma umana, garantendo un "envelope di sicurezza" nullo per gli errori.

3. Risultati Chiave

Gli esperimenti sono stati condotti su 1.000 casi clinici tenuti da parte (held-out), confrontando CORE-Acu con modelli generici (GPT-4o, Qwen-Max, GLM-4.6) e modelli medici (HuatuoGPT).

Qualità del Ragionamento: CORE-Acu ha ottenuto i punteggi più alti nella valutazione multidimensionale (validità del ragionamento, accuratezza diagnostica, logica patologica), superando significativamente i modelli di base. Mentre GPT-4o otteneva un punteggio alto nella prescrizione finale ma basso nel ragionamento (indicando una memorizzazione senza comprensione), CORE-Acu ha dimostrato coerenza logica completa.
Fedeltà delle Entità: Grazie a LMERL, CORE-Acu ha raggiunto un Entity-F1 di 0.4612, significativamente superiore ai baselines (che oscillavano tra 0.21 e 0.35), dimostrando una maggiore precisione nella generazione di nomi di punti e sindromi.
Sicurezza e Violazioni:
- I modelli generici hanno mostrato tassi di violazione della sicurezza (Safety Violation Rate - SVR) elevati: GPT-4o (8.5%), Qwen-Max (4.1%).
- CORE-Acu ha raggiunto 0/1.000 violazioni osservate (0%) nel set di test.
- L'analisi di ablazione ha mostrato che senza il modulo di veto simbolico, il tasso di violazione sarebbe sceso al 4.0% (grazie solo al fine-tuning), confermando che il meccanismo di verifica KG è essenziale per la sicurezza assoluta.

4. Contributi Principali

Primo Dataset S-CoT per Agopuntura: Creazione di un corpus strutturato che esplicita la catena causale diagnostica della MTC.
Meccanismo di Veto Simbolico: Implementazione di un sistema di governance neuro-simbolico che utilizza regole deterministiche (KG) per intercettare e correggere in tempo reale le violazioni di sicurezza, superando i limiti della generazione puramente probabilistica.
LMERL: Introduzione di una funzione di perdita che riallinea l'ottimizzazione del modello con l'importanza clinica delle entità, risolvendo il problema della deriva terminologica.
Framework di Valutazione Rigoroso: Combinazione di metriche superficiali, verifica basata su KG e valutazione esperta multidimensionale per garantire sia la qualità logica che la sicurezza clinica.

5. Significato e Impatto

Il lavoro di CORE-Acu rappresenta un passo fondamentale verso l'adozione sicura degli LLM in contesti medici ad alto rischio. Dimostra che è possibile combinare la flessibilità linguistica dei modelli neurali con la rigidezza delle regole simboliche per:

Garantire tracciabilità e auditabilità del processo decisionale clinico.
Eliminare le hallucinations pericolose attraverso vincoli deterministici.
Fornire un modello replicabile per altri domini medici dove la precisione terminologica e il rispetto delle controindicazioni sono critici.

In sintesi, CORE-Acu trasforma il processo di generazione da una distribuzione di probabilità aperta a un flusso di lavoro clinico vincolato, verificabile e sicuro, ponendo le basi per sistemi di supporto decisionale affidabili nell'agopuntura.