PrefPaint: Enhancing Medical Image Inpainting through Expert Human Feedback

Titolo

PrefPaint: Miglioramento dell'Inpainting di Immagini Mediche tramite Feedback Umano Esperto

1. Il Problema

L'inpainting (il processo di riempimento di parti mancanti o corrotte di un'immagine) è fondamentale nell'imaging medico, in particolare per la generazione di immagini sintetiche di polipi per l'addestramento di modelli di Intelligenza Artificiale clinica.
Tuttavia, esistono sfide critiche:

• Accuratezza Anatomica: I modelli generativi standard (come GAN o Diffusion) spesso producono immagini sintetiche che, sebbene visivamente plausibili, contengono errori anatomici o pattern patologici inaccurati. Nel contesto della gastroenterologia, ciò può portare a falsi pattern e errori nella diagnosi downstream.
• Carenza di Dati Annotati: La mancanza di grandi dataset annotati di polipi richiede la sintesi di dati, ma l'addestramento su dati non validati da esperti porta a modelli che apprendono pattern errati.
• Costi Computazionali del RLHF: Le tecniche tradizionali di Reinforcement Learning from Human Feedback (RLHF) richiedono l'addestramento di un modello di ricompensa intermedio, un processo che necessita di enormi risorse computazionali e dataset estesi, rendendolo impraticabile per molte istituzioni mediche con risorse limitate.

2. Metodologia Proposta

Gli autori propongono PrefPaint, un sistema interattivo che integra il feedback umano diretto nel processo di fine-tuning di un modello Stable Diffusion Inpainting.

A. Approccio di Addestramento: D3PO

Invece di utilizzare il classico RLHF, il sistema impiega D3PO (Direct Preference Optimization), una variante basata su preferenze binarie:

• Meccanismo: Il processo di denoising è modellato come un Processo Decisionale di Markov (MDP) multi-step.
• Feedback Binario: Gli esperti medici valutano due immagini generate dallo stesso prompt e mask, selezionando quella preferita ("Like") o quella da scartare ("Dislike").
• Ottimizzazione Diretta: Il modello viene aggiornato direttamente utilizzando queste preferenze binarie, bypassando completamente la necessità di addestrare un modello di ricompensa (reward model). Questo riduce drasticamente il costo computazionale e il tempo di addestramento.
• Funzione di Perdita: Viene utilizzata una loss specifica (DDPO loss) che massimizza la probabilità di generare l'immagine preferita rispetto a quella non preferita, basandosi sulle probabilità condizionate del modello e di un modello di riferimento.

B. Architettura del Sistema Interattivo

Per facilitare l'uso da parte di professionisti medici (spesso privi di competenze IT avanzate), è stato sviluppato un'interfaccia web reattiva:

• Tecnologia: Backend in Golang con rendering lato server (SSR), database PostgreSQL e frontend basato su templ e Tailwind CSS.
• Gestione Asincrona: Utilizzo di code FIFO e thread dedicati per gestire task pesanti (inferenza e fine-tuning) senza bloccare l'interfaccia utente.
• Model Tree (Albero dei Modelli): Un concetto innovativo di HCI che visualizza la provenienza e l'evoluzione del modello. Ogni nodo dell'albero rappresenta una versione del modello fine-tunata, permettendo agli utenti di tracciare i miglioramenti iterativi derivanti dal feedback umano.
• Flusso di Lavoro: Gli utenti possono caricare immagini mediche, disegnare mask, inserire prompt testuali, generare immagini e fornire feedback binario immediato per avviare nuovi cicli di addestramento.

3. Contributi Chiave

1. Soluzione Pratica per la Clinica: Risolve il problema sottoutilizzato della generazione di immagini sintetiche di polipi anatomicamente accurate, offrendo una soluzione efficiente in termini di risorse per ambienti clinici vincolati.
2. Integrazione del Feedback Esperto: Introduce un sistema che incorpora direttamente la conoscenza di oncologi e gastroenterologi nel ciclo di addestramento, garantendo che le immagini generate rispettino la realtà medica.
3. Interfaccia HCI Innovativa: Sviluppo di un'interfaccia web intuitiva con il "Model Tree", che rende trasparente e gestibile il processo di evoluzione del modello per utenti non tecnici.
4. Efficienza Computazionale: Dimostrazione che l'uso di D3PO permette di ottenere risultati superiori senza i costi proibitivi dei modelli di ricompensa tradizionali.

4. Risultati Sperimentali

Lo studio è stato condotto sul dataset Kvasir-SEG, utilizzando immagini di polipi sessili e peduncolati.

Valutazione Quantitativa

Il modello proposto è stato confrontato con Stable Diffusion Inpainting (SDi), DreamBooth e Stable Diffusion 2 Inpainting (SD2i).

• Metriche: L1 Error, L2 Error, SSIM, PSNR, LPIPS.
• Risultati: PrefPaint ha ottenuto i migliori risultati su tutti i metrici per entrambi i subset di polipi.
  • Ad esempio, sul subset di polipi sessili, ha ridotto l'errore L1 a 0.0169 (contro 0.0227 di SD2i) e migliorato l'SSIM a 0.8883.
  • Ha dimostrato una maggiore fedeltà strutturale e una migliore coerenza percettiva (LPIPS più basso).

Valutazione Qualitativa e Studio Utente

• Validazione Clinica: Uno studio pilota con 28 partecipanti (inclusi 3 medici) ha valutato allineamento, realismo, fluidità e qualità.
• Punteggi MOS (Mean Opinion Score): Il metodo proposto ha superato significativamente tutti i baseline, ottenendo punteggi medi di 4.376 (non esperti) e 3.727 (esperti medici) per i polipi sessili, contro punteggi inferiori a 2.0 per i metodi di base valutati dagli esperti.
• Feedback degli Esperti: I medici hanno notato che PrefPaint riduce le inconsistenze visive e gli artefatti anatomici, generando immagini più realistiche e clinicamente rilevanti.
• Usabilità: L'interfaccia web è stata valutata positivamente per la sua semplicità e adattabilità.

5. Significato e Impatto

Il lavoro di PrefPaint rappresenta un passo avanti significativo nell'intersezione tra Computer Vision e Medicina Clinica:

• Affidabilità Diagnostica: Fornisce un metodo sicuro per generare dati di addestramento sintetici di alta qualità, riducendo il rischio che i modelli di AI clinica apprendano pattern errati.
• Accessibilità: Dimostra che tecniche avanzate di ottimizzazione delle preferenze (come D3PO) possono essere applicate in contesti reali con risorse computazionali limitate, democratizzando l'uso di AI generativa in ospedale.
• Collaborazione Uomo-Macchina: Il sistema "Human-in-the-loop" trasforma il medico da semplice fornitore di dati a parte attiva del ciclo di addestramento, garantendo che l'AI si allinei con le conoscenze esperte del dominio.

In sintesi, PrefPaint offre un framework robusto, efficiente e user-friendly per migliorare l'inpainting medico, ponendo le basi per una generazione di dati sintetici clinicamente validi e affidabili.