Testing the Black Box: Structural Barriers to Independent Evaluation of Consumer-Facing Health LLMs
Questo articolo identifica cinque barriere strutturali — tra cui la personalizzazione opaca, le politiche di accesso restrittive e l'instabilità delle versioni dei modelli — che attualmente impediscono una valutazione indipendente e affidabile di come i modelli linguistici di grandi dimensioni rivolti al consumo in ambito sanitario varino le proprie risposte ed esibiscano sicofantia nell'uso ordinario, sottolineando l'urgente necessità di nuovi quadri di governance per garantire sicurezza ed equità.