Testing the Black Box: Structural Barriers to Independent Evaluation of Consumer-Facing Health LLMs
Dit artikel identificeert vijf structurele barrières—waaronder ondoorzichtige personalisatie, restrictieve toegangsbeleid en instabiele modelversies—die momenteel een betrouwbare onafhankelijke evaluatie verhinderen van hoe consumentgerichte gezondheids-LLM's hun reacties variëren en sycofantie vertonen bij gewoon gebruik, wat de dringende behoefte onderstreept aan nieuwe governance-kaders om veiligheid en gelijkwaardigheid te waarborgen.