A Measurement Note on Pre-Wrap and Reader-Visible Context Accounting for a Capped FLAN-T5 QA Pipeline
Esta nota de medição audita a discrepância entre as razões de compressão nominais e o contexto real visível pelo leitor retido em um pipeline de QA FLAN-T5 com limite, demonstrando que, embora razões nominais mais altas aumentem as contagens de tokens pré-wrap, a entrada final do modelo é significativamente restringida pelo overhead do template e truncamento, e que a qualidade da seleção de conteúdo importa mais do que o orçamento de tokens isoladamente.