TabRank: Chain-of-Thought Distillation for Table Re-Rankers
本文介绍了 TabRank，一个将思维链推理从大型推理模型中蒸馏到紧凑型表格重排序器中的框架，显著提高了在各种表格问答基准测试中的检索准确性和泛化能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图在一座庞大的数字电子表格图书馆中寻找一个特定的事实。你提出了一个问题，一位超级快速的图书管理员（“检索器”）迅速抓取了 20 或 30 张可能包含答案的表格。但问题在于，这位图书管理员虽然快，却并不聪明。他们可能会抓取一张看起来很像、但年份错误的表格，或者一张只讲了一半故事的表格。为了得到正确的答案，你需要第二位图书管理员，一位“重排序器”（reranker），她更慢但更聪明。这位专家会审视这一叠表格，阅读细节，并重新排列这些表格，使最相关的那个排在最顶端。
长期以来，这些聪明的重排序器就像是那些能背下答案但难以解释为什么选择这些答案的学生。最近，一种新型的“超智能”人工智能（被称为大语言推理模型）开始展示其推导过程，在给出答案之前写出长长的、循序渐进的思考过程。这就像一个学生不仅说“答案是 42”，而是写了一篇完整的文章来解释数学逻辑。科学家们想知道：如果我们教我们的表格重排序专家像这样思考，他们会变得更好吗？核心问题在于，强迫他们写出这些长篇思考过程究竟是会帮助他们学习，还是仅仅会让他们记住错误的模式并在问题变得棘手时失败。
这就是 TabRank 这篇论文登场的地方。研究人员想要构建一个系统，即使在表格混乱、主题多样（如体育统计或财务报告）或需要结合多个表格信息的情况下，也能找到与问题匹配的正确表格。他们创建了一个包含超过 6,700 个示例的大规模数据集，其中一位“教师”AI（DeepSeek-R1）写出了它对表格排序的推理过程。然后，他们尝试了两种不同的方式来利用这些示例来训练一个较小的“学生”模型。
第一种方式，他们称之为 CoTGen，就像是强迫学生在给出答案之前，必须逐字逐句地模仿老师的作文。第二种方式，他们称之为 CoTCond（也是其中的明星方法），则有所不同。在这种方法中，老师的作文被作为“提示”在学生做出选择之前提供给学生。学生不需要写出这篇作文；它只需要阅读这个提示，然后决定哪张表格最好。
结果令人惊讶且意义重大。团队发现，“基于提示”的方法（CoTCond）比强迫学生模仿写作的效果要好得多。当他们在一些旧模型通常会失败的难题上测试这个新系统时，提升幅度巨大。在 TabFact 数据集上，准确率跃升了 52.9%。在 HybridQA 上提升了 30.5%，而在 SQA 和 TATQA 上分别提升了 15.2% 和 13.1%。
或许最令人兴奋的发现是，尽管他们仅在单表问题上训练了该模型，但它自然而然地变得非常擅长处理多表问题（即需要查看多个表格才能找到答案的情况），而无需任何特殊的额外训练。它也犯了更少的错误，比如意外地重复同一张表格或产生乱码，而这些问题在其他方法中经常发生。作者认为，通过让模型去“阅读”推理过程而不是强迫它去“书写”推理过程，模型学会了专注于排序任务本身，而不是陷入模仿老师写作风格的泥潭。这表明，对于表格检索而言，拥有一位聪明的向导比拥有一个能写长篇大论的学生更为重要。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。