Large Language Models for Patent Classification: Strengths, Trade-offs, and the Long Tail Effect
本文表明，虽然基于编码器的模型在专利分类的总体效率和高频类别的准确性方面优于大语言模型（LLMs），但大语言模型在稀有及新兴技术领域表现出更优越的性能，这表明结合这两种方法的混合方法是实现全面且负责任的专利计量学的最优选择。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是该论文的通俗易懂版解释，使用了日常类比。
大局观：整理一座巨大的图书馆
想象一下，世界专利局就像一座拥有数百万本书（专利）的巨大图书馆。每本书都需要被分类到特定的书架（类别）上，以便人们日后查找。这种分类系统被称为 CPC（合作专利分类）。
问题在于，这座图书馆非常混乱。有些书架挤满了成千上万本书（如“智能手机”或“电池”等常见技术），而有些书架却只有一两本书（罕见、奇特或全新的发明）。
这篇论文提出了一个简单的问题：哪种工具更擅长整理这些书？
- “专业图书管理员”（编码器模型）： 这些是专门针对专利文本训练的 AI 模型。它们运行速度快、成本低，并且非常擅长处理那些拥挤、热门的书架。
- “天才通才”（大语言模型或 LLM）： 这些是庞大的 AI 模型（比如你可能正在聊天的那些），它们阅读了整个互联网的内容。它们运行速度较慢且成本高昂，但可能更擅长发现那些空旷书架上的奇特、孤单的图书。
实验：一场专利分类赛
研究人员使用了一个包含 70,000 件美国专利的数据集，并尝试使用两种类型的 AI 进行分类。他们通过不同的方式测试了“天才通才”：
- 零样本学习 (Zero-shot)： 直接要求 AI 进行分类，不给予任何帮助。
- 少样本学习 (Few-shot)： 先给 AI 几个分类示例作为参考。
- RAG（检索增强生成）： 给 AI 一本包含书架定义的字典，让它在分类时可以随时查阅。
他们还测试了通过“教导”通才进行少量的微调是否会有所帮助。
结果：速度 vs. 智慧
1. 热门书架（高频类别）
胜出者：专业图书管理员。
当涉及到常见技术（如用于计算机的“G06F”）时，专门的 AI 简直是一台高效机器。它极其准确、快速，且消耗的电量极少。
- 类比： 如果你请一位专业图书管理员去找一本关于“咖啡”的书，他能瞬间抓取。如果你请一位博学多才但没在图书馆工作过的天才，他可能会花更长时间，甚至会被一本关于“茶”或“咖啡因”的书分散注意力。
2. 空旷书架（罕见类别）
胜出者：天才通才。
当涉及到罕见、新兴或奇特的各种技术（例如某种特定类型的烟花或一种新材料）时，专业的图书管理员往往会放弃，或者把书放在一个“差不多就行”的书架上。然而，通才则利用其广泛的知识，能更频繁地猜中正确的罕见类别。
- 类比： 如果你有一本关于“飞行烤面包机”的书，专业图书管理员可能会把它放在“厨房电器”里，因为大多数烤面包机都在那里。而通才由于读过科幻小说和工程期刊，可能会意识到它属于“航空”或“实验技术”。
3. 经营成本
代价：通才是“昂贵”的。
- 时间： 专业图书管理员在 1–2 分钟内就完成了整批分类。通才则需要 30 分钟到 4 个小时不等。
- 能源： 专业图书管理员消耗的电量大约相当于一个灯泡运行几分钟的电量。通才消耗的能量则足以支撑一栋小房子运行一段时间。
- 类比： 专业图书管理员就像无人机快递：便宜、快速，适合标准包裹。通才就像雇佣一队专家顾问开车横跨全国：他们能解决复杂问题，但油费和时间成本极高。
结论：你需要两者兼顾
论文得出结论，并没有单一的“最佳”工具。
- 使用专业图书管理员来处理那 90% 常见的专利。它快速、廉价且足够准确。
- 使用天才通才来处理那 10% 罕见、新颖或奇特的专利。它能捕捉到其他 AI 遗漏的东西，但你不能为了所有事情都使用它，因为成本太高。
为什么这很重要
如果你只使用快速、廉价的 AI，你可能会错过“下一个大热门”，因为它看起来太奇怪或太罕见。如果你只使用昂贵的 AI，你还没完成分类，就会先破产于电费账单。
最好的方法是混合模式：用快速的 AI 处理大部分工作，然后用聪明的 AI 来复核那些奇特、罕见或新兴的发明，以确保重要的东西不会在“长尾”中丢失。
简而言之：不要试图用聪明人去取代快干活的人。相反，让快干活的人承担重体力劳动，只在遇到棘手情况时才请聪明人出马。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。