ESOFinder: an LLM-powered tool to help users navigate ESO documentation
本文介绍了 ESOFinder,这是一个由大语言模型和检索增强生成(RAG)驱动的、注重隐私的内部聊天机器人,它综合了超过 3500 个链接和 100 本手册,旨在为 ESO 用户提供可靠且具备上下文感知能力的解答,以协助其在天文台复杂的文档生态系统中进行导航。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,欧洲南方天文台(ESO)就像一座宏伟而古老的图书馆。这不仅仅是一座普通的图书馆;它装载了超过 620 万字的指令、手册和指南——大约是《钦定版圣经》长度的八倍。这些书籍涵盖了从如何撰写申请书以观测一颗恒星,到在望远镜拍摄图像后如何清理数据的一切内容。
问题在于,要在这样一座图书馆中寻找一个特定的答案,就像是在 3,500 本不同的书中盲目寻找一个特定的句子一样困难。天文学家和工作人员把太多的时间花在了搜索上,而不是从事科学研究。
为了解决这个问题,ESO 团队构建了 ESOFinder,一个由人工智能(AI)驱动的智能数字图书管理员。以下是它的工作原理,通过简单的解释说明:
1. 大脑与记忆(LLM + RAG)
把标准的 AI 聊天机器人(比如你用来问一般性问题的那些)想象成一个多年前读了很多书、但之后再也没回过学校的学霸。他们可能会猜测答案,但经常会编造事实(幻觉),或者给你过时的建议,因为他们不知道最新的规则。
ESOFinder 则不同。它使用了被称为 RAG(检索增强生成)的技术。
- 记忆: 在回答任何问题之前,ESOFinder 会阅读并背诵整个当前的 ESO 文档库。它将这些庞大的 PDF 和网页拆分成细小、易于处理的“块”,并像一套超级有序的索引卡系统一样对它们进行组织。
- 大脑: 当你提出问题时,ESOFinder 不仅仅是靠猜。它首先会在其记忆中查找相关的“索引卡”。然后,它会将这些特定的页面交给它的 AI 大脑,并命令道:“根据这里所看到的内容来回答问题。”
2. 侦探工作(混合搜索)
当你提问时,ESOFinder 就像一个同时使用两种不同工具的侦探:
- “含义”侦探: 这个工具理解你问题背后的“意图”。如果你问关于“如何指向望远镜”的问题,它知道你指的是“望远本身指向”,即使你没有使用完全相同的词汇。
- “关键词”侦探: 这个工具寻找精确的匹配。如果你询问一个名为“VISIR”的具体仪器或某个技术代码,这个工具会找到该精确术语,确保不会遗漏“含义”侦探可能忽略的特定术语。
它结合了来自这两位侦探的结果,对它们进行排序以找到最佳结果,并剔除无关的噪音。
3. 自我修正循环(“双重检查”)
AI 最大的风险之一就是它可能会自信满满地给出错误的答案。ESOFinder 内置了一个“安全网”。
- 在 AI 生成答案后,第二个 AI “评分员”会对它进行检查。
- 检查 1: “你是否真的从我们提供的文档中找到了答案?”
- 检查 2: “这个答案是否真的解决了用户的需求?”
- 如果答案未能通过其中任何一项检查,系统并不会直接放弃。它会重写问题,重新搜索,并尝试生成更好的答案。它会不断重复这一过程,直到得到正确答案,或者承认:“我在我们的书籍中找不到答案。”
4. 隐私与控制
由于该工具是基于运行在 ESO 自有本地服务器上的开源 AI 模型(而非公共云端),它能确保所有数据的私密性。天文学家可以询问敏感或机密的项目细节,而不必担心 AI 会将这些信息分享给外界。
表现如何?
团队通过三轮测试,利用真实的天文学家和工作人员对该工具进行了评估:
- 第一轮: 工具显得有些困惑,给出的答案过于冗长且啰嗦。它获得了 3.0 星(满分 5 星)。
- 第二轮: 他们改进了搜索和“大脑”。它变得稍好了一些(3.1 星),但在处理复杂问题时仍显吃力。
- 第三轮(当前版本): 在优化了搜索策略并增加了更多文档后,该工具变得更加敏锐。在最近的测试中,平均评分跃升至 3.84 星,中位数(中间值)得分为 5 星。大多数用户现在认为答案是“完美”或“准确”的。
未来展望
团队承认该工具尚未达到完美。它有时在处理包含巨大表格或图片的文档时会遇到困难。他们还计划加入更特定的数据(例如来自 ALMA 望远镜的数据),并利用该工具来帮助发现图书馆本身存在的错误。
最终,ESOFinder 的目标是成为任何试图驾驭复杂的望远镜操作世界的人的“前台接待”,将混乱的文档迷宫转化为简单的对话。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。