Ansari: A Retrieval-Grounded Islamic AI Assistant -- Architecture, Deployment, and Lessons from 140,000 Conversations
本文介绍了 Ansari，一个已部署的、基于检索增强的伊斯兰人工智能助手，它通过严格依据带有引文的经认证宗教文本来回答问题，从而缓解了事实虚构和价值观失调的问题，展示了在伊斯兰基准测试上的卓越性能，并为信仰敏感型大语言模型的部署提供了关键教训。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代世界中，人们经常转向人工智能来寻找答案，要求机器解释复杂的概念、解决问题或提供指导。这些被称为大型语言模型的系统，通过学习来自互联网的海量文本进行训练，学习如何预测句子中下一个应该出现的词。它们表现得异常流利，并且听起来非常有说服力。然而，这种流利性伴随着一个隐藏的危险：捏造事实的倾向。当机器不知道答案时，它可能会自信地编造一个答案，创造出一个听起来真实但完全虚假的故事。这在对准确性要求极高的领域（如医学或法律）是一个严重的问题，但在宗教信仰领域，这个问题变得更加微妙。对于数百万穆斯林来说，像《古兰经》和先知穆罕默德言论集这样的宗教文本被视为神圣且不可更改的。一个被捏造的经文或一个被错误归属的说法，都可能导致一个人错误地实践其信仰，从而造成精神上的伤害。因此，挑战在于构建一种既能像人类对话一样自然流畅，又具备“不查证来源绝不开口”之自律精神的机器。
一组研究人员构建了一个名为“Ansari”的系统来解决这个确切的问题。这个名字取自历史上麦地那城中先知穆罕默德追随者的称呼，反映了该系统的目标是成为社区的支持工具。自2023年6月以来，这个助手已经与使用25多种不同语言的人进行了超过14万次对话。与依赖内部记忆生成答案的标准聊天机器人不同，Ansari遵循一条严格的规则：除非它首先在可靠的书籍中找到了相关内容，否则不得发表任何言论。该系统的运作方式就像一位勤勉的研究员。当用户提出问题时，计算机不会立即尝试撰写回复。相反，它首先使用专门的工具，在包含《古兰经》、宗教言论集和详细伊斯兰法百科全书的经过认证的数字图书馆中进行搜索。它阅读搜索结果，并仅根据它所找到的文本来构建答案，同时附上具体的参考文献，以便用户可以核实来源。这一过程确保了机器无法捏造宗教规则或神圣故事；它只能报告已存在于其所获授的可信来源中的内容。
研究人员发现，人们使用这个工具的方式远远超出了简单的事实核查。通过分析1万场对话的随机样本，他们发现最常见的请求并非关于学习历史或神学，而是关于如何经营日常生活。近40%的问题涉及实际事务，例如某些食物是否合规、在斋月期间如何处理特定的医疗情况，或者如何在现代生活中应对伦理困境。另一大部分问题来自在悲伤、焦虑或家庭危机时期寻求支持的人。该系统旨在识别这些痛苦时刻并以温暖的方式做出回应，鼓励用户与当地的社区领袖交流，同时提供求助热线。研究还显示，宗教领袖和教师经常使用该助手来准备布道词和教学计划，将其视为起草内容的合作伙伴，而不仅仅是一个搜索引擎。
为了确保系统的运行正确，团队根据几项严格的标准对其进行了测试。他们让助手参加了衡量伊斯兰法和宗教文本知识的独立考试，在这些考试中，它的表现优于目前向公众提供的其他领先人工智能模型。在一次专门设计用来测试机器是否会为了礼貌而同意错误陈述的测试中，Ansari成功挑战错误的比例超过了96%，而其他模型则经常陷入顺从错误的陷阱。在斋月期间进行的一次人工评估中，该助手回答问题的准确度很高，最重要的是，在测试样本中没有捏造任何虚假来源。研究人员指出，虽然该系统非常有效，但并非完美。它有时会陷入循环，即不断搜索信息却找不到明确答案，并且偶尔会在日期或具有时效性的事实方面出错。这些错误提醒创造者，该系统是一个辅助人类理解的工具，而不是合格学者或社区智慧的替代品。
该项目为任何试图构建处理深刻价值观或敏感话题的人工智能的人提供了清晰的教训。研究人员认为，仅仅通过更多的数据来训练机器是不够的。相反，管理机器的规则必须被明确地写下来，并向公众开放检查。就Ansari而言，那些指导计算机如何处理不同学派之间分歧、如何引用来源以及在危机中如何表现的指令，都存储在一个任何人都可以阅读的文档中。这种透明度将系统提示词从一个隐藏的技术设置转变为一份公开的政策声明。团队还发现，虽然将答案锚定在真实文本中可以防止机器编造内容，但这并不能解决所有问题。底层的计算机模型仍然带有其最初训练数据所携带的偏见和局限性，而这些数据并非由它现在服务的宗教社区所创建。这一差距意味着，该系统永远无法完全取代那些花费数个世纪来完善这些传统的真人社区。最终，Ansari的成功表明，只要设计能够优先考虑真实性和问责制而非速度和便利性，构建一个尊重其来源神圣性的辅助宗教助手是可能的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。