✨ 要点🔬 技术摘要
想象保险世界是一座巨大的古老图书馆,里面藏满了各种类型的书籍(保单),旨在保护人们免受特定灾难的侵害:火灾、盗窃、车祸或糟糕的医疗建议。
现在,想象人工智能(AI) 是一种全新的、神奇的工具,人们正用它来写作、绘画、驾驶汽车和做出决策。问题在于,这个新工具无法完美地归入那些旧书之中。有时,它看起来像火灾;有时,它看起来像盗窃;有时,它又像是医生犯下的错误。
这篇由一群研究人员于 2026 年 5 月撰写的论文,就像一张地图 ,旨在厘清图书馆中的哪本书具体涵盖了哪种 AI 灾难。他们审视了 55 种不同的 AI 出错方式(威胁),并将其与 26 种不同类型的保险保单进行比对,以查看保险公司实际上表示会赔付哪些内容。
以下是他们研究发现的简明总结,采用了日常类比:
1. “沉默”的危险(灰色地带)
这就像驾驶一辆装有新型隐形自动驾驶系统的汽车。如果你发生车祸,旧的保险保单可能会说:“我们承保车祸,”但这份保单是在自动驾驶出现之前编写的。
论文主张 :许多 AI 事故落入“沉默”区域。它们既未被明确承保,也未被明确禁止。这是一场猜谜游戏。如果 AI 产生幻觉(编造事实)并引发诉讼,保险公司可能会争辩说:“那是专业失误,”而投保人则会争辩说:“不,那是网络故障。”在法院做出裁决之前,承保范围是不确定的。
2. “是的,我们承保”区域(肯定性承保)
一些保险公司已经意识到旧书行不通,因此正在编写全新的、专门的章节 ,专门针对 AI。
论文主张 :市场正在分化。不再只有一种庞大的"AI 保单”,不同的公司正在各自专精:
慕尼黑再保险(Munich Re) 专注于“模型漂移”(当 AI 随时间推移逐渐变差,就像汽车发动机磨损一样)。
Armilla 和其他公司 承保“幻觉”(当 AI 自信地撒谎时)。
Coalition 承保“深度伪造”(伪造的 CEO 视频)。
Apollo ibott 承保“自主代理”(AI 机器人犯错)。
核心要点 :如果你希望针对特定的 AI 问题获得承保,现在你必须购买专为该特定问题设计的特定保单,而不是通用保单。
3. “不,我们不承保”区域(除外责任)
一些保险公司采取了不同的方法。与其编写新章节,他们正在撕掉旧书中的页面 。
论文主张 :许多大型保险公司正在添加“除外责任批单”。这些是贴在保单上的便签,上面写着:“如果损失涉及 AI,我们将不予赔付。”他们这样做是因为 AI 风险过于不可预测,无法用旧规则来处理。
4. “三个不可能的问题”(前沿领域)
该论文识别出三种类型的 AI 风险,它们如此奇特,以至于标准保险可能永远无法适用于它们。他们将这些称为“第四层级”问题:
“致命三重奏”(架构缺陷) :想象建造一所房子,其前门只要拥有特定类型的钥匙就永远 是未上锁的。论文指出,这不是保险问题,而是建筑问题 。你无法购买保险来修复一扇坏掉的大门;你只能把它锁上。如果你的 AI 系统存在这种特定缺陷,保险帮不了你;你需要修复设计。
"AI 洗白”(关于 AI 的谎言) :想象一家公司为了推高股价,向投资者撒谎说:“我们使用 AI!”而实际上并没有。论文指出,这只是老式的欺诈 。保险一直拒绝为蓄意谎言赔付。AI 只是用来撒谎的新工具,但关于不为谎言赔付的规则并未改变。
“多米诺骨牌效应”(系统性风险) :这是最独特的发现。想象如果一家巨型工厂(即“基础模型提供商”,如一家主要 AI 公司)停止运作或发生故障。由于成千上万的其他公司都使用同一家工厂,它们将在完全相同的时间点全部崩溃。
论文主张 :保险运作的基础是:如果一所房子被烧毁,其他房子则是安全的。但如果一家 AI 工厂失败,所有人 将同时被烧毁。这打破了保险的数学逻辑。论文建议,我们可能需要一种全新的安全网(如政府兜底或特别资金池),因为正常的保险公司无法应对这种同时打击所有人的灾难。
总结
该论文得出结论,AI 保险市场正在自我梳理 。
专家 正在涌现,以承保特定的 AI 错误(如幻觉或漂移)。
旧保单 正变得“沉默”(不明确)或正在积极排除 AI 以规避风险。
有些风险过于残缺 而无法承保(你必须修复设计)。
有些风险过于巨大 而无法承保(如果主要 AI 提供商失败,所有人将同时失败)。
作者强调,这张地图是基于保险公司在其公开宣传册中声称 会做什么,而不一定是他们在真实法庭案件中会赔付什么。这是 2026 年市场现状的快照,表明规则仍在制定之中。
技术摘要:AI 风险的承保边界
问题陈述 代理型 AI(agentic AI)的快速普及给商业保险带来了复杂的承保难题。单次由 AI 介导的损失可能被界定为网络事件、技术错误、专业服务失败、媒体索赔或 AI 特定事件。现有的保单条款并非为处理此类重叠而起草,导致市场反应出现分化:一个小型的肯定性市场正在兴起,提供 AI 特定承保;而更广泛的责任险市场则正在增加 AI 特定除外责任或收窄传统措辞。这造成了“静默 AI 风险暴露”(silent-AI exposure),即 AI 作为非 AI 保单(如网络险、董责险、职业责任险、犯罪险)下的损失工具,而这些保单最初并未将 AI 视为致损原因或除外风险。核心问题在于,买方、经纪人和监管机构对于特定的 AI 威胁(如幻觉、提示注入、模型漂移)究竟属于肯定性承保、静默暴露、主动除外,还是落在传统私人保险结构之外,缺乏清晰的界定。
方法论 作者构建了一个 55 种威胁对 26 种产品的矩阵,以映射新兴的市场结构。
威胁目录 :本研究将 55 种 AI 相关风险进行了编码,来源包括 OWASP(大语言模型、代理型 AI 及代理型技能十大风险)、MITRE ATLAS v5.1.0 和 NIST AI 风险管理框架(AI RMF)。这些威胁被归为七大类:大语言模型/生成式 AI 应用、代理型 AI、MCP/代理基础设施、经典机器学习/深度学习、AI 运维与供应链、人员/滥用、以及系统性/聚合风险。
保险产品目录 :本研究分析了 26 种保险产品,包括 14 种肯定性 AI 产品/批单、6 种可能存在静默暴露的传统险种,以及 6 种除外责任制度(包括 Verisk ISO 格式和特定承保人的备案文件)。
数据来源 :证据来自三个层级:A 级(承保人发布的产品页面和新闻稿)、B 级(监管备案和标准)以及 C 级(行业媒体和分析师评论)。
编码方案 :矩阵中的每个单元格被编码为肯定性 (公开材料明确涵盖该风险)、静默/灰色 (无明确承保或除外,取决于有争议的措辞)、除外 (通过批单或备案明确除外)或无公开立场 。
决策规则 :编码优先考虑公开的市场定位,而非已签署合同的措辞。适用“营销级命名规则”,即如果公开描述中命名了某种风险(例如“幻觉”),即使已签署的措辞可能不同,也将其编码为肯定性承保。这种方法衡量的是可观察的市场定位,而非预测具体的理赔结果。
可靠性 :三名人类编码员独立对单元格进行编码,同时使用大型语言模型(LLM)进行来源检索和一致性检查。分歧通过小组讨论裁决,在缺乏明确证据的情况下,倾向于保守编码(例如,将肯定性降级为静默)。
主要贡献与结果 基于矩阵结果,该论文识别出一个四级承保边界 :
第一级:肯定性承保风险。
状态 :这些风险符合经典的可保性标准(随机性、可评估性、独立性、损失有限性、经济可行性、无故意行为)。
示例 :幻觉、知识产权侵权、敏感信息泄露、模型漂移、数据投毒和偏见。
市场定位 :承保正按风险类型专业化,而非收敛于单一形式。慕尼黑再保险(aiSure)围绕模型漂移进行定位;Armilla、AIUC 和 Chaucer/Hiscox 围绕幻觉和代理失效进行定位;东京海上 Kiln/CFC 围绕知识产权辩护进行定位;Coalition 围绕深度伪造响应进行定位;Apollo ibott 围绕自主系统责任进行定位。
第二级:静默 AI 风险暴露。
状态 :这些风险在传统险种(网络险、科技职业责任险、董责险、雇佣实践责任险、犯罪险、媒体险)下造成歧义。它们往往以混合方式未能满足可评估性或故意行为标准。
示例 :成本型拒绝服务攻击(Cost-DoS)、影子 AI、工具描述注入和缺乏来源证明。
观察 :“致命三重奏”(结合私有数据、不可信内容和外部通信的架构漏洞)属于此类;它在肯定性和传统产品中均被编码为静默,表明在承保适用之前需要架构控制,此处存在缺口。
第三级:主动除外风险。
状态 :这些风险通过特定批单或备案被主动除外。这是一种市场结构选择,而非可保性理论的失败。
示例 :W. R. Berkley 的广泛多险种除外责任(PC 51380)以及引用幻觉率的工程设计职业责任险除外条款。
观察 :除外责任正在收窄传统形式,通过移除承保而非澄清承保来消除歧义。
第四级:传统私人保险之外。
该层级包含三个结构上截然不同的边界案例:
4a(架构可 exploitability) :“致命三重奏”主要是配置风险,而非随机风险。主要应对措施是架构缓解(切断三重奏中的一条腿),而非保险定价。
4b(故意行为) :"AI 洗白”(自愿虚假陈述)对故意行为标准构成压力。这是一种熟悉的教义除外,而非新颖的可保性问题。
4c(系统性损失相关性) :基础模型集中 被确定为唯一真正新颖的可保性边界。单一上游基础模型的故障可能导致数千个分出公司同时提出索赔,违反大数法则(损失独立性)和经济可行性。语料库中没有任何公开产品涵盖跨分出公司的聚合风险。
意义与主张 该论文认为,AI 保险市场并非仅仅在扩张或收缩,而是在按风险类型对 AI 风险进行分类 。
差异化 :公开材料显示,承保人正明显围绕特定风险向量(漂移、幻觉、知识产权、自主责任、深度伪造)进行定位,而非提供广泛的、无差别的 AI 承保。
系统性风险 :该论文将基础模型集中隔离为最清晰的系统性聚合问题。它认为,相关的市场设计问题是每种候选结构(如专属自保、再保险池、巨灾债券、政府兜底)缓解了哪种可保性约束,而不仅仅是识别系统性风险的存在。
静默暴露 :该研究强调,传统险种在 AI 作为工具时仍保留显著的静默 AI 风险暴露,这类似于 2020 年劳合社市场公告之前出现的“静默网络”问题。
方法论贡献 :该论文提供了可复制的编码手册和决策规则,用于分类 AI 相关的保险立场,在 AI 安全分类法(OWASP、MITRE)与肯定性 AI 承保市场之间建立了持续的联络。
作者明确指出,其发现描述的是基于营销材料和公开备案的公开宣称定位 ,而非已签署的合同措辞或理赔支付结果。该矩阵旨在作为新兴市场结构的地图,以辅助分保策略、再保险聚合分析和监管披露,而非针对具体索赔的法律意见。
每周获取最佳 quantitative finance 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。