AI聊天机器人在企业客服、营销及自动化流程中应用越来越广，但当这些工具“说错话”或产生虚构资讯时，代价可能不只是形象受损，还可能引爆法律纠纷与赔偿责任。
过去一年来，已经出现多起AI出错导致企业遭殃的真实案例：像是在2025年初，Virgin Money金融服务公司旗下AI聊天机器人竟对使用“virgin”一词的顾客发出训斥，公司随后不得不公开道歉。另外，加拿大航空的AI客服捏造出“不存在的折扣优惠”，乘客依指示订票后控告，法院最终判决航空公司必须履行这项虚构的承诺并赔偿损失。
这些案例突显出AI“幻觉”问题（即产生不正确或虚构资讯）的实际风险，尤其在面对顾客时，AI工具一旦表现失常，往往不只是操作体验不佳，更可能引发实质损失与企业法律责任。
也正因如此，英国保险业巨头劳合社（Lloyd's of London）携手创业公司Armilla，推出一项专为AI风险打造的“AI损害保险”产品。这款保险将针对企业因AI表现不如预期而被第三方控告时，协助支付法律诉讼费用与赔偿金。
这项AI保险由Y Combinator支持的创业公司Armilla开发，主要针对企业因AI工具性能不足，导致客户或其他第三方提起诉讼时，所产生的诉讼费用提供保障。多家劳埃德旗下的保险公司承保了这项保险产品，加入的企业将可通过保险金来弥补因AI错误造成的损害赔偿金和诉讼费用。
Armilla首席执行官Karthik Ramakrishnan表示，这款保险正是为了打消企业导入AI时的顾虑。他强调，尽管部分保险公司已将AI相关损失纳入传统的科技错误与疏失保单（errors and omissions policies）中，但这些保单通常仅提供极低的理赔上限。
根据保险经纪公司Lockton的Preet Gill说法，一份上限500万美元的科技保单，可能只对AI相关责任提供2万5千美元的次限额。
Lockton的另一位经纪人Logan Payne补充指出，AI语言模型属于动态系统，会随时间“学习”。而由于这类学习过程造成的错误，在一般科技保单中通常不会获得理赔。
他也指出，AI工具出错本身并不足以启动Armilla的保单。相反地，只有在保险公司判定该AI表现明显低于原始预期的情况下，保险才会启动。
例如，如果某聊天机器人在最初的测试阶段正确率达95%，但实际运行期间却只有85%的正确率，那么这种情况就有可能获得理赔。
“我们会先评估AI模型，了解其性能退化的机率，然后在模型确实退化的情况下提供补偿，”Ramakrishnan说。
Chaucer是承保该保单的劳合社旗下保险公司之一，其伙伴关系部门负责人Tom Graham表示，他们不会承保那些被判定为过于容易故障的AI系统。“我们会像其他保险公司一样进行筛选，谨慎选择合作对象，”他说。
