AI风险已成为公众关注议题,麻省理工学院(MIT)等学者集结了一个AI风险存储库(AI Risk Repository),供企业与政策、研究单位决策或评估系统之用。
这个AI风险存储库旨在以公用而完整的框架,协助用户识别、了解缓和解AI相关风险和漏洞,克服知识碎裂化造成资讯互通困难及决策速度耽搁。
本存储库的作者来自MIT FutureTech、MIT电机与AI实验室、澳洲昆士兰大学、荷兰鲁汶大学等研究机构。
这个存储库主要分成三部分。一是AI风险数据库,提供由现有43个框架汲取出的777多种风险。二是AI风险原因分类,分成三种,包括实体(人)、意图(有意、无意)及时间点(部署前、部署后)。三是AI风险领域分类,将风险分成7种领域(如“假消息、歧视/毒性、安全/隐私、恶意行为者/误用、社经/环境风险、人机互动、AI系统安全”)及23种次领域(如“虚假或误导资讯”。)
AI风险存储库提供AI风险概要、会定期更新最新风险和研究资讯来源,并给立法人士、主管机关、企业、开发人员、研究、审核者等角色的公用参考架构。对AI团队而言,本存储库可提升风险管理能力,以充分资讯协助更有效识别缓和解可能的风险,以确保安全AI系统的开发。立法议员则可用这存储库从事更有效的立法。这资源也有于培育AI风险专业人才。
但学者们也指出,这个存储库还是有些不足,像是涵盖面有漏失,未能完全包括新兴风险,查看过程不免有人为偏见,分类系统也可能过度简化问题复杂性。最重要的是存储库目前还无法提供风险影响及可能性百分比的资讯,而减损了实用性。不过即使有这些问题,仍不致减损它对推动负责任AI部署的贡献。
用户可以自由下载这个存储库,MIT专家也欢迎提供反馈意见或补充。
AI服务企业Gradient Flow则建议,为发挥AI风险存储库的功能,最好能将之提供的知识和洞见集成到AI开发流程和组织架构中。例如企业组织根据本数据库创建事件回应策略,像是清楚的事件定义、多向度监控及预先定义的事件控制方法,作为有效的事件管理、降低对运营和商誉的冲击。或是创建统一的平台,减少碎裂化的AI生态系统,确保AI系统在合法、合乎伦理及性能要求下运行。
本AI存储库也反映全球应对AI安全风险及威胁的尝试。欧盟制定全球第一部AI法案,也在8月初生效。